การถดถอยในการเรียนรู้ของเครื่อง: คืออะไรและทำงานอย่างไร

การถดถอยในการเรียนรู้ของเครื่อง (ML) เป็นแนวคิดพื้นฐานที่ใช้ในการทำนายค่าต่อเนื่องตามคุณลักษณะอินพุต ไม่ว่าจะเป็นการประมาณราคาที่อยู่อาศัยหรือการคาดการณ์ยอดขาย แบบจำลองการถดถอยจะสร้างความสัมพันธ์ระหว่างตัวแปร ในบทความนี้ เราจะแจกแจงโมเดลการถดถอยประเภทต่างๆ อัลกอริธึมเบื้องหลัง และเวลาที่แต่ละวิธีจะเหมาะสมที่สุด นอกจากนี้คุณยังจะได้ค้นพบวิธีการทำงานของการถดถอย กรณีการใช้งานจริง และข้อดีและความท้าทายที่เกี่ยวข้องกับการใช้การถดถอยในการเรียนรู้ของเครื่อง

สารบัญ

• การถดถอยคืออะไร?
• ประเภทของตัวแบบการถดถอย
• อัลกอริทึมที่ใช้สำหรับการถดถอย
• ตัวอย่างของการถดถอย
• ประโยชน์ของการถดถอย
• ความท้าทายของการถดถอย

การถดถอยในการเรียนรู้ของเครื่องคืออะไร?

การถดถอยเป็นการเรียนรู้แบบมีผู้สอนที่ใช้ในการทำนายค่าต่อเนื่องตามข้อมูลอินพุต เป็นการประมาณความสัมพันธ์ระหว่างตัวแปรเพื่อทำนายและอธิบายสิ่งต่าง ๆ เช่น ราคาบ้าน แนวโน้มตลาดหุ้น หรือสภาพอากาศ โมเดลการถดถอยจะจับคู่คุณลักษณะอินพุตกับตัวแปรเป้าหมายที่ต่อเนื่อง ช่วยให้สามารถคาดการณ์ตัวเลขได้อย่างแม่นยำ

ตัวอย่างเช่น การใช้ข้อมูลสภาพอากาศจากสัปดาห์ที่ผ่านมา แบบจำลองการถดถอยสามารถพยากรณ์ปริมาณน้ำฝนในวันพรุ่งนี้ได้ ค่าที่คาดการณ์นั้นมีความต่อเนื่อง ซึ่งหมายความว่าสามารถตกลงได้ทุกที่ในระดับตัวเลข เช่น อุณหภูมิที่วัดเป็นทศนิยม หรือรายได้จากการขายที่คาดการณ์ไว้สำหรับเดือนต่อๆ ไป

การถดถอยกับการจำแนกประเภท: อะไรคือความแตกต่าง?

แม้ว่าการถดถอยจะทำนายผลลัพธ์ที่ต่อเนื่อง การจำแนกประเภทจะมุ่งเน้นไปที่การทำนายหมวดหมู่หรือคลาสที่แยกจากกัน ตัวอย่างเช่น แบบจำลองการถดถอยอาจคาดการณ์ปริมาณฝนที่แน่นอนในวันพรุ่งนี้ ในขณะที่แบบจำลองการจำแนกประเภทอาจคาดการณ์ว่าฝนจะตกเลยหรือไม่ (ใช่หรือไม่) ข้อแตกต่างที่สำคัญคือการถดถอยเกี่ยวข้องกับค่าตัวเลข ในขณะที่การจัดหมวดหมู่จะกำหนดข้อมูลให้กับหมวดหมู่ที่กำหนดไว้ล่วงหน้า

ในบางกรณี คุณสามารถปรับผลลัพธ์ของแบบจำลองการถดถอยให้เข้ากับงานการจัดหมวดหมู่และในทางกลับกันได้ แต่โดยทั่วไปแล้ว ทั้งสองแนวทางจะเหมาะสมกับปัญหาประเภทต่างๆ

การถดถอย: อัลกอริธึม แบบจำลอง หรือการวิเคราะห์?

การถดถอยบางครั้งเรียกว่า การวิเคราะห์การถดถอยซึ่งเป็นศัพท์ทางสถิติแบบกว้างๆ ที่ใช้อธิบายการค้นหาความสัมพันธ์ต่อเนื่องระหว่างการสังเกตและผลลัพธ์ อัลกอริธึมการถดถอยเป็นเครื่องมือทางคณิตศาสตร์เฉพาะที่ออกแบบมาเพื่อระบุความสัมพันธ์เหล่านี้ เมื่อใช้อัลกอริทึมในการฝึกโมเดลการเรียนรู้ของเครื่อง ผลลัพธ์จะเรียกว่าโมเดลการถดถอย

คำศัพท์ทั้งสามคำนี้ ได้แก่ การวิเคราะห์การถดถอยอัลกอริธึมการถดถอย และแบบจำลองการถดถอยมักใช้สลับกันได้ แต่แต่ละคำแสดงถึงแง่มุมที่แตกต่างกันของกระบวนการถดถอย

ประเภทของการถดถอยในการเรียนรู้ของเครื่อง

โมเดลการถดถอยมีหลายรูปแบบ แต่ละแบบออกแบบมาเพื่อจัดการความสัมพันธ์ที่แตกต่างกันระหว่างข้อมูลที่ป้อนเข้าและผลลัพธ์ที่คาดการณ์ไว้ แม้ว่าการถดถอยเชิงเส้นจะใช้บ่อยที่สุดและค่อนข้างเข้าใจง่าย แต่โมเดลอื่นๆ เช่น พหุนาม โลจิสติก และการถดถอยแบบเบย์ เหมาะสำหรับงานที่ซับซ้อนหรือเฉพาะทางมากกว่า ด้านล่างนี้คือโมเดลการถดถอยประเภทหลักบางประเภทและเวลาที่มักใช้

การถดถอยแบบง่ายและพหุคูณ (เชิงเส้น)

การถดถอยเชิงเส้นเป็นเทคนิคการถดถอยที่ได้รับความนิยม เป็นที่รู้จักในด้านการตีความที่ง่าย การฝึกที่รวดเร็ว และประสิทธิภาพที่เชื่อถือได้ในการใช้งานต่างๆ โดยจะประมาณความสัมพันธ์ระหว่างตัวแปรอธิบายและตัวแปรเป้าหมายโดยใช้เส้นตรง การถดถอยเชิงเส้นอย่างง่ายเกี่ยวข้องกับตัวแปรอธิบายหนึ่งตัวแปร ในขณะที่การถดถอยเชิงเส้นพหุคูณเกี่ยวข้องกับสองตัวแปรขึ้นไป โดยทั่วไป เมื่อมีคนพูดถึงการวิเคราะห์การถดถอย พวกเขาหมายถึงการถดถอยเชิงเส้น

การถดถอยพหุนาม

หากเส้นตรงไม่สามารถอธิบายความสัมพันธ์ระหว่างตัวแปรที่สังเกตได้กับผลลัพธ์ที่คาดหวังได้อย่างน่าพอใจ แบบจำลองการถดถอยพหุนามอาจเป็นตัวเลือกที่ดีกว่า แบบจำลองนี้แสวงหาความสัมพันธ์ที่ซับซ้อนและต่อเนื่อง และสามารถระบุรูปแบบที่อธิบายได้ดีที่สุดโดยใช้เส้นโค้งหรือการรวมกันของเส้นโค้งและเส้นตรง

การถดถอยโลจิสติก

เมื่อความสัมพันธ์ระหว่างการสังเกตและค่าที่คาดการณ์ไม่ต่อเนื่อง (หรือไม่ต่อเนื่อง) การถดถอยโลจิสติกเป็นเครื่องมือที่ใช้บ่อยที่สุดสำหรับงาน การแยกส่วนในบริบทนี้หมายถึงสถานการณ์ที่เศษส่วนหรือจำนวนจริงไม่เกี่ยวข้องกัน (เช่น หากคาดการณ์จำนวนลูกค้าที่จะเดินเข้าไปในร้านกาแฟ การถดถอยลอจิสติกส์จะตอบ 4 หรือ 5 แทนที่จะเป็นสิ่งที่ตีความยากกว่า เช่น 4.35)

รูปแบบของการถดถอยโลจิสติกที่รู้จักกันดีที่สุดคือการถดถอยแบบไบนารีซึ่งทำนายคำตอบของคำถามแบบไบนารี (เช่น ใช่/ไม่ใช่) โดยทั่วไปแล้ว การถดถอยโลจิสติกจะเป็นเลขฐานสอง รูปแบบที่ซับซ้อนมากขึ้น เช่น การถดถอยพหุนาม ทำนายคำตอบสำหรับคำถามที่มีทางเลือกมากกว่าสองทาง โมเดลลอจิสติกส์เป็นแกนหลัก โดยอาศัยการเลือกฟังก์ชันใดฟังก์ชันหนึ่งจากหลายฟังก์ชันเพื่อแปลงอินพุตแบบต่อเนื่องให้เป็นฟังก์ชันแบบแยกส่วน

การถดถอยแบบเบย์

เทคนิคการถดถอยเชิงเส้นและเทคนิคอื่นๆ ต้องใช้ข้อมูลการฝึกจำนวนมากเพื่อให้สามารถคาดการณ์ได้อย่างแม่นยำ ในทางตรงกันข้าม การถดถอยแบบเบย์เป็นอัลกอริทึมทางสถิติขั้นสูงที่สามารถคาดการณ์ได้อย่างน่าเชื่อถือโดยใช้ข้อมูลน้อยลง โดยมีเงื่อนไขว่าคุณสมบัติทางสถิติบางอย่างของข้อมูลจะต้องทราบหรือสามารถประมาณได้ ตัวอย่างเช่น การคาดการณ์ยอดขายผลิตภัณฑ์ใหม่ในช่วงเทศกาลวันหยุดอาจเป็นเรื่องท้าทายสำหรับการถดถอยเชิงเส้นเนื่องจากขาดข้อมูลการขายของผลิตภัณฑ์ใหม่ การถดถอยแบบเบย์สามารถทำนายข้อมูลการขายได้อย่างแม่นยำยิ่งขึ้น โดยสมมติว่ายอดขายของผลิตภัณฑ์ใหม่เป็นไปตามการกระจายทางสถิติเดียวกันกับยอดขายของผลิตภัณฑ์อื่นๆ ที่คล้ายคลึงกัน โดยทั่วไปแล้ว การถดถอยแบบเบย์จะถือว่าข้อมูลเป็นไปตามการแจกแจงทางสถิติแบบเกาส์เซียน ซึ่งนำไปสู่การใช้คำว่าการถดถอยแบบเบย์ และแบบเกาส์เซียนที่ใช้แทนกันได้

การถดถอยเอฟเฟกต์แบบผสม

การถดถอยถือว่ามีความสัมพันธ์แบบไม่สุ่มระหว่างข้อมูลที่สังเกตได้กับข้อมูลที่คาดการณ์ไว้ บางครั้งความสัมพันธ์นี้เป็นเรื่องยากที่จะกำหนดเนื่องจากการพึ่งพาซึ่งกันและกันที่ซับซ้อนในข้อมูลที่สังเกตได้หรือพฤติกรรมสุ่มเป็นครั้งคราว โมเดลเอฟเฟกต์แบบผสมคือโมเดลการถดถอยที่มีกลไกในการจัดการข้อมูลแบบสุ่มและพฤติกรรมอื่น ๆ ที่ท้าทายต่อการสร้างแบบจำลอง โมเดลเหล่านี้ยังเรียกแทนกันได้ว่าเป็นโมเดลแบบผสม เอฟเฟ็กต์แบบผสม หรือแบบข้อผิดพลาดแบบผสม

อัลกอริธึมการถดถอยอื่น ๆ

มีการศึกษาการถดถอยเป็นอย่างดี มีอัลกอริธึมการถดถอยที่ซับซ้อนกว่าหรือเฉพาะทางอื่นๆ อีกมากมาย รวมถึงอัลกอริธึมที่ใช้เทคนิคเอฟเฟกต์แบบทวินาม พหุนาม และขั้นสูง รวมถึงอัลกอริธึมที่รวมอัลกอริธึมหลายตัวเข้าด้วยกัน อัลกอริธึมหลายตัวที่รวมกันอาจถูกจัดระเบียบตามลำดับ เช่น หลายเลเยอร์ตามลำดับ หรือทำงานแบบขนานแล้วรวมเข้าด้วยกันด้วยวิธีใดวิธีหนึ่ง ระบบที่ทำงานหลายโมเดลพร้อมกันมักเรียกว่าฟอเรสต์

อัลกอริทึมที่ใช้ในการวิเคราะห์การถดถอย

อัลกอริธึมการถดถอยหลายประเภทใช้ในการเรียนรู้ของเครื่องเพื่อสร้างแบบจำลองการถดถอย อัลกอริธึมบางตัวได้รับการออกแบบมาเพื่อสร้างโมเดลประเภทเฉพาะ (ซึ่งในกรณีนี้อัลกอริธึมและโมเดลมักจะใช้ชื่อเดียวกัน) ส่วนอื่นๆ มุ่งเน้นไปที่การปรับปรุงแง่มุมต่างๆ ของโมเดลที่มีอยู่ เช่น การปรับปรุงความแม่นยำหรือประสิทธิภาพ เราจะกล่าวถึงอัลกอริธึมที่ใช้กันทั่วไปบางส่วนด้านล่าง ก่อนที่เราจะทำเช่นนั้น สิ่งสำคัญคือต้องเข้าใจว่ามันถูกประเมินอย่างไร โดยทั่วไปแล้ว ขึ้นอยู่กับคุณสมบัติหลักสองประการ ความแปรปรวนและอคติ

• ความแปรปรวนจะวัดว่าการคาดการณ์ของแบบจำลองมีความผันผวนมากน้อยเพียงใดเมื่อฝึกกับชุดข้อมูลที่แตกต่างกัน แบบจำลองที่มีความแปรปรวนสูงอาจพอดีกับข้อมูลการฝึกอย่างใกล้ชิด แต่ทำงานได้ไม่ดีกับข้อมูลใหม่ที่มองไม่เห็น ซึ่งเป็นปรากฏการณ์ที่เรียกว่าการฟิตติ้งมากเกินไป ตามหลักการแล้ว อัลกอริธึมการถดถอยควรสร้างแบบจำลองที่มีความแปรปรวนต่ำ ซึ่งหมายความว่าโมเดลเหล่านี้สามารถสรุปข้อมูลใหม่ได้ดี และไม่ไวต่อการเปลี่ยนแปลงในชุดการฝึกมากเกินไป
• อคติหมายถึงข้อผิดพลาดที่เกิดขึ้นจากการประมาณปัญหาในโลกแห่งความเป็นจริง ซึ่งอาจซับซ้อนเกินไปด้วยแบบจำลองที่เรียบง่าย อคติสูงอาจทำให้เกิดความไม่เหมาะสม โดยที่แบบจำลองไม่สามารถจับรูปแบบที่สำคัญในข้อมูลได้ ส่งผลให้เกิดการคาดการณ์ที่ไม่ถูกต้อง ตามหลักการแล้ว อคติควรต่ำ ซึ่งบ่งชี้ว่าโมเดลจับความสัมพันธ์ในข้อมูลได้อย่างมีประสิทธิภาพโดยไม่ทำให้ง่ายเกินไป ในบางกรณี อคติสามารถบรรเทาได้ด้วยการปรับปรุงข้อมูลการฝึกหรือโดยการปรับพารามิเตอร์ของอัลกอริธึมการถดถอย

การถดถอยแบบง่ายและพหุคูณ (เชิงเส้น)

การถดถอยเชิงเส้นอย่างง่ายจะวิเคราะห์ความสัมพันธ์ระหว่างตัวแปรอธิบายตัวเดียวกับผลลัพธ์ที่คาดการณ์ไว้ ทำให้เป็นรูปแบบการถดถอยที่ง่ายที่สุด การถดถอยเชิงเส้นพหุคูณมีความซับซ้อนมากกว่า และค้นหาความสัมพันธ์ระหว่างตัวแปรตั้งแต่สองตัวขึ้นไปกับผลลัพธ์เดียว ทั้งคู่ค้นหาความสัมพันธ์ที่มีโครงสร้างเชิงเส้น โดยยึดตามสมการเชิงเส้นที่โดยทั่วไปจะเข้ากับรูปแบบนี้:

y =β + β1x + ε

ที่นี่yคือผลลัพธ์ในการทำนายxเป็นตัวแปรที่ใช้ทำนายεคือข้อผิดพลาดในการพยายามย่อให้เล็กสุด และβและβ1 เป็นค่าที่การถดถอยกำลังคำนวณ

การถดถอยเชิงเส้นใช้กระบวนการเรียนรู้ภายใต้การดูแลเพื่อสร้างความสัมพันธ์ระหว่างตัวแปรอธิบายและผลลัพธ์ที่คาดการณ์ไว้ กระบวนการเรียนรู้จะตรวจสอบข้อมูลการฝึกซ้ำๆ โดยปรับปรุงพารามิเตอร์สำหรับสมการเชิงเส้นพื้นฐานด้วยการวนซ้ำข้อมูลแต่ละครั้ง วิธีการทั่วไปในการประเมินประสิทธิภาพของพารามิเตอร์เกี่ยวข้องกับการคำนวณค่าความผิดพลาดโดยเฉลี่ยสำหรับข้อมูลที่มีอยู่ทั้งหมดที่ใช้ในการทดสอบหรือการฝึกอบรม ตัวอย่างของวิธีคำนวณข้อผิดพลาด ได้แก่ค่าคลาดเคลื่อนกำลังสองเฉลี่ย(ค่าเฉลี่ยของระยะทางกำลังสองระหว่างการคาดการณ์และผลลัพธ์จริง)ค่าคลาดเคลื่อนเฉลี่ยแบบสัมบูรณ์และวิธีการที่ซับซ้อนมากขึ้น เช่นผลรวมที่เหลือของค่ากำลังสอง (ข้อผิดพลาดทั้งหมดมากกว่าค่าเฉลี่ย)

การถดถอยพหุนาม

การถดถอยพหุนามจัดการกับปัญหาที่ซับซ้อนมากกว่าการถดถอยเชิงเส้น และต้องมีการแก้ระบบสมการเชิงเส้น ซึ่งโดยปกติจะใช้การดำเนินการเมทริกซ์ขั้นสูง สามารถค้นหาความสัมพันธ์ในข้อมูลที่โค้งได้ ไม่ใช่แค่ความสัมพันธ์ที่สามารถแสดงด้วยเส้นตรงได้ เมื่อนำไปใช้อย่างถูกต้อง จะช่วยลดความแปรปรวนของปัญหาที่การถดถอยเชิงเส้นล้มเหลว นอกจากนี้ยังยากกว่าในการทำความเข้าใจ นำไปใช้ และปรับให้เหมาะสม เนื่องจากขึ้นอยู่กับแนวคิดและการดำเนินการทางคณิตศาสตร์ขั้นสูง

การถดถอยพหุนามจะพยายามแก้สมการที่เกี่ยวข้องกับyและพหุนามxด้วยสมการรูปพหุนามที่เป็นไปตามรูปแบบนี้:

y =β + β1x + β2x2+ … + ε

อัลกอริทึมการถดถอยพหุนามจะมองหาค่าβในอุดมคติที่จะใช้และรูปร่างของพหุนาม (อาจต้องใช้เลขชี้กำลังของxจำนวนเท่าใดเพื่อกำหนดความสัมพันธ์ระหว่างyและแต่ละx?)

การถดถอยแบบ Lasso

การถดถอยแบบ Lasso (ซึ่งย่อมาจากการหดตัวสัมบูรณ์น้อยที่สุดและตัวดำเนินการเลือก) หรือที่เรียกว่า Lasso,L1และL1norm regression เป็นเทคนิคที่ใช้ในการลดการโอเวอร์ฟิตและปรับปรุงความแม่นยำของแบบจำลอง มันทำงานโดยการใช้ค่าปรับกับค่าสัมประสิทธิ์แบบจำลอง ย่อหรือลดค่าสัมประสิทธิ์บางส่วนให้เป็นศูนย์อย่างได้ผล สิ่งนี้นำไปสู่โมเดลที่เรียบง่ายกว่าซึ่งไม่รวมคุณสมบัติที่ไม่เกี่ยวข้อง อัลกอริธึม Lasso ช่วยป้องกันไม่ให้มีการติดตั้งมากเกินไปโดยการควบคุมความซับซ้อนของโมเดล ทำให้โมเดลสามารถตีความได้มากขึ้นโดยไม่ทำให้ความแม่นยำมากเกินไป

Lasso มีประโยชน์อย่างยิ่งเมื่อตัวแปรอธิบายมีความสัมพันธ์กัน ตัวอย่างเช่น ในการพยากรณ์อากาศ อุณหภูมิและความชื้นอาจมีความสัมพันธ์กัน ซึ่งนำไปสู่การสวมใส่มากเกินไป Lasso ช่วยลดผลกระทบของความสัมพันธ์ดังกล่าว ทำให้เกิดแบบจำลองที่แข็งแกร่งยิ่งขึ้น

การถดถอยของสันเขา

การถดถอยแบบริดจ์ (หรือที่เรียกว่าL2,L2norm หรือ Tikhonov ทำให้เป็นมาตรฐาน) เป็นอีกเทคนิคหนึ่งในการป้องกันการพอดีมากเกินไป โดยเฉพาะอย่างยิ่งเมื่อมี multicollinearity (ความสัมพันธ์ระหว่างตัวแปรอธิบาย) อยู่ ซึ่งแตกต่างจากบ่วงบาศซึ่งสามารถลดค่าสัมประสิทธิ์ให้เป็นศูนย์ได้ การถดถอยแบบริดจ์จะเพิ่มการลงโทษตามสัดส่วนของค่าสัมประสิทธิ์แบบจำลองกำลังสอง เป้าหมายคือการปรับเปลี่ยนค่าสัมประสิทธิ์เล็กน้อยโดยไม่ต้องลบตัวแปรออกทั้งหมด

ตัวอย่างกรณีการใช้งานการถดถอย

แบบจำลองการถดถอยมีการใช้กันอย่างแพร่หลายในอุตสาหกรรมต่างๆ เพื่อคาดการณ์ตามข้อมูลในอดีต การระบุรูปแบบและความสัมพันธ์ระหว่างตัวแปรทำให้แบบจำลองเหล่านี้สามารถให้ข้อมูลเชิงลึกอันมีค่าสำหรับการตัดสินใจได้ ด้านล่างนี้คือสามตัวอย่างที่รู้จักกันดีของพื้นที่ที่ใช้การถดถอย

การวิเคราะห์และการพยากรณ์สภาพอากาศ

การวิเคราะห์การถดถอยสามารถทำนายรูปแบบสภาพอากาศ เช่น อุณหภูมิที่คาดหวังและปริมาณน้ำฝนในแต่ละวันในสัปดาห์หน้า บ่อยครั้งที่อัลกอริธึมการถดถอยที่แตกต่างกันหลายอย่างได้รับการฝึกอบรมเกี่ยวกับข้อมูลสภาพอากาศในอดีต รวมถึงความชื้น ความเร็วลม ความกดอากาศ และเมฆปกคลุม การวัดตัวแปรเหล่านี้รายชั่วโมงหรือรายวันทำหน้าที่เป็นคุณลักษณะสำหรับโมเดลในการเรียนรู้ และอัลกอริทึมมีหน้าที่พยากรณ์การเปลี่ยนแปลงของอุณหภูมิเมื่อเวลาผ่านไป เมื่อใช้อัลกอริธึมการถดถอยหลายรายการ (ทั้งมวล) ควบคู่ไปกับการทำนายรูปแบบสภาพอากาศ โดยทั่วไปการพยากรณ์จะรวมกันผ่านรูปแบบของการหาค่าเฉลี่ย เช่น การหาค่าเฉลี่ยแบบถ่วงน้ำหนัก

การพยากรณ์ยอดขายและรายได้

ในบริบททางธุรกิจ แบบจำลองการถดถอยมักใช้เพื่อคาดการณ์รายได้และการวัดประสิทธิภาพหลักอื่นๆ แบบจำลองการถดถอยพหุคูณอาจใช้ตัวแปรที่มีอิทธิพลต่อปริมาณการขาย เช่น หน่วยวัดจากแคมเปญการตลาด ผลตอบรับของลูกค้า และแนวโน้มเศรษฐกิจมหภาค จากนั้นแบบจำลองจะได้รับมอบหมายให้คาดการณ์ยอดขายและรายได้สำหรับงวดอนาคตที่ระบุ เมื่อมีข้อมูลใหม่ โมเดลอาจถูกฝึกใหม่หรืออัปเดตเพื่อปรับแต่งการคาดการณ์ตามข้อสังเกตล่าสุด

การทำนายผลการรักษาพยาบาล

แบบจำลองการถดถอยมีการประยุกต์ใช้มากมายในการทำนายผลลัพธ์ด้านสุขภาพ ตัวอย่างเช่น โมเดลแบบเบย์อาจใช้ในการประมาณอัตราส่วนอุบัติการณ์โดยการเรียนรู้จากข้อมูลผู้ป่วยในอดีต แบบจำลองเหล่านี้ช่วยตอบคำถามเช่น “จะเกิดอะไรขึ้นหากเราปรับขนาดยา” การถดถอยเชิงเส้นสามารถใช้เพื่อระบุปัจจัยเสี่ยง เช่น การทำนายการเปลี่ยนแปลงด้านสุขภาพของผู้ป่วยตามการปรับเปลี่ยนวิถีชีวิต การถดถอยแบบโลจิสติก ซึ่งมักใช้ในการวินิจฉัย จะคำนวณอัตราส่วนโอกาสของการมีอยู่ของโรคโดยพิจารณาจากประวัติทางการแพทย์ของผู้ป่วยและตัวแปรอื่นๆ ที่เกี่ยวข้อง

ประโยชน์ของการถดถอย

อัลกอริธึมและแบบจำลองการถดถอย โดยเฉพาะอย่างยิ่งการถดถอยเชิงเส้น เป็นองค์ประกอบพื้นฐานของระบบการเรียนรู้ของเครื่องจักรจำนวนมาก มีการใช้กันอย่างแพร่หลายเนื่องจากคุณประโยชน์ดังต่อไปนี้:

• พวกเขาสามารถรวดเร็วเทคนิคการถดถอยสามารถสร้างความสัมพันธ์ระหว่างตัวแปรหลายตัว (คุณสมบัติ) และค่าเป้าหมายได้อย่างรวดเร็ว ทำให้มีประโยชน์สำหรับการวิเคราะห์ข้อมูลเชิงสำรวจและเร่งการฝึกอบรมโมเดลการเรียนรู้ของเครื่อง
• มีความหลากหลาย แบบจำลองการถดถอยหลายๆ แบบ เช่น การถดถอยเชิงเส้น พหุนาม และโลจิสติก ได้รับการศึกษาอย่างดี และสามารถปรับใช้เพื่อแก้ปัญหาในโลกแห่งความเป็นจริงได้หลากหลาย ตั้งแต่การทำนายไปจนถึงงานจำแนกประเภท
• สามารถนำไปปฏิบัติได้ง่าย ตัวอย่างเช่น โมเดลการถดถอยเชิงเส้นสามารถนำมาใช้ได้โดยไม่ต้องอาศัยเทคนิคทางคณิตศาสตร์หรือวิศวกรรมที่ซับซ้อน ทำให้นักวิทยาศาสตร์ข้อมูลและวิศวกรในระดับทักษะต่างๆ สามารถเข้าถึงได้
• พวกเขาเข้าใจง่าย แบบจำลองการถดถอย โดยเฉพาะอย่างยิ่งการถดถอยเชิงเส้น นำเสนอผลลัพธ์ที่ตีความได้ ซึ่งความสัมพันธ์ระหว่างตัวแปรและผลกระทบต่อผลลัพธ์ที่คาดการณ์ไว้มักจะชัดเจน สิ่งนี้ทำให้มีประโยชน์ในการระบุแนวโน้มและรูปแบบของข้อมูลที่สามารถให้ข้อมูลเพิ่มเติมและการวิเคราะห์เชิงลึกยิ่งขึ้น ในบางกรณี โมเดลการถดถอยอาจแลกกับความสามารถในการตีความเพื่อความแม่นยำที่สูงกว่า ขึ้นอยู่กับกรณีการใช้งาน

ความท้าทายในการถดถอย

แม้ว่าแบบจำลองการถดถอยจะมีประโยชน์มากมาย แต่ก็มีความท้าทายในตัวมันเองด้วย บ่อยครั้งที่ความท้าทายเหล่านี้จะสะท้อนให้เห็นในประสิทธิภาพที่ลดลงหรือความสามารถทั่วไป โดยเฉพาะอย่างยิ่งเมื่อทำงานกับปัญหาที่ซับซ้อนหรือมีข้อมูลที่จำกัด ด้านล่างนี้คือปัญหาทั่วไปบางส่วนที่พบในการวิเคราะห์การถดถอย

• ความเหมาะสมมากเกินไป:โมเดลมักจะต้องดิ้นรนเพื่อสร้างสมดุลระหว่างอคติและความแปรปรวน หากแบบจำลองซับซ้อนเกินไป แบบจำลองนั้นสามารถใส่ข้อมูลในอดีตได้พอดี (ลดความแปรปรวน) แต่จะมีความลำเอียงเมื่อได้รับข้อมูลใหม่ สาเหตุนี้มักเกิดขึ้นเนื่องจากแบบจำลองจะจดจำข้อมูลการฝึกอบรมแทนที่จะเรียนรู้สิ่งที่เป็นนามธรรมทั่วไป
• การติดตั้งด้านล่าง:โมเดลที่ง่ายเกินไปสำหรับปัญหาที่เกิดขึ้นอาจมีอคติสูง จะแสดงอัตราข้อผิดพลาดสูงทั้งข้อมูลการฝึกและข้อมูลที่มองไม่เห็น บ่งชี้ว่าไม่ได้เรียนรู้รูปแบบพื้นฐาน การปรับเปลี่ยนมากเกินไปเพื่อแก้ไขอคติสูงอาจนำไปสู่ความพอดี โดยที่แบบจำลองไม่สามารถจับความซับซ้อนของข้อมูลได้
• ข้อมูลการฝึกที่ซับซ้อน:โดยทั่วไปแล้วแบบจำลองการถดถอยจะถือว่าการสังเกตที่ใช้สำหรับการฝึกมีความเป็นอิสระ หากข้อมูลมีความสัมพันธ์ที่ซับซ้อนหรือการสุ่มโดยธรรมชาติ โมเดลอาจประสบปัญหาในการสร้างการคาดการณ์ที่แม่นยำและเชื่อถือได้
• ข้อมูลไม่สมบูรณ์หรือขาดหายไป:อัลกอริธึมการถดถอยภายใต้การดูแลต้องใช้ข้อมูลจำนวนมากเพื่อเรียนรู้รูปแบบและพิจารณากรณีมุมต่างๆ เมื่อต้องรับมือกับข้อมูลที่ขาดหายไปหรือไม่สมบูรณ์ โมเดลอาจทำงานได้ไม่ดีนัก โดยเฉพาะอย่างยิ่งเมื่อเรียนรู้ความสัมพันธ์ที่ซับซ้อนซึ่งจำเป็นต้องมีการครอบคลุมข้อมูลอย่างกว้างขวาง
• การเลือกตัวแปรทำนาย:แบบจำลองการถดถอยอาศัยมนุษย์ในการเลือกตัวแปรทำนายที่ถูกต้อง (คุณสมบัติ) หากรวมตัวแปรที่ไม่เกี่ยวข้องมากเกินไป ประสิทธิภาพของโมเดลอาจลดลงได้ ในทางกลับกัน หากเลือกตัวแปรน้อยเกินไปหรือเลือกตัวแปรผิด โมเดลอาจล้มเหลวในการแก้ปัญหาอย่างแม่นยำหรือทำการคาดการณ์ที่เชื่อถือได้