บ้าน การเงินส่วนบุคคล หลีกเลี่ยงการพังทลายและการรั่วไหลของดักในการเรียนรู้ด้วยเครื่องจักร - มัมมี่

หลีกเลี่ยงการพังทลายและการรั่วไหลของดักในการเรียนรู้ด้วยเครื่องจักร - มัมมี่

Anonim

วิธีการตรวจสอบเพื่อการเรียนรู้ด้วยเครื่องจักรคือการตรวจสอบวิธีแก้ไขที่เป็นไปได้ในการสุ่มตัวอย่างในการสุ่มตัวอย่าง ความลำเอียงในการสุ่มตัวอย่างอาจเกิดขึ้นกับข้อมูลของคุณก่อนที่การเรียนรู้ด้วยเครื่องจะถูกนำไปปฏิบัติและทำให้เกิดความแปรปรวนมากขึ้นของค่าประมาณต่อไปนี้ นอกจากนี้คุณควรตระหนักถึงกับดักรั่วซึ่งอาจเกิดขึ้นได้เมื่อข้อมูลบางส่วนจากตัวอย่างที่ไม่อยู่ในกลุ่มตัวอย่างส่งผ่านไปยังข้อมูลในตัวอย่าง ปัญหานี้อาจเกิดขึ้นเมื่อคุณเตรียมข้อมูลหรือหลังจากโมเดลการเรียนรู้ด้วยเครื่องของคุณพร้อมและทำงานแล้ว

การรักษาซึ่งเรียกว่า ensembling of predictors ทำงานได้ดีเมื่อตัวอย่างการฝึกอบรมของคุณไม่บิดเบี้ยวอย่างสมบูรณ์และการกระจายตัวของมันแตกต่างจากตัวอย่างที่ไม่ได้ตัวอย่างเช่น เช่นเดียวกับเมื่อทุกชั้นเรียนของคุณมีอยู่ แต่ไม่อยู่ในสัดส่วนที่เหมาะสม (เป็นตัวอย่าง) ในกรณีเช่นนี้ผลการค้นหาของคุณจะได้รับผลกระทบจากความแปรปรวนบางส่วนของค่าประมาณที่คุณสามารถปรับได้โดยใช้วิธีการสุ่มตัวอย่างเช่นในการบูต; โดยการสุ่มตัวอย่าง (การสุ่มตัวอย่างตัวอย่าง); หรือโดยใช้ตัวอย่างขนาดเล็ก (ซึ่งเพิ่มความลำเอียง)

เพื่อให้เข้าใจว่า ensembling ทำงานได้ดีเพียงใดให้จินตนาการภาพลักษณ์ของตาวัว ถ้าตัวอย่างของคุณมีผลต่อการคาดคะเนการคาดการณ์บางอย่างจะเป็นที่แน่นอนและบางอย่างจะผิดพลาดแบบสุ่ม หากคุณเปลี่ยนตัวอย่างการคาดการณ์ที่ถูกต้องจะเป็นไปในทิศทางที่ถูกต้อง แต่คนที่ไม่ถูกต้องจะเริ่มมีการเปลี่ยนแปลงระหว่างค่าต่างๆกัน ค่าบางอย่างจะเป็นคำทำนายที่แน่นอนที่คุณต้องการ คนอื่น ๆ ก็จะแกว่งไปมาทางขวา

ในกรณีส่วนใหญ่วิธีการดังกล่าวพิสูจน์ให้ถูกต้องและปรับปรุงการคาดการณ์การเรียนรู้ของเครื่องเป็นจำนวนมาก เมื่อปัญหาของคุณมีอคติและไม่แปรปรวนใช้ ensembling จริงๆไม่ก่อให้เกิดอันตรายเว้นแต่คุณ subsample ตัวอย่างน้อยเกินไป หลักเกณฑ์ที่ดีสำหรับการเก็บข้อมูลย่อยคือการสุ่มตัวอย่างจาก 70 ถึง 90 เปอร์เซ็นต์เมื่อเทียบกับข้อมูลตัวอย่างในต้นฉบับ ถ้าคุณต้องการทำงานร่วมกันคุณควรดำเนินการต่อไปนี้:

ทำซ้ำหลาย ๆ ครั้งผ่านข้อมูลและแบบจำลองของคุณ (ตั้งแต่ขั้นต่ำสุดถึง 3 ซ้ำไปจนถึงหลายร้อยครั้ง)

  • ทุกครั้งที่คุณทำซ้ำให้ subsample (หรือ else bootstrap) ข้อมูลตัวอย่างของคุณ
  • ใช้การเรียนรู้ของเครื่องสำหรับโมเดลในข้อมูลที่มีการสุ่มและทำนายผลลัพธ์ที่ไม่เป็นไปตามแบบตัวอย่าง จัดเก็บผลลัพธ์เหล่านี้ไว้เพื่อใช้ในภายหลัง
  • ในตอนท้ายของการทำซ้ำสำหรับกรณีตัวอย่างทุกตัวอย่างที่คุณต้องการคาดการณ์ให้ใช้การคาดการณ์ทั้งหมดและคำนวณค่าเฉลี่ยเหล่านี้หากคุณกำลังถดถอย เรียนบ่อยที่สุดหากคุณกำลังจัดประเภท
  • กับดักการรั่วไหลอาจทำให้คุณประหลาดใจเพราะสามารถพิสูจน์ได้ว่าเป็นแหล่งที่มาของปัญหาที่ไม่รู้จักและไม่สามารถตรวจพบได้จากกระบวนการเรียนรู้ด้วยเครื่องของคุณ ปัญหาคือการสอดแนมหรือการสังเกตข้อมูลที่ไม่อยู่ในกลุ่มตัวอย่างมากเกินไปและปรับตัวให้เข้ากับบ่อยเกินไป ในระยะสั้นการสอดแนมเป็นสิ่งที่เหมาะสมยิ่งกว่า - ไม่ใช่เฉพาะข้อมูลการฝึกอบรมเท่านั้น แต่ยังรวมถึงข้อมูลการทดสอบทำให้ปัญหาที่พบบ่อยขึ้นยากขึ้นเรื่อย ๆ จนกว่าคุณจะได้รับข้อมูลใหม่

โดยปกติคุณตระหนักว่าปัญหากำลังสอดแนมเมื่อคุณใช้อัลกอริทึมการเรียนรู้เครื่องกับธุรกิจของคุณหรือไปใช้บริการสาธารณะแล้วทำให้ปัญหาเป็นปัญหาที่ทุกคนสามารถเห็นได้

คุณสามารถหลีกเลี่ยงการสอดแนมได้สองวิธี ขั้นแรกเมื่อใช้ข้อมูลให้ระมัดระวังในการแยกการฝึกอบรมการตรวจสอบและข้อมูลการทดสอบอย่างละเอียด นอกจากนี้เมื่อประมวลผลแล้วอย่าใช้ข้อมูลใด ๆ จากการตรวจสอบหรือทดสอบแม้แต่ตัวอย่างที่เรียบง่ายและดูไร้เดียงสา ที่เลวร้ายยิ่งก็คือการใช้การเปลี่ยนแปลงที่ซับซ้อนโดยใช้ข้อมูลทั้งหมด

ตัวอย่างเช่นในด้านการเงินเป็นที่ทราบกันดีว่าการคำนวณค่าเฉลี่ยและส่วนเบี่ยงเบนมาตรฐาน (ซึ่งสามารถบอกคุณได้มากเกี่ยวกับสภาวะตลาดและความเสี่ยง) จากข้อมูลการฝึกอบรมและข้อมูลการทดสอบทั้งหมดสามารถรั่วไหลข้อมูลที่มีค่าเกี่ยวกับแบบจำลองของคุณได้ เมื่อมีการรั่วไหลกลไกการเรียนรู้ของเครื่องจะทำการคาดการณ์ในชุดทดสอบแทนที่จะเป็นข้อมูลตัวอย่างจากตลาดซึ่งหมายความว่าไม่ได้ใช้งานเลยทำให้เกิดการสูญเสียเงิน

ตรวจสอบประสิทธิภาพของตัวอย่างที่ไม่อยู่ในตัวอย่าง ในความเป็นจริงคุณอาจนำข้อมูลบางส่วนมาใช้จากการสอดแนมผลการทดสอบเพื่อช่วยในการระบุว่าพารามิเตอร์บางอย่างดีกว่าตัวอื่นหรือทำให้คุณเลือกอัลกอริธึมการเรียนรู้ด้วยเครื่องจักรเพียงอันเดียวแทนวิธีอื่น สำหรับทุกรุ่นหรือพารามิเตอร์ให้ใช้ตัวเลือกของคุณตามผลการตรวจสอบข้ามหรือจากตัวอย่างการตรวจสอบ อย่าพลาดการรับของทานเล่นจากข้อมูลที่ไม่อยู่ในกลุ่มตัวอย่างของคุณหรือคุณจะเสียใจในภายหลัง

หลีกเลี่ยงการพังทลายและการรั่วไหลของดักในการเรียนรู้ด้วยเครื่องจักร - มัมมี่

ตัวเลือกของบรรณาธิการ

ใช้สำเนียงกระดาษในการจัดเตรียมอาหารและการถ่ายภาพอาหาร - มัดหนังสือ

ใช้สำเนียงกระดาษในการจัดเตรียมอาหารและการถ่ายภาพอาหาร - มัดหนังสือ

สำเนียงกระดาษเช่นอุปกรณ์และของตกแต่งอื่น ๆ สามารถนำเสนออาหารได้อย่างดีสำหรับกล้องในรูปแบบอาหารและภาพถ่ายอาหารของคุณ เอกสารที่ละเอียดอ่อนเหล่านี้อาจเป็นสำเนียงเล็ก ๆ น้อย ๆ ที่สมบูรณ์แบบสำหรับการตั้งค่าการถ่ายภาพธรรมดาและบางครั้งก็น่าเบื่อ ถ้าใช้แบบดั้งเดิมตุ๊กตาหมุดก็ไม่ใช่ของคุณหรือถ้าคุณกำลังมองหาบางสิ่งบางอย่าง ...

ใช้ขาตั้งกล้องเพื่อลดการสั่นของกล้อง - มัมมี่

ใช้ขาตั้งกล้องเพื่อลดการสั่นของกล้อง - มัมมี่

ในการถ่ายภาพระยะใกล้และระยะใกล้มากที่สุด อุปสรรคยากที่จะเอาชนะ คุณอาจพบวัตถุที่เคลื่อนที่ (เช่นผึ้งยุ่ง) กล้องของคุณอาจสั่นสะเทือนในระหว่างการรับแสงเนื่องจากสาเหตุต่างๆและลมอาจทำให้ทุกสิ่งในฉากของคุณเคลื่อนที่ได้ การจัดการกับท่าทางของคุณขึ้นอยู่กับเรื่องของคุณ ...

การใช้ภาพถ่ายและผ้าลินินเพื่อจัดเตรียมอาหารและการถ่ายภาพอาหาร - มัมมี่

การใช้ภาพถ่ายและผ้าลินินเพื่อจัดเตรียมอาหารและการถ่ายภาพอาหาร - มัมมี่

ห้องสมุดสำหรับตกแต่งบ้านที่มีสินค้า เช่นจานและผ้าสำหรับธุรกิจถ่ายภาพอาหารช่วยให้คุณสามารถจัดรูปถ่ายของคุณได้ ขณะที่คุณรวบรวมอาหารผ้าเช็ดปากและสิ่งอื่น ๆ เก็บไว้ในบ้านหรือในสตูดิโอเพื่อจัดระเบียบและจัดเก็บวัสดุของคุณ การเก็บเข้าลิ้นชักโลหะอุตสาหกรรมทำได้ดีและช่วยให้คุณเห็นทุกอย่าง ...

ตัวเลือกของบรรณาธิการ

การเพิ่มข้อมูลลงในภาพเดียวบน Canon EOS 6D ของคุณ - หุ่น

การเพิ่มข้อมูลลงในภาพเดียวบน Canon EOS 6D ของคุณ - หุ่น

ข้อมูลเมตามีประสิทธิภาพมาก เมื่อคุณเพิ่มข้อมูลเมตาลงในรูปภาพใน EOS 6D จะหาได้ง่ายขึ้น ข้อมูลนี้สามารถใช้งานได้หากคุณตัดสินใจแยกสาขาออกและพยายามขายรูปภาพบางส่วนในหน่วยงานภาพสต็อก ข้อมูลเมตายิ่งมีมากเท่าไหร่ก็ยิ่งหาได้ง่ายกว่า ...

การปรับช่องมองภาพบนกล้อง Canon EOS 70D - Dummies

การปรับช่องมองภาพบนกล้อง Canon EOS 70D - Dummies

ใน Canon EOS 70D, ใกล้ด้านขวาบนของสายยางที่ล้อมรอบช่องมองภาพเป็นปุ่มหมุน (ดูรูปต่อไปนี้) ที่ช่วยให้คุณปรับโฟกัสของช่องมองภาพให้ตรงกับสายตาของคุณ ปุ่มหมุนนี้เป็นที่รู้จักอย่างเป็นทางการว่าเป็นตัวควบคุมการปรับสายตา หากไม่ใช้ขั้นตอนนี้ฉากที่ปรากฏ ...

ตัวเลือกของบรรณาธิการ

สิ่งที่ควรค้นหาในซอฟต์แวร์การถ่ายภาพ HDR - ดัมมี่

สิ่งที่ควรค้นหาในซอฟต์แวร์การถ่ายภาพ HDR - ดัมมี่

องค์ประกอบที่สำคัญที่สุดของการถ่ายภาพแบบไดนามิกสูงคือ ไม่แปลกใจที่แอพพลิเคชันซอฟต์แวร์ HDR นี่คือสิ่งที่คุณใช้ในการเปลี่ยนภาพถ่ายที่ถ่ายคร่อมของคุณ (และการเปิดรับแสงดิบแบบดิบเพียงครั้งเดียวสำหรับ pseudo-HDR) ในภาพช่วงไดนามิคสูงและแผนที่โทนเพื่อสร้างภาพที่มีความอิ่มตัวและดึงดูดความสนใจดังที่แสดงในภาพนี้ ใช้เวลาลอง ...

เมื่อต้องการแปลง HDR เป็นขาวดำ - ม้วน

เมื่อต้องการแปลง HDR เป็นขาวดำ - ม้วน

หนึ่งตัวเลือกเพื่อสร้างสีดำและสีขาวสูง ภาพช่วงไดนามิก (HDR) คือการแปลงภาพถ่ายสีของคุณให้เป็นขาวดำก่อนใช้ภาพเหล่านี้เพื่อสร้างภาพ HDR คุณมีสองตัวเลือกเพื่อเลือกว่านี่คือทิศทางที่คุณต้องการหรือไม่: แปลงระหว่าง Conversion ดิบ แปลงระหว่างการทำแผนที่โทน หากเลือก ...

สิ่งที่ควรนำมาสู่การถ่ายภาพอาหารนอกสถานที่ - มัมมี่

สิ่งที่ควรนำมาสู่การถ่ายภาพอาหารนอกสถานที่ - มัมมี่

รายการตรวจสอบคือ เพียงวิธีเดียวในการจดจำทุกอย่างที่คุณต้องการสำหรับการถ่ายภาพอาหารนอกสถานที่ขนาดใหญ่ เมื่อเขียนรายการตรวจสอบลองพิจารณาด้านต่างๆของการถ่ายทำที่กำลังจะเกิดขึ้น รายการที่ครอบคลุมมากขึ้นดีกว่า จดจำพื้นฐานสำหรับการจัดเตรียมอาหารและการถ่ายภาพอย่าลืมข้อมูลเบื้องต้นเกี่ยวกับชุดของคุณ ...