บางเว็บไซต์ทางออนไลน์น่าจะทำให้คุณเชื่อว่าสถิติและการเรียนรู้ของเครื่องเป็นเทคโนโลยีที่แตกต่างกันอย่างสิ้นเชิง ตัวอย่างเช่นเมื่อคุณอ่าน Statistics vs. Machine Learning ให้ต่อสู้! คุณคิดว่าเทคโนโลยีทั้งสองมีความแตกต่างกันไม่เพียง แต่เป็นปฏิปักษ์ต่อกันและกัน ความจริงก็คือสถิติและการเรียนรู้เกี่ยวกับเครื่องจักรมีหลายอย่างที่เหมือนกันและสถิติเป็นหนึ่งในห้าชนเผ่า (โรงเรียนแห่งความคิด) ที่ทำให้การเรียนรู้ด้วยเครื่องทำได้ ห้าเผ่าคือ
- Symbolists: ต้นกำเนิดของเผ่านี้อยู่ในตรรกะและปรัชญา กลุ่มนี้อาศัยการหักเหเพื่อแก้ปัญหา
- ผู้เชื่อมต่อ: ต้นกำเนิดของชนเผ่านี้อยู่ในวงการประสาท กลุ่มนี้อาศัยการต่อสู้ย้อนกลับเพื่อแก้ปัญหา
- วิวัฒนาการ: ต้นกำเนิดของชนเผ่านี้อยู่ในชีววิทยาวิวัฒนาการ กลุ่มนี้อาศัยการเขียนโปรแกรมทางพันธุกรรมเพื่อแก้ปัญหา
- Bayesians: ที่มาของเผ่านี้อยู่ในสถิติ กลุ่มนี้อาศัยข้อสรุปที่น่าจะเป็นไปได้ในการแก้ปัญหา
- อะนาลอกเซอร์: ต้นกำเนิดของชนเผ่านี้อยู่ในด้านจิตวิทยา กลุ่มนี้อาศัยเครื่องเคอร์เนลเพื่อแก้ปัญหา
วิศวกรรม (ที่มีการใช้ทฤษฎี) กว่า วิทยาศาสตร์ (ในทฤษฎีที่ถูกสร้างขึ้น) การทำความเข้าใจเกี่ยวกับบทบาทของอัลกอริทึมในการเรียนรู้ด้วยเครื่องเป็นสิ่งสำคัญในการกำหนดวิธีการเรียนรู้ของเครื่อง