คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึกอธิบายสำหรับผู้ที่ไม่ใช่นักคณิตศาสตร์

แนวคิด / การใช้กับข้อมูลใหม่

เส้นโค้งความแปรปรวนในลิมิต

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

ขอบเขตการทำงานกับข้อมูลใหม่ · เชื่อมพฤติกรรมบนตัวอย่างกับความเสี่ยงประชากรภายใต้สมมติฐาน

โครงการมีข้อมูลและพารามิเตอร์จำนวนจำกัด ชุดทดสอบไม่ยืนยันขอบเขตประชากรหรือพิสูจน์ทฤษฎีบท

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

ใช้ในส่วนต้นฉบับเหล่านี้: 2.4 การลดลงครั้งที่สองของความผิดพลาด

ต้นฉบับให้นิพจน์นี้เป็นพจน์ความแปรปรวนเชิงเส้นกำกับเมื่อมิติข้อมูลเข้าหารด้วยขนาดตัวอย่างเข้าใกล้ κ

นิพจน์ไม่กำหนดที่ κ = 1 ทั้งสองด้านเพิ่มโดยไม่มีขอบเขตเมื่อ κ เข้าใกล้ 1

ในแบบจำลองเฉพาะนี้ นิพจน์ช่วยอธิบายยอดใกล้เกณฑ์อินเตอร์โพเลต

ตัวอย่างสูตรต้นฉบับ

Tr⁡(Σ+E[XXT])→1−max⁡{1−κ,0}∣1−κ∣สำหรับd,m→∞เมื่อมีdm→κ,{\operatorname{Tr}}\big(\Sigma^{+}{\mathbbm{E}}[XX^{T}]\big)\to\frac{1-\max\{1-\kappa,0\}}{|1-\kappa|}\quad\text{สำหรับ}\quad d,m\to\infty\quad\text{เมื่อมี}\quad\frac{d}{m}\to\kappa,

ภาพประกอบ · คำนวณสูตรลิมิต ไม่ใช่ความแปรปรวนของชุดข้อมูลจำกัด สูตรไม่กำหนดที่ κ = 1 และไม่ใช่เส้นโค้งการลดลงสองครั้งสากล

สัญลักษณ์

κκ
อัตราส่วนลิมิตบวก d/m สูตรที่แสดงมีค่าจำกัดเฉพาะเมื่อห่างจาก 1
d,md,m
มิติข้อมูลเข้าและขนาดตัวอย่าง ซึ่งทั้งคู่เข้าใกล้อนันต์ในลิมิต

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

  • input.kappa = 2

คำนวณที่นี่

นิพจน์ผลลัพธ์: { limitingVariance: (1 - Math.max(1 - kappa, 0)) / Math.abs(1 - kappa) }

  • kappa = input.kappa ใช้: input.kappa

ส่งกลับ

ผลลัพธ์ตัวอย่าง
limitingVariance
1

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ต้นฉบับพิจารณาแบบจำลองเชิงเส้นที่มีศูนย์กลางและสัญญาณรบกวนอิสระที่มีศูนย์กลาง พร้อมตัวลดความเสี่ยงเชิงประจักษ์ที่มีนอร์มยุคลิดต่ำสุด สำหรับนิพจน์ความแปรปรวนกำหนดพารามิเตอร์จริงเป็นศูนย์และความแปรปรวนสัญญาณรบกวนเป็นหนึ่ง สมาชิก X เป็น i.i.d. มีความแปรปรวนหนึ่งและโมเมนต์อันดับห้าจำกัด ลิมิตที่ระบุเกิดเกือบแน่นอนเมื่อ d,m→∞ โดย d/m→κ เครื่องคำนวณประเมินด้านขวาเมื่อ κ ห่างจาก 1

แหล่งอ้างอิง: ความแปรปรวนในลิมิต