คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

ความเสี่ยงเบย์บนปริภูมิจำกัด

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

ความเสี่ยงและการประเมิน · แยกความสูญเสียบนตัวอย่างออกจากความสูญเสียคาดหมาย

ประเมินกฎที่ฝึกแล้วด้วยข้อมูลทดสอบ 102 แถวที่ไม่ใช้ฝึก

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

บทบาท: ตรวจสอบตัวอย่างใหม่ / ความเสี่ยงและการประเมิน

ข้อมูลเข้าหรือสมมติฐาน: ผลทำนายหรือกฎ และตัวอย่างประเมินหรือความน่าจะเป็น
ผลลัพธ์หรือข้อสรุป: ความเสี่ยง ความสูญเสียบนตัวอย่าง หรือระยะขอบการจำแนก

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

มาจาก

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง

หาความเสี่ยงต่ำที่สุดจากการกำหนดป้ายทุกแบบบนปริภูมิข้อมูลเข้าจำกัด

ความเสี่ยงเบย์คือความเสี่ยงประชากรที่ดีที่สุดในบรรดาตัวจำแนกวัดได้

ตัวอย่างสูตรต้นฉบับ

{\mathcal{R}}^{*}\coloneqq\inf_{f\in{\mathcal{M}}({\mathcal{X}},{\mathcal{Y}})}{\mathcal{R}}(f),

ตรงตามนิยาม · การแจกแจงนี้ไม่ได้หากฎเบย์สำหรับปริภูมิข้อมูลเข้าตามอำเภอใจ

สัญลักษณ์

$R*$: อินฟิมัมของความเสี่ยงประชากรเหนือตัวจำแนกวัดได้ทั้งหมด
$M(X,Y)$: เซตฟังก์ชันวัดได้จากข้อมูลเข้าไปยังป้าย
$f$: ตัวจำแนก

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

ค่าเริ่มต้นในโค้ด

probabilities = [0.5, 0.25, 0.25]
inputIndices = [0, 1, 1]
labels = [1, 1, -1]
classifiers = [ [1, 1], [1, -1], [-1, 1], [-1, -1], ]

คำนวณที่นี่

นิพจน์ผลลัพธ์: { risks, bayesRisk: Math.min(...risks) }

risks = classifiers.map((f) => labels.reduce( (s, y, i) => s + probabilities[i] * (f[inputIndices[i]] !== y ? 1 : 0), 0, ), ) ใช้: classifiers, labels, probabilities, inputIndices

ส่งกลับ

ผลลัพธ์ตัวอย่าง

risks: อาร์เรย์ (4 รายการ): [0.25, 0.25, 0.75, 0.75]
bayesRisk: 0.25

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ตัวอย่างแจกแจงตัวจำแนกทวิภาคกำหนดแน่นอนทั้งสี่แบบบนข้อมูลเข้าสองค่าและจุดมูลฐานความน่าจะเป็นทั้งสาม ค่าต่ำสุดจำกัดเท่ากับอินฟิมัม

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ