คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

ตัวลดค่าความเสี่ยงเชิงประจักษ์

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

การเรียนรู้และการปรับพารามิเตอร์ · เลือกกฎหรือปรับพารามิเตอร์ด้วยกฎการเรียนรู้

ฟังก์ชันเป้าหมายให้เกรเดียนต์เพื่อปรับพารามิเตอร์

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

บทบาท: ปรับกฎ / การเรียนรู้และการปรับพารามิเตอร์

ข้อมูลเข้าหรือสมมติฐาน: ตัวอย่างฝึกหรือฟังก์ชันเป้าหมาย พร้อมกฎเรียนรู้หรือกฎปรับค่า
ผลลัพธ์หรือข้อสรุป: กฎทำนายที่เลือกหรือพารามิเตอร์ที่ปรับแล้ว

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

มาจาก

ใช้โดย

กฎทำนายและชั้นของเครือข่าย

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 1.1 รู้จักสัญลักษณ์ · 1.2 เรียนรู้จากตัวอย่าง · 1.3 คำถามที่จะศึกษาต่อ

ตัวลดค่าเชิงประจักษ์คือฟังก์ชันที่อนุญาตซึ่งมีความสูญเสียเฉลี่ยต่ำที่สุดบนชุดตัวอย่างฝึก

มันเลือกความสูญเสียฝึกที่ดีที่สุดภายในคลาส

ตัวอย่างสูตรต้นฉบับ

\widehat{f}_{{s}}\in{\mathcal{F}}

ตัวอย่างประกอบ · ตัวอย่างจำกัดนี้มีตัวเลือกสองตัว ค่าต่ำสุดอาจไม่มีอยู่ในคลาสอนันต์บางคลาส

สัญลักษณ์

$f̂_{s}$: ตัวลดค่าความเสี่ยงเชิงประจักษ์สำหรับชุดตัวอย่าง s
$\mathcal{F}$: คลาสของฟังก์ชันที่อนุญาต
$s$: ชุดตัวอย่างฝึก

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

ค่าเริ่มต้นในโค้ด

candidates = [ { name: "a", losses: [1, 1] }, { name: "b", losses: [0, 0] }, ]

คำนวณที่นี่

นิพจน์ผลลัพธ์: { risks, selected: candidates[index].name }

risks = candidates.map( (c) => c.losses.reduce((a, b) => a + b, 0) / c.losses.length, ) ใช้: candidates
index = risks.indexOf(Math.min(...risks)) ใช้: risks

ส่งกลับ

ผลลัพธ์ตัวอย่าง

risks: อาร์เรย์ (2 รายการ): [1, 0]
selected: b

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ค่าตัวเลขสร้างขึ้น ตัวอย่างจำกัดนี้มีตัวเลือกสองตัว ค่าต่ำสุดอาจไม่มีอยู่ในคลาสอนันต์บางคลาส

แหล่งอ้างอิง: สัญกรณ์ในข้อความ