คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

ความเสี่ยงเชิงประจักษ์

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

การจำแนกทำนายสามชนิด ริดจ์ทำนายมวลเป็นกรัมจากข้อมูลเดียวกัน แต่เป็นคนละแบบจำลอง ค่าทำนายชุดฝึกส่งไปยังฟังก์ชันเป้าหมาย ค่าทำนายชุดทดสอบ 102 แถวแยกไว้และไม่ปรับน้ำหนัก

ฟังก์ชันเป้าหมาย · รวมความสูญเสียและค่าปรับเป็นเกณฑ์สำหรับพารามิเตอร์หรือกฎ

ค่าทำนายและคำตอบให้ความสูญเสีย การจำแนกใช้ครอสเอนโทรปีและ α/2 คูณผลรวมน้ำหนักที่ไม่ใช่ไบแอสยกกำลังสอง ริดจ์ใช้ MSE ของมวลที่ปรับสเกลและ α คูณสัมประสิทธิ์ทุกตัวรวมไบแอสยกกำลังสอง

งานแถวฝึกขั้นฝึกค่าปรับ αรหัสแถวทดสอบ

ความสูญเสียเฉลี่ยชุดฝึก

ข้อมูลเข้า: 12 ความสูญเสีย
ผลลัพธ์: ≈0.228

การดำเนินการของโครงการ

การคำนวณโครงการใช้ข้อมูลชุดนี้ สูตรและตัวอย่างต้นฉบับอยู่ด้านล่าง การแก้โค้ดมีผลเฉพาะหน้านี้ ส่วนการตั้งค่าโครงการส่งต่อระหว่างหน้า

ความสูญเสีย → ความสูญเสียเฉลี่ยชุดฝึก → ฟังก์ชันเป้าหมาย

ข้อมูลเข้าโครงการ

แสดงสามรายการแรก การดำเนินการรับอาร์เรย์ทั้งหมด ค่าตัวอย่างปัดเศษแล้ว การดำเนินการใช้ค่าเต็ม

input.losses · ความสูญเสีย: [≈0.005482, ≈1.012, ≈0.1422] … (12 รายการ)

JavaScript

ผลลัพธ์

≈0.228

บทบาท: ให้คะแนนความผิดพลาด / ฟังก์ชันเป้าหมาย

ข้อมูลเข้าหรือสมมติฐาน: ความสูญเสีย พารามิเตอร์ และการตั้งค่าเกณฑ์
ผลลัพธ์หรือข้อสรุป: ค่าเกณฑ์หนึ่งค่า

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

มาจาก

ความสูญเสียรายตัวอย่าง

ใช้โดย

การเรียนรู้และการปรับพารามิเตอร์

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง · 1.2.1 หาพารามิเตอร์ที่เหมาะสม · 1.2.3 ใช้ได้กับตัวอย่างใหม่หรือไม่ · ส่วนต้นฉบับเพิ่มเติม

คำนวณความสูญเสียของตัวอย่างฝึกแต่ละตัว แล้วหาค่าเฉลี่ย

วัดความสูญเสียการฝึกบนตัวอย่างที่มีได้

ตัวอย่างสูตรต้นฉบับ

\widehat{\mathcal{R}}_{{s}}(f)\coloneqq\frac{1}{m}\sum_{i=1}^{m}{\mathcal{L}}(f,z^{(i)}).

ตรงตามนิยาม · ผลลัพธ์ตรงตามการคำนวณสำหรับข้อมูลเข้าสมมติจำนวนจำกัดนี้ ยกเว้นการปัดเศษตามปกติของคอมพิวเตอร์

สัญลักษณ์

$s$: ตัวอย่างขนาด m
$ℒ(f,z)$: ความสูญเสียของกฎทำนาย f บนตัวอย่าง z

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ความสูญเสียแรก

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

input.first = 1

คำนวณที่นี่

นิพจน์ผลลัพธ์: { losses, risk: losses.reduce((a, b) => a + b, 0) / losses.length }

losses = [input.first, 4, 9] ใช้: input.first

ส่งกลับ

ผลลัพธ์ตัวอย่าง

losses: อาร์เรย์ (3 รายการ): [1, 4, 9]
risk: ≈4.667

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

คำนวณค่าเฉลี่ยความสูญเสียของตัวอย่าง ไม่ใช่ค่าคาดหมายเหนือประชากรทั้งหมด

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ