คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

ความสูญเสียกำลังสอง

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

การจำแนกทำนายสามชนิด ริดจ์ทำนายมวลเป็นกรัมจากข้อมูลเดียวกัน แต่เป็นคนละแบบจำลอง ค่าทำนายชุดฝึกส่งไปยังฟังก์ชันเป้าหมาย ค่าทำนายชุดทดสอบ 102 แถวแยกไว้และไม่ปรับน้ำหนัก

ความสูญเสียรายตัวอย่าง · ให้คะแนนความสูญเสียแก่ข้อมูลสังเกตหนึ่งตัวอย่าง

ค่าทำนายและคำตอบให้ความสูญเสีย การจำแนกใช้ครอสเอนโทรปีและ α/2 คูณผลรวมน้ำหนักที่ไม่ใช่ไบแอสยกกำลังสอง ริดจ์ใช้ MSE ของมวลที่ปรับสเกลและ α คูณสัมประสิทธิ์ทุกตัวรวมไบแอสยกกำลังสอง

งานแถวฝึกขั้นฝึกค่าปรับ αรหัสแถวทดสอบ

ความสูญเสีย

ข้อมูลเข้า: ชุดฝึก: 12 ค่าทำนาย
ผลลัพธ์: [≈0.005482, ≈1.012, ≈0.1422] … (12 รายการ) · ความสูญเสียเฉลี่ยชุดฝึก: ≈0.228 (ครอสเอนโทรปี)

การดำเนินการของโครงการ

การคำนวณโครงการใช้ข้อมูลชุดนี้ สูตรและตัวอย่างต้นฉบับอยู่ด้านล่าง การแก้โค้ดมีผลเฉพาะหน้านี้ ส่วนการตั้งค่าโครงการส่งต่อระหว่างหน้า

ค่าทำนาย → ความสูญเสีย → ความสูญเสียเฉลี่ยชุดฝึก

ข้อมูลเข้าโครงการ

แสดงสามรายการแรก การดำเนินการรับอาร์เรย์ทั้งหมด ค่าตัวอย่างปัดเศษแล้ว การดำเนินการใช้ค่าเต็ม

input.task · การตั้งค่าโครงการหรือค่าคงที่: classification
input.predictions · ค่าทำนาย: [ชนิด: อาเดลี · ความน่าจะเป็น: [≈0.9945, ≈0.005412, ≈0.00005477], ชนิด: อาเดลี · ความน่าจะเป็น: [≈0.6338, ≈0.3635, ≈0.002677], ชนิด: เจนทู · ความน่าจะเป็น: [≈0.1023, ≈0.03028, ≈0.8674]] … (12 รายการ)
input.targets · ข้อมูลสังเกต: [0, 1, 2] … (12 รายการ)

JavaScript

ผลลัพธ์

[≈0.005482, ≈1.012, ≈0.1422] … (12 รายการ)

บทบาท: ให้คะแนนความผิดพลาด / ความสูญเสียรายตัวอย่าง

ข้อมูลเข้าหรือสมมติฐาน: ผลทำนายหรือความหนาแน่น และคำตอบหรือตัวอย่างที่สังเกต
ผลลัพธ์หรือข้อสรุป: ค่าความสูญเสีย

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

มาจาก

ใช้โดย

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง · 2.1 มองผ่านความคล้ายคลึง

ลบเป้าหมายออกจากค่าทำนาย แล้วยกกำลังสองผลต่าง

ความสูญเสียวัดว่าค่าทำนายห่างจากเป้าหมายเพียงใด

ตัวอย่างสูตรต้นฉบับ

\ell(\hat{y},y)=(\hat{y}-y)^{2}

ตรงตามนิยาม · ผลลัพธ์ตรงตามการคำนวณสำหรับข้อมูลเข้าสมมติจำนวนจำกัดนี้ ยกเว้นการปัดเศษตามปกติของคอมพิวเตอร์

สัญลักษณ์

$\hat y$: ค่าทำนายจำนวนจริง
$y$: เป้าหมายจำนวนจริง

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ค่าทำนายเป้าหมาย

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

input.prediction = 3
input.target = 1

คำนวณที่นี่

นิพจน์ผลลัพธ์: { error, loss: error ** 2 }

error = input.prediction - input.target ใช้: input.prediction, input.target

ส่งกลับ

ผลลัพธ์ตัวอย่าง

error: 2
loss: 4

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

เปลี่ยนข้อมูลเข้าแล้วเรียกใช้โค้ดเดิมอีกครั้ง ผลลัพธ์ที่แสดงใช้ค่าข้างต้น

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ