คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึกอธิบายสำหรับผู้ที่ไม่ใช่นักคณิตศาสตร์

ความสูญเสียทดแทนเฉลี่ย

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

ฟังก์ชันเป้าหมาย · รวมความสูญเสียและค่าปรับเป็นเกณฑ์สำหรับพารามิเตอร์หรือกฎ

ค่าทำนายและคำตอบให้ความสูญเสีย การจำแนกใช้ครอสเอนโทรปีและ α/2 คูณผลรวมน้ำหนักที่ไม่ใช่ไบแอสยกกำลังสอง ริดจ์ใช้ MSE ของมวลที่ปรับสเกลและ α คูณสัมประสิทธิ์ทุกตัวรวมไบแอสยกกำลังสอง

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง

คำนวณความสูญเสียทดแทนบนตัวอย่างฝึกแต่ละตัวแล้วหาค่าเฉลี่ย

ความสูญเสียทดแทนสามารถใช้แทนความผิดพลาดการจำแนกที่ไม่ต่อเนื่องระหว่างการหาค่าเหมาะที่สุด

ตัวอย่างสูตรต้นฉบับ

1m∑i=1mLsurr(f,z(i)),\frac{1}{m}\sum_{i=1}^{m}{\mathcal{L}}^{\mathrm{surr}}(f,z^{(i)}),

ตรงตามนิยาม · ค่าเฉลี่ยตัวอย่างจำกัดนี้ไม่ใช่ความเสี่ยงประชากร

สัญลักษณ์

LsurrLˢᵘʳʳ
ความสูญเสียทดแทนบนตัวอย่างหนึ่ง
ff
ฟังก์ชันทำนาย
z(i)z⁽ⁱ⁾
ตัวอย่างฝึก i
mm
จำนวนตัวอย่าง

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

  • input.score = 0

ค่าเริ่มต้นในโค้ด

  • labels = [1, -1]

คำนวณที่นี่

นิพจน์ผลลัพธ์: { losses, mean: losses.reduce((a, b) => a + b, 0) / losses.length }

  • scores = [input.score, 0] ใช้: input.score
  • losses = scores.map((v, i) => Math.log(1 + Math.exp(-labels[i] * v))) ใช้: scores, labels

ส่งกลับ

ผลลัพธ์ตัวอย่าง
losses
อาร์เรย์ (2 รายการ): [≈0.6931, ≈0.6931]
mean
≈0.6931

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ตัวอย่างสมมติมีสองป้ายและใช้ความสูญเสียทดแทนโลจิสติก

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ