คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึกอธิบายสำหรับผู้ที่ไม่ใช่นักคณิตศาสตร์

แนวคิด / การหาค่าที่เหมาะสม

เป้าหมายการฝึกกำลังสอง

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

ฟังก์ชันเป้าหมาย · รวมความสูญเสียและค่าปรับเป็นเกณฑ์สำหรับพารามิเตอร์หรือกฎ

ค่าทำนายและคำตอบให้ความสูญเสีย การจำแนกใช้ครอสเอนโทรปีและ α/2 คูณผลรวมน้ำหนักที่ไม่ใช่ไบแอสยกกำลังสอง ริดจ์ใช้ MSE ของมวลที่ปรับสเกลและ α คูณสัมประสิทธิ์ทุกตัวรวมไบแอสยกกำลังสอง

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2.1 หาพารามิเตอร์ที่เหมาะสม · 2.4 การลดลงครั้งที่สองของความผิดพลาด · 5.1 รูปร่างของค่าความผิดพลาด · ส่วนต้นฉบับเพิ่มเติม

คำนวณโครงข่ายบนข้อมูลเข้าฝึกแต่ละตัว ลบค่าเป้าหมายแต่ละค่า ยกกำลังสอง แล้วหาค่าเฉลี่ย

นี่คือเป้าหมายที่ศึกษาในส่วนการฝึกแบบเปลี่ยนน้อยของต้นฉบับ

ตัวอย่างสูตรต้นฉบับ

r(θ)=R^s(θ)=1m∑i=1m(Φ(x(i),θ)−y(i))2.{r}(\theta)=\widehat{\mathcal{R}}_{{s}}(\theta)=\frac{1}{m}\sum_{i=1}^{m}(\Phi(x^{(i)},\theta)-y^{(i)})^{2}.

ตรงตามนิยาม · ผลลัพธ์ตรงตามข้อมูลเข้าสมมติจำกัดนี้ ยกเว้นการปัดเศษตามปกติของคอมพิวเตอร์

สัญลักษณ์

Φ(x,θ)Φ(x,θ)
ผลลัพธ์โครงข่ายสำหรับข้อมูลเข้า x และพารามิเตอร์ θ
mm
จำนวนตัวอย่างที่เป็นบวก

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

  • input.weight = 1

ค่าเริ่มต้นในโค้ด

  • xs = [1, 2]
  • ys = [2, 4]

คำนวณที่นี่

นิพจน์ผลลัพธ์: { errors, risk: errors.reduce((sum, e) => sum + e * e, 0) / errors.length }

  • errors = xs.map((x, i) => input.weight * x - ys[i]) ใช้: xs, input.weight, ys

ส่งกลับ

ผลลัพธ์ตัวอย่าง
errors
อาร์เรย์ (2 รายการ): [-1, -2]
risk
2.5

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ตัวอย่างใช้ตัวทำนายเชิงเส้นที่มีน้ำหนักเดียว การคำนวณค่าเป้าหมายไม่ได้แสดงทฤษฎีบทการลู่เข้าของต้นฉบับ

แหล่งอ้างอิง: นิพจน์ในต้นฉบับ