คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึกอธิบายสำหรับผู้ที่ไม่ใช่นักคณิตศาสตร์

แนวคิด / การใช้กับข้อมูลใหม่

การทำเครือข่ายให้เป็นเชิงเส้น

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

กฎทำนายและชั้นของเครือข่าย · อธิบายหรือใช้กฎทำนาย ชั้น และพารามิเตอร์

โครงการใช้กฎเชิงเส้นกับสองคุณลักษณะ น้ำหนักที่ฝึกให้คะแนนหรือมวลที่ปรับสเกล

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

ใช้ในส่วนต้นฉบับเหล่านี้: 2.1 มองผ่านความคล้ายคลึง

นำผลลัพธ์เดิมที่พารามิเตอร์เริ่มต้นมาบวกผลคูณจุดของเกรเดียนต์พารามิเตอร์กับการเปลี่ยนพารามิเตอร์

แบบจำลองสมมติใช้ Φ(x,θ) = θ²x และค่าเริ่ม Θ₀ = 1

แบบจำลองเชิงเส้นประมาณการเปลี่ยนของเครือข่ายใกล้พารามิเตอร์เริ่มต้น

ตัวอย่างสูตรต้นฉบับ

Φlin(⋅,θ)≔Φ(⋅,Θ0)+⟨∇θΦ(⋅,Θ0),θ−Θ0⟩,\Phi^{\mathrm{lin}}(\cdot,\theta)\coloneqq\Phi(\cdot,\Theta_{0})+\langle\nabla_{\theta}\Phi(\cdot,\Theta_{0}),\theta-\Theta_{0}\rangle,

ค่าประมาณ · คำนวณค่าประมาณอันดับหนึ่งของแบบจำลองสเกลาร์เรียบเฉพาะ ค่าเชิงเส้นโดยทั่วไปต่างจากแบบจำลองเดิมเมื่อห่างจากพารามิเตอร์เริ่มต้น

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

  • input.x = 2
  • input.theta = 1.5

ค่าเริ่มต้นในโค้ด

  • start = 1

คำนวณที่นี่

นิพจน์ผลลัพธ์: { startOutput, gradient, linearized, actual }

  • x = input.x ใช้: input.x
  • startOutput = start ** 2 * x ใช้: start, x
  • gradient = 2 * start * x ใช้: start, x
  • linearized = startOutput + gradient * (input.theta - start) ใช้: startOutput, gradient, input.theta, start
  • actual = input.theta ** 2 * x ใช้: input.theta, x

ส่งกลับ

ผลลัพธ์ตัวอย่าง
startOutput
2
gradient
4
linearized
4
actual
4.5

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

เปลี่ยนข้อมูลเข้าแล้วเรียกใช้โค้ดเดิมอีกครั้ง ผลลัพธ์ที่แสดงใช้ค่าข้างต้น

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ