คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

ค่าต่ำสุดผกผันแบบจำกัด

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

โจทย์ผกผัน · อธิบายการสร้างกลับจากข้อมูลสังเกตโดยใช้ตัวดำเนินการไปข้างหน้า

การประยุกต์นี้มีข้อมูลเข้าและสมมติฐานของตัวเอง ค่าที่วัดจากเพนกวินไม่ใช่ข้อมูลทดลองของมัน

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

บทบาท: ประยุกต์กับวิทยาศาสตร์ / โจทย์ผกผัน

ข้อมูลเข้าหรือสมมติฐาน: ข้อมูลสังเกต ตัวดำเนินการไปข้างหน้า และคำตอบที่เสนอ
ผลลัพธ์หรือข้อสรุป: ผลสร้างกลับหรือเกณฑ์ความคลาดเคลื่อน

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

กลุ่มที่เกี่ยวข้อง

สนับสนุน: ฟังก์ชันเป้าหมาย
สนับสนุน: กฎทำนายและชั้นของเครือข่าย

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 8.1 ย้อนหาคำตอบจากการวัด

เลือกพารามิเตอร์โครงข่ายที่ทำให้ความคลาดเคลื่อนกำลังสองหลังใช้ตัวดำเนินการไปข้างหน้าต่ำสุด

ตัวอย่างแสดงการสร้างกลับแบบผกผันโดยใช้การหาค่าเหมาะที่สุดตามต้นฉบับ

ตัวอย่างสูตรต้นฉบับ

\min_{\theta\in{\mathcal{P}}}\|K\Phi(\xi,\theta)-x\|^{2}

ตรงตามนิยาม · แบบจำลองเชิงเส้นที่เลือกมีคำตอบแบบปิด แต่ปัญหาผกผันอื่นอาจไม่มี

สัญลักษณ์

$K$: การส่งไปข้างหน้า ตัวอย่างใช้ K(y) = 2y
$Φ$: ค่าที่เป็นไปได้ซึ่งขึ้นกับพารามิเตอร์ ตัวอย่างใช้ Φ(ξ,θ) = ξθ
$ξ$: ข้อมูลเข้าคงที่ ในที่นี้เป็น 1
$θ$: พารามิเตอร์จริง
$x$: ข้อมูลสังเกต

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ค่าที่สังเกต

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

input.observed = 3

ค่าเริ่มต้นในโค้ด

xi = 1

คำนวณที่นี่

นิพจน์ผลลัพธ์: { theta, candidate, residual, minimum: residual ** 2 }

observed = input.observed ใช้: input.observed
theta = observed / 2 ใช้: observed
candidate = xi * theta ใช้: xi, theta
residual = 2 * candidate - observed ใช้: candidate, observed

ส่งกลับ

ผลลัพธ์ตัวอย่าง

theta: 1.5
candidate: 1.5
residual: 0
minimum: 0

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

โดเมนพารามิเตอร์ที่นี่คือจำนวนจริงทั้งหมด ดังนั้น θ = x/2 เป็นตัวทำให้ต่ำสุดที่แน่นอนและค่าต่ำสุดเป็นศูนย์

แหล่งอ้างอิง: นิพจน์ในต้นฉบับ