คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

คำตอบการไหลด้วยเคอร์เนลคงที่

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

เคอร์เนลและการทำให้เป็นเชิงเส้น · เชื่อมเกรเดียนต์พารามิเตอร์หรือคุณลักษณะกับเมทริกซ์เคอร์เนล

โครงการมีข้อมูลและพารามิเตอร์จำนวนจำกัด ชุดทดสอบไม่ยืนยันขอบเขตประชากรหรือพิสูจน์ทฤษฎีบท

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

บทบาท: เข้าใจขอบเขต / เคอร์เนลและการทำให้เป็นเชิงเส้น

ข้อมูลเข้าหรือสมมติฐาน: คุณลักษณะหรือเกรเดียนต์พารามิเตอร์
ผลลัพธ์หรือข้อสรุป: ค่าเคอร์เนลหรือความสัมพันธ์ของเมทริกซ์

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

กลุ่มที่เกี่ยวข้อง

สนับสนุน: ทฤษฎีการหาค่าเหมาะสม

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 2.1 มองผ่านความคล้ายคลึง

ต้นฉบับเขียนค่าทำนายตามวิถีการไหลตามเกรเดียนต์ที่มีเคอร์เนลคงที่โดยใช้นิพจน์เมทริกซ์ C(t)

สำหรับจุดฝึกหนึ่งจุดที่มีค่าเคอร์เนล 1 เป้าหมาย 2 ค่าทำนายเริ่มต้น 0 และความสูญเสียกำลังสอง C(t) = 1 − exp(−2t)

กรณีพิเศษนี้แสดงค่าทำนายเข้าใกล้เป้าหมายตามเวลา

ตัวอย่างสูตรต้นฉบับ

\Phi({\cdot},\Theta(t))=C(t)(y^{(i)})_{i=1}^{m}+\big(\Phi(\cdot,\Theta_{0})-C(t)(\Phi(x^{(i)},\Theta_{0}))_{i=1}^{m}\big),

ภาพประกอบ · โค้ดแก้เฉพาะกรณีเคอร์เนลคงที่หนึ่งจุดที่ระบุ ไม่ได้พิสูจน์ว่าเครือข่ายจำกัดตามอำเภอใจมีเคอร์เนลคงที่

สัญลักษณ์

$C(t)$: สัมประสิทธิ์ค่าเมทริกซ์ในต้นฉบับ ซึ่งลดเป็นสเกลาร์หนึ่งค่าในตัวอย่าง
$Θ_0$: พารามิเตอร์เริ่มต้น

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

เวลา t

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

input.t = 1

ค่าเริ่มต้นในโค้ด

target = 2
initialPrediction = 0

คำนวณที่นี่

นิพจน์ผลลัพธ์: { c, target, initialPrediction, prediction }

c = 1 - Math.exp(-2 * input.t) ใช้: input.t
prediction = c * target + (initialPrediction - c * initialPrediction) ใช้: c, target, initialPrediction

ส่งกลับ

ผลลัพธ์ตัวอย่าง

c: ≈0.8647
target: 2
initialPrediction: 0
prediction: ≈1.729

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ต้นฉบับใช้ความสูญเสียกำลังสองและเคอร์เนลลิมิตที่เมทริกซ์เคอร์เนลตัวอย่างผกผันได้ C(t) มีเมทริกซ์เคอร์เนลนั้น ตัวผกผัน และเอ็กซ์โพเนนเชียลเมทริกซ์ สำหรับหนึ่งจุด เคอร์เนล 1 และ m=1 นิพจน์สเกลาร์คือ 1−exp(−2t) นิพจน์ต้นฉบับครบถ้วนรวมค่าทำนายเริ่มต้นที่จุดสอบถามและจุดฝึก

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ