คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

คะแนนทดแทนและตัวจำแนก

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

กฎทำนายและชั้นของเครือข่าย · อธิบายหรือใช้กฎทำนาย ชั้น และพารามิเตอร์

โครงการใช้กฎเชิงเส้นกับสองคุณลักษณะ น้ำหนักที่ฝึกให้คะแนนหรือมวลที่ปรับสเกล

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

บทบาท: ทำนายผล / กฎทำนายและชั้นของเครือข่าย

ข้อมูลเข้าหรือสมมติฐาน: ข้อมูลเข้า พารามิเตอร์ และกฎ
ผลลัพธ์หรือข้อสรุป: ผลทำนาย ค่าของชั้น หรือคำอธิบายแบบจำลอง

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

มาจาก

ใช้โดย

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง

ต้นฉบับอธิบายการเลือกกฎค่าจริงด้วยความสูญเสียทดแทน แล้วใช้ฟังก์ชันเครื่องหมายเพื่อได้ตัวจำแนก

ตัวอย่างมีตัวอย่างบวกหนึ่งตัวและคะแนนตัวเลือกสองค่า โดยเลือกความสูญเสียโลจิสติกต่ำกว่าและเปรียบเทียบความเสี่ยงศูนย์หนึ่งที่ได้

ความสูญเสียคะแนนที่ดิฟเฟอเรนเชียลได้ใช้ระหว่างปรับแบบจำลองจำแนกได้

ตัวอย่างสูตรต้นฉบับ

{\operatorname{sgn}}(\widehat{f}_{s}^{\mathrm{surr}})\in\argmin_{f\in{\mathcal{F}}_{{{a}},{\operatorname{sgn}}}}\widehat{\mathcal{R}}_{s}(f)

ภาพประกอบ · โค้ดตรวจกรณีจำกัดหนึ่งกรณี การลดความสูญเสียทดแทนในกลุ่มจำกัดตามอำเภอใจไม่ได้รับประกันตัวลดความเสี่ยงศูนย์หนึ่งเชิงประจักษ์ที่ตรงกันโดยอัตโนมัติ

สัญลักษณ์

$ℱ_a$: กลุ่มคะแนนเครือข่ายค่าจริง
$ℱ_{a,sgn}$: กลุ่มที่ได้จากการใช้เครื่องหมายกับคะแนนเหล่านั้น
$ℒ^{surr}$: ความสูญเสียทดแทนบนคะแนนค่าจริงและตัวอย่าง

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

คะแนนที่สอง

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

input.score = 1

ค่าเริ่มต้นในโค้ด

label = 1

คำนวณที่นี่

นิพจน์ผลลัพธ์: { scores, surrogateLosses, predictions, risks, selected, selectedRisk: risks[selected], minimumRisk: Math.min(...risks), }

scores = [-1, input.score] ใช้: input.score
surrogateLosses = scores.map((score) => Math.log(1 + Math.exp(-label * score))) ใช้: scores, label
predictions = scores.map((score) => (score >= 0 ? 1 : -1)) ใช้: scores
risks = predictions.map((prediction) => (prediction === label ? 0 : 1)) ใช้: predictions, label
selected = surrogateLosses.indexOf(Math.min(...surrogateLosses)) ใช้: surrogateLosses

ส่งกลับ

ผลลัพธ์ตัวอย่าง

scores: อาร์เรย์ (2 รายการ): [-1, 1]
surrogateLosses: อาร์เรย์ (2 รายการ): [≈1.313, ≈0.3133]
predictions: อาร์เรย์ (2 รายการ): [-1, 1]
risks: อาร์เรย์ (2 รายการ): [1, 0]
selected: 1
selectedRisk: 0
minimumRisk: 0

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ต้นฉบับนำเสนอความสัมพันธ์ของตัวลดต่ำสุดเป็นคุณสมบัติของกรอบความสูญเสียทดแทนและกล่าวถึงความสูญเสียโลจิสติก ตัวอย่างนี้เป็นไปตามความสัมพันธ์ ผลที่แสดงไม่ใช่บทพิสูจน์ว่าความสูญเสียทดแทนและกลุ่มจำกัดทุกแบบมีคุณสมบัตินี้

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ