คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

ค่าของแผนภาพโครงข่าย

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

ชั้นแบบจำลองและโครงสร้าง · อธิบายกลุ่มของกฎ ขนาด และสมบัติเชิงโครงสร้าง

โครงการมีข้อมูลและพารามิเตอร์จำนวนจำกัด ชุดทดสอบไม่ยืนยันขอบเขตประชากรหรือพิสูจน์ทฤษฎีบท

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง

แผนภาพมีข้อมูลป้อนเข้าสามตัว ชั้นซ่อนที่มีสี่และหกหน่วย และผลลัพธ์หนึ่งตัว ค่าก่อนกระตุ้นแต่ละค่าเป็นผลรวมถ่วงน้ำหนักบวกไบแอส และค่ากระตุ้นในชั้นซ่อนแต่ละค่าใช้ ϱ

การติดตามแต่ละชั้นอธิบายป้ายกำกับในแผนภาพ

ตัวอย่างสูตรต้นฉบับ

x_{1}

ตัวอย่างประกอบ · ภาพระบุความกว้างของชั้น ส่วนน้ำหนัก ไบแอสศูนย์ ข้อมูลป้อนเข้า และฟังก์ชันกระตุ้นเรลูเหล่านี้เป็นตัวอย่างที่สร้างขึ้น

สัญลักษณ์

$a$: สถาปัตยกรรมที่มีความกว้าง (3,4,6,1) และฟังก์ชันกระตุ้น ϱ
$xᵢ$: พิกัดข้อมูลป้อนเข้าลำดับที่ i
$W⁽ℓ⁾, b⁽ℓ⁾$: น้ำหนักและไบแอสที่ชั้น ℓ
$Φ⁽ℓ⁾ᵢ$: ค่าก่อนกระตุ้นลำดับที่ i ในชั้น ℓ
$Φ̄⁽ℓ⁾ᵢ$: ค่ากระตุ้นในชั้นซ่อนที่ตรงกัน
$Φₐ$: ผลลัพธ์ของโครงข่าย
$ϱ$: ฟังก์ชันกระตุ้น

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

ค่าเริ่มต้นในโค้ด

x = [1, 2, 3]
W1 = [ [1, 0, 0], [0, 1, 0], [0, 0, 1], [1, 1, 1], ]
W2 = [ [1, 0, 0, 0], [0, 1, 0, 0], [0, 0, 1, 0], [0, 0, 0, 1], [1, 1, 0, 0], [0, 1, 1, 0], ]
W3 = [[1, 1, 1, 1, 1, 1]]

คำนวณที่นี่

นิพจน์ผลลัพธ์: { x, pre1, hidden1, pre2, hidden2, output }

pre1 = apply(W1, x) ใช้: apply, W1, x
hidden1 = pre1.map((v) => Math.max(0, v)) ใช้: pre1
pre2 = apply(W2, hidden1) ใช้: apply, W2, hidden1
hidden2 = pre2.map((v) => Math.max(0, v)) ใช้: pre2
output = apply(W3, hidden2) ใช้: apply, W3, hidden2

ส่งกลับ

ผลลัพธ์ตัวอย่าง

x: อาร์เรย์ (3 รายการ): [1, 2, 3]
pre1: อาร์เรย์ (4 รายการ): [1, 2, 3, 6]
hidden1: อาร์เรย์ (4 รายการ): [1, 2, 3, 6]
pre2: อาร์เรย์ (6 รายการ): [1, 2, 3, 6, …]
hidden2: อาร์เรย์ (6 รายการ): [1, 2, 3, 6, …]
output: อาร์เรย์ (1 รายการ): [20]

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ค่าตัวเลขสร้างขึ้น ภาพระบุความกว้างของชั้น ส่วนน้ำหนัก ไบแอสศูนย์ ข้อมูลป้อนเข้า และฟังก์ชันกระตุ้นเรลูเหล่านี้เป็นตัวอย่างที่สร้างขึ้น

แหล่งอ้างอิง: สัญกรณ์ในข้อความ