คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึกอธิบายสำหรับผู้ที่ไม่ใช่นักคณิตศาสตร์

แนวคิด / ความลึกและความสามารถในการแสดงฟังก์ชัน

วิถีเครือข่ายสองมิติ

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

กฎทำนายและชั้นของเครือข่าย · อธิบายหรือใช้กฎทำนาย ชั้น และพารามิเตอร์

โครงการใช้กฎเชิงเส้นกับสองคุณลักษณะ น้ำหนักที่ฝึกให้คะแนนหรือมวลที่ปรับสเกล

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

ใช้ในส่วนต้นฉบับเหล่านี้: 3.3 วิธีอื่นในการวัดความสามารถในการแทนฟังก์ชัน

รูปต้นฉบับส่งวงกลมสองมิติผ่านเครือข่าย ReLU และแสดงเส้นโค้งผลลัพธ์

ตัวอย่างใช้หน่วยซ่อนสองหน่วย น้ำหนักเอกลักษณ์ ไบแอสศูนย์ และชั้นซ่อนหนึ่งชั้น

การติดตามเส้นโค้งข้อมูลเข้าทั้งเส้นเผยว่าเครือข่ายเปลี่ยนรูปร่างอย่างไร

ตัวอย่างสูตรต้นฉบับ

t↦Φ((2,n,…,n,2),ϱR)(γ(t),θ)t\mapsto\Phi_{((2,n,\ldots,n,2),\varrho_R)}(\gamma(t),\theta)

ภาพประกอบ · คำนวณหนึ่งจุดบนเส้นโค้งของเครือข่ายสมมติ รูปต้นฉบับใช้เครือข่ายเริ่มต้นสุ่มที่ความลึกต่างกัน ตัวอย่างไม่ได้ทำซ้ำการทดลองนั้น

สัญลักษณ์

γγ
เส้นโค้งข้อมูลเข้า γ(t)=(cos 2πt,sin 2πt)
nn
ความกว้างชั้นซ่อน ตัวอย่างใช้ n=2

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

  • input.t = 0

คำนวณที่นี่

นิพจน์ผลลัพธ์: { point, hidden, output }

  • t = input.t ใช้: input.t
  • angle = 2 * Math.PI * t ใช้: t
  • point = [Math.cos(angle), Math.sin(angle)] ใช้: angle
  • hidden = point.map((value) => Math.max(0, value)) ใช้: point
  • output = [...hidden] ใช้: hidden

ส่งกลับ

ผลลัพธ์ตัวอย่าง
point
อาร์เรย์ (2 รายการ): [1, 0]
hidden
อาร์เรย์ (2 รายการ): [1, 0]
output
อาร์เรย์ (2 รายการ): [1, 0]

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

รูปต้นฉบับศึกษาวงกลมสองมิติและเครือข่ายกว้าง 20 ที่ความลึกหลายค่า ตัวอย่างเลือกความกว้าง 2 และน้ำหนักเอกลักษณ์เพื่อคำนวณผลของชั้นเดียวได้โดยตรง

แหล่งอ้างอิง: รูปวิถีเครือข่าย