คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึกอธิบายสำหรับผู้ที่ไม่ใช่นักคณิตศาสตร์

แนวคิด / พื้นฐานการเรียนรู้

เมทริกซ์ใกล้เมทริกซ์เอกลักษณ์

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

เวกเตอร์และเมทริกซ์ · รวมตัวเลขด้วยการดำเนินการเวกเตอร์และเมทริกซ์

เวกเตอร์โครงการมีสองคุณลักษณะ เมทริกซ์ฝึกมี n แถวและสองคอลัมน์ ใช้เครื่องมือเมื่อสมมติฐานตรงกัน

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง

เปรียบเทียบนอร์มตัวดำเนินการกับจำนวนคอลัมน์คูณค่าสัมบูรณ์สูงสุดของสมาชิก

ตัวอย่างนี้ทำให้คำนวณข้อความในต้นฉบับบนแบบจำลองจำกัดได้

ตัวอย่างสูตรต้นฉบับ

∥W~(2)A~−Im∥op≤mmax⁡i,j∈[m]∣(W~(2)A~−Im)i,j∣=mmax⁡j∈[m]∥Φa~(x(j),θ~)−g(x(j))∥∞<1,\|\widetilde{W}^{(2)}\widetilde{A}-\mathrm{I}_{m}\|_{\mathrm{op}}\leq m\max_{i,j\in[m]}\big|(\widetilde{W}^{(2)}\widetilde{A}-\mathrm{I}_{m})_{i,j}\big|=m\max_{j\in[m]}\|\Phi_{\tilde{a}}(x^{(j)},\tilde{\theta})-g(x^{(j)})\|_{\infty}<1,

ภาพประกอบ · ตรวจสอบสายอสมการทั้งหมดสำหรับตัวอย่างแนวทแยง ไม่ได้สร้างเครือข่ายประมาณในต้นฉบับ

สัญลักษณ์

W~(2)W̃⁽²⁾
เมทริกซ์น้ำหนักผลลัพธ์ที่เลือก
A~Ã
เมทริกซ์การกระตุ้นชั้นซ่อน
ImIₘ
เมทริกซ์เอกลักษณ์ m คูณ m
∥⋅∥op\Vert ·\Vert op
นอร์มตัวดำเนินการยุคลิด
∥⋅∥∞\Vert ·\Vert ∞
ค่าสัมบูรณ์สูงสุดของสมาชิกเวกเตอร์
mm
จำนวนจุดฝึก

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

  • input.epsilon = 0.1

คำนวณที่นี่

นิพจน์ผลลัพธ์: { residual, operatorNorm, maxEntry, maxColumnInfinityNorm, bound: 2 * maxEntry, belowOne: 2 * maxEntry < 1, }

  • epsilon = input.epsilon ใช้: input.epsilon
  • residual = [ [epsilon, 0], [0, -epsilon], ] ใช้: epsilon
  • operatorNorm = Math.abs(epsilon) ใช้: epsilon
  • maxEntry = Math.abs(epsilon) ใช้: epsilon
  • maxColumnInfinityNorm = Math.abs(epsilon) ใช้: epsilon

ส่งกลับ

ผลลัพธ์ตัวอย่าง
residual
อาร์เรย์ (2 รายการ): [อาร์เรย์ (2 รายการ): [0.1, 0], อาร์เรย์ (2 รายการ): [0, -0.1]]
operatorNorm
0.1
maxEntry
0.1
maxColumnInfinityNorm
0.1
bound
0.2
belowOne
จริง

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ให้ m=2, W̃⁽²⁾=I และ Ã=diag(1+ε,1−ε) คอลัมน์เป้าหมายเป็นคอลัมน์เอกลักษณ์ เศษเหลือแนวทแยงมีนอร์มตัวดำเนินการ |ε| และความผิดพลาดคอลัมน์สูงสุดเท่ากับค่าสัมบูรณ์สูงสุดของสมาชิก

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ