คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

มิติ VC บนข้อมูลเข้าสองค่า

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

ขอบเขตการทำงานกับข้อมูลใหม่ · เชื่อมพฤติกรรมบนตัวอย่างกับความเสี่ยงประชากรภายใต้สมมติฐาน

โครงการมีข้อมูลและพารามิเตอร์จำนวนจำกัด ชุดทดสอบไม่ยืนยันขอบเขตประชากรหรือพิสูจน์ทฤษฎีบท

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

บทบาท: เข้าใจขอบเขต / ขอบเขตการทำงานกับข้อมูลใหม่

ข้อมูลเข้าหรือสมมติฐาน: ชั้นฟังก์ชัน สมมติฐานการสุ่ม และพารามิเตอร์ขอบเขต
ผลลัพธ์หรือข้อสรุป: การเปรียบเทียบหรือขอบเขตความเสี่ยง

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

กลุ่มที่เกี่ยวข้อง

อธิบาย: ความเสี่ยงและการประเมิน
อธิบาย: ฟังก์ชันเป้าหมาย

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง

กลุ่มแยกข้อมูลเข้า m จุดได้ครบเมื่อสร้างการกำหนดป้ายทวิภาคทั้ง 2ᵐ แบบ

ตัวอย่างนี้ทำให้คำนวณข้อความในต้นฉบับบนแบบจำลองจำกัดได้

ตัวอย่างสูตรต้นฉบับ

\operatorname{VCdim}({\mathcal{F}})\coloneqq\sup\big\{m\in{\mathbb{N}}\cup\{0\}\colon\operatorname{growth}(m,{\mathcal{F}})=2^{m}\big\},

ภาพประกอบ · ผลนี้ใช้กับกลุ่มจำกัดที่เลือก ไม่ใช่ทุกกลุ่มเครือข่ายประสาท

สัญลักษณ์

$VCdim(F)$: ขนาดเซตที่แยกได้ครบใหญ่ที่สุด หรือซูพรีมัมหากไม่มีขอบเขต
$growth(m,F)$: จำนวนรูปแบบทวิภาคสูงสุดที่สร้างได้บนข้อมูลเข้า m จุด
$m$: ขนาดเซตจำนวนเต็มไม่เป็นลบ

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

ค่าเริ่มต้นในโค้ด

classPatterns = [ [1, 1], [1, -1], [-1, 1], [-1, -1], ]

คำนวณที่นี่

นิพจน์ผลลัพธ์: { growth1, growth2, vcDimension: 2 }

growth1 = new Set(classPatterns.map((p) => p[0])).size ใช้: classPatterns
growth2 = new Set(classPatterns.map((p) => p.join(","))).size ใช้: classPatterns

ส่งกลับ

ผลลัพธ์ตัวอย่าง

growth1: 2
growth2: 4
vcDimension: 2

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

โดเมนสมมติมีข้อมูลเข้าสองค่าเท่านั้นและกลุ่มมีการกำหนดป้ายครบทั้งสี่แบบ จึงแยกทั้งสองจุดได้ครบ โดเมนไม่มีข้อมูลเข้าต่างกันสามค่า นี่พิสูจน์ว่ามิติ VC เป็น 2

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ