คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึก

อินทิกรัลเอนโทรปี

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

ขอบเขตการทำงานกับข้อมูลใหม่ · เชื่อมพฤติกรรมบนตัวอย่างกับความเสี่ยงประชากรภายใต้สมมติฐาน

โครงการมีข้อมูลและพารามิเตอร์จำนวนจำกัด ชุดทดสอบไม่ยืนยันขอบเขตประชากรหรือพิสูจน์ทฤษฎีบท

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

บทบาท: เข้าใจขอบเขต / ขอบเขตการทำงานกับข้อมูลใหม่

ข้อมูลเข้าหรือสมมติฐาน: ชั้นฟังก์ชัน สมมติฐานการสุ่ม และพารามิเตอร์ขอบเขต
ผลลัพธ์หรือข้อสรุป: การเปรียบเทียบหรือขอบเขตความเสี่ยง

บริบทของกลุ่ม ตัวอย่างโค้ดด้านล่างมีข้อมูลเข้าและผลลัพธ์ของตัวเอง

กลุ่มที่เกี่ยวข้อง

อธิบาย: ความเสี่ยงและการประเมิน
อธิบาย: ฟังก์ชันเป้าหมาย

ดูแผนที่แนวคิด

ใช้ในส่วนต้นฉบับเหล่านี้: 1.2 เรียนรู้จากตัวอย่าง

ต้นฉบับเชื่อมความซับซ้อนราเดมาเคอร์กับอินทิกรัลของลอการิทึมจำนวนครอบคลุมเหนือรัศมี α

สำหรับฟังก์ชันคงที่ 0, 1/2 และ 1 จำนวนครอบคลุมด้วยลูกบอลเปิดเป็น 3 เมื่อ 0 < α ≤ 1/2 และ 1 เมื่อ α > 1/2

จำนวนครอบคลุมสรุปความซับซ้อนของกลุ่มฟังก์ชันในหลายมาตราส่วน

ตัวอย่างสูตรต้นฉบับ

{\mathfrak{R}}_{m}({\mathcal{G}})\lesssim{\mathbbm{E}}\Big[\int_{0}^{\infty}\sqrt{\frac{\log N_{\alpha}({\mathcal{G}},d_{S})}{m}}\,\mathrm{d}\alpha\Big],

ภาพประกอบ · นี่เป็นกลุ่มจำกัดที่อินทิเกรตด้วยการวิเคราะห์ ไม่ใช่บทพิสูจน์ สัญลักษณ์ ≲ ซ่อนค่าคงที่ จึงใช้อินทิกรัลที่แสดงเพียงอย่างเดียวเป็นขอบเขตบนตัวเลขที่มีค่าคงที่ 1 ไม่ได้

สัญลักษณ์

$N_α$: จำนวนลูกบอลเปิดตามระยะตัวอย่างที่ต้องใช้ครอบคลุมกลุ่ม
$m$: จำนวนจุดตัวอย่าง

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

รัศมี α

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

input.radius = 0.25

ค่าเริ่มต้นในโค้ด

m = 2
signs = [ [-1, -1], [-1, 1], [1, -1], [1, 1], ]

คำนวณที่นี่

นิพจน์ผลลัพธ์: { coveringNumber, integral, complexity }

coveringNumber = input.radius <= 0.5 ? 3 : 1 ใช้: input.radius
integral = 0.5 * Math.sqrt(Math.log(3) / m) ใช้: m
complexity = signs.reduce((sum, pair) => sum + Math.abs((pair[0] + pair[1]) / 2), 0) / signs.length ใช้: signs

ส่งกลับ

ผลลัพธ์ตัวอย่าง

coveringNumber: 3
integral: ≈0.3706
complexity: 0.5

JavaScript

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

ระยะตัวอย่างระหว่างฟังก์ชันคงที่เหล่านี้คือค่าสัมบูรณ์ของผลต่าง จึงมีจำนวนครอบคลุมไม่ขึ้นกับตัวอย่าง ค่าคาดหมายต้นฉบับจึงเป็นอินทิกรัลคงที่นี้สำหรับตัวอย่าง ที่ขอบเขต α=1/2 ลูกบอลเปิด การเปลี่ยนปลายจุดเดียวไม่เปลี่ยนอินทิกรัล ความซับซ้อนเครื่องหมายสุ่มคำนวณโดยแจกแจงคู่เครื่องหมายทั้งสี่ที่มีโอกาสเท่ากัน

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ