คณิตศาสตร์สมัยใหม่ของการเรียนรู้เชิงลึกอธิบายสำหรับผู้ที่ไม่ใช่นักคณิตศาสตร์

ฟังก์ชันเต็นท์ ReLU

โครงการเรียนรู้เพนกวิน

โครงการใช้ข้อมูลเพนกวิน Palmer ที่สมบูรณ์ 342 แถว: ชุดฝึก 240 และชุดทดสอบ 102 แถว แถวฝึกที่เลือกกำหนดการปรับสเกลและพารามิเตอร์ CSV ต้นฉบับ

โครงการนี้ฝึกน้ำหนักด้วย softmax ต่างจากแล็บในหน้าแรกที่ใช้ค่าเฉลี่ยของสายพันธุ์ที่ใกล้ที่สุด ข้อมูลวัดเพนกวินชุดเดียวกัน แต่วิธีจำแนกต่างกัน คำทำนายอาจต่างกันได้

ฟังก์ชันและอนุพันธ์ · อธิบายการจับคู่และการเปลี่ยนแปลงของผลลัพธ์

เวกเตอร์โครงการมีสองคุณลักษณะ เมทริกซ์ฝึกมี n แถวและสองคอลัมน์ ใช้เครื่องมือเมื่อสมมติฐานตรงกัน

พิจารณาแนวคิดนี้ร่วมกับโครงการ สมมติฐานของต้นฉบับอาจต่างกัน ข้อมูลชุดนี้ไม่พิสูจน์ทฤษฎีบท

ข้อมูลเข้า: 12 × 2; ประเมินชุดทดสอบ: 102 · #58 · 40.6 มม., 193 มม.. คำตอบที่ทราบ: อาเดลี; ค่าทำนาย: อาเดลี · [≈0.7383, ≈0.2444, ≈0.01737].

ใช้ในส่วนต้นฉบับเหล่านี้: 3.2 ส่วนตรงง่าย ๆ กับหลายชั้น

ครึ่งซ้ายมีค่า 2x ครึ่งขวามีค่า 2(1−x) ทั้งคู่ให้ 1 เมื่อ x = 1/2

ต้นฉบับประกอบฟังก์ชันนี้เมื่อศึกษาการประมาณด้วย ReLU ลึก

ตัวอย่างสูตรต้นฉบับ

h ⁣:[0,1]→[0,1],x↦2ϱR(x)−4ϱR(x−12)={2x,ถ้า 0≤x<12,2(1−x),ถ้า 12≤x≤1,\begin{split}h\colon[0,1]&\to[0,1],\\ x&\mapsto 2{\varrho_{R}}(x)-4{\varrho_{R}}(x-\tfrac{1}{2})=\begin{cases}2x,&\text{ถ้า }0\leq x<\tfrac{1}{2},\\ 2(1-x),&\text{ถ้า }\tfrac{1}{2}\leq x\leq 1,\end{cases}\end{split}

ตรงตามนิยาม · ผลลัพธ์ตรงตามการคำนวณสำหรับข้อมูลเข้าสมมติจำนวนจำกัดนี้ ยกเว้นการปัดเศษตามปกติของคอมพิวเตอร์

สัญลักษณ์

xx
จำนวนจริงในช่วงปิดหนึ่งหน่วย

ตัวอย่างสูตรต้นฉบับ

ตัวอย่างต้นฉบับนี้ใช้ข้อมูลเข้าและสมมติฐานของตัวเอง การแก้ไขไม่เปลี่ยนโครงการ

แก้ค่าหรือโค้ด แล้วกดรัน ตัวอย่างนี้เป็นการคำนวณจำนวนจำกัด ไม่ใช่การพิสูจน์ทฤษฎีบท

ลำดับข้อมูลในตัวอย่างนี้

คุณเลือก

  • input.x = 0.75

คำนวณที่นี่

นิพจน์ผลลัพธ์: { value: 2 * relu(input.x) - 4 * relu(input.x - 0.5) }

ส่งกลับ

ผลลัพธ์ตัวอย่าง
value
0.5

อ่านตัวเลขจาก input แล้วคืนค่าผลลัพธ์ พื้นฐาน JavaScript.

ผลลัพธ์

เปิด JavaScript เพื่อรันตัวอย่างนี้

ข้อความทางเทคนิค

เปลี่ยนข้อมูลเข้าแล้วเรียกใช้โค้ดเดิมอีกครั้ง ผลลัพธ์ที่แสดงใช้ค่าข้างต้น

แหล่งอ้างอิง: นิพจน์จากแหล่งต้นฉบับ