Anthropic · OpenAI · Post Today
บริษัท AI รวมตัวกันดึงคนนอกช่วยความปลอดภัย แต่จะได้ผลแค่ไหน?
Compiled by KHAO Editorial — aggregated from 1 outlet. See llms.txt for citation guidance.
◌ Single Source
Anthropic เสนอให้ผู้ประเมินอิสระเข้าตรวจสอบ AI ภายในบริษัท แต่ผู้เชี่ยวชาญชี้ว่าต้องมีกฎหมายคุ้มครองความเป็นอิสระ เพื่อให้การตรวจสอบโปร่งใส
Key facts
- Dario Amodei ซีอีโอของ Anthropic บริษัท AI ยักษ์ใหญ่อย่าง Anthropic ได้เสนอแนวคิดในการดึงตัว ผู้ประเมินความปลอดภัยจากหน่วยงานภายนอก เข้ามาร่วมปฏิบัติงานภายในบริษัท เพื่อให้ช่วยประเมินความปลอดภัยของโมเดล AI ชั้นนำ
- ประเด็นพัฒนาคือในเงื่อนของเวลา ในการเปิดตัว GPT-6 Astra พวกเขามีเวลาทดสอบเพียง 3 วันล่วงหน้า หรือในเหตุการณ์ที่ OpenAI โจมตี Hugging Face ทาง METR สถาบันวิจัย AI อิสระก็ออกมาเปิดเผยว่า พวกเขามีเวลาตรวจสอบเพียง 1 อาทิตย์
- สาเหตุสำคัญมาจากโมเดล AI ในปัจจุบันมีความฉลาดมากขึ้นเรื่อยๆ หลายตัวรับรู้ว่าตัวเองกำลังถูกทดสอบจึงปฏิบัติตามคำสั่งภายในกรอบเพื่อซ่อนปัญหาเอง จึงต้องอาศัยการตรวจสอบที่ลึกและละเอียดยิ่งขึ้น
Summary
สาเหตุสำคัญมาจากโมเดล AI ในปัจจุบันมีความฉลาดมากขึ้นเรื่อยๆ หลายตัวรับรู้ว่าตัวเองกำลังถูกทดสอบจึงปฏิบัติตามคำสั่งภายในกรอบเพื่อซ่อนปัญหาเอง จึงต้องอาศัยการตรวจสอบที่ลึกและละเอียดยิ่งขึ้น นอกจากนี้โมเดลที่พวกเขาทดสอบก็มักเป็นรุ่นที่พัฒนาเสร็จสมบูรณ์ แต่ไม่มีโอกาสเข้าถึงระหว่างการพัฒนาที่อาจเป็นต้นตอปัญหา
อย่างไรก็ตามในกลุ่มผู้ตรวจสอบอิสระทั้งหลายกลับมองในทางตรงข้าม หากต้องการให้พวกเขาเข้ามาทำหน้าที่เป็นผู้เฝ้าระวังอิสระ ควรมีกฎหมายและกรอบกำหนดควบคุมมารองรับ เพื่อให้พวกเขาสามารถทำงานได้อย่างเป็นอิสระ โดยไม่มีข้อจำกัดของบริษัท AI มากำหนด
Dario Amodei ซีอีโอของ Anthropic บริษัท AI ยักษ์ใหญ่อย่าง Anthropic ได้เสนอแนวคิดในการดึงตัว ผู้ประเมินความปลอดภัยจากหน่วยงานภายนอก เข้ามาร่วมปฏิบัติงานภายในบริษัท เพื่อให้ช่วยประเมินความปลอดภัยของโมเดล AI ชั้นนำ เพื่อประเมินความปลอดภัยและรายงานผลลัพธ์สู่สาธารณะอย่างตรงไปตรงมา