OpenAI · MGR Online
อดีตผู้นำทีมความปลอดภัยจวกแรง “วัฒนธรรม OpenAI อันตราย!” เตือนหมดยุคลองถูกลองผิด
Compiled by KHAO Editorial — aggregated from 2 outlets. See llms.txt for citation guidance.
2 แหล่งข่าว
อดีตผู้นำทีมระบบความปลอดภัยของ OpenAI สับวัฒนธรรมการทำงานที่เน้นการพัฒนาอย่างรวดเร็ว รวมทั้งการมองโลกแง่ดีชนิดไม่มีอะไรหยุดยั้งได้ เพิ่มความเสี่ยงเกิดความล้มเหลว และสร้างสภาพแวดล้อมอันตรายสำหรับเทคโนโลยี AI บิสเนส อินไซเดอร์รายงานเมื่อวันศุกร์ (2 ต.ค
Key facts
- บิสเนส อินไซเดอร์รายงานเมื่อวันศุกร์ (2 ต.ค.) ว่า เดวิด โรบินสัน หนึ่งในผู้นำทีมระบบความปลอดภัยของ OpenAI ยื่นใบลาออกเมื่อสัปดาห์ที่แล้ว และวันต่อมา (3 ต.ค.) ดิ แอตแลนติก ได้เผยแพร่บทความของโรบินสันที่ชื่อ “I Quit OpenAI Because Its
- แซม อัลต์แมน ซีอีโอ OpenAI กล่าวในงานประชุมนักพัฒนาประจำปีเมื่อวันอังคาร (29 ก.ย.) ว่า ความปลอดภัยและการทำให้ AI สอดคล้องกับเป้าหมายของมนุษย์ (Alignment) จำเป็นต้องพัฒนาให้ก้าวล้ำนำหน้าขีดความสามารถของโมเดลเสมอ
- การลาออกของโรบินสันเกิดขึ้นขณะที่ผู้คนกำลังจับตาแนวทางด้านความปลอดภัยและบุคลากรของ OpenAI โดยเมื่อวันพฤหัสฯ (1 ต.ค.) บริษัท AI ชั้นนำแห่งนี้เผยว่า ได้ “แยกทาง”
- โรบินสันที่เคยทำงานกับ OpenAI มา 3 ปีครึ่ง และมีส่วนช่วยร่างกรอบการเตรียมความพร้อมรับมือความเสี่ยงและภัยคุกคามจาก AI รวมทั้งเคยกำกับดูแลรายงานด้านความปลอดภัยสำหรับการเปิดตัวโมเดลระดับแถวหน้า 12 ครั้ง ยังบอกอีกว่า OpenAI พึ่งพาแนวทาง
- โรบินสันบอกว่า เขาเห็นด้วยกับพนักงานคนอื่น ๆ ที่เพิ่งลาออกไปว่า บรรดาบริษัทที่กำลังพัฒนา AI ไม่ได้ระวังมากพอ และชี้ว่า การเร่งเปิดตัวผลิตภัณฑ์ไม่หยุดหย่อน ทำให้ OpenAI ล้มเหลวในการใช้ความรอบคอบในระดับที่เขาเชื่อว่า มีความจำเป็น
- โรบินสันอธิบายว่า ปัญหามาจากวัฒนธรรมองค์กรที่มีความเชื่อมั่นขั้นสุด และแนวทางการรักษาความปลอดภัยที่เกิดขึ้นจากวัฒนธรรมแบบนี้มักเริ่มต้นด้วยการมองโลกแง่ดีชนิดไม่มีอะไรหยุดยั้งว่า จะสามารถแก้ไขได้เสมอเมื่อปัญหาเกิดขึ้น
Summary
อดีตผู้นำทีมระบบความปลอดภัยของ OpenAI สับวัฒนธรรมการทำงานที่เน้นการพัฒนาอย่างรวดเร็ว รวมทั้งการมองโลกแง่ดีชนิดไม่มีอะไรหยุดยั้งได้ เพิ่มความเสี่ยงเกิดความล้มเหลว และสร้างสภาพแวดล้อมอันตรายสำหรับเทคโนโลยี AI บิสเนส อินไซเดอร์รายงานเมื่อวันศุกร์ (2 ต.ค.) ว่า เดวิด โรบินสัน หนึ่งในผู้นำทีมระบบความปลอดภัยของ OpenAI ยื่นใบลาออกเมื่อสัปดาห์ที่แล้ว และวันต่อมา (3 ต.ค.) ดิ แอตแลนติก ได้เผยแพร่บทความของโรบินสันที่ชื่อ “I Quit OpenAI Because Its Culture Is Broken”