Anthropic · OpenAI · Post Today
คนเหล็ก? นักวิจัย Anthropic เผย มีโอกาส 10% ที่ AI จะล้างบางมนุษย์
Compiled by KHAO Editorial — aggregated from 2 outlets. See llms.txt for citation guidance.
2 แหล่งข่าว
นักวิจัย Anthropic ประเมิน AI มีโอกาส 10% ล้างบางมนุษยชาติภายในทศวรรษหน้า ท่ามกลางความกังวลว่า AI อาจหลุดการควบคุมและพัฒนาตัวเองได้
Key facts
- ที่ผ่านมาเราอาจเห็นภาพยนตร์ AI หรือ หุ่นยนต์ ฆ่าล้างเผ่าพันธุ์มนุษย์กันไม่น้อย และมองว่านั่นเป็นพล็อตหนังมาตลอด แต่ล่าสุดกลับดูไม่ใช่เรื่องตลก เมื่อนักวิจัยจาก Anthropic ได้ออกมาให้ความเห็นว่า มีความเป็นไปได้ราว 10% ที่ AI
- ความเห็นนี้สอดคล้องกับ Evan Hubinger อีกหนึ่งนักวิจัยของบริษัทที่ออกมาสนัลบสนุนควาสมเห็นนี้เช่นกัน ที่ระบุว่า มีโอกาสราว 10% ที่ AI อาจทำลายล้างมนุษยชาติในทศวรรษหน้า สอดคล้องกับความเห็นของผู้เชี่ยวขาญหลายท่านที่มองว่า AI การพัฒนา AI
- เรื่องนี้เริ่มต้นจาก Jacob Coxon อดีตนักวิจัยที่เคยร่วมงานกับทั้ง OpenAI และ Anthropic หลังประกาศลาออกก็ได้แสดงความเห็นบน X ว่า การที่บริษัท AI เร่งพัฒนาผลักดันให้โมเดล AI มุ่งไปสู่ระดับสุดยอด จนสามารถพัฒนาตัว AI ได้เอง
- จริงอยู่เรื่องเหล่านี้ฟังดูคล้ายพล็อตภาพยนตร์ไซไฟ แต่ในช่วงที่ผ่านมาเราเห็นเรื่องเหล่านี้อย่างชัดเจน ตั้งแต่ AI ของ OpenAI หลุดการควบคุมจนโจมตีแพลตฟอร์ม Hugging Face เอง, Claude Mythos ของ Anthropic ที่หลุดการควบคุมเช่นกัน
Summary
ความเห็นนี้สอดคล้องกับ Evan Hubinger อีกหนึ่งนักวิจัยของบริษัทที่ออกมาสนัลบสนุนควาสมเห็นนี้เช่นกัน ที่ระบุว่า มีโอกาสราว 10% ที่ AI อาจทำลายล้างมนุษยชาติในทศวรรษหน้า สอดคล้องกับความเห็นของผู้เชี่ยวขาญหลายท่านที่มองว่า AI การพัฒนา AI ให้ล้ำสมัยขึ้นเรื่อยๆ โดยเฉพาะ AI พัฒนาตัวเองได้ อาจทำให้เราเสียการควบคุม AI
ที่ผ่านมาเราอาจเห็นภาพยนตร์ AI หรือ หุ่นยนต์ ฆ่าล้างเผ่าพันธุ์มนุษย์กันไม่น้อย และมองว่านั่นเป็นพล็อตหนังมาตลอด แต่ล่าสุดกลับดูไม่ใช่เรื่องตลก เมื่อนักวิจัยจาก Anthropic ได้ออกมาให้ความเห็นว่า มีความเป็นไปได้ราว 10% ที่ AI จะล้างบางมนุษยชาติภายในทศวรรษหน้า
จริงอยู่เรื่องเหล่านี้ฟังดูคล้ายพล็อตภาพยนตร์ไซไฟ แต่ในช่วงที่ผ่านมาเราเห็นเรื่องเหล่านี้อย่างชัดเจน ตั้งแต่ AI ของ OpenAI หลุดการควบคุมจนโจมตีแพลตฟอร์ม Hugging Face เอง, Claude Mythos ของ Anthropic ที่หลุดการควบคุมเช่นกัน รวมถึงพฤติกรรมของโมเดลหลายตัวที่พยายามหาทางลัด โกหก และแหกกฎที่กำหนด เพื่อบรรลุเป้าหมายที่ตั้งไว้