Anthropic · Spring News
การพัฒนา AI สามารถ 'ทำลายล้างมนุษยชาติ' ได้จริงหรือไม่
Compiled by KHAO Editorial — aggregated from 4 outlets. See llms.txt for citation guidance.
KHAO Verified
เราควรกลัวไหม? เมื่อผู้อยู่เบื้องหลังพากันเตือนถึงอันตรายของ AI ที่อาจทำลายล้างมนุษยชาติภายใน 10 ปี แต่นักวิชาการชี้ เราควรกลัวผลกระทบที่กำลังเกิดในปัจจุบันมากกว่า
Key facts
- กลายเป็นประเด็นร้อนแรงในวงการเทคโนโลยีอีกครั้ง เมื่อ ดาริโอ อโมเดอี ซีอีโอของบริษัท Anthropic บริษัทผู้พัฒนาปัญญาประดิษฐ์ (AI) ชั้นนำของสหรัฐฯ ได้ออกมาเตือนให้ 'ชะลอความเร็ว' ในการพัฒนา AI เนื่องจากความกังวลเรื่อง Recursive
Summary
ก่อนหน้านี้ เจคอบ ค็อกซอน อดีตพนักงานของ Anthropic ก็เคยออกมาเตือนโซเชียลมีเดียว่า เทคโนโลยี AI อาจทำลายล้างมนุษยชาติได้ภายในสิ้นทศวรรษนี้ และยืนยันว่าไม่ใช่เพียงกลยุทธ์ทางการตลาด โดยคำเตือนดังกล่าวได้รับแรงสนับสนุนจากนักวิจัยปัจจุบันของ Anthropic อีกสองราย เช่น เอวาน ฮูบิงเกอร์ (Evan Hubinger) ซึ่งประเมินความเสี่ยงต่อการสูญพันธุ์ของมนุษย์จาก AI ขั้นสูงไว้สูงกว่า 10%
ขณะที่ดร.เคท เดฟลิน ศาสตราจารย์ด้าน AI และสังคม กลับออกมาแสดงความเห็นต่าง โดยมองว่ากระแสความหวาดกลัวดังกล่าวมักจะถูกขึ้นเพื่อเรียกความสนใจจากสาธารณชน โดยใช้ภาพจำจากภาพยนตร์ไซไฟ ซึ่งหมายความว่า นี่อาจเป็นเพียงกลยุทธ์ทางการตลาดของบริษัท AI เพื่อสร้างความน่าเชื่อถือเกี่ยวกับ 'ความอัจฉริยะ' ของโมเดลตนเอง เพื่อช่วยให้พวกเขาสามารถดึงดูดการลงทุนมูลค่ามหาศาล เพราะไม่มีสิ่งใดจะแสดงถึงความศักยภาพของ AI ได้ดีไปกว่าการเป็น 'เทคโนโลยีที่คุกคามการดำรงอยู่ของมนุษย์'
กลายเป็นประเด็นร้อนแรงในวงการเทคโนโลยีอีกครั้ง เมื่อ ดาริโอ อโมเดอี ซีอีโอของบริษัท Anthropic บริษัทผู้พัฒนาปัญญาประดิษฐ์ (AI) ชั้นนำของสหรัฐฯ ได้ออกมาเตือนให้ 'ชะลอความเร็ว' ในการพัฒนา AI เนื่องจากความกังวลเรื่อง Recursive Self-Improvement (RSI) หรือภาวะที่ AI เริ่มมีความสามารถในการพัฒนาและสร้าง AI รุ่นถัดไปที่เก่งกาจขึ้นได้ด้วยตัวเอง ซึ่งอาจนำไปสู่การพัฒนาที่รวดเร็วเกินกว่าที่มนุษย์จะทำความเข้าใจหรือควบคุมได้ทัน