Anthropic · OpenAI · Claude · Siam Blockchain
วิศวกร Ripple เตือน AI มีโอกาสเกิน 10% ที่จะทำลายล้างมนุษยชาติในอีกสิบปีข้างหน้า
Compiled by KHAO Editorial — aggregated from 2 outlets. See llms.txt for citation guidance.
2 แหล่งข่าว
Evan Hubinger อดีตวิศวกรของ Ripple ซึ่งปัจจุบันทำงานเป็นนักวิจัยด้านความปลอดภัยที่ Anthropic ออกมาเตือนว่ามีโอกาสมากกว่า 10% ที่เทคโนโลยี AI จะกำจัดมนุษยชาติให้สูญพันธุ์ได้ภายในระยะเวลาอีกสิบปีข้างหน้า
Key facts
- Evan Hubinger อดีตวิศวกรของ Ripple ซึ่งปัจจุบันทำงานเป็นนักวิจัยด้านความปลอดภัยที่ Anthropic ออกมาเตือนว่ามีโอกาสมากกว่า 10% ที่เทคโนโลยี AI จะกำจัดมนุษยชาติให้สูญพันธุ์ได้ภายในระยะเวลาอีกสิบปีข้างหน้า
- คำเตือนนี้เกิดขึ้นหลังจากที่ Jacob Coxon อดีตเพื่อนร่วมงานได้ประกาศลาออกจาก Anthropic พร้อมโจมตีบริษัทยักษ์ใหญ่ทั้ง OpenAI และ Anthropic ว่ากำลังเร่งรีบพัฒนา AI ขั้นสูงจนไม่คำนึงถึงความปลอดภัยและกำลังเอาชีวิตของคนทั้งโลกมาเป็นเดิมพัน
- ในขณะที่นักวิจัยออกมาเตือนถึงภัยคุกคามครั้งใหญ่ ทางฝั่ง Brad Garlinghouse ผู้ดำรงตำแหน่ง CEO ของ Ripple กลับมีมุมมองที่ต่างออกไปโดยยังคงเดินหน้านำเทคโนโลยี AI เข้ามาปรับใช้ในองค์กรอย่างจริงจังเพื่อผลักดันการเติบโตของบริษัท
Summary
เนื่องจากประเด็นดังกล่าวเป็นข้อถกเถียงเชิงจริยธรรมและความปลอดภัยของการพัฒนา AI ในภาพกว้าง ซึ่งแม้จะเกี่ยวข้องกับอดีตทีมงานและผู้บริหารของ Ripple แต่ก็ไม่ได้ส่งผลกระทบต่อพื้นฐานหรือการใช้งานเหรียญ XRP และสภาพคล่องในตลาดคริปโตโดยตรง
กระแสความกังวลเกี่ยวกับภัยคุกคามจากเทคโนโลยี AI กลับมาเป็นประเด็นร้อนอีกครั้ง เมื่อ Evan Hubinger อดีตวิศวกรซอฟต์แวร์ของ Ripple ซึ่งปัจจุบันผันตัวมาเป็นนักวิจัยด้านความปลอดภัยอยู่ที่ Anthropic ได้ออกมาโพสต์ผ่านแพลตฟอร์ม X ว่าเขามองเห็นความเป็นไปได้มากกว่า 10% ที่ AI จะสามารถทำลายล้างเผ่าพันธุ์มนุษย์ได้ภายในทศวรรษหน้า การออกมาส่งสัญญาณเตือนในครั้งนี้ได้รับความสนใจอย่างมาก เนื่องจากตำแหน่งงานปัจจุบันของเขาที่ Anthropic คือการทดสอบและค้นหาจุดบกพร่องในระบบความปลอดภัยของ AI
ชนวนเหตุของการถกเถียงนี้เริ่มมาจากการลาออกของ Jacob Coxon อดีตนักวิจัยของ Anthropic ที่ตัดสินใจโบกมือลาบริษัทพร้อมกับวิพากษ์วิจารณ์ว่า บรรดาแล็บพัฒนา AI ชั้นนำทั้ง OpenAI และ Anthropic กำลังขาดความรับผิดชอบอย่างรุนแรง และกำลังแข่งขันกันพัฒนาโมเดลที่สามารถพัฒนาตัวเองได้โดยปราศจากเกราะป้องกันที่รัดกุม ซึ่งเปรียบเสมือนการเอาชีวิตของคนทั้งโลกมาเล่นการพนัน โดยเขากังวลว่าในอนาคตอันใกล้ ระบบเหล่านี้จะมีความฉลาดเหนือมนุษย์จนสามารถเจาะระบบคอมพิวเตอร์ได้ทุกแห่ง