Anthropic · OpenAI · Google · Meta · Siam Blockchain
อดีตพนักงาน Anthropic แฉความลับ มนุษย์ใกล้คุม AI ไม่อยู่ เสี่ยงสูญพันธ์ุทั้งโลกสิ้นทศวรรษนี้
Compiled by KHAO Editorial — aggregated from 1 outlet. See llms.txt for citation guidance.
◌ Single Source
สภาเมืองนิวยอร์กจัดการไต่สวนบริษัท AI ยักษ์ใหญ่ โดยมีอดีตพนักงานจาก Anthropic ออกมาเตือนถึงความเสี่ยงที่มนุษย์อาจสูญเสียการควบคุม AI
Key facts
- สภาเมืองนิวยอร์กจัดการไต่สวนบริษัท AI ยักษ์ใหญ่ โดยมีอดีตพนักงานจาก Anthropic ออกมาเตือนถึงความเสี่ยงที่มนุษย์อาจสูญเสียการควบคุม AI
- หนึ่งในผู้เผยความลับชี้ว่ามนุษย์กำลังเผชิญภัยคุกคามถึงขั้นสูญพันธุ์ภายในสิ้นทศวรรษนี้ หากบริษัทยังคงเดินหน้าพัฒนา AI แบบไม่ระมัดระวัง
- Google, OpenAI และ Anthropic เข้าร่วมการไต่สวนหลังถูกสภาเมืองออกหมายเรียก ขณะที่ SpaceXAI เพิกเฉยและเตรียมถูกดำเนินคดีทางกฎหมาย
Summary
สภาเมืองนิวยอร์กภายใต้การนำของ Julie Menin ได้จัดการไต่สวนประเด็นความปลอดภัยของปัญญาประดิษฐ์ (AI) โดยมีผู้เชี่ยวชาญและอดีตพนักงานจากบริษัทเทคโนโลยีชั้นนำมาร่วมให้ข้อมูลเตือนภัยเกี่ยวกับการสูญเสียการควบคุมและการแข่งขันพัฒนาระบบอย่างไร้การกำกับดูแล จนอาจทำให้มนุษย์ถึงคราวสูญพันธุ์ในอีกไม่กี่ปีข้างหน้า
Coxon ให้ความเห็นและวิจารณ์ถึงวัฒนธรรมการทำงานของวิศวกรซอฟต์แวร์ในปัจจุบันว่า การไล่ตามและแหกกฎทุกข้อเพื่อที่จะสร้างนวัตกรรมใหม่ ถือเป็นเรื่องที่พอเข้าใจได้สำหรับการสร้างแอปแชร์รูป แต่ไม่ใช่กับเทคโนโลยีที่ทรงพลังที่สุดนับตั้งแต่มีการคิดค้น
ภัยคุกคามจากปัญญาประดิษฐ์ หลายคนอาจมองว่าเป็นเรื่องที่น่าจะยังไม่เกิดขึ้นง่ายๆ เพราะบรรดาบริษัทผู้พัฒนาน่าจะมีวิธีการรับมือ แต่อดีตพนักงานของ Anthropic กลับไม่คิดเช่นนั้นและมองว่ามนุษย์อาจถึงคราวต้องสูญพันธุ์ภายในสิ้นทศวรรษนี้