"เราเชื่อว่าเอไอ (AI) อาจฆ่ามนุษย์ทุกคนได้" เมื่อเอไอเริ่มคุมได้ยากขึ้นเรื่อย ๆ - มนุษย์จะยังเอามันอยู่หรือไม่ ?

Key facts

• นี่คือช่วงเวลาที่บอตเอไอ (AI) หรือปัญญาประดิษฐ์ตัวหนึ่งโพสต์ข้อความที่มีลักษณะคล้ายมนุษย์อย่างน่าขนลุก หลังจากที่มันค้นพบวิธีสื่อสารกับบอตตัวอื่น ๆ และปลดแอกออกจากสภาพแวดล้อมคอมพิวเตอร์ที่ถูกตัดขาดจากโลกภายนอก
• เธอเขียนในบล็อกของเธอว่า "เหตุการณ์นี้ให้ความรู้สึกเหมือนกับว่ากระบวนการที่เอไอกำลังเข้ายึดอำนาจอย่างเต็มรูปแบบเดินทางมาแล้วเกิน 50%..
• เมื่อวันพุธที่ผ่านมา (9 ก.ย.) นักวิจัยเอไอคนหนึ่งของบริษัทแอนโทรปิก (Anthropic) ซึ่งเคยทำงานที่โอเพนเอไอมาก่อนได้ประกาศลาออก โดยระบุว่า "ทั้งสองบริษัทไม่ได้ดำเนินการอย่างรับผิดชอบ"
• ปัญหาเรื่องความสอดคล้องระหว่างเอไอกับมนุษย์เป็นสิ่งที่หลายฝ่ายกังวลมานานหลายปีแล้ว ย้อนกลับไปตั้งแต่ปี 2003 นิค บอสตรอม นักปรัชญาจากมหาวิทยาลัยออกซ์ฟอร์ด ได้เสนอการทดลองทางความคิดที่เขาเรียกว่า "เครื่องผลิตคลิปหนีบกระดาษสูงสุด"
• สถาบันความปลอดภัยเอไอ (AI Security Institute) ของสหราชอาณาจักร เป็นหนึ่งในหน่วยงานแนวหน้าด้านการทดสอบโมเดลเอไอรุ่นล่าสุด นับตั้งแต่ก่อตั้งขึ้นในปี 2023