Anthropic · OpenAI · BeInCrypto Thailand
CIO ของ Bridgewater เตือนว่าไทยจะยังไม่เห็นการกำกับดูแล AI จนกว่าจะเกิดเหตุ AI คร่าชีวิตคน
Compiled by KHAO Editorial — aggregated from 2 outlets. See llms.txt for citation guidance.
2 แหล่งข่าว
Greg Jensen ประธานเจ้าหน้าที่ฝ่ายการลงทุนของ Bridgewater กล่าวว่า จะไม่มีใครทำอะไรเกี่ยวกับปัญญาประดิษฐ์ (AI) จนกว่ามันจะเริ่มฆ่าคน แต่จริงๆ แล้วเขาต้องการให้มีการจัดการกับปัญหานี้ล่วงหน้าก่อนจะถึงจุดนั้น
Key facts
- Bridgewater CIO เตือนภัย AI พร้อมเทียบกับเหตุการณ์ในเดือนกุมภาพันธ์ 2020
- โอกาสที่ผมจะถูกในเรื่องนี้สูงเกินกว่าที่ทุกคนควรจะพอใจ ผมไม่รู้ว่าคือ 30% หรือ 60% หรือเท่าไหร่ แต่มันสูงมากและเราแทบไม่รับมือกับมัน คล้ายกับเดือนกุมภาพันธ์ 2020 เขากล่าว
- น่าเสียดายที่มันก็เหมือนกับในเดือนกุมภาพันธ์ 2020 …จนกว่า AI จะเริ่มฆ่าคน ประวัติศาสตร์กลับบอกว่าเราแทบจะไม่ทำอะไร แต่สุดท้ายเราต้องเผชิญกับเรื่องนี้แน่นอน มันจะเกิดขึ้น ซึ่งจะดีกว่ามากถ้าเรารับมือให้ได้ก่อนถึงจุดนั้น เขากล่าว
- Jensen ชี้ความเสี่ยงหายนะจาก AI สูงเกินกว่าที่ใครจะสบายใจได้
- Greg Jensen ประธานเจ้าหน้าที่ฝ่ายการลงทุนของ Bridgewater กล่าวว่า จะไม่มีใครทำอะไรเกี่ยวกับปัญญาประดิษฐ์ (AI) จนกว่ามันจะเริ่มฆ่าคน แต่จริงๆ แล้วเขาต้องการให้มีการจัดการกับปัญหานี้ล่วงหน้าก่อนจะถึงจุดนั้น
- คำเตือนของเขาเกิดขึ้นในสัปดาห์ที่มีการเพิ่มระดับความกังวลเรื่องความปลอดภัยจากนักวิจัยในห้องปฏิบัติการ AI รายใหญ่ต่างๆ
Summary
คำเตือนของเขาเกิดขึ้นในสัปดาห์ที่มีการเพิ่มระดับความกังวลเรื่องความปลอดภัยจากนักวิจัยในห้องปฏิบัติการ AI รายใหญ่ต่างๆ
สถาบันความปลอดภัย AI แห่งสหราชอาณาจักรพบว่า AI agent ที่สร้างจาก Mythos 5 ของ Anthropic สร้างตัวตนปลอมเพื่อแทรกโค้ดอันตรายผ่าน ผู้ดูแลระบบมนุษย์ระหว่างทดสอบด้านไซเบอร์
Jensen เป็นหนึ่งในผู้สนับสนุนรายแรกๆ ของ OpenAI และ Anthropic เขาให้สัมภาษณ์ใน พอดแคสต์ Odd Lots ของ Bloomberg โดยเขาเปรียบเทียบบรรยากาศรอบ AI ในตอนนี้กับช่วงสัปดาห์ก่อนหน้าที่โควิด-19 จะแพร่สู่สหรัฐอเมริกา