OpenAI · จอฟฟรีย์ ฮินตัน · MGR Online
วันสิ้นโลกอาจมาเร็วกว่าคิด!บอร์ดOpenAIเตือนเองAIคุมไม่อยู่ใน3ปี มนุษยชาติเสี่ยงตายเป็นเบือ
Compiled by KHAO Editorial — aggregated from 2 outlets. See llms.txt for citation guidance.
2 แหล่งข่าว
ปัญญาประดิษฐ์อาจหลุดจากการควบคุมของมนุษย์ภายใน 3 ปี และมีความเป็นไปได้ที่จะนำไปสู่การเสียชีวิตของผู้คนจำนวนมหาศาล จากเสียงเตือนของ พอล คริสเตียนโน สมาชิดบอร์ดบริหารของ OpenAI บริษัทและห้องปฏิบัติการวิจัยด้านปัญญาประดิษฐ์ ระหว่างกล่าวในงาน Hinton Lect
Key facts
- คริสเตียโน กล่าวต่อว่าเอไออาจยึดการควบคุมจากมนุษย์ภายใน 3 ปี เป็นไปได้ที่อาจทำให้ผู้คนเสียชีวิตจำนวนมาก ทั้งระหว่างการเข้ายึดหรือหลังจากนั้น หากมนุษย์สูญเสียความสามารถในการรักษาสภาพแวดล้อมที่เอื้อต่อการใช้ชีวิต
- ที่มีศักยภาพสูงขึ้นเรื่อยๆ อาจก้าวล้ำขีดความสามารถของมนุษยชาติในการทำความเข้าใจ การคาดการณ์หรือควบคุมพฤติกรรมของพวกมัน
- ถ้าระบบเอไอทำในสิ่งต่างๆที่พวกเราไม่ต้องการ มันสามารถปกปิดข้อเท็จจริงที่ว่ามันสามารถทำสิ่งเหล่านั้นได้ และมันอาจพยายามสร้างความสับสนขึ้นมาเองโดยธรรมชาติและหลีกเลี่ยงการถูกระบุแหล่งที่มา"
- พร้อมเตือนต่อว่ามนุษย์อาจประสบความยากลำบากในการคาดการณ์ผลที่จะตามมา จากการปฏิบัติตามคำแนะนำที่สร้างขึ้นโดยปัญญาประดิษฐ์
- แม้ทาง OpenAI เปิดตัวกรอบการทำงานหนึ่งๆสำหรับจัดการกับภัยคุคามความมั่นคงทางไซเบอร์และความเสี่ยงสูญเสียการควบคุมเหนือระบบล้ำสมัย แต่ คริสเตียโน เตือนว่ามาตรการป้องกันที่มีอยู่ในปัจจุบันนั้น ยังไม่เพียงพอ
- คำเตือนของเขามีขึ้นในขณะที่รัฐบาลต่าง ๆ และผู้พัฒนาเอไอชั้นนำ ซึ่งรวมถึง OpenAI, Microsoft และ Anthropic ได้ร่วมลงนามในปฏิญญาความปลอดภัยโดยสมัครใจที่กรุงปารีสเมื่อวันจันทร์ที่ผ่านมา
Summary
ปัญญาประดิษฐ์อาจหลุดจากการควบคุมของมนุษย์ภายใน 3 ปี และมีความเป็นไปได้ที่จะนำไปสู่การเสียชีวิตของผู้คนจำนวนมหาศาล จากเสียงเตือนของ พอล คริสเตียนโน สมาชิดบอร์ดบริหารของ OpenAI บริษัทและห้องปฏิบัติการวิจัยด้านปัญญาประดิษฐ์ ระหว่างกล่าวในงาน Hinton Lectures ในโทรอนโต เมื่อวันอังคาร(10พ.ย.) คริสเตียโน เตือนว่าระบบปัญญาประดิษฐ์แบบ "เหนือมนุษย์"