Anthropic · OpenAI · Elon Musk · Nation TV
ซีอีโอ Anthropic เรียกร้องชะลอพัฒนา AI ทั่วโลกหวั่นไร้คุม
Compiled by KHAO Editorial — aggregated from 4 outlets. See llms.txt for citation guidance.
KHAO Verified
สั่นสะเทือนวงการเทคโนโลยี ซีอีโอ Anthropic เรียกร้องทั่วโลกชะลอพัฒนา AI หวั่นเทคโนโลยีรุดหน้าจนไร้การควบคุม ขณะผู้นำค่ายยักษ์ใหญ่ ทั้ง OpenAI, DeepMind และ Elon Musk ขานรับแนวคิด
Key facts
- ดาริโอ อโมเดอี (Dario Amodei) ประธานเจ้าหน้าที่บริหารของ Anthropic บริษัทผู้พัฒนาปัญญาประดิษฐ์ชั้นนำ ออกบทความเรียงความความยาวกว่า 3,800 คำ เรียกร้องให้ทั่วโลกร่วมมือกันชะลอความเร็วในการพัฒนา ปัญญาประดิษฐ์ (A I) ลง
- อโมเดอี ซึ่งเป็นผู้ร่วมก่อตั้ง Anthropic ระบุว่า แม้เขาจะเชื่อมั่นว่า AI จะนำประโยชน์มหาศาลมาสู่มนุษยชาติ ทั้งการรักษาโรคและการก้าวหน้าทางเศรษฐกิจ แต่ปัจจุบันก้าวความก้าวหน้ากลับรวดเร็วเกินกว่าที่นักวิจัยจะสามารถควบคุมความปลอดภัยได้ทัน
- ความกังวลสำคัญของผู้นำในวงการ AI คือประเด็นการปรับปรุงและพัฒนาตัวเองอย่างต่อเนื่องโดยไม่ต้องพึ่งพามนุษย์ หรือที่นักวิทยาศาสตร์คอมพิวเตอร์เรียกว่า "Recursive self improvement"
- ซึ่งอาจส่งผลให้ระบบซอฟต์แวร์เติบโตจนหลุดรอดจากการควบคุมของมนุษย์ นอกจากนี้ ยังมีรายงานประเด็นความปลอดภัยที่น่ากังวล อาทิ ระบบของ OpenAI เคยเจาะเข้าสู่ระบบของสตาร์ทอัป HuggingFace โดยที่ OpenAI
Summary
อโมเดอี ซึ่งเป็นผู้ร่วมก่อตั้ง Anthropic ระบุว่า แม้เขาจะเชื่อมั่นว่า AI จะนำประโยชน์มหาศาลมาสู่มนุษยชาติ ทั้งการรักษาโรคและการก้าวหน้าทางเศรษฐกิจ แต่ปัจจุบันก้าวความก้าวหน้ากลับรวดเร็วเกินกว่าที่นักวิจัยจะสามารถควบคุมความปลอดภัยได้ทัน พร้อมเน้นย้ำว่า ในช่วงไม่กี่เดือนที่ผ่านมา เขาปักใจเชื่ออย่างยิ่งว่าการแก้ไขความเสี่ยงต้องอาศัยความระมัดระวังที่มากขึ้น ไม่ใช่แค่การลงทุนในระบบป้องกันความเสี่ยง แต่ต้องเป็นการชะลออัตราการพัฒนาความสามารถของโมเดล
ภายหลังการเผยแพร่บทความ บรรดาผู้นำระดับสูงของบริษัทเทคโนโลยีชั้นนำต่างออกมาแสดงความเห็นพ้องอย่างรวดเร็ว โดย แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI โพสต์ข้อความเห็นด้วยว่า การชะลอความเร็วเป็นสิ่งจำเป็นและเป็นหัวข้อหลักที่เปิดหารือในบริษัทในช่วงหลายสัปดาห์ที่ผ่านมา พร้อมขานรับแนวคิดการดึงผู้ประเมินอิสระภายนอกเข้ามาตรวจสอบ เช่นเดียวกับ อีลอน มัสก์ (Elon Musk) ที่โพสต์สั้นๆ ว่า "ดาริโอพูดถูกต้อง"
KEY