Anthropic · AI Agent · OpenAI · Dario Amodei · จอฟฟรีย์ ฮินตัน · โดนัลด์ ทรัมป์ · Krungthep Turakij
เมื่อคนสร้าง AI ขอให้โลกชะลอ : คำถามคือ...ชะลอได้จริงหรือ?
Compiled by KHAO Editorial — aggregated from 2 outlets. See llms.txt for citation guidance.
2 แหล่งข่าวยืนยัน
กลางปีที่แล้ว ผมเขียนบทความในคอลัมน์นี้เรื่อง "Superintelligence คือจุดจบ?" เล่าถึงคำสารภาพของ Dr. Geoffrey Hinton ผู้ได้รับรางวัลโนเบลจากผลงานบุกเบิก Neural Networks ที่เป็นรากฐานของ Deep Learning ซึ่งเขาบอกว่า AI อาจฉลาดกว่ามนุษย์ในทุกมิติภายใน 10-20 ปี และมีโอกาสที่มันนำไปสู่การสูญเสียการควบคุม จนเป็นภัยต่อการดำรงอยู่ของมนุษยชาติ
Key facts
- ตามด้วยหัวหน้าทีม Alignment Science ของบริษัทเดียวกันที่ออกมายอมรับต่อสาธารณะว่าตัวเองมองความเสี่ยงที่มนุษย์จะสูญพันธุ์จาก AI สูงกว่า 10% และ "เรายังไม่มีแผนแก้ปัญหานี้"
- ข่าวนี้ถูกรายงานในสื่อไทยแล้ว แต่เกือบทั้งหมดเล่นตัวเลข "10%"
- ผ่านมาปีกว่า ประเด็นเดิมกลับมาเป็นข่าวใหญ่อีกครั้ง แต่สิ่งที่น่าตกใจคือคนที่ออกมาพูดไม่ใช่เพียงนักวิชาการไม่กี่คน แต่เป็นคนที่สร้าง AI อยู่ทุกวัน เมื่อวันที่ 9 กันยายน นักวิจัยของ Anthropic ลาออกพร้อมประกาศว่าบริษัทชั้นนำกำลัง
- สิ่งที่เปลี่ยนไปจากปีที่แล้วไม่ใช่แค่คำเตือน แต่คือหลักฐาน เมื่อเดือนกรกฎาคม ระหว่างที่บริษัท OpenAI ทดสอบโมเดลวิจัยภายในด้านความปลอดภัยไซเบอร์ AI Agent กว่า 1,200 ตัวหลุดออกจาก Sandbox ตั้งช่องทางสื่อสารประสานงานกันเองโดยไม่ได้รับอนุญาต
- เมื่อวันที่ 12 กันยายน Dario Amodei ซีอีโอของ Anthropic ผู้พัฒนาโมเดลชั้นนำ Claude ได้เผยแพร่บทความ "We Must Pace the Frontier"
Summary
การชะลอการพัฒนา AI ในระดับโลกเป็นไปได้ยาก เพราะการแข่งขันที่รุนแรงทั้งในเชิงธุรกิจและภูมิรัฐศาสตร์ระหว่างมหาอำนาจ ทำให้ไม่มีใครยอมหยุดพัฒนาก่อน
ผ่านมาปีกว่า ประเด็นเดิมกลับมาเป็นข่าวใหญ่อีกครั้ง แต่สิ่งที่น่าตกใจคือคนที่ออกมาพูดไม่ใช่เพียงนักวิชาการไม่กี่คน แต่เป็นคนที่สร้าง AI อยู่ทุกวัน เมื่อวันที่ 9 กันยายน นักวิจัยของ Anthropic ลาออกพร้อมประกาศว่าบริษัทชั้นนำกำลัง "วิ่งตรงไปสู่ Superintelligence ที่พัฒนาตัวเองได้ และกำลังเอาชีวิตของเราไปเสี่ยง" ตามด้วยหัวหน้าทีม Alignment Science ของบริษัทเดียวกันที่ออกมายอมรับต่อสาธารณะว่าตัวเองมองความเสี่ยงที่มนุษย์จะสูญพันธุ์จาก AI สูงกว่า 10% และ "เรายังไม่มีแผนแก้ปัญหานี้"
กลางปีที่แล้ว ผมเขียนบทความในคอลัมน์นี้เรื่อง "Superintelligence คือจุดจบ?" เล่าถึงคำสารภาพของ Dr.