Krungthep Turakij
จีนมองไปถึงวันที่เอไอหลุดการควบคุม เริ่มวางกฎตั้งแต่ปี 2567
Compiled by KHAO Editorial — aggregated from 2 outlets. See llms.txt for citation guidance.
2 แหล่งข่าวยืนยัน
จีนเริ่มวางกรอบรับมือความเสี่ยงเอไอหลุดจากการควบคุมตั้งแต่ปี 2567 ก่อนเพิ่มรายละเอียดในปี 2568 และออกกฎสำหรับเอเจนต์เอไอในปี 2569 ขณะที่ความกังวลเรื่องเอไอทำงานเกินการควบคุมกลับมาเป็นประเด็น หลังแอนโทรปิกเตือนถึงความเสี่ยงดังกล่าว
Key facts
- กรอบความปลอดภัยด้านเอไอของจีนที่เผยแพร่เมื่อเดือนกันยายน 2567 ภายใต้การกำกับของสำนักงานบริหารไซเบอร์สเปซแห่งประเทศจีน (CAC) ระบุว่า ไม่สามารถตัดความเป็นไปได้ที่เอไอในอนาคตจะสามารถจัดหาทรัพยากรจากภายนอกได้ด้วยตัวเอง ทำสำเนาตัวเอง
- ซุน เสี่ยวโป (Sun Xiaobo) เจ้าหน้าที่ระดับสูงของกระทรวงการต่างประเทศจีนที่รับผิดชอบกิจการด้านเอไอ กล่าวในการประชุมของสหประชาชาติเมื่อเดือนสิงหาคม 2569 ว่า จีนกำลังเร่งศึกษากฎหมายที่ครอบคลุมมากขึ้นสำหรับเอไอ
- เดือนพฤษภาคม 2569 หน่วยงานกำกับดูแลไซเบอร์สเปซของจีนออกแนวทางร่วมสำหรับระบบประเภทนี้ โดยกำหนดให้ผู้พัฒนาต้องสามารถตรวจพบพฤติกรรมที่ไม่เหมาะสมของเอเจนต์ เข้าไปแทรกแซงหรือหยุดการทำงาน และกู้คืนระบบเมื่อเกิดปัญหา
- จีนเริ่มพูดถึงความเป็นไปได้ที่เอไอจะหลุดจากการควบคุมอย่างชัดเจนตั้งแต่ปี 2567 และปรับรายละเอียดของกรอบความปลอดภัยเพิ่มเติมในปี 2568 ก่อนจะออกแนวทางเฉพาะสำหรับ เอเจนต์เอไอ ในปี 2569
- กรอบปี 2568 ยังเพิ่มหลักการการใช้งานที่เชื่อถือได้ การป้องกันการสูญเสียการควบคุม หรือ trusted application, preventing loss of control เข้าไปด้วย
Summary
กฎระเบียบเน้นย้ำว่า ผู้พัฒนาต้องสามารถแทรกแซงและหยุดการทำงานของเอไอได้ มนุษย์ต้องเป็นผู้มีอำนาจตัดสินใจขั้นสุดท้ายเสมอ
เรื่องนี้เกิดขึ้นในช่วงที่จีนและสหรัฐกำลังแข่งขันกันอย่างหนักในการพัฒนาเอไอระดับแนวหน้า ทั้งสองประเทศเป็นกำลังสำคัญในการพัฒนาเทคโนโลยีและการนำเอไอไปใช้งานทั่วโลก ขณะเดียวกันก็มีความขัดแย้งกันมากขึ้นเกี่ยวกับนโยบายเอไอและแนวทางการดำเนินงานของอุตสาหกรรม โดยประเด็นเหล่านี้มีกำหนดจะถูกหยิบยกขึ้นหารือในการเจรจาระหว่างสองประเทศช่วงปลายเดือนกันยายน 2569
สำหรับจีน ความเสี่ยงของเอไอไม่ได้จำกัดอยู่แค่กรณีที่ระบบให้ข้อมูลผิดพลาดหรือนำไปใช้ในทางที่ไม่เหมาะสม แต่ยังรวมถึงความเป็นไปได้ในอนาคตที่เอไอจะมีความสามารถมากขึ้นจนสามารถทำบางอย่างได้โดยที่มนุษย์ไม่สามารถควบคุมได้อย่างมีประสิทธิภาพ