OpenAI · BBC Thai
หัวหน้าทีมนักวิทยาศาสตร์จากโอเพนเอไอ (OpenAI) เตือนยังไม่มีใครพร้อมรับมือผลกระทบที่จะตามมาของเอไอ
Compiled by KHAO Editorial — aggregated from 3 outlets. See llms.txt for citation guidance.
3 แหล่งข่าวยืนยัน
ยาคุบ ปาโชคี หัวหน้านักวิทยาศาสตร์ของ โอเพนเอไอ (OpenAI) เตือนให้ผู้คน "ระมัดระวังอย่างสูงสุด" ต่อความก้าวหน้าที่รวดเร็วเกินควบคุมของปัญญาประดิษฐ์ หรือ เอไอ (AI) และเตือนว่าอาจจำเป็นต้องมีการแทรกแซงเพิ่มเติมเพื่อให้แน่ใจว่า "มนุษย์จะยังคงเป็นผู้ควบคุมอนาคตอยู่"
Key facts
- ยาคุบ ปาโชคี หัวหน้านักวิทยาศาสตร์ของ โอเพนเอไอ (OpenAI) เตือนให้ผู้คน "ระมัดระวังอย่างสูงสุด"
- ผมกังวลว่าไม่มีใครพร้อมรับมือกับผลกระทบจากการเติบโตอย่างรวดเร็วอย่างต่อเนื่องของความฉลาดของเครื่องจักร"
- มีมาตรการควบคุมและป้องกันความเสี่ยง (Guardrails) สำหรับ AI อย่างไรบ้าง?
- กฎหมายเอไอของสหภาพยุโรปมีผลบังคับใช้เมื่อวันที่ 2 ส.ค. ซึ่งกำหนดให้ยักษ์ใหญ่ด้านเอไออย่างโอเพนเอไอ ต้องพิสูจน์ว่าโมเดลที่มีทรงพลังที่สุดของตนไม่สามารถเปิดฉากการโจมตีทางไซเบอร์โดยอัตโนมัติหรือหลบเลี่ยงการควบคุมของมนุษย์ได้
Summary
เขาระบุด้วยว่า โอเพนเอไอจะยังคง "สร้างระบบป้องกัน" และแสวงหาทางออกทางเทคนิคในเรื่องการจัดแนวทางการทำงานของเอไอ ซึ่งเป็นคำที่ใช้เรียกกระบวนการที่ทำให้มั่นใจว่าการกระทำและเป้าหมายของเครื่องจักรตรงกับความตั้งใจของมนุษย์และมาตรการป้องกันด้านความปลอดภัย (safety guardrails) อย่างสมบูรณ์แบบ
"เรากำลังเผชิญกับการเปลี่ยนผ่านสู่โลกที่มีเครื่องจักรอัจฉริยะเหลือเชื่อ และเราจำเป็นต้องมั่นใจว่าการเปลี่ยนผ่านนั้นจะดำเนินไปด้วยดีสำหรับมนุษยชาติ" ปาโชคีเขียนบนบล็อกโพสต์ล่าสุด
เขาเสริมว่าสิ่งหนึ่งที่บริษัทให้ความสำคัญเป็นอันดับต้น ๆ ในการก้าวไปข้างหน้าคือการสร้าง "นักวิจัยเอไออัตโนมัติ" เพื่อให้ก้าวทันความคืบหน้าของเอไอ พร้อมทั้งหาวิธีการที่ให้นักวิจัยที่เป็นมนุษย์สามารถมีส่วนร่วมในกระบวนการดังกล่าวต่อไป