Microsoft · AI Agent · Siam Blockchain
CEO ของ Microsoft วอนให้สร้าง “ปุ่มเบรกฉุกเฉิน” ให้ AI หยุดทำงานกลางคันได้ ก่อนจะสายเกินควบคุม
Compiled by KHAO Editorial — aggregated from 1 outlet. See llms.txt for citation guidance.
◌ Single Source
Satya Nadella CEO ของ Microsoft เรียกร้องให้ AI ขั้นสูงมี “ปุ่มเบรกฉุกเฉิน” ที่เปิดทางให้มนุษย์สามารถหยุดหรือปิดโมเดลระหว่างทำงานอยู่ได้ทันที
Key facts
- Satya Nadella CEO ของ Microsoft เรียกร้องให้ AI ขั้นสูงมี “ปุ่มเบรกฉุกเฉิน” ที่เปิดทางให้มนุษย์สามารถหยุดหรือปิดโมเดลระหว่างทำงานอยู่ได้ทันที
- เขาเสนอให้แยกตัวโมเดล AI ออกจากระบบควบคุม, จำกัดสิทธิ์การเข้าถึงและบันทึกการกระทำสำคัญในรูปแบบที่ตรวจสอบย้อนหลังได้
- แนวคิดนี้สะท้อนความกังวลต่อ AI Agent ที่ทำงานอัตโนมัติมากขึ้น แต่ผลกระทบต่อตลาดคริปโตยังไม่ชัดเจน และขึ้นอยู่กับว่ามาตรการความปลอดภัยจะส่งผลต่อการพัฒนา AI และการใช้งานจริงอย่างไร
Summary
คำเตือนของ Nadella ไม่ได้ส่งผลต่อราคา Bitcoin หรือ Ethereum โดยตรง แต่เป็นประเด็นสำคัญต่อทิศทางการพัฒนา AI และเทคโนโลยีที่เกี่ยวข้องกับบล็อกเชน หากมาตรการความปลอดภัยช่วยเพิ่มความเชื่อมั่นต่อ AI Agent ซึ่งสามารถใช้ wallet และดำเนินธุรกรรมบนบล็อกเชนได้ ก็อาจเป็นผลดีต่อการใช้งานในระยะยาว ในทางกลับกัน หากกฎควบคุมเข้มงวดขึ้นจนทำให้การพัฒนาหรือการนำ AI มาใช้งานช้าลง ก็อาจเป็นอุปสรรคต่อโครงการบางประเภทได้
Nadella เสนอว่า บริษัทไม่ควรมอง AI เป็นเพียงระบบกล่องดำที่ผู้ใช้ต้องเลือกว่าจะเชื่อหรือปฏิเสธคำตอบเท่านั้น แต่ต้องสร้างระบบที่สามารถตรวจสอบพฤติกรรม, จำกัดขอบเขตการทำงานและหยุดการกระทำที่ไม่เหมาะสมได้ระหว่างที่โมเดลกำลังปฏิบัติงาน
เขาเปรียบแนวคิดนี้กับ “เบรกฉุกเฉิน” โดยมองว่าบุคคลที่ได้รับอนุญาตควรสามารถหยุดหรือปิดโมเดล AI กลางคันได้ หากระบบทำงานผิดพลาดหรือมีความเสี่ยงที่จะก่อให้เกิดความเสียหาย