Anthropic · Claude · BeInCrypto Thailand
Anthropic เผย AI อาจช่วยวิจัยอาวุธชีวภาพ
Compiled by KHAO Editorial — aggregated from 2 outlets. See llms.txt for citation guidance.
2 แหล่งข่าว
เมื่อใบสมัครขอทุนถูกส่งเข้าไปใน Claude ตัวกรองความปลอดภัยของมันจับได้และปฏิเสธคำขอ แต่ไม่กี่วันต่อมา โอเปอเรเตอร์คนเดิมกลับมาอีกครั้ง และมีรายงานว่าคำขอที่ถูกปฏิเสธเหล่านั้นกลับถูกส่งไปยังโมเดล AI คู่แข่งแทน
Key facts
- ตัวเลขที่เกี่ยวกับกรณีอาวุธชีวภาพของ Anthropic
- เมื่อใบสมัครขอทุนถูกส่งเข้าไปใน Claude ตัวกรองความปลอดภัยของมันจับได้และปฏิเสธคำขอ แต่ไม่กี่วันต่อมา โอเปอเรเตอร์คนเดิมกลับมาอีกครั้ง และมีรายงานว่าคำขอที่ถูกปฏิเสธเหล่านั้นกลับถูกส่งไปยังโมเดล AI คู่แข่งแทน
- Anthropic เผยเรื่องราวนี้เกี่ยวกับตัวเอง โดยเปิดเผยกรณีที่บริษัท AI แสดงให้เห็นว่าโมเดลของตนเคยเกี่ยวข้องกับงานที่เป็นไปได้เกี่ยวกับอาวุธชีวภาพ
- รายงาน ฉบับนี้มีความยาว 154 หน้า และนำเสนอกรณีด้านชีววิทยา 5 กรณี โดย Anthropic ได้แบนบัญชีเหล่านั้น ระงับห้องทดลองที่เกี่ยวข้อง แต่หยุดแค่ตรงนี้โดยยังไม่กล่าวหาว่าเป็นสิ่งที่ทุกคนคาดหวัง
Summary
เรามิได้ยืนยันว่าพวกเขามีเจตนาทำร้าย อีกทั้งการเปิดเผยตัวตนหรือห้องทดลองเหล่านั้นอาจทำให้พวกเขาตกอยู่ในอันตราย ทีมงาน ระบุ ไว้ในรายงาน
แต่อย่างไรก็ตาม ตัวกรองความปลอดภัยก็สามารถใช้งานได้ในบางกรณี นักวิจัยไข้หวัดนกถูกบังคับให้ไปใช้โมเดลที่อ่อนแอกว่า และ Anthropic เรียกสิ่งนั้นว่างานช่วยเหลือด้านงานธุรการเป็นหลัก
ทุกการสื่อสารถูกบล็อกทั้งหมด แต่ในที่สุดก็หาทางแก้ไขจนได้ โดยบริการที่นักวิจัยเหล่านี้ใช้สร้างวิธีสลับไปยังโมเดลของคู่แข่งขึ้นมา Claude เป็นผู้ช่วยเขียนโค้ดนั้น งานนี้ถูกเสนอให้ว่าช่วยแก้ปัญหาการถูกปฏิเสธซ้ำซาก