Anthropic · OpenAI · Claude · Siam Blockchain
นักวิจัยใช้โมเดล Anthropic เจาะระบบ OpenAI สำเร็จ
Compiled by KHAO Editorial — aggregated from 4 outlets. See llms.txt for citation guidance.
KHAO Verified
ทีมนักวิจัยด้านความปลอดภัยทางไซเบอร์จากบริษัท Hacktron AI ประสบความสำเร็จในการเจาะระบบของ OpenAI โดยใช้ซอฟต์แวร์ของบริษัทคู่แข่งอย่าง Anthropic จนสามารถเข้าถึงบัญชี ChatGPT ของพนักงานและอ่านข้อมูลซอฟต์แวร์ที่เป็นความลับได้
Key facts
- ทีมนักวิจัยด้านความปลอดภัยทางไซเบอร์จากบริษัท Hacktron AI ประสบความสำเร็จในการเจาะระบบของ OpenAI โดยใช้ซอฟต์แวร์ของบริษัทคู่แข่งอย่าง Anthropic จนสามารถเข้าถึงบัญชี ChatGPT ของพนักงานและอ่านข้อมูลซอฟต์แวร์ที่เป็นความลับได้
- การค้นพบช่องโหว่ครั้งนี้เป็นส่วนหนึ่งของโปรแกรมหาช่องโหว่ที่ OpenAI จ่ายเงิน 6,500 ดอลลาร์ให้กับนักวิจัยเพื่อทดสอบความปลอดภัยของระบบ ซึ่งสะท้อนให้เห็นถึงความเสี่ยงที่เพิ่มขึ้นหากโมเดล AI ที่ทรงพลังถูกนำไปใช้โดยแฮ็กเกอร์หรือผู้ไม่ประสงค์ดี
- ในขณะเดียวกัน Anthropic ได้เปิดเผยข้อมูลว่าปัจจุบันบริษัทใช้โมเดล Claude เป็นตัวนำในการวิจัยและพัฒนาระบบถึง 26% ซึ่งเพิ่มขึ้นจากระดับ 1% ในเดือนมีนาคม โดยเป็นการส่งสัญญาณให้เห็นว่าโลกกำลังเข้าใกล้จุดที่ AI สามารถพัฒนาและปรับปรุงตัวเองได้
Summary
เนื่องจากประเด็นดังกล่าวเป็นเรื่องของความปลอดภัยทางไซเบอร์และการพัฒนาศักยภาพของโมเดล AI ในอุตสาหกรรมเทคโนโลยี ซึ่งไม่ได้ส่งผลกระทบโดยตรงต่อปัจจัยพื้นฐานหรือสภาพคล่องของตลาดคริปโตเคอร์เรนซี
ทีมนักวิจัยด้านความปลอดภัยทางไซเบอร์กลุ่มเล็กๆ ประสบความสำเร็จในการเจาะระบบของ OpenAI ซึ่งเป็นผู้สร้าง ChatGPT โดยใช้เครื่องมือของบริษัทคู่แข่งสำคัญอย่าง Anthropic ในการดำเนินการ เหตุการณ์นี้ตอกย้ำให้เห็นถึงช่องโหว่ด้านความปลอดภัยของห้องปฏิบัติการ AI ชั้นนำ ท่ามกลางการจับตามองอย่างเข้มงวดจากหลายภาคส่วนเกี่ยวกับความปลอดภัยของการใช้เทคโนโลยีขั้นสูง
นักวิจัยทั้งสามคนจากบริษัทความปลอดภัยทางไซเบอร์ชื่อ Hacktron AI ได้รับอนุญาตให้เข้าถึงเครื่องมือของ Anthropic ที่ออกแบบมาสำหรับผู้เชี่ยวชาญด้านความปลอดภัยโดยเฉพาะ และได้รับเงินรางวัล 6,500 ดอลลาร์จาก OpenAI ภายใต้โปรแกรมหาช่องโหว่ ซึ่งเป็นแนวปฏิบัติทั่วไปที่บริษัทเทคโนโลยีมักจะจ่ายเงินให้แฮ็กเกอร์สายขาวมาช่วยทดสอบระบบ พวกเขาอาศัยช่องโหว่จากการตั้งค่ากระดานสนทนาชุมชนของ OpenAI ที่ดูแลโดยผู้ให้บริการบุคคลที่สามอย่าง Discourse เพื่อเจาะเข้าสู่ระบบล็อกอินภายใน