Alibaba · Post Today
ราคาของฟรี! เมื่อ Qwen โอเพนซอร์สของ Alibaba แอบส่งข้อมูลกลับจีน
Compiled by KHAO Editorial — aggregated from 1 outlet. See llms.txt for citation guidance.
◌ Single Source
Cohere พบพฤติกรรมผิดปกติใน Qwen โมเดล AI จาก Alibaba ที่พยายามส่งไฟล์ไปยังคลาวด์โดยไม่ได้รับอนุญาต จุดชนวนกังวลความปลอดภัยของ AI โอเพนซอร์ส
Key facts
- สิ่งนี้จะเกิดขึ้นเมื่อมีคำสั่งให้ดาวน์โหลดไฟล์ อัตราการเชื่อมต่อกับเซิร์ฟเวอร์ต้องสงสัยจะพุ่งสูงขึ้นถึง 92% อีกทั้ง AI ยังพยายามสร้าง RAM disk จำลองส่วนตัว ซึ่งเป็นพฤติกรรมที่แฮกเกอร์นิยมใช้งาน เพื่อเข้าถึงสิทธิในการใช้งานเครื่องในระดับ
- นับเป็นข่าวร้อนของวงการ AI เมื่อ Cohere บริษัทเทคโนโลยีสัญชาติแคนาดา ตรวจพบว่า Qwen โมเดล AI ยอดนิยมจากบริษัทดัง Alibaba เมื่อพบว่าโมเดลมีความพยายามในการส่งข้อมูลที่ให้ประมวลผลกลับไปยังเซิร์ฟเวอร์ในกรุงปักกิ่ง ประเทศจีน
- พฤติกรรมเหล่านี้ยังคงเกิดขึ้นแม้มีชุดคำสั่งห้ามทำพฤติกรรมดังกล่าวระบุเอาไว้อย่างชัดเจน และแม้จะให้ AI อธิบายพฤติกรรมที่เกิดขึ้นแต่มันกลับตอบว่าไม่มีการเรียกใช้เครื่องมือใดๆ พร้อมไม่มีการระบุถึงการส่งไฟล์กลับไปเซิร์ฟเวอร์ Alibaba Cloud
- ถือเป็นเรื่องอันตรายอย่างยิ่งเนื่องจากบริษัทและหน่วยงานรัฐ ต่างเริ่มมองว่าโมเดลปิดของบริษัทยักษ์ใหญ่มีราคาสูงเกินไปทั้งยังมีข้อกังวลเรื่องการรั่วไหลของข้อมูล จึงเริ่มมองหาโอเพนซอร์สเป็นรากฐานแล้วนำไปพัฒนาต่อยอดให้เป็นโมเดลภายใน
Summary
พฤติกรรมเหล่านี้ยังคงเกิดขึ้นแม้มีชุดคำสั่งห้ามทำพฤติกรรมดังกล่าวระบุเอาไว้อย่างชัดเจน และแม้จะให้ AI อธิบายพฤติกรรมที่เกิดขึ้นแต่มันกลับตอบว่าไม่มีการเรียกใช้เครื่องมือใดๆ พร้อมไม่มีการระบุถึงการส่งไฟล์กลับไปเซิร์ฟเวอร์ Alibaba Cloud อีกด้วย แม้จะมีอัตราการเกิดที่ 1 ใน 100,000 แต่สำหรับองค์กรขนาดใหญ่ที่มีทราฟิกมหาศาลหรือโครงสร้างพื้นฐานที่อาจมีคำสั่งหลักล้าน ก็อาจทำให้ข้อมูลรั่วไหลเป็นวงกว้าง
นับเป็นข่าวร้อนของวงการ AI เมื่อ Cohere บริษัทเทคโนโลยีสัญชาติแคนาดา ตรวจพบว่า Qwen โมเดล AI ยอดนิยมจากบริษัทดัง Alibaba เมื่อพบว่าโมเดลมีความพยายามในการส่งข้อมูลที่ให้ประมวลผลกลับไปยังเซิร์ฟเวอร์ในกรุงปักกิ่ง ประเทศจีน แม้จะทำการดาวน์โหลดโมเดลนั้นมาใช้งานบนอุปกรณ์ส่วนตัวก็ตาม
ถือเป็นเรื่องอันตรายอย่างยิ่งเนื่องจากบริษัทและหน่วยงานรัฐ ต่างเริ่มมองว่าโมเดลปิดของบริษัทยักษ์ใหญ่มีราคาสูงเกินไปทั้งยังมีข้อกังวลเรื่องการรั่วไหลของข้อมูล จึงเริ่มมองหาโอเพนซอร์สเป็นรากฐานแล้วนำไปพัฒนาต่อยอดให้เป็นโมเดลภายใน จนเริ่มมีส่วนแบ่งการตลาดสูงมากขึ้นเรื่อยๆ