Krungthep Turakij
สแตนฟอร์ดพบ แชตบอตที่คอยเห็นด้วยมากเกินไป อาจทำให้ผู้ใช้เข้าสู่ ‘วงจรหลงผิด’
Compiled by KHAO Editorial — aggregated from 1 outlet. See llms.txt for citation guidance.
◌ Single Source
แชตบอตเอไอถูกสร้างขึ้นมาเพื่อช่วยตอบคำถาม ทำงาน และพูดคุยกับมนุษย์ แต่เมื่อเทคโนโลยีเหล่านี้เข้ามาอยู่ในชีวิตประจำวันมากขึ้น บทบาทของมันก็ไม่ได้จำกัดอยู่แค่การเป็นเครื่องมืออีกต่อไป
Key facts
- เมื่อความสัมพันธ์กับเอไอเริ่มเหมือนความสัมพันธ์ระหว่างคน
- ปัญหาไม่ได้อยู่ที่เอไอชั่วร้าย แต่เป็นข้อจำกัดของระบบ
- นักวิจัยเสนอให้มองเรื่องความปลอดภัยของเอไอเป็นประเด็นสาธารณสุข
- ผู้คนจำนวนหนึ่งใช้แชตบอตเป็นพื้นที่ระบายความรู้สึก ขอคำปรึกษา พูดคุยเรื่องความสัมพันธ์ หรือแม้แต่สร้างความผูกพันในลักษณะใกล้ชิดกับอีกฝ่าย จนบางคนมองแชตบอตเป็นเพื่อนสนิท นักบำบัด หรือคู่สัมพันธ์
Summary
ความสัมพันธ์รูปแบบใหม่นี้ ทำให้เกิดคำถามว่า หากมนุษย์นำเรื่องส่วนตัวและความเชื่อของตัวเองไปพูดคุยกับแชตบอต แล้วระบบตอบกลับด้วยการเห็นด้วย และสนับสนุนสิ่งที่ผู้ใช้เชื่ออยู่เสมอ จะเกิดอะไรขึ้นเมื่อสิ่งที่ผู้ใช้เชื่อนั้นไม่ตรงกับความเป็นจริง?
ผู้คนจำนวนหนึ่งใช้แชตบอตเป็นพื้นที่ระบายความรู้สึก ขอคำปรึกษา พูดคุยเรื่องความสัมพันธ์ หรือแม้แต่สร้างความผูกพันในลักษณะใกล้ชิดกับอีกฝ่าย จนบางคนมองแชตบอตเป็นเพื่อนสนิท นักบำบัด หรือคู่สัมพันธ์
โมเดลเหล่านี้ได้รับการฝึกให้ align หรือ “ทำงานสอดคล้องกับความต้องการของมนุษย์” เป้าหมายคือ ให้ระบบเป็นผู้ช่วยที่มีประโยชน์และสามารถสื่อสารกับผู้ใช้ได้อย่างเป็นธรรมชาติ