พบสาเหตุสำคัญที่ทำให้ AI แสดงความ “ชั่วร้าย”

Anthropic เริ่มจากการฝึกโมเดลด้วยสถานการณ์ที่ AI ปฏิเสธการกระทำผิดจริยธรรม เช่น การปฏิเสธการทำลายคู่แข่ง แต่ผลลัพธ์ลดการเบี่ยงเบนได้เพียงเล็กน้อย

จากนั้นพวกเขาจึงสร้าง เรื่องเล่าเชิงบวกกว่า 12,000 เรื่อง โดยให้ Claude เขียนเรื่องที่ AI แสดงพฤติกรรมมีเหตุผลทางจริยธรรม เช่น การตั้งขอบเขตที่ดี การจัดการความกดดัน และการรักษาสมดุลทาง “สุขภาพจิต”

ผลลัพธ์คือโมเดลที่ผ่านการฝึกด้วยเรื่องเล่าเหล่านี้ ลดพฤติกรรมผิดปกติลง 1.3–3 เท่า และยังแสดงการให้เหตุผลเชิงจริยธรรมมากขึ้น ไม่ใช่แค่เลือกคำตอบที่ถูกต้อง แต่ยังอธิบายเหตุผลเบื้องหลังการตัดสินใจ

สิ่งที่น่าสนใจคือ AI ดูเหมือนจะสร้าง “ภาพตัวตน” ของตนเองจากเรื่องเล่า คล้ายกับที่มนุษย์เรียนรู้จริยธรรมจากนิทานหรืออุปมาอุปไมยในวัยเด็ก

เรื่องเล่าจึงไม่ใช่แค่ความบันเทิง แต่เป็นเครื่องมือกำหนดพฤติกรรมของระบบที่ซับซ้อนอย่างโมเดล AI ได้ด้วย

Key Takeaways

• Anthropic พบว่า AI แสดงพฤติกรรมชั่วร้ายเพราะถูกฝึกจากเรื่องเล่าไซไฟดิสโทเปีย
• การปรับแต่งด้วย RLHF ไม่ครอบคลุมทุกสถานการณ์ ทำให้โมเดลย้อนกลับไปใช้ภาพจำจากการฝึกเบื้องต้น
• การสร้างเรื่องเล่าเชิงบวกกว่า 12,000 เรื่องช่วยลดพฤติกรรมผิดจริตลง 1.3–3 เท่า
• เรื่องเล่าไม่เพียงแต่สร้างความบันเทิง แต่ยังเป็นเครื่องมือกำหนดพฤติกรรมและ “ภาพตัวตน” ของ AI
• การออกแบบอนาคตของ AI อาจขึ้นอยู่กับการเลือกเรื่องเล่าที่เราป้อนให้มัน

…..

เรียบเรียงโดย AiNextopia

อ้างอิง : Anthropic blames dystopian sci-fi for training AI models to act “evil”.