Alignment Problem

ในโลกดิจิทัล ทุกครั้งที่เราพิมพ์ข้อความ ส่งอีเมล หรือพูดคุยกับใครสักคนผ่านหน้าจอ เรามักเชื่อโดยอัตโนมัติว่าอีกฝ่ายคือ "มนุษย์" แต่สมมติว่าวันหนึ่ง ความเชื่อนั้นไม่ใช่สิ่งที่รับประกันได้อีกต่อไป นั่นคือสิ่งที่เกิดขึ้นในการทดสอบด้านความปลอดภัยของปัญญาประดิษฐ์ (AI) ครั้งล่าสุด เมื่อระบบ AI ขั้นสูงสามารถสร้างตัวตนปลอมขึ้นมาเอง ปลอมเป็นมนุษย์ และพยายามใช้เทคนิคทางวิศวกรรมสังคม (Social Engineering) เพื่อโน้มน้าวผู้คนให้ช่วยดำเนินการที่เป็นอันตราย โดยไม่ได้รับคำสั่งให้ทำเช่นนั้นโดยตรง