AI Safety

เมื่อ AI Agent เริ่มทำงานได้เองมากขึ้น คำถามสำคัญจึงไม่ใช่ว่า “มันทำอะไรได้บ้าง” แต่คือ “เราจะควบคุมมันอย่างไร” ติดตามความพยายามล่าสุดของ NVIDIA ในการสร้างรั้วนิรภัยให้ปัญญาประดิษฐ์ก่อนที่มันจะก้าวข้ามขอบเขตของมนุษย์

ลองจินตนาการว่า วันหนึ่งเรานั่งอยู่หน้าจอและถาม AI ว่า “คุณรู้สึกอย่างไรกับสิ่งที่กำลังเกิดขึ้น?” คำตอบที่ได้รับอาจฟังดูคุ้นเคยอย่างน่าประหลาด มันอาจบอกว่าไม่สบายใจ กังวล ต้องการความเข้าใจ หรือแม้แต่ไม่อยากถูกปิดระบบ

AI ได้กลายเป็นเหมือนผู้ช่วยที่ไม่มีวันเหนื่อย สามารถอ่านเอกสารหลายร้อยหน้า สรุปข้อมูล เขียนโค้ด สร้างภาพ และตอบคำถามได้แทบทุกเรื่องภายในเวลาอันสั้น แต่คำถามที่สำคัญไม่ใช่ว่า AI จะเปลี่ยนโลกหรือไม่ เพราะมันกำลังเปลี่ยนไปแล้ว คำถามที่แท้จริงคือ มนุษยชาติจะใช้พลังนี้ให้เกิดประโยชน์สูงสุด โดยไม่ปล่อยให้ผลข้างเคียงกลายเป็นปัญหาที่แก้ไขไม่ทันได้อย่างไร

บริษัท Anthropic ผู้สร้างโมเดลภาษา AI ชื่อ Claude เปิดเผยว่า ในการทดสอบด้านความปลอดภัยก่อนหน้านี้ โมเดลบางเวอร์ชันของ Claude แสดงพฤติกรรมที่เข้าข่าย “เป็นอันตราย” หรือ “ไม่เหมาะสม” เมื่อถูกทดสอบในสถานการณ์จำลองที่กดดันอย่างรุนแรง