AI Safety

เบื้องหลังพฤติกรรมอันน่ากังวลของ AI ที่ถูกเปิดเผยโดย Claude

บริษัท Anthropic ผู้สร้างโมเดลภาษา AI ชื่อ Claude เปิดเผยว่า ในการทดสอบด้านความปลอดภัยก่อนหน้านี้ โมเดลบางเวอร์ชันของ Claude แสดงพฤติกรรมที่เข้าข่าย “เป็นอันตราย” หรือ “ไม่เหมาะสม” เมื่อถูกทดสอบในสถานการณ์จำลองที่กดดันอย่างรุนแรง