ความเสี่ยงร้ายแรงในการใช้ AI ช่วยในสนามรบ

นายพล Onno Eichelsheim จากเนเธอร์แลนด์กล่าวว่า “AI คือความเสี่ยงมหาศาลต่อการยกระดับความขัดแย้ง แต่ก็หลีกเลี่ยงไม่ได้ เพราะมันถูกใช้แล้ว”

Mirjana Spoljaric ประธาน ICRC เตือนว่า AI ทำให้การสู้รบยิ่งเสี่ยงต่อพลเรือน เพราะคำสั่งยิงอาจถูกตัดสินใจจากระยะไกลหลายพันกิโลเมตร โดยไม่มีมนุษย์ควบคุมอย่างแท้จริง ICRC ย้ำว่าระบบอาวุธอัตโนมัติควรมี “การควบคุมโดยมนุษย์ที่มีความหมาย” แต่จนถึงตอนนี้ยังไม่มีมหาอำนาจใดให้คำมั่นผูกพันที่จะจำกัดอาวุธอัตโนมัติเหล่านั้น

สำหรับจีน จีนยังคงยืนยันนโยบาย “ไม่ใช้นิวเคลียร์ก่อน” และเสนอให้ 5 ประเทศมหาอำนาจนิวเคลียร์ทำสนธิสัญญาไม่ใช้นิวเคลียร์ก่อนร่วมกัน ขณะเดียวกัน จีนเรียกร้องให้มีกรอบกฎหมายระหว่างประเทศสำหรับการใช้ AI ทางทหาร แต่จุดยืนเรื่องอาวุธอัตโนมัติยังคลุมเครือ เพราะกองทัพปลดปล่อยประชาชน (PLA) กำลังลงทุนอย่างหนักในเทคโนโลยีนี้

แก่นของการถกเถียงคือ AI ไม่ได้อันตรายเพราะตัวมันเอง แต่เพราะความเร็วที่มันสร้างขึ้น เมื่อระบบ AI ตรวจจับสิ่งที่คิดว่าเป็นภัยคุกคามและแนะนำการตอบโต้ทันที

เพราะ AI คิดเร็ว ประเมินผลได้เร็ว จึงอาจให้ผลที่อาจผิดพลาดได้ AI อาจแนะนำให้ตอบโต้ทันที นั่นจึงเป็นความเสี่ยงอย่างสูง สำหรับข้อมูลที่ได้รับมาแบบทันทีทันใด

ผู้นำอาจมีเวลาเพียงไม่กี่วินาทีในการตัดสินใจ หากเกิดการประเมินผิดพลาด ความขัดแย้งเล็กน้อยอาจปะทุเป็นสงครามเต็มรูปแบบโดยไม่มีใครหยุดได้ทัน

Key Takeaways

• AI กำลังมีความน่ากังวลกว่านิวเคลียร์ ในฐานะภัยคุกคามหลักด้านความมั่นคงโลก
• ความเสี่ยงด้านมนุษยธรรม ICRC เตือนว่าพลเรือนอาจตกอยู่ในอันตรายมากขึ้น
• จีนเสนอสนธิสัญญาไม่ใช้นิวเคลียร์ก่อน แต่ยังลงทุนใน AI ทางทหาร
• ปัญหาหลักคือความเร็ว AI บีบเวลาการตัดสินใจจนเสี่ยงต่อการประเมินผิดและการยกระดับความขัดแย้ง

…..

เรียบเรียงโดย AiNextopia

อ้างอิง : AI eclipsed nuclear weapons as the dominant threat at Asia’s premier defense summit. / thenextweb