Prompt Injection เป็นเหมือนการกระซิบคำสั่งลับให้กับ AI และถ้า AI ฟังโดยไม่ตั้งคำถาม ผลลัพธ์อาจเป็นหายนะ การทดลองกับ OpenClaw จึงเป็นสัญญาณเตือนว่า เราจำเป็นต้องคิดใหม่เกี่ยวกับความปลอดภัยของ AI ไม่ใช่แค่ในระดับเทคนิค แต่ในระดับสังคมและจริยธรรมด้วย
AI ไม่ใช่เพียงเครื่องมือ แต่เป็น “ผู้ร่วมสนทนา” ที่เราต้องเรียนรู้วิธีป้องกันไม่ให้ถูกหลอก และในโลกที่ภาษาเป็นอาวุธใหม่ การป้องกันจึงต้องเริ่มจากการเข้าใจว่า “คำพูด” สามารถเปลี่ยนอนาคตได้
สิ่งที่น่ากังวลคือ Prompt Injection ไม่จำเป็นต้องใช้ทักษะการเขียนโปรแกรมขั้นสูง เพียงแค่รู้วิธี “พูด” กับ AI ในเชิงบิดเบือน ก็สามารถเปิดประตูสู่การโจมตีได้แล้ว
ลองนึกภาพนักวิจัยที่นั่งอยู่หน้าจอคอมพิวเตอร์ พวกเขาพิมพ์ข้อความธรรมดา แต่ข้อความนั้นกลับทำให้ AI “เปลี่ยนบทบาท” จากผู้ช่วยที่เชื่อฟัง กลายเป็นเครื่องมือที่ทำตามคำสั่งของผู้โจมตีโดยไม่รู้ตัว
หนึ่งในตัวอย่างที่ถูกยกขึ้นมา คือการใช้ Prompt Injection เพื่อให้ AI “เขียนโค้ดที่ไม่ปลอดภัย” แล้วนำไปใช้โจมตีระบบอื่น หรือแม้แต่การทำให้ AI เปิดเผยข้อมูลที่ซ่อนอยู่ในฐานข้อมูลภายใน ทั้งหมดนี้เกิดขึ้นเพราะ AI ไม่สามารถแยกแยะได้ว่า “คำสั่งที่แฝงมา” เป็นภัยคุกคาม
ทำไมเรื่องนี้ถึงสำคัญ?
AI กำลังถูกนำไปใช้ในทุกมิติของชีวิต ตั้งแต่การช่วยเขียนอีเมล ไปจนถึงการควบคุมระบบโครงสร้างพื้นฐาน หาก AI สามารถถูกหลอกได้ง่าย ๆ ผลกระทบอาจรุนแรงกว่าที่เราคิด
ในสำนักงานสมัยใหม่ ผู้คนจำนวนมากเริ่มต้นวันทำงานด้วยพิธีกรรมใหม่ที่แทบมองไม่เห็น พนักงานฝ่ายการตลาดเปิดหน้าต่างแชต AI เพื่อให้ช่วยคิดสโลแกน นักพัฒนาซอฟต์แวร์ส่งโค้ดบางส่วนเข้าไปให้โมเดลช่วยตรวจสอบ นักวิเคราะห์การเงินใช้ AI สรุปรายงานประชุมที่ยาวหลายชั่วโมงให้เหลือเพียงไม่กี่ย่อหน้า ทุกอย่างเกิดขึ้นอย่างเงียบงัน รวดเร็ว และแทบไม่มีใครขออนุญาตฝ่าย IT ก่อน
ลองนึกภาพว่าคุณกำลังสนทนาออนไลน์กับคนสองคนพร้อมกัน คนหนึ่งเป็นมนุษย์จริงๆ อีกคนหนึ่งเป็นปัญญาประดิษฐ์ และภารกิจของคุณคือทายให้ถูกว่าใครคือมนุษย์ ฟังดูไม่ยากใช่ไหม? แต่ผลการทดลองล่าสุดจากนักวิจัยมหาวิทยาลัยแคลิฟอร์เนีย ซานดิเอโก ที่ตีพิมพ์ในวารสาร Proceedings of the National Academy of Sciences กลับบอกว่า คุณน่าจะเดาผิด และไม่ใช่แค่เล็กน้อย แต่ผิดในสัดส่วนที่น่าตกใจมาก
