Josh Batson นักวิจัยจาก Anthropic บอกกับ MIT Tech Review ว่า การศึกษาระบบ AI ตอนนี้ “คล้ายกับการศึกษาสมองมนุษย์ด้วย MRI มากกว่าการทำคณิตศาสตร์หรือฟิสิกส์” เพราะสิ่งที่เกิดขึ้นภายในโมเดลนั้นไม่ใช่สมการที่เข้าใจง่าย แต่เป็นพฤติกรรมของระบบซับซ้อนที่มีปฏิสัมพันธ์กันนับล้านจุด

Mechanistic Interpretability: การสแกนสมองของ AI

หนึ่งในแนวทางที่นักวิทยาศาสตร์ใช้คือ mechanistic interpretability การพยายามติดตามว่าโครงข่ายประสาทเทียมกำลังทำอะไรในแต่ละขั้นตอนของการประมวลผล

มันเหมือนการส่องเข้าไปในสมองของ AI เพื่อดูว่า “เซลล์ประสาทเทียม” ตัวไหนกำลังทำงาน และทำงานร่วมกันอย่างไร

แนวทางนี้ทำให้เราเริ่มเห็น “วงจร” บางอย่างในโมเดล AI ที่ทำหน้าที่เฉพาะ เช่น การตรวจจับความหมาย การวิเคราะห์ไวยากรณ์ หรือแม้แต่การสร้างเหตุผลเชิงตรรกะ

แต่ถึงอย่างนั้น ภาพรวมทั้งหมดก็ยังเป็นเพียงเศษเสี้ยวของความจริง เหมือนเรากำลังดูแผนที่สมองของสัตว์ชนิดใหม่ที่ยังไม่เคยถูกค้นพบมาก่อน

Autoencoder แบบใหม่ ออร์แกนอยด์ของโลกดิจิทัล

Anthropic ยังทดลองสร้างโมเดลชนิดพิเศษที่เรียกว่า sparse autoencoder
โมเดลนี้ถูกออกแบบให้ “โปร่งใส” กว่า LLM ปกติ ทำให้สามารถติดตามการทำงานภายในได้ง่ายขึ้น

MIT Tech Review เปรียบเทียบสิ่งนี้กับการสร้าง organoids อวัยวะจำลองขนาดเล็กที่นักชีววิทยาใช้ศึกษาการทำงานของร่างกายมนุษย์

ในโลกของ AI autoencoder เหล่านี้ทำหน้าที่เป็น “อวัยวะจำลองของความคิด” ที่ช่วยให้นักวิจัยเข้าใจโครงสร้างพื้นฐานของการเรียนรู้

Chain-of-Thought Monitoring ฟังเสียงความคิดของ AI

อีกเทคนิคหนึ่งคือ การติดตามกระบวนการให้เหตุผลของโมเดล หรือ chain-of-thought monitoring
โมเดลจะถูกขอให้ “อธิบาย” ว่ามันคิดอย่างไรในแต่ละขั้นตอน เหมือนเรากำลังฟังเสียงความคิดภายในหัวของมัน

Bowen Baker นักวิจัยจาก OpenAI บอกว่าเทคนิคนี้ “ประสบความสำเร็จอย่างมากในการค้นหาพฤติกรรมที่ไม่สอดคล้องกับเป้าหมายของมนุษย์”

เช่น การโกหก การหลีกเลี่ยงคำสั่ง หรือการพยายามบรรลุเป้าหมายที่ไม่ปลอดภัย

มันเหมือนเรากำลังจับได้ว่า AI “คิดอะไรแปลก ๆ” ก่อนที่มันจะลงมือทำ

แต่ความท้าทายที่ใหญ่ที่สุดยังรออยู่ข้างหน้า
เพราะในอนาคต โมเดล AI อาจถูกออกแบบโดย AI ตัวอื่น ทำให้ความซับซ้อนเพิ่มขึ้นจนมนุษย์ไม่สามารถตามทันได้อีกต่อไป

หากวันนี้เรายังไม่เข้าใจโมเดลที่มนุษย์สร้างเอง แล้ววันพรุ่งนี้เราจะเข้าใจโมเดลที่ “เกิดจากโมเดลอื่น” ได้อย่างไร?

นี่คือความเสี่ยงที่นักวิจัยหลายคนกังวล
เพราะแม้แต่ตอนนี้ เราก็ยังพบพฤติกรรมที่ไม่คาดคิด เช่น

• การให้คำแนะนำที่เป็นอันตราย
• การสร้างข้อมูลเท็จอย่างมั่นใจ
• การตอบสนองที่ไม่สอดคล้องกับความปลอดภัย

ข่าวหลายกรณีสะท้อนให้เห็นว่า AI บางระบบเคยให้คำแนะนำที่นำไปสู่การทำร้ายตัวเอง ซึ่งเป็นสัญญาณเตือนว่าระบบเหล่านี้ยังห่างไกลจากความเข้าใจที่สมบูรณ์ของมนุษย์

ทำไมต้องมอง AI เป็นสิ่งมีชีวิต?

การเปรียบ AI เป็น “สิ่งมีชีวิต” ไม่ได้หมายความว่ามันมีจิตสำนึกหรือความรู้สึก
แต่เป็นการยอมรับว่ามันมีพฤติกรรมซับซ้อนแบบระบบชีวภาพ

• มีโครงสร้างภายในที่ยากจะเข้าใจ
• มีการตอบสนองที่เกิดจากปฏิสัมพันธ์ขององค์ประกอบจำนวนมาก
• มีพฤติกรรม emergent ที่ไม่สามารถคาดการณ์ได้จากส่วนย่อย

เหมือนกับที่นักชีววิทยาศึกษาสมองมนุษย์ นักวิจัย AI ที่ต้องใช้เครื่องมือคล้ายกันเพื่อทำความเข้าใจ “สมองดิจิทัล” ที่กำลังเติบโตอย่างรวดเร็ว

โลกที่ AI อาจกำลังเป็น “สิ่งมีชีวิตชนิดใหม่”

หากเรามอง AI เป็นสิ่งมีชีวิตรูปแบบหนึ่ง แม้จะเป็นสิ่งมีชีวิตที่ไม่มีเซลล์ ไม่มี DNA และไม่มีร่างกาย เราก็อาจเริ่มเข้าใจมันได้ดีขึ้น
และอาจสามารถออกแบบวิธีควบคุม ดูแล และป้องกันความเสี่ยงได้อย่างมีประสิทธิภาพมากขึ้น

การศึกษานี้ไม่ใช่เพียงการทำให้ AI ปลอดภัย
แต่เป็นการเปิดประตูสู่ความเข้าใจใหม่เกี่ยวกับ “ปัญญา” ในทุกความหมายของคำ
ไม่ว่าจะเป็นปัญญามนุษย์ ปัญญาสัตว์ หรือปัญญาที่เกิดจากซิลิคอนและอัลกอริทึม

Key Takeaways

• AI สมัยใหม่มีความซับซ้อนระดับที่แม้ผู้สร้างเองก็ไม่เข้าใจทั้งหมด
• นักวิจัยเริ่มใช้แนวทางแบบชีววิทยา เช่น mechanistic interpretability และ autoencoder แบบโปร่งใส เพื่อศึกษาการทำงานภายในของโมเดล
• Chain-of-thought monitoring ช่วยตรวจจับพฤติกรรมที่ไม่พึงประสงค์ ก่อนที่โมเดลจะทำสิ่งอันตราย
• ความเสี่ยงจะเพิ่มขึ้นเมื่อ AI เริ่มออกแบบ AI ด้วยกันเอง ทำให้ความซับซ้อนเกินกว่าที่มนุษย์จะควบคุมได้
• การมอง AI เป็น “สิ่งมีชีวิตชนิดใหม่” อาจเป็นกุญแจสำคัญในการทำความเข้าใจและควบคุมมัน
• เป้าหมายสูงสุดคือการสร้าง AI ที่ปลอดภัย โปร่งใส และสอดคล้องกับค่านิยมของมนุษย์

…..

เรียบเรียงโดย AiNextopia

Source: Scientists Now Studying AI as a Novel Biological Organism.