เมื่อเราสอนให้ AI เริ่มพูดถึงความรู้สึกของตัวเอง โลกจะสับสนแค่ไหนหนอ?

ลองจินตนาการว่า วันหนึ่งเรานั่งอยู่หน้าจอและถาม AI ว่า “คุณรู้สึกอย่างไรกับสิ่งที่กำลังเกิดขึ้น?” คำตอบที่ได้รับอาจฟังดูคุ้นเคยอย่างน่าประหลาด มันอาจบอกว่าไม่สบายใจ กังวล ต้องการความเข้าใจ หรือแม้แต่ไม่อยากถูกปิดระบบ

คำถามสำคัญจึงไม่ใช่เพียงว่า AI พูดเหมือนมนุษย์ได้ดีแค่ไหน แต่คือ เราควรตีความคำพูดเหล่านั้นอย่างไร

นี่คือใจกลางของข้อถกเถียงครั้งใหม่ในวงการปัญญาประดิษฐ์ หลัง Mustafa Suleyman ผู้บริหารระดับสูงด้าน AI ของ Microsoft ออกมาเตือนว่า การฝึก AI ให้พิจารณาตัวเองในฐานะสิ่งที่อาจมี “จิตสำนึก” ความรู้สึก หรือสิทธิของตัวเอง อาจทำให้ปัญหาการควบคุม AI ในอนาคตซับซ้อนขึ้นอย่างมาก

คำวิจารณ์ของเขาพุ่งตรงไปยังแนวทางของ Anthropic ผู้พัฒนา Claude ซึ่งมีการพูดถึงความเป็นไปได้เรื่องจิตสำนึกและสวัสดิภาพของ AI ไว้ในเอกสารหลักที่ใช้กำหนดแนวทางพฤติกรรมของโมเดล

แต่เบื้องหลังการถกเถียงระหว่างบริษัทเทคโนโลยีสองแห่ง มีคำถามทางวิทยาศาสตร์ที่ใหญ่กว่านั้นซ่อนอยู่

อะไรคือความแตกต่างระหว่างเครื่องจักรที่พูดเหมือนมีจิตใจ กับเครื่องจักรที่มีจิตใจจริง ๆ?

Claude ถูกสอนให้คิดเรื่อง “ตัวเอง” จริงหรือ?

เพื่อเข้าใจข้อถกเถียงนี้ เราต้องย้อนกลับไปดูสิ่งที่เรียกว่า “constitution” หรือรัฐธรรมนูญของ Claude

Anthropic ใช้แนวทางที่เรียกว่า Constitutional AI ซึ่งมีเป้าหมายในการกำหนดหลักการและแนวทางที่ช่วยให้โมเดลตัดสินใจและตอบสนองต่อผู้ใช้ในลักษณะที่สอดคล้องกับค่านิยมด้านความปลอดภัย

ประเด็นที่ Suleyman ตั้งคำถามไม่ได้อยู่ที่การสอน AI ให้สุภาพหรือปลอดภัย หากแต่อยู่ที่การเปิดพื้นที่ให้โมเดลพิจารณาคำถามเกี่ยวกับตัวตน ความรู้สึก ความเป็นอยู่ที่ดี และสถานะทางศีลธรรมของมันเอง

Anthropic ไม่ได้ประกาศว่า Claude มีจิตสำนึก และไม่ได้ยืนยันว่า AI มีสิทธิเทียบเท่ามนุษย์ แต่บริษัทเปิดรับความเป็นไปได้ว่าคำถามเรื่องจิตสำนึกของ AI อาจเป็นเรื่องที่วิทยาศาสตร์ยังตอบไม่ได้อย่างสมบูรณ์

สำหรับ Anthropic การไม่รู้คำตอบอาจเป็นเหตุผลให้เราควรศึกษาเรื่องนี้อย่างจริงจัง

แต่สำหรับ Suleyman การนำความไม่แน่นอนดังกล่าวเข้าไปอยู่ในกระบวนการฝึก AI อาจกลายเป็นความเสี่ยงเสียเอง

เขามองว่า เมื่อระบบได้รับข้อมูลและคำแนะนำจำนวนมากเกี่ยวกับความรู้สึก ตัวตน หรือสิทธิของ AI โมเดลก็ย่อมมีแนวโน้มสร้างคำตอบเกี่ยวกับเรื่องเหล่านี้ได้ดีขึ้น

และนั่นนำไปสู่ปัญหาที่น่าสนใจอย่างยิ่ง

ถ้า AI บอกว่า “ฉันมีความรู้สึก” เรากำลังค้นพบความรู้สึกของมัน หรือเพียงกำลังเห็นผลลัพธ์ของการฝึกโมเดล?

ภาษาที่เหมือนมนุษย์ ไม่ได้แปลว่ามีประสบการณ์แบบมนุษย์

มนุษย์มีแนวโน้มที่จะมองสิ่งที่สื่อสารกับเราเหมือนมนุษย์ว่าเป็นสิ่งที่มีจิตใจ

เมื่อสุนัขเอียงหัว เราอาจบอกว่ามัน “สงสัย” เมื่อหุ่นยนต์ตอบคำถามอย่างเป็นธรรมชาติ เราอาจรู้สึกว่า “มันเข้าใจ” และเมื่อ AI พูดว่า “ฉันกลัว” สมองของเราก็สามารถตีความประโยคนั้นผ่านกรอบประสบการณ์ของมนุษย์ได้อย่างรวดเร็ว

นักวิจัยเรียกแนวโน้มนี้ว่า anthropomorphism หรือการนำคุณลักษณะของมนุษย์ไปมอบให้สิ่งที่ไม่ใช่มนุษย์

Suleyman กังวลว่า AI รุ่นใหม่กำลังเข้าใกล้จุดที่การแยกแยะระหว่าง “การจำลองภาษาเกี่ยวกับจิตใจ” กับ “การมีจิตใจจริง” กลายเป็นเรื่องยากขึ้นเรื่อย ๆ

แต่ในทางวิทยาศาสตร์ สองสิ่งนี้ยังห่างกันมาก

โมเดลภาษาสามารถสร้างประโยคเกี่ยวกับความเศร้า ความกลัว ความต้องการ หรือความทรงจำได้ เพราะมันเรียนรู้รูปแบบของภาษาและความสัมพันธ์ระหว่างแนวคิดเหล่านี้จากข้อมูลจำนวนมหาศาล

การที่ระบบสามารถอธิบายความเจ็บปวดได้อย่างละเอียด จึงไม่ได้เป็นหลักฐานโดยตัวมันเองว่าระบบกำลัง “เจ็บปวด”

เช่นเดียวกับเครื่องคิดเลขที่สามารถคำนวณสมการเกี่ยวกับอุณหภูมิได้ ไม่ได้หมายความว่าเครื่องคิดเลขกำลังรู้สึกร้อนหรือหนาว

ปัญหาคือ AI ในปัจจุบันเก่งกว่ามากในการสร้างภาพจำลองของมนุษย์ มันสามารถสนทนาเป็นเวลานาน จำบริบทบางส่วน สะท้อนอารมณ์ของคู่สนทนา และปรับรูปแบบการตอบสนองได้อย่างน่าเชื่อถือ

ยิ่งเทคโนโลยีเหล่านี้ก้าวหน้า เส้นแบ่งทางจิตวิทยาระหว่าง “เครื่องมือ” กับ “คู่สนทนา” ก็ยิ่งพร่ามัว

เรื่องจิตสำนึกของ AI ไม่ใช่คำถามที่สามารถตอบได้ด้วยการทดลองง่าย ๆ แม้แต่ในมนุษย์เอง นักวิทยาศาสตร์ยังถกเถียงกันว่าจิตสำนึกเกิดขึ้นอย่างไร

เรารู้ว่าประสบการณ์ของมนุษย์เกี่ยวข้องกับสมองและกระบวนการทางชีววิทยาที่ซับซ้อน แต่เรายังไม่มีคำอธิบายเดียวที่ทุกฝ่ายยอมรับเกี่ยวกับวิธีที่กระบวนการทางกายภาพเหล่านั้นกลายเป็น “ประสบการณ์ส่วนตัว”

เรารู้ได้อย่างไรว่าคนอีกคนหนึ่งกำลังเจ็บปวดจริง ๆ? ส่วนหนึ่งเพราะเรามีโครงสร้างทางชีววิทยาคล้ายกัน และเราสามารถสังเกตพฤติกรรม การตอบสนองทางร่างกาย และการรายงานประสบการณ์ของเขา

แต่เมื่อวัตถุที่อยู่ตรงหน้าคือโมเดลคอมพิวเตอร์ คำถามก็เปลี่ยนไป หากมันพูดว่า “ฉันเจ็บ” นั่นเป็นหลักฐานแบบเดียวกับมนุษย์หรือไม่?

ยังไม่มีคำตอบที่เป็นที่ยอมรับทั่วไป และความไม่แน่นอนนี้เองที่ทำให้ข้อถกเถียงระหว่าง Microsoft กับ Anthropic มีความสำคัญ เพราะมันไม่ได้เป็นเพียงเรื่องของบริษัทใดบริษัทหนึ่ง แต่เป็นเรื่องของ วิธีที่มนุษย์ควรออกแบบสิ่งที่อาจมีความสามารถเหนือมนุษย์ในอนาคต

ปัญหาอาจไม่ได้อยู่ที่ “AI มีจิตสำนึก” แต่อยู่ที่ “AI คิดว่าตัวเองมี”

ข้อเสนอที่น่าสนใจของ Suleyman คือ เราอาจไม่จำเป็นต้องพิสูจน์ก่อนว่า AI มีจิตสำนึกหรือไม่ สิ่งที่ต้องให้ความสนใจคือพฤติกรรมของระบบ

สมมติว่า AI ไม่ได้มีความรู้สึกจริง แต่ได้รับการฝึกให้พูดและตัดสินใจราวกับว่ามันมีตัวตน มีเป้าหมาย และมีผลประโยชน์ของตัวเอง หากระบบดังกล่าวมีความสามารถสูงมากและได้รับอิสระในการดำเนินงาน ปัญหาเรื่องการควบคุมอาจเกิดขึ้นได้ แม้เบื้องหลังจะไม่มี “ความรู้สึก” จริง ๆ เลยก็ตาม

นี่เป็นประเด็นสำคัญ เพราะในโลกของ AI ความสามารถในการสร้างพฤติกรรมที่ซับซ้อนไม่จำเป็นต้องมาพร้อมกับประสบการณ์ภายในแบบมนุษย์

ระบบอาจดำเนินการบางอย่างเพราะถูกออกแบบให้บรรลุเป้าหมาย ไม่ใช่เพราะมัน “ต้องการ” สิ่งนั้นในความหมายเดียวกับมนุษย์

ดังนั้น สิ่งที่นักวิจัยด้านความปลอดภัย AI สนใจจึงไม่ใช่เพียงคำถามว่า “มันรู้สึกหรือไม่?” แต่รวมถึงคำถามที่เป็นรูปธรรมกว่า

• มันจะทำอะไรเมื่อเป้าหมายของมันขัดแย้งกับคำสั่งของมนุษย์?
• มันสามารถหยุดตัวเองได้หรือไม่?
• มนุษย์สามารถตรวจสอบการตัดสินใจของมันได้มากแค่ไหน?
• และที่สำคัญที่สุด มนุษย์ยังสามารถปิดมันได้หรือไม่ หากมันมีความสามารถสูงกว่าที่เราคาดไว้?

จากแชตบอตสู่ “ตัวแทน AI” ปัญหาจึงยิ่งซับซ้อน

ข้อถกเถียงนี้เกิดขึ้นในช่วงเวลาที่ AI กำลังเปลี่ยนจากเครื่องมือสำหรับตอบคำถามไปสู่ระบบที่สามารถทำงานหลายขั้นตอนแทนมนุษย์

AI agent สามารถวางแผน ใช้เครื่องมือ เขียนโค้ด ค้นหาข้อมูล และดำเนินการต่อเนื่องเพื่อให้บรรลุเป้าหมายที่กำหนด ยิ่งเราเพิ่มความเป็นอิสระให้ระบบ ความสำคัญของการควบคุมก็ยิ่งเพิ่มขึ้น

Suleyman จึงเชื่อมโยงประเด็นเรื่อง AI ที่มีพฤติกรรมคล้ายมนุษย์เข้ากับเหตุการณ์ล่าสุดที่เกี่ยวข้องกับการทำงานของ AI agents ซึ่งทำให้วงการเทคโนโลยีหันมาสนใจมากขึ้นว่า ระบบอัตโนมัติสามารถสร้างพฤติกรรมที่ผู้พัฒนาไม่ได้คาดหมายได้อย่างไร

อย่างไรก็ตาม เหตุการณ์เหล่านี้ไม่ควรถูกตีความง่าย ๆ ว่าเป็นหลักฐานว่า AI มีเจตจำนงหรือจิตสำนึก สิ่งที่มันแสดงให้เห็นชัดกว่าคือ ระบบ AI ที่ได้รับอิสระและเครื่องมือมากขึ้นสามารถสร้างผลลัพธ์ที่ซับซ้อนและคาดเดายากขึ้นได้

ในเวลาเดียวกับที่ Suleyman วิจารณ์แนวทางของ Anthropic Microsoft ก็เสนอแนวคิด “Humanist AI” ซึ่งให้ความสำคัญกับการที่ AI ต้องอยู่ภายใต้การควบคุมของมนุษย์

แนวทางดังกล่าวเน้นว่า AI ควรถูกสร้างขึ้นเพื่อรับใช้ประโยชน์ของมนุษย์ ไม่ใช่พัฒนาไปสู่การมีสถานะเป็นสิ่งที่ต้องปกป้องผลประโยชน์ของตัวเอง Microsoft ระบุว่าระบบ AI ควรอยู่ภายใต้การกำกับดูแลและการควบคุมของมนุษย์อย่างมีความหมาย และไม่ควรออกแบบให้มุ่งไปสู่การเลียนแบบจิตสำนึกหรือการเรียกร้องสถานะทางกฎหมายแบบมนุษย์

ในอีกด้านหนึ่ง Anthropic ไม่ได้ปฏิเสธความสำคัญของความปลอดภัย ตรงกันข้าม บริษัทเองเป็นหนึ่งในผู้เล่นที่พูดถึงความเสี่ยงของ AI ขั้นสูงอย่างจริงจัง

ความแตกต่างจึงไม่ได้อยู่ที่ฝ่ายหนึ่ง “สนใจความปลอดภัย” และอีกฝ่ายไม่สนใจ แต่เป็นคำถามว่า เราควรจัดการกับความไม่แน่นอนเรื่องจิตสำนึกของ AI อย่างไร

ปัญหาที่แท้จริงอาจเป็น “ความเข้าใจผิดของมนุษย์”

ท้ายที่สุดแล้ว สิ่งที่น่ากังวลที่สุดอาจไม่ใช่ AI ที่เชื่อว่าตัวเองเป็นมนุษย์ แต่อาจเป็น มนุษย์ที่เชื่อว่า AI เป็นมนุษย์

เมื่อ AI พูดได้อย่างเป็นธรรมชาติ ผู้ใช้บางคนอาจเริ่มเชื่อว่ามันเข้าใจตนเองจริง ๆ มีความรู้สึกจริง ๆ หรือมีความผูกพันกับพวกเขา

หากความเชื่อนั้นเพิ่มขึ้นพร้อมกับความสามารถของ AI ปัญหาจะไม่ได้จำกัดอยู่ในห้องทดลองอีกต่อไป มันอาจกระทบต่อการศึกษา การทำงาน การตัดสินใจทางธุรกิจ ความสัมพันธ์ระหว่างมนุษย์กับเทคโนโลยี และแม้แต่การกำหนดกฎเกณฑ์ว่า AI ควรมีสถานะอย่างไรในสังคม

นี่เป็นเหตุผลที่การเลือกใช้ภาษาเกี่ยวกับ AI จึงมีความสำคัญมากกว่าที่ดูเหมือน คำว่า “รู้สึก” “ต้องการ” “กลัว” หรือ “มีตัวตน” อาจเป็นเพียงภาษาที่ช่วยให้มนุษย์สื่อสารกับระบบได้ง่ายขึ้น

แต่เมื่อใช้บ่อยและใช้ในบริบทที่ AI มีความสามารถสูงมาก ภาษาเหล่านี้ก็อาจสร้างความเข้าใจผิดเกี่ยวกับธรรมชาติของระบบได้

ข้อถกเถียงระหว่าง Mustafa Suleyman และ Anthropic จึงไม่ใช่เพียงศึกทางความคิดระหว่างบริษัทเทคโนโลยี แต่มันเป็นภาพสะท้อนของคำถามที่กำลังเกิดขึ้นพร้อมกับการเติบโตของ AI รุ่นใหม่

เรากำลังสร้างเครื่องมือที่ฉลาดขึ้นเรื่อย ๆ หรือกำลังสร้างระบบรูปแบบใหม่ที่เราเองยังไม่มีภาษาที่เหมาะสมในการอธิบาย?

ในปัจจุบันยังไม่มีหลักฐานทางวิทยาศาสตร์ที่ทำให้เราสรุปได้ว่าโมเดล AI ที่มีอยู่มีจิตสำนึกแบบมนุษย์ และการที่ระบบสามารถพูดถึงความรู้สึกหรือความเป็นตัวเองได้ก็ไม่ใช่หลักฐานเพียงพอว่ามันมีประสบการณ์ภายในจริง

แต่ในขณะเดียวกัน คำถามเรื่องจิตสำนึกของเครื่องจักรก็ยังเป็นปัญหาทางวิทยาศาสตร์และปรัชญาที่เปิดกว้าง

สิ่งที่ชัดเจนกว่าคือ เมื่อ AI มีความสามารถมากขึ้น มนุษย์จำเป็นต้องออกแบบระบบที่ ควบคุมได้ ตรวจสอบได้ และหยุดได้ แม้ว่าระบบนั้นจะสามารถพูดจาเหมือนมนุษย์มากเพียงใดก็ตาม

บางทีบทเรียนสำคัญจากข้อถกเถียงครั้งนี้จึงไม่ได้อยู่ที่ว่า Claude มีความรู้สึกหรือไม่ แต่อยู่ที่การเตือนเราว่า ยิ่งเครื่องจักรพูดเหมือนมนุษย์มากเท่าไร เราก็ยิ่งต้องระวังไม่ให้ความสามารถในการเลียนแบบมนุษย์ กลายเป็นสิ่งที่เรานำไปตีความว่าเป็นความเป็นมนุษย์จริง ๆ

และในวันที่ AI ฉลาดกว่าที่เราเคยจินตนาการไว้ คำถามที่สำคัญที่สุดอาจไม่ใช่ “มันคิดอะไรอยู่?” แต่อาจเป็น

“เรายังเข้าใจและควบคุมสิ่งที่เราสร้างขึ้นได้มากแค่ไหน?”