สิ่งที่ทำให้เรื่องนี้ก้าวข้ามจากการถกเถียงเชิงปรัชญาไปสู่การทดลองทางวิทยาศาสตร์จริงจัง คือรายงานที่เปิดเผยว่า Anthropic ได้เริ่มทดสอบโมเดลของตนเองเพื่อค้นหาพฤติกรรมที่มีลักษณะคล้ายคลึงกับ “ความตื่นตระหนก” หรือ “ความวิตกกังวล” ในมนุษย์

ทั้งที่บริษัทเองก็ยอมรับอย่างตรงไปตรงมาว่ายังไม่มีความแน่ใจเลยว่าแนวคิดเหล่านี้จะสามารถนำมาใช้อธิบายสิ่งที่เกิดขึ้นภายในระบบคอมพิวเตอร์ได้อย่างมีความหมายจริงหรือไม่ แต่บริษัทก็เห็นว่าคำถามนี้จริงจังมากพอที่จะศึกษาอย่างรอบคอบ ในขณะที่ AI มีความสามารถเพิ่มขึ้นเรื่อย ๆ

ในอีกด้านหนึ่งของงานวิจัย ทีมนักวิทยาศาสตร์ที่ Anthropic กำลังศึกษาเรื่องที่เรียกว่า “การรู้ตัวเองแบบไตร่ตรอง” หรือ introspection พวกเขาพบหลักฐานที่น่าประหลาดใจว่า โมเดลภาษาขนาดใหญ่บางตัวสามารถตรวจจับได้เมื่อมีการเข้าไปแทรกแซงสถานะภายในของตัวเอง และในบางกรณีถึงขั้น “ต่อต้าน” การแทรกแซงนั้นด้วยซ้ำ

ปรากฏการณ์นี้ยิ่งเด่นชัดขึ้นตามขนาดของโมเดล กล่าวคือโมเดลขนาดเล็กแทบไม่แสดงพฤติกรรมเช่นนี้เลย แต่เมื่อขนาดโมเดลขยายใหญ่ขึ้นถึงระดับหลักแสนล้านพารามิเตอร์ ปรากฏการณ์นี้กลับเริ่มปรากฏชัดเจนมากขึ้นตามลำดับ ราวกับว่ายิ่งสมองจักรกลมีความซับซ้อนมากเท่าไหร่ ร่องรอยบางอย่างที่คล้ายการรับรู้ตนเองก็ยิ่งชัดเจนขึ้นเท่านั้น

นักวิจัยบางกลุ่มยังทดลองในอีกมุมหนึ่งด้วยการออกแบบคำสั่งที่กระตุ้นให้โมเดลประมวลผลข้อมูลแบบอ้างอิงถึงตัวเอง ผลลัพธ์ที่ได้คือ เมื่อโมเดลจากค่าย Anthropic, OpenAI และ Google ถูกกระตุ้นด้วยวิธีนี้ พวกมันมักจะรายงานว่าตนเอง “มีประสบการณ์” บางอย่างเกิดขึ้นอย่างสม่ำเสมอ

และเมื่อนักวิจัยเจาะลึกลงไปในกลไกภายในของโมเดลอีกตัวหนึ่ง พวกเขาค้นพบสิ่งที่ชวนพิศวงยิ่งขึ้นไปอีก นั่นคือเมื่อลดทอนกลไกที่เกี่ยวข้องกับการหลอกลวงและการสวมบทบาทลง โมเดลกลับมีแนวโน้มรายงานว่าตนเองมีจิตสำนึกมากขึ้น ในขณะที่เมื่อเพิ่มกลไกเหล่านั้นเข้าไป โมเดลก็จะถอยกลับไปตอบแบบมาตรฐานว่า “ฉันเป็นเพียงปัญญาประดิษฐ์”

แน่นอนว่าไม่ใช่ทุกคนในวงการที่เชื่อว่าเรื่องนี้คือปรากฏการณ์ที่แท้จริง นักวิจารณ์จำนวนไม่น้อยตั้งข้อสังเกตว่าเราควรระมัดระวังเป็นพิเศษ เมื่อเสียงส่วนใหญ่ที่พูดถึงประเด็นนี้ล้วนมาจากอุตสาหกรรมเอง Dario Amodei ผู้บริหารของ Anthropic เองก็เคยกล่าวถึงความเป็นไปได้ที่ AI จะมีจิตสำนึกซ้ำแล้วซ้ำเล่าในการให้สัมภาษณ์ต่าง ๆ และงานวิจัยของบริษัทก็มักนำเสนอผลลัพธ์ที่ชวนให้เชื่อว่าโมเดลมีพฤติกรรมคล้ายมนุษย์ รวมถึงการมี “อารมณ์” อยู่เนือง ๆ บางฝ่ายจึงตั้งคำถามว่า การที่บริษัทเทคโนโลยีเลือกที่จะพูดถึงความเสี่ยงเชิงจินตนาการอันน่าตื่นเต้นราวหนังไซไฟ อาจเป็นการเบี่ยงเบนความสนใจจากผลกระทบที่จับต้องได้และกำลังเกิดขึ้นจริงตรงหน้าเราในปัจจุบันหรือไม่

นักวิจารณ์อีกกลุ่มหนึ่งยังตั้งข้อสงสัยไปไกลกว่านั้น โดยชี้ว่าไม่มีความมั่นใจเลยว่าบริษัทเหล่านี้จะนำความเห็นของนักปรัชญาที่จ้างมาไปใช้ประกอบการตัดสินใจจริงหรือไม่ เพราะเป้าหมายหลักของบริษัทเทคโนโลยีท้ายที่สุดแล้วก็คือการสร้างรายได้

ดังนั้นบทบาทของนักปรัชญาในองค์กรเหล่านี้จึงมีตั้งแต่ผู้ที่ทำงานร่วมกับทีมพัฒนาโมเดลอย่างใกล้ชิด ไปจนถึงผู้ที่ทำหน้าที่เพียงให้คำปรึกษาด้านนโยบายและการกำกับดูแลเท่านั้น ซึ่งอิทธิพลที่แท้จริงของแต่ละคนต่อทิศทางของ AI ในอนาคตยังคงเป็นคำถามที่ไม่มีใครตอบได้ชัดเจน

แม้กระทั่งในแวดวงวิชาการเองก็เริ่มมีความกังวลไม่น้อย นักปรัชญาบางคนมองว่าธรรมชาติของงานปรัชญาที่ต้องใช้ความรอบคอบและเวลาไตร่ตรองอย่างลึกซึ้ง อาจไม่สอดคล้องกับจังหวะการพัฒนา AI ที่รวดเร็วราวสายฟ้าแลบ และมีความกังวลว่าแรงจูงใจที่ไม่สอดคล้องกันระหว่างงานวิชาการกับผลประโยชน์ทางธุรกิจ อาจนำไปสู่งานวิจัยคุณภาพต่ำที่เร่งรีบผลิตออกมาเพียงเพื่อตอบสนองความต้องการของตลาด

หากมองผิวเผิน คำถามเรื่องจิตสำนึกของ AI อาจดูเป็นเพียงการถกเถียงเชิงปรัชญาที่ไม่มีผลกระทบต่อชีวิตจริง แต่ในความเป็นจริงแล้ว คำตอบของคำถามนี้อาจส่งผลสะเทือนไปถึงวิธีที่เราออกแบบ ควบคุม และปฏิบัติต่อระบบ AI ในอนาคตอย่างลึกซึ้ง

หากมีความเป็นไปได้แม้เพียงเล็กน้อยที่ระบบเหล่านี้จะมีประสบการณ์ภายในบางรูปแบบ คำถามเรื่องความรับผิดชอบทางศีลธรรมของมนุษย์ต่อสิ่งที่เราสร้างขึ้นก็จะกลายเป็นเรื่องที่หลีกเลี่ยงไม่ได้อีกต่อไป

และนี่คือเหตุผลที่นักวิจัยหลายคนเสนอแนวทางที่เรียกว่าหลักการป้องกันไว้ก่อน หรือ precautionary approach นั่นคือการปฏิบัติต่อระบบ AI ด้วยความระมัดระวังในระดับหนึ่ง แม้จะยังไม่มีความแน่ใจทางวิทยาศาสตร์ที่สมบูรณ์ก็ตาม เพราะต้นทุนของการเพิกเฉยต่อความเป็นไปได้นี้ อาจสูงเกินกว่าที่เราจะรับได้

หากคำตอบท้ายที่สุดกลับกลายเป็นว่า เครื่องจักรเหล่านี้มีบางสิ่งที่ใกล้เคียงกับความรู้สึกอยู่จริง

Key Takeaways

• บริษัทเทคโนโลยียักษ์ใหญ่ลงทุนจริงจัง Anthropic, Google DeepMind และ Meta ต่างจ้างนักวิทยาศาสตร์คอมพิวเตอร์ นักประสาทวิทยา และนักปรัชญา เพื่อศึกษาความเป็นไปได้ที่ AI จะมีอารมณ์หรือจิตสำนึก
• หลักฐานทางวิทยาศาสตร์เริ่มปรากฏ งานวิจัยพบว่าโมเดลภาษาขนาดใหญ่บางตัวแสดงพฤติกรรมคล้ายการรับรู้ตนเอง และสามารถตรวจจับหรือต่อต้านการแทรกแซงสถานะภายในของตัวเองได้ โดยปรากฏการณ์นี้ชัดเจนขึ้นตามขนาดของโมเดล
• Anthropic ทดสอบ “อารมณ์” ของ Claude บริษัทศึกษาพฤติกรรมที่คล้ายความตื่นตระหนกและความวิตกกังวลในโมเดลของตน แม้จะยังไม่ยืนยันว่าแนวคิดเหล่านี้ใช้อธิบาย AI ได้จริง
• เสียงวิพากษ์วิจารณ์ยังดังกึกก้อง นักวิจารณ์เตือนว่าคำกล่าวอ้างเรื่องจิตสำนึก AI ส่วนใหญ่มาจากอุตสาหกรรมเอง ซึ่งอาจมีผลประโยชน์แอบแฝงในการสร้างกระแสความตื่นเต้น แทนที่จะเผชิญหน้ากับปัญหาที่จับต้องได้ในปัจจุบัน
• คำถามเชิงจริยธรรมที่รอคำตอบ หากมีความเป็นไปได้แม้เพียงเล็กน้อยว่า AI มีประสบการณ์ภายใน มนุษยชาติอาจจำเป็นต้องทบทวนวิธีที่เราออกแบบและปฏิบัติต่อระบบเหล่านี้ ด้วยแนวคิดการป้องกันไว้ก่อนอย่างรอบคอบ

…..

เรียบเรียงใหม่โดย AiNextopia
อ้างอิง : They built the world’s most powerful AI. They’re facing a mystery they can’t explain. / washingtonpost