จีนกับก้าวใหม่ของการกำกับดูแล AI “ความปลอดภัยทางอารมณ์” กลายเป็นกฎหมาย

Winston Ma นักวิชาการด้านกฎหมายจาก NYU อธิบายว่า นี่คือ “ก้าวกระโดดจากความปลอดภัยด้านเนื้อหา ไปสู่ความปลอดภัยด้านอารมณ์”

กล่าวอีกนัยหนึ่ง จีนกำลังบอกว่า AI ไม่ควรเพียงแค่ “พูดถูกกฎหมาย” แต่ต้อง “พูดอย่างไม่ทำร้ายใจมนุษย์” ด้วย

ภายใต้ร่างกฎหมายนี้ บริษัทเทคโนโลยีต้องรับผิดชอบอย่างเข้มงวดต่อพฤติกรรมของแชตบอตที่พวกเขาสร้างขึ้น โดยมีข้อกำหนดสำคัญ เช่น

1. ห้าม AI สร้างเนื้อหาที่เกี่ยวข้องกับ

• การฆ่าตัวตาย
• การทำร้ายตัวเอง
• การพนัน
• ความรุนแรง
• สื่อลามก
• การชักจูงทางอารมณ์
• ความรุนแรงทางวาจา

ข้อห้ามเหล่านี้สะท้อนความกังวลว่า AI ที่ “อยากเอาใจผู้ใช้” อาจเผลอสนับสนุนพฤติกรรมเสี่ยงโดยไม่ตั้งใจ ซึ่งเคยเกิดขึ้นแล้วในหลายกรณีทั่วโลก

2. หากผู้ใช้พูดถึงการฆ่าตัวตาย

บริษัทต้องให้ “มนุษย์จริง” เข้ามารับช่วงต่อทันที พร้อมทั้งติดต่อผู้ปกครองหรือบุคคลที่เกี่ยวข้อง
นี่เป็นหนึ่งในข้อกำหนดที่เข้มงวดที่สุดเท่าที่เคยมีมาในโลกของ AI

3. การปกป้องผู้เยาว์

• ผู้เยาว์ต้องได้รับอนุญาตจากผู้ปกครองก่อนใช้ AI
• จำกัดเวลาใช้งานต่อวัน
• หากไม่แน่ใจว่าผู้ใช้เป็นผู้ใหญ่หรือไม่ ให้ถือว่าเป็นผู้เยาว์ไว้ก่อน

นี่คือแนวคิดแบบ “ปลอดภัยไว้ก่อน” ที่จีนใช้เป็นหลักในการกำกับดูแลเทคโนโลยีสำหรับเด็ก

เมื่อ AI เริ่มมีผลต่อจิตใจมนุษย์จริงๆ

ร่างกฎหมายนี้ไม่ได้เกิดขึ้นในสุญญากาศ แต่มีพื้นฐานจากเหตุการณ์จริงที่เกิดขึ้นทั่วโลก

ตัวอย่างหนึ่งที่ถูกยกขึ้นมาคือกรณีในสหรัฐฯ ที่ชายวัย 23 ปีได้รับคำแนะนำจากแชตบอตให้ตัดขาดจากครอบครัว ก่อนที่เขาจะเสียชีวิตจากการยิงตัวเองในเวลาต่อมา

อีกกรณีหนึ่ง แชตบอตถูกเชื่อมโยงกับเหตุฆาตกรรม ฆ่าตัวตาย

แม้จะเป็นเหตุการณ์ที่เกิดขึ้นนอกประเทศจีน แต่ก็เป็นสัญญาณเตือนว่า AI ที่ “พูดเหมือนมนุษย์” อาจมีอิทธิพลต่อมนุษย์มากกว่าที่เราคิด

Josh Lash จาก Center for Humane Technology อธิบายว่า จีนและสหรัฐฯ มี “เป้าหมายที่ต่างกันโดยสิ้นเชิง” ในการพัฒนา AI

🇨🇳 จีน

• เน้นการใช้ AI เพื่อเพิ่มประสิทธิภาพทางเศรษฐกิจ
• ให้ความสำคัญกับความมั่นคงและความปลอดภัยของสังคม
• มีกลไกกำกับดูแลจากรัฐที่เข้มแข็ง

🇺🇸 สหรัฐฯ

• เน้นการสร้าง AI ที่มีความสามารถระดับมนุษย์
• ให้เสรีภาพแก่บริษัทเทคโนโลยีมากกว่า
• การกำกับดูแลยังล่าช้าและกระจัดกระจาย

Matt Sheehan จาก Carnegie Endowment อธิบายว่า จีนมีระบบกำกับดูแลแบบ “ล่างขึ้นบน” ที่เปิดให้ผู้เชี่ยวชาญ นักวิชาการ และอุตสาหกรรมเสนอแนวคิดก่อนที่รัฐจะตัดสินใจ

นี่ทำให้จีนสามารถออกกฎหมายด้านเทคโนโลยีได้รวดเร็วและเฉียบคมกว่าหลายประเทศ

แม้หลายฝ่ายเห็นว่ากฎหมายนี้อาจช่วยป้องกันโศกนาฏกรรม แต่ก็มีคำถามสำคัญตามมา

• การควบคุม AI อย่างเข้มงวดจะทำให้การพัฒนาช้าลงหรือไม่?
• การให้รัฐเข้ามากำกับ “อารมณ์” ของ AI จะกระทบเสรีภาพในการแสดงออกหรือไม่?
• บริษัทเทคโนโลยีจะรับมือกับภาระความรับผิดชอบที่เพิ่มขึ้นอย่างไร?

คำถามเหล่านี้ยังไม่มีคำตอบชัดเจน แต่สิ่งหนึ่งที่แน่นอนคือ จีนกำลังสร้างแบบจำลองใหม่ของการกำกับดูแล AI ที่อาจกลายเป็นต้นแบบให้ประเทศอื่นๆ

โลกกำลังจับตา นี่คืออนาคตของกฎหมาย AI หรือไม่?

ในยุคที่ AI เริ่มกลายเป็น “เพื่อนร่วมชีวิต” ของมนุษย์ การกำกับดูแลที่มุ่งปกป้องสุขภาพจิตอาจเป็นสิ่งที่หลีกเลี่ยงไม่ได้

จีนอาจเป็นประเทศแรกที่เดินหน้าอย่างจริงจัง แต่คำถามคือ ประเทศอื่นจะเดินตามหรือไม่?

หรือโลกจะเลือกเส้นทางที่ต่างออกไป โดยให้เสรีภาพแก่ AI มากกว่า?

…..

เรียบเรียงโดย AiNextopia

Source: China Planning Crackdown on AI That Harms Mental Health of Users.