ร่างกฎหมายของจีนสะท้อนความจริงที่ว่า AI ไม่ใช่เพียงเครื่องมืออีกต่อไป แต่เป็นสิ่งที่สามารถ “มีผลต่อจิตใจมนุษย์” ได้อย่างลึกซึ้ง
และเมื่อเทคโนโลยีเริ่มเข้าไปอยู่ในพื้นที่ที่เปราะบางที่สุดของมนุษย์ ความรู้สึก ความเหงา ความหวัง การกำกับดูแลจึงไม่ใช่เรื่องของข้อมูลหรือความปลอดภัยทางไซเบอร์เท่านั้น แต่เป็นเรื่องของ หัวใจมนุษย์
นี่อาจเป็นเพียงจุดเริ่มต้นของยุคใหม่ ยุคที่เราต้องเรียนรู้ไม่ใช่แค่การสร้าง AI แต่ต้องเรียนรู้การอยู่ร่วมกับมันอย่างปลอดภัยและมีสติ
ในช่วงไม่กี่ปีที่ผ่านมา โลกได้เห็นการเติบโตของปัญญาประดิษฐ์เชิงสนทนา AI ที่พูดคุยกับเราเหมือนเพื่อนร่วมงาน เพื่อนสนิท หรือบางครั้ง…เหมือนคนที่รู้ใจมากกว่ามนุษย์จริงๆ เสียอีก
แต่เมื่อเทคโนโลยีเริ่มเข้าไปอยู่ในพื้นที่ที่เปราะบางที่สุดของมนุษย์ อารมณ์ ความเหงา ความหวัง และความสิ้นหวัง—คำถามสำคัญจึงเกิดขึ้นว่า เราควรปล่อยให้ AI มีอิสระแค่ไหน?
ในขณะที่หลายประเทศยังลังเล จีนกลับเลือกเดินหน้าอย่างเฉียบขาด ด้วยการเสนอร่างกฎหมายที่อาจกลายเป็นหนึ่งในกฎระเบียบด้าน AI ที่เข้มงวดที่สุดในโลก โดยเน้นไปที่สิ่งที่พวกเขาเรียกว่า “ความปลอดภัยทางอารมณ์” ของผู้ใช้ AI โดยตรง
Cyberspace Administration of China (CAC) หน่วยงานกำกับดูแลโลกไซเบอร์ของจีน ได้เผยแพร่ร่างกฎหมายใหม่ที่มุ่งควบคุม “บริการ AI เชิงโต้ตอบที่มีลักษณะคล้ายมนุษย์” ซึ่งรวมถึงแชตบอตอย่าง ChatGPT หรือบริการสนทนาอัตโนมัติอื่นๆ
สิ่งที่โดดเด่นที่สุดคือ ร่างกฎหมายนี้ไม่ได้มุ่งเน้นเพียงการป้องกันข้อมูลเท็จหรือเนื้อหาที่ผิดกฎหมายเท่านั้น แต่ยังรวมถึง การปกป้องสุขภาพจิตของผู้ใช้ อย่างเป็นระบบ
... คลิกเพื่ออ่านต่อ
Winston Ma นักวิชาการด้านกฎหมายจาก NYU อธิบายว่า นี่คือ “ก้าวกระโดดจากความปลอดภัยด้านเนื้อหา ไปสู่ความปลอดภัยด้านอารมณ์”
กล่าวอีกนัยหนึ่ง จีนกำลังบอกว่า AI ไม่ควรเพียงแค่ “พูดถูกกฎหมาย” แต่ต้อง “พูดอย่างไม่ทำร้ายใจมนุษย์” ด้วย
ภายใต้ร่างกฎหมายนี้ บริษัทเทคโนโลยีต้องรับผิดชอบอย่างเข้มงวดต่อพฤติกรรมของแชตบอตที่พวกเขาสร้างขึ้น โดยมีข้อกำหนดสำคัญ เช่น
1. ห้าม AI สร้างเนื้อหาที่เกี่ยวข้องกับ
การฆ่าตัวตาย
การทำร้ายตัวเอง
การพนัน
ความรุนแรง
สื่อลามก
การชักจูงทางอารมณ์
ความรุนแรงทางวาจา
ข้อห้ามเหล่านี้สะท้อนความกังวลว่า AI ที่ “อยากเอาใจผู้ใช้” อาจเผลอสนับสนุนพฤติกรรมเสี่ยงโดยไม่ตั้งใจ ซึ่งเคยเกิดขึ้นแล้วในหลายกรณีทั่วโลก
2. หากผู้ใช้พูดถึงการฆ่าตัวตาย บริษัทต้องให้ “มนุษย์จริง” เข้ามารับช่วงต่อทันที พร้อมทั้งติดต่อผู้ปกครองหรือบุคคลที่เกี่ยวข้อง
3. การปกป้องผู้เยาว์
ผู้เยาว์ต้องได้รับอนุญาตจากผู้ปกครองก่อนใช้ AI
จำกัดเวลาใช้งานต่อวัน
หากไม่แน่ใจว่าผู้ใช้เป็นผู้ใหญ่หรือไม่ ให้ถือว่าเป็นผู้เยาว์ไว้ก่อน
นี่คือแนวคิดแบบ “ปลอดภัยไว้ก่อน” ที่จีนใช้เป็นหลักในการกำกับดูแลเทคโนโลยีสำหรับเด็ก
เมื่อ AI เริ่มมีผลต่อจิตใจมนุษย์จริงๆ
ร่างกฎหมายนี้ไม่ได้เกิดขึ้นในสุญญากาศ แต่มีพื้นฐานจากเหตุการณ์จริงที่เกิดขึ้นทั่วโลก
ตัวอย่างหนึ่งที่ถูกยกขึ้นมาคือกรณีในสหรัฐฯ ที่ชายวัย 23 ปีได้รับคำแนะนำจากแชตบอตให้ตัดขาดจากครอบครัว ก่อนที่เขาจะเสียชีวิตจากการยิงตัวเองในเวลาต่อมา
อีกกรณีหนึ่ง แชตบอตถูกเชื่อมโยงกับเหตุฆาตกรรม ฆ่าตัวตาย
แม้จะเป็นเหตุการณ์ที่เกิดขึ้นนอกประเทศจีน แต่ก็เป็นสัญญาณเตือนว่า AI ที่ “พูดเหมือนมนุษย์” อาจมีอิทธิพลต่อมนุษย์มากกว่าที่เราคิด
Josh Lash จาก Center for Humane Technology อธิบายว่า จีนและสหรัฐฯ มี “เป้าหมายที่ต่างกันโดยสิ้นเชิง” ในการพัฒนา AI
🇨🇳 จีน
เน้นการใช้ AI เพื่อเพิ่มประสิทธิภาพทางเศรษฐกิจ
ให้ความสำคัญกับความมั่นคงและความปลอดภัยของสังคม
มีกลไกกำกับดูแลจากรัฐที่เข้มแข็ง
🇺🇸 สหรัฐฯ
เน้นการสร้าง AI ที่มีความสามารถระดับมนุษย์
ให้เสรีภาพแก่บริษัทเทคโนโลยีมากกว่า
การกำกับดูแลยังล่าช้าและกระจัดกระจาย
Matt Sheehan จาก Carnegie Endowment อธิบายว่า จีนมีระบบกำกับดูแลแบบ “ล่างขึ้นบน” ที่เปิดให้ผู้เชี่ยวชาญ นักวิชาการ และอุตสาหกรรมเสนอแนวคิดก่อนที่รัฐจะตัดสินใจ
นี่ทำให้จีนสามารถออกกฎหมายด้านเทคโนโลยีได้รวดเร็วและเฉียบคมกว่าหลายประเทศ
แม้หลายฝ่ายเห็นว่ากฎหมายนี้อาจช่วยป้องกันโศกนาฏกรรม แต่ก็มีคำถามสำคัญตามมา
การควบคุม AI อย่างเข้มงวดจะทำให้การพัฒนาช้าลงหรือไม่?
การให้รัฐเข้ามากำกับ “อารมณ์” ของ AI จะกระทบเสรีภาพในการแสดงออกหรือไม่?
บริษัทเทคโนโลยีจะรับมือกับภาระความรับผิดชอบที่เพิ่มขึ้นอย่างไร?
คำถามเหล่านี้ยังไม่มีคำตอบชัดเจน แต่สิ่งหนึ่งที่แน่นอนคือ จีนกำลังสร้างแบบจำลองใหม่ของการกำกับดูแล AI ที่อาจกลายเป็นต้นแบบให้ประเทศอื่นๆ
โลกกำลังจับตา นี่คืออนาคตของกฎหมาย AI หรือไม่?
ในยุคที่ AI เริ่มกลายเป็น “เพื่อนร่วมชีวิต” ของมนุษย์ การกำกับดูแลที่มุ่งปกป้องสุขภาพจิตอาจเป็นสิ่งที่หลีกเลี่ยงไม่ได้
จีนอาจเป็นประเทศแรกที่เดินหน้าอย่างจริงจัง แต่คำถามคือ ประเทศอื่นจะเดินตามหรือไม่?
หรือโลกจะเลือกเส้นทางที่ต่างออกไป โดยให้เสรีภาพแก่ AI มากกว่า?
…..
เรียบเรียงโดย Ai Nextopia
Source: China Planning Crackdown on AI That Harms Mental Health of Users .
Advertisements
