วิกฤตการจดจำของ AI กับความจริงที่ไม่อยากให้รู้

การจดจำเชิงตรงตัวเช่นนี้นำไปสู่ความเสี่ยงทางกฎหมายมหาศาล หากโมเดลสามารถเรียกคืนหนังสือหรือบทความได้เกือบครบถ้วน ก็เท่ากับว่ามี “สำเนา” อยู่ในตัวโมเดลเอง ซึ่งอาจถือเป็นการละเมิดลิขสิทธิ์โดยตรง หลายคดีความในสหรัฐและยุโรปเริ่มหยิบประเด็นนี้ขึ้นมา เช่น กรณีที่ศาลเยอรมนีตัดสินว่า ChatGPT สามารถสร้างเนื้อเพลงที่ใกล้เคียงต้นฉบับจนถือเป็นการละเมิด หรือคดีที่ The New York Times ฟ้อง OpenAI ว่า GPT-4 สามารถคัดลอกบทความของตนไปแทบทั้งหมด

หากศาลตัดสินว่าโมเดลคือ “สำเนาผิดกฎหมาย” บริษัทอาจถูกบังคับให้ทำลายโมเดลและฝึกใหม่ด้วยข้อมูลที่ได้รับอนุญาตเท่านั้น ซึ่งจะเป็นต้นทุนมหาศาลและอาจทำให้ผลิตภัณฑ์ต้องถอนออกจากตลาด

บริษัท AI มักเปรียบเทียบการฝึกโมเดลกับการสอนเด็กให้เขียนหนังสือ เพื่อสร้างภาพว่าเป็นการเรียนรู้เชิงสร้างสรรค์ แต่หลักฐานวิจัยชี้ว่ามันคือการคัดลอกเชิงสถิติ ไม่ใช่การเรียนรู้เชิงประสบการณ์ การใช้คำเปรียบเปรยเช่นนี้จึงทำให้สังคมเข้าใจผิด และลดทอนความจริงที่ว่า AI พึ่งพาอย่างสิ้นเชิงต่อผลงานของนักเขียน ศิลปิน และนักวิชาการที่ถูกนำมาใช้ฝึก

ความพยายามปิดบังและผลกระทบต่ออนาคต

นักวิจัยหลายคนเล่าว่าการศึกษาปรากฏการณ์การจดจำถูกขัดขวางโดยฝ่ายกฎหมายของบริษัท AI ซึ่งไม่ต้องการให้ข้อมูลนี้เผยแพร่ต่อสาธารณะ ขณะเดียวกัน ผู้บริหารอย่าง Sam Altman ก็ยังคงปกป้องแนวคิดว่า AI มี “สิทธิที่จะเรียนรู้” จากหนังสือและบทความเหมือนมนุษย์ ทั้งที่ข้อเท็จจริงคือการคัดลอกเชิงกลไก

สิ่งนี้สะท้อนถึงความท้าทายใหญ่ของสังคม เรากำลังสร้างเทคโนโลยีที่ทรงพลังบนฐานข้อมูลที่ไม่ได้รับอนุญาต และใช้คำอธิบายที่ทำให้เข้าใจผิด หากไม่จัดการอย่างจริงจัง อุตสาหกรรมอาจเผชิญทั้งวิกฤตความเชื่อมั่นและการฟ้องร้องที่ทำให้ต้องหยุดชะงัก

Key Takeaways

1. โมเดล AI สามารถจำและคัดลอกเนื้อหาต้นฉบับได้จริง งานวิจัยล่าสุดพิสูจน์ว่าหนังสือทั้งเล่มสามารถถูกเรียกคืนจากโมเดล
2. คำอธิบายว่า AI “เรียนรู้” เป็นการเปรียบเปรยที่ทำให้เข้าใจผิด แท้จริงคือการบีบอัดข้อมูลแบบสูญเสีย
3. ความเสี่ยงทางกฎหมายมหาศาล หากศาลตัดสินว่าโมเดลคือสำเนาผิดกฎหมาย บริษัทอาจถูกบังคับให้ฝึกใหม่ด้วยข้อมูลที่ได้รับอนุญาต
4. การปิดบังข้อมูลจากบริษัท AI ทำให้การวิจัยเรื่องนี้ล่าช้า และสังคมไม่สามารถถกเถียงอย่างโปร่งใส
5. อนาคตของอุตสาหกรรมขึ้นอยู่กับความโปร่งใสและการเคารพลิขสิทธิ์ หากไม่แก้ไขอย่างจริงจัง ความเชื่อมั่นและการยอมรับจากสาธารณะอาจพังทลาย

…..

เรียบเรียงโดย AiNextopia

Source: AI’s Memorization Crisis