โลกตลาดมืดของ Deepfake AI

• Facebook
• X
• Line

ตลาดดีพเฟกที่ขับเคลื่อนด้วย AI ไม่ใช่เพียงเรื่องเทคโนโลยี แต่เป็นกระจกสะท้อนความสัมพันธ์ระหว่างนวัตกรรมกับจริยธรรม การที่ผู้ใช้สามารถซื้อขายไฟล์เพื่อสร้างภาพบุคคลจริงในบริบทที่ละเมิดสิทธิ

เป็นสัญญาณเตือนว่าโลกดิจิทัลกำลังเดินเข้าสู่พื้นที่ที่กฎหมายและสังคมยังไม่ทันปรับตัว การทำความเข้าใจและกำหนดกรอบกำกับที่ชัดเจนจึงเป็นสิ่งจำเป็น เพื่อปกป้องทั้งสิทธิส่วนบุคคลและความน่าเชื่อถือของสื่อภาพในอนาคต

กลางปี 2023 จนถึงปลายปี 2024 นักวิจัยจากมหาวิทยาลัยสแตนฟอร์ดและอินเดียนาได้ติดตามพฤติกรรมผู้ใช้ในแพลตฟอร์มชื่อ Civitai ตลาดซื้อขายไฟล์และโมเดล AI ที่ได้รับการสนับสนุนจากบริษัทร่วมลงทุนรายใหญ่ในสหรัฐฯ สิ่งที่พวกเขาพบไม่ใช่เพียงการแลกเปลี่ยนเครื่องมือสร้างภาพเสมือนทั่วไป แต่คือการซื้อขาย “คำสั่งปรับแต่ง” ที่สามารถสร้างภาพลักษณ์ของผู้หญิงจริง ๆ ในรูปแบบที่มักละเมิดข้อห้ามของแพลตฟอร์มเอง

แม้เว็บไซต์จะประกาศห้ามการสร้างภาพโป๊หรือการใช้ใบหน้าคนจริงโดยไม่ได้รับอนุญาต แต่ตลาดลับภายในแพลตฟอร์มกลับเฟื่องฟู ผู้ใช้จำนวนมากเสนอ “bounties” หรือรางวัลให้กับนักพัฒนาเพื่อสร้างโมเดลที่ตรงตามความต้องการ ตั้งแต่ตัวละครอนิเมชันไปจนถึงภาพลักษณ์ของคนดังและบุคคลทั่วไปที่ถูกนำไปใช้ในบริบททางเพศ

กลไกของตลาดใต้ดิน

• Bounties ผู้ใช้โพสต์คำขอพร้อมเงินรางวัลเพื่อให้คนอื่นพัฒนาโมเดลตามสเปก
• ไฟล์ปรับแต่ง (LoRA, checkpoint) เป็นชุดคำสั่งที่ทำให้โมเดล AI สามารถสร้างภาพเฉพาะบุคคลได้อย่างแม่นยำ
• การซื้อขายซ่อนเร้น แม้แพลตฟอร์มจะมีระบบตรวจสอบ แต่ผู้ใช้กลับหาวิธีเลี่ยง เช่น การตั้งชื่อไฟล์กำกวม หรือใช้คำแฝง

นักวิจัยพบว่า ส่วนใหญ่ของคำขอในตลาดนี้เกี่ยวข้องกับคอนเทนต์ทางเพศ โดยเฉพาะการสร้างภาพผู้หญิงจริง ๆ ซึ่งสะท้อนถึงแรงขับเคลื่อนเชิงพาณิชย์และวัฒนธรรมที่ยังไม่ถูกควบคุม

นักวิจัยเตือนว่า หากไม่มีมาตรการกำกับที่เข้มแข็ง โลกอาจเข้าสู่ยุคที่ “ความจริงทางภาพ” ถูกบิดเบือนอย่างถาวร และผู้หญิง โดยเฉพาะคนดังและบุคคลทั่วไปจะเป็นกลุ่มที่ได้รับผลกระทบมากที่สุด