AI ‘เนื้อหาสกปรก’ กำลังแพร่กระจายใน YouTube Kids—และมากกว่า 200 กลุ่มและผู้เชี่ยวชาญเรียกร้องให้มีการแบน

(SeaPRwire) –   กลุ่มผู้สนับสนุนเด็กและผู้เชี่ยวชาญกว่า 200 กลุ่มกำลังเรียกร้องให้ YouTube แบน “slop” ที่สร้างโดย AI ออกจากแพลตฟอร์มสำหรับเด็กโดยสิ้นเชิง โดยให้เหตุผลว่าวิดีโอคุณภาพต่ำที่ผลิตโดยอัลกอริทึมกำลังปรับเปลี่ยนสมองของเด็กเล็ก และกวาดรายได้หลายล้านในขณะที่ผู้ปกครองและหน่วยงานกำกับดูแลมองข้ามไป

จดหมายเปิดผนึกซึ่งจัดทำโดยกลุ่มสนับสนุนเด็ก Fairplay และส่งถึง Neal Mohan ซีอีโอของ YouTube และ Sundar Pichai ซีอีโอของ Google ได้รับการลงนามโดยองค์กรกว่า 135 แห่ง ผู้ลงนามประกอบด้วย American Federation of Teachers และ American Counseling Association รวมถึงนักวิจัยที่มีชื่อเสียงเช่น Jonathan Haidt ผู้เขียน The Anxious Generation ผู้เขียนจดหมายระบุว่า YouTube ไม่เพียงแต่ล้มเหลวในการหยุดยั้ง AI slop ไม่ให้เข้าถึงเด็กเท่านั้น แต่ยังทำกำไรจากมันอย่างแข็งขันอีกด้วย

“วิดีโอที่สร้างโดย AI เป็นเพียงการยกระดับปัญหามากมายที่ YouTube มีอยู่แล้วเมื่อต้องติดต่อกับเด็กๆ บนแพลตฟอร์มของพวกเขา” Rachel Franz ผู้อำนวยการโครงการ Young Children Thrive Offline ของ Fairplay กล่าวกับ “เป็นสิ่งสำคัญที่จะต้องจัดการกับปรากฏการณ์ AI slop นี้ แต่ก็สำคัญไม่แพ้กันที่จะต้องตำหนิ YouTube สำหรับวิธีที่แพลตฟอร์มของพวกเขาถูกออกแบบมาเพื่อดึงดูดผู้ใช้ให้ใช้เวลามากขึ้นในลักษณะที่ไม่จำเป็นต้องเกี่ยวข้องกับ AI”

‘AI slop’ คืออะไรกันแน่?

คำนี้หมายถึงคลื่นของวิดีโอที่ผลิตจำนวนมากซึ่งสร้างโดย AI ที่กำลังท่วมแพลตฟอร์มอย่าง YouTube เนื้อหามีราคาถูกในการสร้าง มักจะแปลกประหลาดหรือไร้สาระ และถูกออกแบบมาเพื่อดึงดูดและรักษาความสนใจของผู้ชมอายุน้อย (หรือใครก็ตาม) และผู้อ่านที่รัก วิดีโอเหล่านี้แปลกประหลาดมาก: สัตว์การ์ตูนที่ทำงานซ้ำๆ ในสุนทรียภาพแบบ uncanny valley; วิดีโอ “การศึกษา” ปลอมที่มีข้อมูลที่บิดเบือน; หรือลูปที่สะกดจิตโดยไม่มีวัตถุประสงค์ที่ชัดเจน New York Times ได้บันทึกปรากฏการณ์นี้ในการสืบสวนเมื่อเดือนกุมภาพันธ์ โดยพบวิดีโอเหล่านี้ฝังอยู่ทั่ว YouTube Kids ซึ่งเป็นแพลตฟอร์มที่ YouTube ทำการตลาดว่าเป็นพื้นที่ที่ปลอดภัยและคัดสรรมาสำหรับเด็ก

“เนื้อหาที่สร้างโดย AI จำนวนมากถูกออกแบบมาเพื่อดึงดูดความสนใจของเด็กๆ โดยเฉพาะเด็กเล็กที่เพิ่งเริ่มต้นพัฒนาการควบคุมแรงกระตุ้น และพวกเขาสามารถบิดเบือนความเป็นจริง สร้างความสับสน และส่งผลกระทบต่อวิธีที่เด็กๆ เข้าใจโลกที่อยู่รอบตัวพวกเขาได้” Franz ซึ่งมีพื้นฐานด้านพัฒนาการเด็กปฐมวัยกล่าว “นี่ไม่ใช่ปัญหาการเลี้ยงดูบุตรในตัวมันเอง แพลตฟอร์มนี้แนะนำเนื้อหา AI ให้กับผู้ใช้ที่เป็นเด็กอย่างต่อเนื่องในลักษณะที่ทำให้พวกเขาหลีกเลี่ยงไม่ได้”

แรงจูงใจทางการเงินนั้นน่าตกใจ Fairplay พบว่าช่อง AI slop ชั้นนำที่มุ่งเป้าไปที่เด็กๆ มีรายได้ต่อปีมากกว่า 4.25 ล้านดอลลาร์ โดยมีผู้สร้างบางรายโฆษณาผลกำไรจาก “เนื้อหา AI ที่ไร้โครงเรื่องและน่าหลงใหล” อย่างเปิดเผย จดหมายโต้แย้งว่านโยบายใดๆ ก็ไม่เพียงพอจนกว่าแพลตฟอร์มจะขจัดแรงจูงใจทางการเงินสำหรับผู้สร้างวิดีโอเหล่านี้

“มีวิดีโอเพียงประมาณ 5% บน YouTube สำหรับเด็กอายุต่ำกว่า 8 ปีเท่านั้นที่มีคุณภาพสูง และมีการถกเถียงกันในกลุ่ม 5% นั้นว่าวิดีโอเหล่านั้นมีคุณภาพสูงจริงหรือไม่” Franz กล่าว อย่างไรก็ตาม YouTube พบว่าตัวเลขดังกล่าวขัดแย้งกับนโยบายมาตรฐานของพวกเขา

“เรามีมาตรฐานสูงสำหรับเนื้อหาใน YouTube Kids รวมถึงการจำกัดเนื้อหาที่สร้างโดย AI ในแอปให้เหลือเพียงช่องคุณภาพสูงจำนวนน้อย” Boot Bullwinkle โฆษกของ YouTube กล่าวกับ ในแถลงการณ์ “เรายังให้ทางเลือกแก่ผู้ปกครองในการบล็อกช่องต่างๆ ทั่วทั้ง YouTube เราให้ความสำคัญกับความโปร่งใสเมื่อพูดถึงเนื้อหา AI โดยการติดป้ายกำกับเนื้อหาจากเครื่องมือ AI ของเราเอง และกำหนดให้ผู้สร้างเปิดเผยเนื้อหา AI ที่สมจริง เรากำลังพัฒนาแนวทางของเราอย่างต่อเนื่องเพื่อให้ทันสมัยเมื่อระบบนิเวศพัฒนาขึ้น”

วิธีแก้ไข

กลุ่มพันธมิตรนี้อ้างอิงงานวิจัยด้านพัฒนาการเด็กเพื่อโต้แย้งว่านี่ไม่ใช่ความกังวลเฉพาะกลุ่ม แม้แต่ผู้ใหญ่ก็ยังประสบปัญหาในการระบุเนื้อหาที่สร้างโดย AI ได้อย่างถูกต้อง โดยทำได้ถูกต้องเพียงประมาณ 50% ของเวลาทั้งหมด ที่น่ากังวลยิ่งกว่านั้นคือ การได้รับสัมผัสซ้ำๆ ทำให้ผู้คนมีแนวโน้มที่จะรับรู้ภาพ AI ว่าเป็นของจริง แม้จะได้รับแจ้งว่าเป็นของปลอมก็ตาม สำหรับเด็กเล็กที่สมองยังคงสร้างโครงสร้างพื้นฐานของความเป็นจริง ความเสียหายจะสะสมเมื่อเวลาผ่านไป

ข้อเรียกร้องของ Fairplay เป็นเรื่องโครงสร้าง ไม่ใช่แค่การตกแต่ง กลุ่มพันธมิตรกำลังเรียกร้องให้ YouTube ติดป้ายกำกับเนื้อหาที่สร้างโดย AI ทั้งหมดบนแพลตฟอร์มอย่างชัดเจน; แบนเนื้อหาที่สร้างโดย AI ออกจาก YouTube Kids โดยสิ้นเชิง; และห้ามเนื้อหา “สร้างมาเพื่อเด็ก” ที่สร้างโดย AI บนแพลตฟอร์ม YouTube หลัก Fairplay ต้องการให้ YouTube ห้ามอัลกอริทึมของตนไม่ให้แนะนำเนื้อหา AI ให้กับผู้ใช้ที่อายุต่ำกว่า 18 ปี; แนะนำปุ่มสลับสำหรับผู้ปกครองเพื่อปิดใช้งานเนื้อหา AI ซึ่งจะถูกปิดใช้งานโดยค่าเริ่มต้น; และหยุดการลงทุนทั้งหมดในเนื้อหาที่สร้างโดย AI ที่มุ่งเป้าไปที่เด็ก

ข้อเรียกร้องสุดท้ายนี้มุ่งเป้าไปที่การลงทุนของ YouTube ใน Animaj ซึ่งเป็นสตูดิโอความบันเทิงสำหรับเด็กที่ขับเคลื่อนด้วย AI ซึ่งได้รับการสนับสนุนจาก AI Futures Fund ของ Google “YouTube กำลังลงทุนในการทำร้ายเด็กทารกผ่านการซื้อ Animaj” Franz กล่าว

ในแถลงการณ์ของ Bullwinkle ถึง , โฆษกยืนยันว่า YouTube กำลังพัฒนาป้ายกำกับ AI โดยเฉพาะสำหรับ YouTube Kids แม้ว่าจะไม่ได้ระบุไทม์ไลน์ก็ตาม Neal Mohan ซีอีโอของ YouTube ได้ระบุ “การจัดการ AI slop” เป็นลำดับความสำคัญสูงสุดในจดหมายประจำปีของเขาแล้ว “เพื่อลดการแพร่กระจายของเนื้อหา AI คุณภาพต่ำ เรากำลังสร้างระบบที่เราได้จัดตั้งขึ้นซึ่งประสบความสำเร็จอย่างมากในการต่อสู้กับสแปมและคลิกเบต และลดการแพร่กระจายของเนื้อหาคุณภาพต่ำและซ้ำซาก” จดหมายระบุ

Bullwinkle ยังตั้งข้อสังเกตว่าช่อง 15 ช่อง ที่กล่าวถึงในบทความของ Times ไม่ได้อยู่บน YouTube Kids และแพลตฟอร์มได้ลบวิดีโอที่ละเมิดนโยบายความปลอดภัยของเด็กออกไปแล้ว แต่สำหรับ Franz นั่นยังไม่ดีพอ

“ไม่ควรเป็นหน้าที่ของนักวิจัยแต่ละคนที่จะชี้ให้เห็นช่องไม่กี่ช่องเป็นตัวอย่างที่กำลังทำสิ่งที่อาจเป็นอันตรายต่อเด็ก และให้สิ่งนั้นเป็นพื้นฐานสำหรับสิ่งที่ YouTube ตัดสินใจที่จะลบออกจากแพลตฟอร์ม สิ่งที่เราเห็นกับ Elsagate คือในเวลานั้น YouTube ได้ลบวิดีโอ 150,000 รายการออกจากแพลตฟอร์มและช่องต่างๆ หลายร้อยช่อง” Franz กล่าว เธออ้างถึงเรื่องอื้อฉาวในปี 2017 ซึ่งวิดีโอหลายพันรายการบน YouTube และ YouTube Kids ใช้ตัวละครเด็กที่คุ้นเคย เช่น Elsa จาก Frozen และ Peppa Pig เพื่อซ่อนเนื้อหาที่น่ารบกวนอย่างยิ่ง รวมถึงความรุนแรงที่ชัดเจน ธีมทางเพศ และการใช้ยาเสพติด ซึ่งทั้งหมดถูกแต่งเติมด้วยแท็กที่เป็นมิตรกับอัลกอริทึม เช่น “การศึกษา” และ “ความสนุก” เพื่อหลบเลี่ยงตัวกรองและเข้าถึงเด็กเล็ก

“ดังนั้นเราจึงรู้ว่า YouTube มีความสามารถในการตรวจสอบ ติดตาม และลบวิดีโอเหล่านี้ในวงกว้าง แต่ตอนนี้ พวกเขากำลังใช้วิธีแก้ปัญหาแบบชั่วคราว โดยช่องที่ได้รับความสนใจจากสื่อดูเหมือนจะเป็นช่องที่พวกเขาจะดำเนินการแก้ไข” Franz กล่าวต่อ “แต่มันไม่ได้แก้ไขปัญหารวมทั้งหมด”