รัฐมนตรีกระทรวงกลาโหมของประเทศฟิลิปปินส์ได้สั่งห้ามใช้แอปพลิเคชันที่ใช้เทคโนโลยีปัญญาประดิษฐ์ในการสร้างบุคคลดิจิทัล
แอปพลิเคชันที่ต้องการให้ผู้ใช้อัพโหลดรูปภาพส่วนตัวและจากนั้นใช้ปัญญาประดิษฐ์เพื่อสร้างบุคคลดิจิทัลของผู้ใช้ก็ถูกห้ามใช้สําหรับเจ้าหน้าที่ทหารของประเทศฟิลิปปินส์แล้ว ตามที่กระทรวงกลาโหมแห่งชาติของประเทศฟิลิปปินส์ได้ประกาศ โดยรัฐมนตรีกลาโหม จิลเบร์โต เตโอโดโร จูเนียร์ ได้เตือนว่าแอปพลิเคชันเหล่านี้อาจสร้างความเสี่ยงด้านความมั่นคงได้
เมื่อวันศุกร์ที่ผ่านมา ทางกองทัพได้ยืนยันความถูกต้องของหนังสือสั่งการที่ออกโดยเตโอโดโรสัปดาห์ก่อนที่กําลังแพร่กระจายอยู่บนอินเทอร์เน็ตในช่วงวันที่ผ่านมา อย่างไรก็ตาม กระทรวงดังกล่าวก็ไม่ได้ให้รายละเอียดเพิ่มเติมเกี่ยวกับการห้ามใช้งานนี้
ในหนังสือสั่งการดังกล่าว เตโอโดโรได้อ้างถึงแอปพลิเคชันที่ใช้เทคโนโลยี AI เพื่อสร้าง “บุคคลดิจิทัลที่มีพฤติกรรมและการเคลื่อนไหวเหมือนมนุษย์จริง” หลังจากได้รับข้อมูลรูปภาพ 10 รูปของผู้ใช้
“แอปพลิเคชัน AI ที่ดูเหมือนไร้อันตรายและน่าสนุกนี้สามารถถูกใช้อย่างไม่เหมาะสมเพื่อสร้างโปรไฟล์ปลอมที่อาจนําไปสู่การขโมยตัวตน การหลอกลวง โจมตีด้วยการส่งข้อความหลอกลวง และกิจกรรมเสี่ยงอื่นๆ” เตโอโดโรได้เขียนไว้พร้อมกับกล่าวว่าเขาทราบถึงกรณีเช่นนี้บ้างแล้ว
ผู้บังคับบัญชาสูงสุดได้ร้องขอให้ลูกน้องของเขาระมัดระวังเมื่อแบ่งปันข้อมูลบนอินเทอร์เน็ตทั่วไป
เมื่อเดือนที่แล้ว องค์กรความมั่นคงแห่งชาติสหรัฐอเมริกา (NSA) และสํานักงานสอบสวนกลางสหรัฐ (FBI) ได้ออกแถลงการณ์เตือนภัยเกี่ยวกับเทคโนโลยี ‘deepfake’ ซึ่งอาจถูกใช้เพื่อบุกรุกระบบคอมพิวเตอร์ของกองทัพและเป้าหมายที่มีความสําคัญทางความมั่นคง
“เครื่องมือและเทคนิคสําหรับการปรับแต่งสื่อที่มีความน่าเชื่อถือไม่ใช่เรื่องใหม่ แต่ความสามารถและขนาดการใช้เทคนิคเหล่านี้ของผู้ก่อการไซเบอร์นั้นมากขึ้น” นักคณิตศาสตร์ของ NSA คานไดซ์ ร็อกเวลล์ เกอร์สต์เนอร์ ได้กล่าวไว้ในแถลงการณ์ พร้อมกับแนะนําให้บริษัทต่างๆเรียนรู้วิธีตรวจจับ deepfake และวางแผนการรับมือหากเทคโนโลยีนี้ถูกใช้ต่อต้านพวกเขา
นอกจากธุรกิจแล้ว หน่วยงานความมั่นคงของสหรัฐอเมริกาเช่น NSA กองทัพสหรัฐ และบริษัทผู้รับจ้างของกระทรวงกลาโหมสหรัฐก็ถูกระบุว่าอยู่ในความเสี่ยงด้วยตามเอกสารเตือนภัย
อีกมิติหนึ่งของภัยคุกคามที่ถูกระบุไว้ในเอกสารคือความกังวลว่า “สื่อปลอมสามารถสร้างความไม่สงบทางสังคมผ่านการแพร่กระจายข่าวปลอมเกี่ยวกับเรื่องการเมือง สังคม การทหาร หรือเศรษฐกิจ”