ฉันได้ช่วยออกแบบระบบที่ทำให้ ISIS ล้มเหลวในการเงิน ฉันมีแนวคิดการปกครอง AI ทั้งสมเด็จพระสันตะปาปาและ Anthropic จะต้องชอบ

(SeaPRwire) –   เมื่อซิลิกอนวัลลีย์และสำนักพระคริสตจักรแห่งวัติกันตกลงกัน มันก็คุ้มที่จะถามว่า พวกเขารู้สิ่งใดที่รัฐบาลไม่รู้

ในวันจันทร์ นายป๊อบเลโอ XIV ได้ตีพิมพ์จารึกพระธรรมแรกของเขา ชื่อ Magnifica Humanitas ซึ่งเรียกร้องให้ปิดการใช้งาน AI และควบคุมเพื่อบริการมวลมนุษย์ นั่งข้างๆ เขาที่วัติกันคือคริสโตเฟอร์ โอลาห์ ผู้ร่วมก่อตั้งบริษัท Anthropic ซึ่งยอมรับว่าบริษัท AI ทำงานภายในชุดของแรงจูงใจและข้อจำกัดที่บางครั้งขัดแย้งกับการทำสิ่งที่ถูกต้อง” นอกจากนี้ ดาริโอ อาโมเดีย ซีอีโอของ Anthropic ยังกล่าวว่า “ระดับความเสี่ยงต่อไปคือตัวบริษัท AI เอง” — และว่าผู้นำด้าน AI รวมถึงตัวเขาเอง ไม่ควรเป็นผู้ตัดสินอนาคตของเทคโนโลยีนี้

นี่คือผู้ออกแบบระบบ AI ที่มีความสามารถสูงสุดในปัจจุบัน ที่กำลังบอกโลกว่า พวกเขาไม่สามารถควบคุมตัวเองได้เพียงคนเดียว คำถามตอนนี้ไม่ใช่ว่าการควบคุม AI ทั่วโลกจำเป็นหรือไม่ แต่เป็นว่าเราจะออกแบบระบบนั้นก่อนที่วิกฤติจะทำให้ทุกคนเข้าใจชัดเจนหรือไม่

อุตสาหกรรมรู้แล้ว — และกำลังบอกโลก

ภายในอุตสาหกรรม ผู้ที่รู้จักเรื่องนี้มากมายไม่มีใครที่ขัดแย้งกับความเสี่ยงหลักๆ ได้แก่ การรบกวนตลาดแรงงาน อาวุธอัตโนมัติ ความปลอดภัยของเด็ก การเฝ้าระวังขนาดใหญ่ การลดลงของการตรวจสอบด้วยมนุษย์ และแง่มุมของระบบที่สามารถปรับปรุงตัวเองซ้ำซาก Anthropic ได้สร้างระบบ Constitutional AI และนโยบายการขยายขนาดอย่างรับผิดชอบ (Responsible Scaling Policy) OpenAI ก็มีกรอบการเตรียมความพร้อม (Preparedness Framework) พร้อมการทดสอบทางสีแดงอย่างเป็นระบบ ทุกความพยายามเหล่านี้เป็นความพยายามที่จริงจัง แต่มีข้อจำกัดทางโครงสร้างเดียวกัน คือ ทุกอย่างเป็นภายในบริษัท แต่ละบริษัทกำหนดเกณฑ์ของตัวเองและระดับความโปร่งแสงของตัวเอง

การควบคุมภายในไม่สามารถแก้ปัญหาที่อยู่นอกได้ บริษัทที่สร้าง AI ขั้นสูงทำงานในสภาพแวดล้อมที่มีการแข่งขัน ซึ่งการยับยั้งตัวเองโดยไม่มีคู่แข่งจะเป็นภาระทางยุทธศาสตร์ บริษัทที่ชะลอความก้าวหน้าเมื่อคู่แข่งไม่ทำเช่นนั้น ไม่ได้ทำให้โลกปลอดภัยขึ้น แต่เพียงเสียที่ดินเท่านั้น สิ่งนี้ก็เป็นจริงสำหรับรัฐด้วย: ไม่มีรัฐบาลที่สามารถยับยั้งบริษัทของตัวเองได้อย่างน่าเชื่อถือ หากจีนหรืออำนาจ AI อื่นๆ ไม่ผูกพันด้วยความมุ่งมั่นที่เทียบเท่า ผลลัพธ์คือความล้มเหลวในการดำเนินการรวมกลุ่มตามหนังสือเรียน ทุกคนเข้าใจความเสี่ยง แต่ไม่มีใครมีแรงจูงใจส่วนตัวที่จะรับค่าใช้จ่ายทั้งหมดในการแก้ปัญหา นี่ไม่ใช่ปัญหาตลาด แต่เป็นปัญหาโครงสร้างการควบคุม

เปรียบเทียบที่ถูกต้องไม่ใช่นิวเคลียร์ — แต่คือระบบการเงิน

การเปรียบเทียบที่มักใช้บ่อยๆ คือการควบคุมอาวุธนิวเคลียร์ แต่นี่เป็นการเปรียบเทียบที่ผิด อาวุธนิวเคลียร์เป็นโปรแกรมของรัฐที่มีสถานที่ติดตั้งที่สามารถระบุได้และการทดสอบที่สามารถตรวจสอบได้ แต่ AI ขั้นสูงถูกพัฒนาโดยหน่วยงานเอกชนบนโครงสร้างพื้นฐานเชิงพาณิชย์ที่มีอยู่ทั่วโลกแล้ว

ระบบการเงินเสนอรูปแบบที่มีประโยชน์มากขึ้น ธนาคารแข่งขันอย่างรุนแรงในเขตอำนาจศาลต่างๆ เชื่อมต่อในเวลาจริง และมีความเสี่ยงระบบจากการเงินการก่อการร้ายและอาชญากรรมทางการเงินที่ไม่มีสถาบันเดียวสามารถควบคุมได้ การตอบสนองนี้สร้างขึ้นรอบกรอบการตั้งมาตรฐาน FATF ของ G20 ซึ่งรวมถึงมาตรฐานร่วมกัน มาตรฐานการดำเนินงาน หน้าที่ของรัฐและภาคเอกชน การตรวจสอบจากผู้เชี่ยวชาญ และผลลัพธ์ที่แท้จริงสำหรับการไม่ปฏิบัติตาม แม้ว่าจะไม่สมบูรณ์แบบ แต่ก็ได้เปลี่ยนพฤติกรรมในระดับใหญ่โดยไม่ต้องใช้กระบวนการ ratify สนธิสัญญานานหลายปี เพราะมันแบ่งภาระความรับผิดชอบในคณะสหภาพที่กว้างพอที่จะทำให้การหลีกเลี่ยงมีค่าใช้จ่ายสูง โดยแบ่งหน้าที่ความปลอดภัยระหว่างรัฐบาลและภาคเอกชน

ฉันใช้เวลาหลายปีในการออกแบบและประเมินมาตรฐานเหล่านี้ รวมถึงการนำการประสานงานระหว่างประเทศต่อต้านการเงินการก่อการร้าย ISIS และการสร้างกรอบการเงินคริปโตที่ถูกนำมาใช้โดยมากกว่า 120 ประเทศในปัจจุบัน ฉันได้ประเมินโปรแกรมการปฏิบัติตามของประเทศโดยตรง ฉันเชื่อว่าฉันได้เรียนรู้สิ่งที่ทำให้กลไกการรับผิดชอบทำงานได้ — และสิ่งที่ทำให้มันล้มเหลว

การควบคุมอาจมีลักษณะอย่างไร

โครงสร้างการควบคุม AI ที่ใช้งานได้จะเริ่มต้นไม่จากข้อกำหนดทางเทคนิค แต่มาตรฐานระดับสูง: ความมุ่งมั่นร่วมกันเกี่ยวกับความเสี่ยงที่มีความเห็นพ้องต้องกันอย่างแท้จริง มาตรฐานเหล่านี้จะกลายเป็นเกณฑ์ที่ประเมินผลลัพธ์ในโลกจริง แทนที่จะกำหนดกระบวนการทางเทคนิคที่จะล้าสมัยภายในไม่กี่เดือน คณะผู้เชี่ยวชาญที่เป็นอิสระ ซึ่งประกอบด้วยตัวแทนจากทั้งภาครัฐและภาคเอกชน จะประเมินว่าบริษัทและรัฐได้ปฏิบัติตามเกณฑ์เหล่านี้หรือไม่ และกลไกนี้ต้องมีผลลัพธ์: การปฏิบัติตามจะเปิดโอกาสให้ได้รับความไว้วางใจ การเข้าถึงตลาด และการร่วมมือ; การไม่ปฏิบัติตามจะมีค่าใช้จ่ายที่เพิ่มขึ้น การทำความเข้าใจสองทางระหว่างสหรัฐอเมริกาและจีนจะจำเป็น แต่ก็ไม่เพียงพอ; เพียงคณะสหภาพที่กว้างขึ้น เช่น G20 เท่านั้นที่สามารถเปลี่ยนการยับยั้งเป็นความกดดันโลกที่คงทนได้

ช่วงเวลาไม่มีขีดจำกัดตลอดไป

การประเมินที่น่าเชื่อถือบางอย่างระบุว่า Artificial General Intelligence — ระบบที่มีความสามารถมากกว่ามนุษย์ในส่วนใหญ่ของด้านต่างๆ — อาจมาถึงในปี 2030 หรือก่อนหน้านั้น เมื่อเครื่องจักรเกินความสามารถของมนุษย์ การตอบสนองที่เพียงพอเพียงอย่างเดียวของมวลมนุษย์คือการทำร่วมกัน ไม่มีบริษัทเดียวและไม่มีรัฐเดียวที่สามารถจัดการสิ่งนี้ได้เพียงคนเดียว

อาโมเดียได้เรียกร้องให้ผู้นำด้าน AI และรัฐบาลเปิดเผยอย่างตรงไปตรงมาว่าสิ่งนี้กำลังเคลื่อนไหวเร็วเพียงใด นายป๊อบได้เรียกร้องให้ปิดการใช้งานเทคโนโลยีนี้ก่อนที่มันจะปิดการใช้งานเรา โอลาห์ได้นั่งที่วัติกันและยืนยันปัญหาแรงจูงใจที่อุตสาหกรรมของตัวเองกำลังเผชิญ การรวมกันจากสองขั้วที่แตกต่างกันของอำนาจมนุษย์ — ศีลธรรมและเชิงพาณิชย์ — เป็นจุดข้อมูลที่ผู้ทำนโยบายไม่สามารถละเลยได้

ชุมชนสากลเคยรวมตัวกันรอบความเสี่ยงร่วมที่เป็นอันตรายต่อการดำรงชีวิตมาก่อน — การแพร่กระจายอาวุธนิวเคลียร์ การเงินการก่อการร้าย การพังทลายระบบทางการเงิน พวกเขาสร้างกลไกประสานงานที่ดำเนินได้ แม้ว่าจะไม่สมบูรณ์ แต่มีผลต่อโลก AI ต้องการสิ่งเดียวกัน และยังเร่งด่วนกว่านั้น ความเสี่ยงต่อมวลมนุษย์มีขนาดที่แตกต่างไปอย่างมาก สถานการณ์วิกฤติไม่ใช่สิ่งที่สมมติ การรอจนกว่าจะเกิดวิกฤติแล้วมาควบคุมไม่ใช่การแก้ไข แต่เป็นการยอมแพ้

รัฐบาลและองค์กรสากลต้องเริ่มประชุมขั้นตอนนี้ทันที เชิญชวนผู้ที่สร้างระบบเหล่านี้และเข้าใจรูปแบบความล้มเหลวจากภายใน เข้ามาร่วมด้วย รวมถึงผู้เชี่ยวชาญที่มีประสบการณ์การประสานงานระหว่างฝ่ายที่ไม่ไว้วางใจกัน — ไม่ว่าจะเป็นประเทศหรือคู่แข่งทางธุรกิจ — และแปลงความเสี่ยงร่วมกันเป็นความมุ่งมั่นที่ผูกพัน ช่วงเวลากำลังจะปิดลง เราต้องสร้างระบบการควบคุมก่อนที่จะเกิดวิกฤติ ไม่ใช่เมื่อต้องตอบสนองหลังจากเกิดเหตุการณ์แล้ว