ลอยด์ บลั่งฟีนได้ชี้ให้เห็นว่าทำไมแม้แต่ Goldman Sachs ก็ยังเกลียดขวานกับบุคคลอัตโนมัติ AI

(SeaPRwire) –   Lloyd Blankfein ใช้เวลาสิบถึงสิบห้าปีที่ Goldman Sachs เพื่อเรียนรู้การจัดการความเสี่ยงอย่างมีประสิทธิภาพ และเขาได้รับการดูแลบริษัทในการเผชิญกับสถานการณ์อันตรายที่หลากหลาย เช่น การร่วงหล่นของตลาดหุ้นในปี 1987, การระเบิดของ dot-com bubble, วิกฤตการณ์ทางการเงินในปี 2008 และการบูรณาการกฎเกณฑ์หลังวิกฤตที่ทำให้ Wall Street เปลี่ยนแปลง ดังนั้นเมื่อ Lloyd Blankfein เลือกเผชิญกับ AI และกล่าวว่ามีสิ่งที่กังวล ซึ่งก็คือสิ่งที่แท้จริงนั้น

มันไม่ใช่เรื่องของ superintelligence หรืออาวุธอัตโนมัติ แต่เป็นปัญหาที่เรียบง่ายมากขึ้น แต่กลับมีศัตรูกว่า

ปัญหาของ AI ไม่ใช่เพราะมัน “เก่งกว่าเราและจะทำให้เรากลายเป็นสัตว์เลี้ยง” เช่น Blankfein กล่าวในการสัมภาษณ์ใหม่กับ Andreessen Horowitz’s The a16z Show ที่เผยแพร่เมื่อวันจันทร์ แต่เป็นเพราะเราไม่สามารถทดสอบว่ามันถูกต้องหรือไม่ได้ เมื่อคุณกำลังดำเนินการขององค์กรใหญ่ เขาอธิบายว่าคุณไม่สามารถเสียเลือกเลย และตัวเลขนับถือ

การอ้างอิงถึง AI โดยเฉพาะและการพัฒนาเทคโนโลยีโดยเฉพาะ เขากล่าวว่า “ทุกสิ่งกำลังเคลื่อนไหวอยู่ในพื้นหลัง และคุณไม่ได้รับภาพลักษณ์ชัดเจนเกี่ยวกับกระบวนการคิดของเทคโนโลยีที่คุณใช้ ตอนนี้คุณสามารถเปลี่ยนแปลงซอฟต์แวร์ได้ และมันอาจเดินทางไปเพื่อทำ 70,000 ธุรกรรม” เขาอธิบายว่าเมื่อเขาเริ่มเดินทางในชั้นแลนด์สำหรับการเทรดดิ้ง ทุกคนสามารถได้ยินความผิดพลาดทุกอย่าง และห้องจะเงียบลงเมื่อมีการสืบสายขนาดเล็ก

คำอธิบายที่เรียบง่ายนี้อาจเป็นการแสดงออกที่แม่นยำที่สุดเพียงแห่งเดียวของเหตุผลที่ Wall Street – ไม่ว่าจะใช้เงินสำหรับการประยุกต์ใช้ AI ในการเทรดดิ้ง การรับมือตามข้อกำหนด และการดำเนินงานหลังบ้านจนเป็นร้อยละหนึ่ง ยังคงต้องสงสารที่จะส่งอัตโนมัติตัวแทนให้ควบคุมสิ่งที่จริงจัง

ความเร็วโดยไม่มีการควบคุมคือความเสี่ยงที่แท้จริง

อุตสาหกรรมทางการเงินได้เข้าใจอย่างลึกซึ้งเรื่องความเร็วที่สร้าง leverage และ leverage จะตัดไปทั้งด้าน ๆ สองด้าน การซื้อขายที่มีเวลาที่ถูกต้องจะสร้างผลตอบแทน แต่การซื้อขายที่ผิดพลาด – ทำงานอย่างรวดเร็ว กับพื้นที่สำคัญหลายพัน ก่อนที่จะมีบุคคลในการเข้ามาช่วย – สร้างความเสียหายอย่างรวดเร็ว

สิ่งที่ Blankfein กล่าวไว้นั้นไม่ได้เป็นแค่ภาพลวงตา การ “flash crash” ของปี 2010 เมื่อการเทรดดิ้งอัตโนมัติเลือกที่จะลบความมีมของ $1 ล้านล้านดอลลาร์ในนาที นับเป็นการแนะนำอย่างเป็นทางการ โดยมีความผิดพลาดในซอฟต์แวร์ของ Knight Capital ที่เกิดขึ้นในปี 2012 ที่ทำให้ธนาคารเสียหาย $440 ล้านดอลลาร์ใน 45 นาที – ทำให้บริษัทสูญเสียอัตลักษณ์อย่างจริงจัง สองเหตุการณ์ทั้งสองเกิดขึ้นก่อนรุ่น AI ปัจจุบันกว่าสิบปี

รุ่นใหม่นี้เร็วกว่า อัตโนมัติกว่า และมีความสามารถในการเชื่อมโยงการตัดสินใจในระหว่างกันโดยไม่มีการตรวจสอบจากบุคคล การวิเคราะห์ของ Deloitte ในเดือนมีนาคม 2026 ของ MIT AI Risk Database จะระบุถึง 350 ความเสี่ยงแยกต่างหากที่อาจเกิดขึ้นจากพฤติกรรมอัตโนมัติหรือตัวแทนในการธนาคารแค่ ๆ นั้น – หลายความเสี่ยงที่ไม่ได้รับการจัดการใน kerangkaการทำงานปัจจุบัน ผู้วิจัยของบริษัทอธิบายว่าเครื่องกล Blankfein กล่าวถึง: การสร้างภาพลวงตาเพียงแห่งเดียวสามารถกระแสไปทั่วระบบที่เชื่อมโยงกันได้ ตัวแทนการส่งสัญญาณการชำระเงินสามารถจัดสรรเงินทุนโดยไม่ถูกต้องก่อนที่จะมีบุคคลใด ๆ จะตรวจสอบได้ และการวนซ้ำของตัวแทนสามารถส่งค่าใช้จ่ายของ cloud ไปยังสองหลักฐานก่อนที่จะมีบุคคลใด ๆ จะได้รับการตรวจสอบ

และ American Bankers Association ได้เตือนในเดือนธันวาคม 2025 ถึงเรื่อง “737 Max moment” ที่ overreliance ของการอัตโนมัติจะสะท้อนกับความไว้วางใจของสาธารณะและความรับผิดชอบตามกฎหมายก่อนที่จะมีการติดตั้งรั้วริม

ตัวเลขเบื้องหลังอารมณ์ทางร่างกาย

ข้อมูลนับถืออารมณ์ของ Blankfein อย่างละเอียด การวิเคราะห์ของ Wakefield Research ในเดือนมกราคม 2026 พบว่า CFOs ทั้งหมด 14% เชื่อถือ AI เพื่อส่งข้อมูลการบัญชีที่ถูกต้องตามตรงโดยอยู่ในความเป็นของตัวเอง – แต่ส่วนใหญ่ที่ใช้อุปกรณ์ AI นั้นยังคงใช้เครื่องมือ AI เหล่านี้ 97% กล่าวว่า human oversight ยังคงสำคัญสำหรับความถูกต้องตามตรง และส่วนใหญ่จะเคยเจอกับเคสหนึ่งอย่างน้อยของ AI ที่สร้างภาพลวงตาหรือข้อมูลที่ไม่ถูกต้อง

รายงานของ CFA Institute เมื่อปี 2025 เกี่ยวกับ AI ที่สามารถอธิบายได้ในธุรกิจการเงินจะระบุปัญหาทางเทคนิคอย่างชัดเจน: ระบบอัตโนมัติจัดหา AI นำมาซึ่ง “ความลึกซึ้งในการควบคุมเนื่องจากความโปร่งใสในแหล่งข้อมูลและการตัดสินใจ”

การวิเคราะห์ที่แยกจาก LinkedIn เมื่อมกราคม 2026 จะระบุว่า “ผู้ประสานงานไม่มีข้อมูลที่สม่ำเสมอ และเชิงลึกในสถานที่และวิธีที่ AI ถูกใช้จริง ๆ” และ kerangkaการทำงานของความเสี่ยงของรูปแบบ “ท้าทายการตรวจสอบความถูกต้อง การติดตาม และการอัปโหลด”

ในขณะที่การประยุกต์ใช้เร่งด่วนกว่าการบริหาร 92% ของ fintechs ที่นำหน้าใน Q1 2026 จะรวมตัวกันอย่างน้อยหนึ่งตัวแทนอัตโนมัติในการผลิตสินค้าหลัก – ในช่วงเดียวกันที่มีการปรับปรุงมาตรฐานอย่างเร่งด่วนของ “Guardrail Protocols” ที่ต้องการการรับรองจากบุคคลสำหรับธุรกรรมเกิน $1 ล้าน และ 70% ของผู้บริหารธุรกิจของธนาคารที่ใช้ agentic AI อยู่แล้วจะรายงานว่า kerangkaการทำงานของการบริหารจัดการขาดการแฝงอย่างมากในฐานะที่จะเทียบกับความเร็วของการประยุกต์ใช้ ซึ่งเป็นการวิเคราะห์ของ MIT Technology Review Insights ในปี 2025

ความระมัดระวังที่น่าประหลาดใจของ Goldman

Blankfein ยังเสนอการสังเกตุที่ชัดเจนเกี่ยวกับวิธีที่ Goldman ใช้เครื่องมือเปลี่ยนเส้นทางอย่างเป็นปรัชญา: การรัน legacy และระบบใหม่ในขั้นตอนของปี ก่อนที่จะทำการสลับขั้นตอนใหญ่ เป็นข้อจำกัด เขากล่าวว่าส่วนใหญ่ของบริษัททางเทคโนโลยีไม่ได้รับผลักดัน – และหนึ่งในความขัดแย้งที่มีกับ culture ของ “move fast” ที่กำหนดขึ้นในระหว่างคลื่นของการประยุกต์ใช้ AI ที่สำรวจผ่านธุรกิจ

คำเตือนที่ไม่รู้ตัว: บริษัทที่ใช้ AI agents อย่างเร่งด่วนจะเป็นบริษัทที่ไม่ได้รับการทดสอบก่อนที่จะเกิดสิ่งที่เป็นผลให้เกิดผลกระทบ

การเปรียบเทียบนั้นมีความสำคัญมากในช่วงเวลานี้ Goldman ได้รับ AI assistant ของตัวเองไปยังทุก ๆ 46,000+ employees และจะระบุถึงหกพื้นที่ธุรกิจ “ripe for disruption” ใน letter ของหุ้นส่วนที่สำคัญ JPMorgan จะมี more than 450 กรณีการใช้ AI ในผลิตภัณฑ์ และ LLM Suite ของตัวเองจะถูกใช้โดย 150,000 employees ทุกสัปดาห์ Citigroup จะมี more than 70% ของ 182,000 employees ที่ใช้เครื่องมือที่อนุญาตโดยธนาคาร

แต่ทุกคนจะเลือกที่จะเลือกเส้นทางเดียว: การดำเนินการอัตโนมัติเหนือเกณฑ์ยังคงต้องมีการอนุมัติจากบุคคล อุตสาหกรรมกำลังเร่งด่วนที่จะใช้ AI everywhere except ในสถานที่ที่ปัญหาของ 70,000 transactions จะเกิดขึ้นจริง

“We always had to do things twice,” Blankfein กล่าวเกี่ยวกับวิธีที่ทำงาน ของเหล่านี้ “We had to run things 50 times and be perfect the last 49 times before we could go that way.” นั่นหมายความว่าจะมีเวลาที่นานเป็นเวลามาก ๆ ก่อนที่ AI agents จะได้รับความไว้วางใจในการทำงานที่ถูกต้องตามตรองทุกครั้งจาก gate