บริการทางการเงินยังไม่พร้อมรับมือกับความเสี่ยงจาก AI

Key takeaway

• ภาคการเงินอังกฤษใช้ AI อย่างแพร่หลาย (75% ของบริษัทการเงิน) แต่ยังขาดการป้องกันที่เหมาะสมและไม่พร้อมรับมือกับความเสี่ยงจาก AI ที่อาจส่งผลกระทบต่อเสถียรภาพของระบบการเงิน
• ความเสี่ยงสำคัญของ AI คือการ "hallucinate" หรือสร้างข้อมูลเท็จ และการพึ่งพาผู้ให้บริการเทคโนโลยีเพียงไม่กี่ราย ซึ่งหากเกิดปัญหาอาจส่งผลกระทบเป็นวงกว้างต่อระบบการเงิน ดังกรณี Amazon Web Services ล่มที่ส่งผลกระทบต่อ HMRC และ Lloyds Banking Group
• คณะกรรมการรัฐสภาเสนอให้ธนาคารแห่งประเทศอังกฤษและ FCA จัดทำการทดสอบความเครียด (stress-test) เฉพาะด้าน AI และเร่งดำเนินการตาม Critical Third Parties Regime เพื่อกำกับดูแลบริษัทเทคโนโลยีที่มีบทบาทสำคัญในโครงสร้างพื้นฐานทางการเงิน

ธนาคารแห่งประเทศอังกฤษ, FCA และกระทรวงการคลังจำเป็นต้องเร่งดำเนินมาตรการเชิงรุกเพื่อปกป้องระบบการเงินจากผลกระทบร้ายแรงที่อาจเกิดขึ้นจากเทคโนโลยี AI ที่กำลังพัฒนาอย่างรวดเร็ว หากไม่ดำเนินการอย่างทันท่วงที เสถียรภาพของระบบการเงินสหราชอาณาจักรอาจต้องเผชิญความเสี่ยงอย่างมีนัยสำคัญ

ภาคบริการทางการเงินของสหราชอาณาจักรถือเป็นผู้นำในการประยุกต์ใช้ AI โดยมีบริษัทการเงินถึงร้อยละ 75 ที่ใช้ AI ในรูปแบบใดรูปแบบหนึ่ง ทั้งบริษัทประกันภัยและธนาคารได้นำเทคโนโลยีนี้มาใช้ในการดำเนินงานสำคัญ เช่น การตรวจสอบเครดิตและการประมวลผลการเรียกร้องค่าสินไหมทดแทน

ปัจจุบัน ธุรกิจการเงินไม่ได้ใช้ AI เพียงแค่เร่งกระบวนการบริหารจัดการเท่านั้น แต่ยังใช้ในการวิเคราะห์ข้อมูลและชี้นำการตัดสินใจทางการเงินของผู้บริโภคอีกด้วย

ปัญหาสำคัญคือเครื่องมือ AI มีความเสี่ยงที่จะ "hallucinate" หรือสร้างข้อมูลเท็จ ซึ่งก่อให้เกิดช่องโหว่ใหม่ที่อาจสร้างความเสียหายต่อธุรกิจ ยิ่งผู้ให้บริการ AI ฝังตัวลึกในเครือข่ายการเงินมากเท่าไร การหยุดชะงักในวงกว้างก็อาจนำไปสู่ความล้มเหลวทั้งระบบที่ส่งผลกระทบในวงกว้าง

คณะกรรมการรัฐสภาได้สรุปว่าระบบการเงินยังขาดการป้องกันที่เหมาะสมและไม่พร้อมรับมือกับวิกฤตที่เกี่ยวข้องกับ AI คณะกรรมการได้เสนอให้ธนาคารแห่งประเทศอังกฤษและ FCA จัดทำการทดสอบความเครียด (stress-test) เฉพาะด้าน AI และออกแนวทางที่ชัดเจนให้กับธุรกิจเกี่ยวกับการใช้ AI ที่สอดคล้องกับกฎการคุ้มครองผู้บริโภคที่มีอยู่

เหตุการณ์เมื่อปลายปีที่ผ่านมา เมื่อระบบของ Amazon Web Services ล่ม ส่งผลให้องค์กรการเงินสำคัญอย่าง HMRC และ Lloyds Banking Group ต้องหยุดชะงักชั่วคราว แสดงให้เห็นถึงความเปราะบางของระบบเศรษฐกิจและการพึ่งพาบริษัทเทคโนโลยีเพียงไม่กี่แห่ง

แม้รัฐบาลจะมีอำนาจในการปกป้องระบบผ่าน Critical Third Parties Regime แต่การดำเนินการยังคงล่าช้า หลังจากผ่านไปหนึ่งปี ยังไม่มีบริษัทใดถูกกำหนดภายใต้โครงการนี้ การเร่งดำเนินการจะช่วยเพิ่มอำนาจที่จำเป็นแก่ธนาคารแห่งประเทศอังกฤษและ FCA ในการกำกับดูแลบริษัทเทคโนโลยีที่มีบทบาทสำคัญในโครงสร้างพื้นฐานทางการเงิน

AI เป็นเทคโนโลยีที่มาเพื่ออยู่ และนำมาซึ่งโอกาสใหม่ๆ ภาคบริการทางการเงินควรพิจารณาใช้ประโยชน์จากเทคโนโลยีนี้ แต่ในขณะเดียวกัน ธนาคารแห่งประเทศอังกฤษ, FCA และกระทรวงการคลังต้องเร่งดำเนินการเชิงรุกเพื่อปกป้องระบบจากความเสี่ยงที่อาจเกิดขึ้นจากเทคโนโลยีที่กำลังพัฒนาอย่างรวดเร็วนี้

Why it matters

💡 ข่าวนี้มีความสำคัญอย่างยิ่งสำหรับผู้ที่ทำงานในวงการการเงินและเทคโนโลยี เนื่องจากเผยให้เห็นถึงความเสี่ยงที่ซ่อนอยู่ในการนำ AI มาใช้ในระบบการเงิน โดยเฉพาะในสหราชอาณาจักรที่มีการใช้งาน AI อย่างแพร่หลายถึง 75% ของบริษัทการเงิน ปัญหาการ "hallucinate" หรือสร้างข้อมูลเท็จของ AI และการพึ่งพาผู้ให้บริการเทคโนโลยีเพียงไม่กี่ราย สร้างความเปราะบางให้กับระบบการเงินทั้งหมด การติดตามมาตรการกำกับดูแลที่จะเกิดขึ้นจะมีผลกระทบโดยตรงต่อความมั่นคงทางการเงินในอนาคต

ข้อมูลอ้างอิงจาก https://www.cityam.com/financial-services-are-not-prepared-for-ai-risks/