77% ของ IT Managers ยอมรับ AI Agents อยู่นอกเหนือการควบคุม — 5 วิธีรับมือที่องค์กรต้องรู้

Key takeaway

• จากผลสำรวจของ Rubrik ZeroLabs พบว่า IT Managers เพียง 23% เท่านั้นที่ควบคุม AI Agents ในองค์กรได้อย่างสมบูรณ์ ขณะที่ 81% ยอมรับว่า Agents เหล่านี้กินเวลา Manual Auditing มากกว่าเวลาที่ประหยัดได้จริง สะท้อนว่า ROI ที่คาดหวังยังห่างไกลจากความเป็นจริงมาก
• ปัญหา Agent Sprawl กำลังซ้ำรอย Cloud Adoption ในยุคแรก เมื่อแต่ละทีมสามารถ Spin Up Agents ได้ภายในบ่ายวันเดียวผ่าน API Access โดยไม่มี Consistent Identity Model ส่งผลให้เกิด Agents หลายร้อยตัวที่มี Overlapping Permissions และไม่มีใครระบุ Full Inventory ได้ครบถ้วน
• ผู้เชี่ยวชาญจาก Microsoft, Coalition for Secure AI และ Liberty91 ต่างเน้นตรงกันว่าองค์กรต้องยก Agent Management ขึ้นเป็น First-Class Discipline โดยต้องแยก Orchestration, Model และ Governance Layer ออกจากกัน และต้องวาง Continuous Monitoring ที่รองรับ Model Drift ซึ่งอาจเปลี่ยนพฤติกรรม Agent ได้โดยไม่มีสัญญาณเตือนล่วงหน้า

AI Agents ที่ Deploy ได้ง่ายและรวดเร็วกำลังแพร่กระจายออกไปจนยากต่อการควบคุม และสถานการณ์ดังกล่าวกำลังกลายเป็นปัญหาเรื้อรังที่อาจกัดกร่อนประโยชน์ทั้งหมดที่องค์กรคาดหวังจะได้รับจากเทคโนโลยีนี้

นั่นคือข้อสรุปจากผลสำรวจที่เพิ่งเผยแพร่โดย Rubrik ZeroLabs ซึ่งพบว่า IT Managers น้อยกว่าหนึ่งในสี่ หรือเพียง 23% เท่านั้น ที่ระบุว่าตนมี Control อย่างสมบูรณ์เหนือ Agents ภายในองค์กร ที่น่ากังวลยิ่งกว่านั้นคือ Agents เหล่านี้ยังไม่สามารถส่งมอบ Productivity ได้ตามที่คาดหวัง โดย 81% ของผู้ตอบแบบสำรวจระบุว่า Agents ที่อยู่ในความดูแลต้องการเวลาสำหรับ Manual Auditing และ Monitoring มากกว่าเวลาที่ประหยัดได้จาก Workflow Improvements

ปัญหาส่วนหนึ่งมาจากความง่ายในการสร้าง AI Agents โดยผู้ใช้มักปิด VPN หรือหลีกเลี่ยง Security Controls เพื่อ Spin Up Agents ขึ้นมาเอง จนนำไปสู่การแพร่กระจายของ Unsanctioned AI Applications จำนวนมากทั้งจากภายในองค์กรและจาก Vendors ภายนอก

Agent Sprawl ซ้ำรอยปัญหายุคแรกของ Cloud Adoption

ปัจจุบัน Agent Sprawl กลายเป็นปัญหาที่พบได้ทั่วทั้งอุตสาหกรรม Kriti Faujdar, Senior Product Manager จาก Microsoft กล่าวว่า "เราเริ่มเห็น Pattern ที่คล้ายกับยุคแรกของ Cloud Adoption ที่แต่ละทีม Spin Up Agents อย่างอิสระโดยใช้ Framework และ Vendors ที่แตกต่างกัน จนนำไปสู่ Fragmentation, Governance ที่ขาดความสม่ำเสมอ และ Security Gaps ที่ซ่อนเร้นอยู่ภายใน"

รายงาน ZeroLabs ยังชี้ให้เห็นถึงความไม่สอดคล้องกันระหว่างความรู้สึกว่าควบคุมได้กับสิ่งที่เกิดขึ้นจริงในทางปฏิบัติ โดย IT Managers ถึง 86% คาดการณ์ว่า Agentic Proliferation จะแซงหน้า Security Guardrails ที่มีอยู่ภายในหนึ่งปีข้างหน้า และกว่าครึ่งหนึ่ง (52%) คาดว่าจะเกิดขึ้นภายในเพียง 6 เดือนเท่านั้น นอกจากนี้ผู้ตอบแบบสำรวจเกือบทั้งหมดยังระบุว่าองค์กรของตนขาด "Undo" Capabilities ที่จำเป็นสำหรับการ Roll Back Unintended Agent Actions

Nik Kale, Principal Engineer จาก Coalition for Secure AI กล่าวเสริมว่า "ทีมงานใดก็ตามที่มี API Access สามารถ Spin Up Agent ได้ภายในบ่ายวันเดียว เมื่อคูณจำนวนนั้นทั่วทั้ง Enterprise ขนาดใหญ่ ผลลัพธ์ที่ได้คือ Agents หลายร้อยตัวที่มี Overlapping Permissions ไม่มี Consistent Identity Model และไม่มีใครสามารถระบุ Full Inventory ได้อย่างครบถ้วน"

ทีม ZeroLabs ยังชี้ให้เห็นว่า Agentic Observability มีความซับซ้อนสูง และองค์กรจำเป็นต้องมี Telemetry ที่เพียงพอสำหรับการทำความเข้าใจ Chains of Agentic Actions ควบคู่ไปกับการวาง Enforcement Points ด้าน Security อย่างมีประสิทธิภาพ

5 คำถามสำคัญที่ต้องตอบให้ได้หลัง Deploy

รายงาน ZeroLabs ระบุว่าการติดตามและกำกับดูแล Agents อย่างมีประสิทธิภาพจำเป็นต้องสามารถตอบคำถามสำคัญ 5 ข้อต่อไปนี้ได้หลังจาก Deployment:

1. Agent ทำอะไรไปบ้าง? องค์กรต้องมีความสามารถในการ Trace หรืออย่างน้อยที่สุดต้องสามารถ Reconstruct สิ่งที่เกิดขึ้นได้อย่างละเอียดและครบถ้วน
2. เพราะอะไรถึงดำเนินการเช่นนั้น? ต้องเข้าใจได้ว่า Agent มีเหตุผลหรือความเชื่ออะไรที่นำไปสู่การกระทำนั้น ๆ
3. มันเข้าถึงข้อมูลหรือทรัพยากรอะไรบ้าง? Audit Trails ต้องมีรายการครบถ้วนของ Data และ Tools ทั้งหมดที่ Agent มีปฏิสัมพันธ์ด้วย
4. ภารกิจสำเร็จอย่างปลอดภัยหรือไม่ และมี Cost เท่าใด? องค์กรต้องสามารถวัด Task Success Rate, Policy Violations และ Human Escalations เพื่อให้เข้าใจ ROI ได้อย่างแม่นยำ
5. ล้มเหลวที่จุดไหน? ต้องสามารถ Reproduce Failure ได้เพื่อนำไปสู่การแก้ไขปัญหาที่ต้นเหตุ

เมื่อคำถามเหล่านี้ยังไม่ได้รับคำตอบ ผู้ดูแลระบบและองค์กรจำนวนมากก็ไม่สามารถกำหนด Acceptable Agentic Behavior, Audit ทรัพยากรและ Tools ที่ Agents เข้าถึงได้, วาง Policies สำหรับการ Trigger Human-in-the-Loop หรือดำเนินการ Roll Back Agentic Actions ได้อย่างมีประสิทธิภาพ

สมดุลระหว่าง Speed และ Governance คือกุญแจสู่ความสำเร็จ

เนื่องจาก Agents ทำงานอย่างอิสระโดยธรรมชาติ พวกมันจึงก่อให้เกิดความเสี่ยงในมิติที่กว้างกว่า Traditional Software อย่างมีนัยสำคัญ Faujdar กล่าวว่า "องค์กรต้องการเคลื่อนตัวอย่างรวดเร็ว แต่หากปราศจาก Guardrails ที่ชัดเจน ก็เสี่ยงต่อการสร้างระบบที่ยากต่อการ Trust, Audit หรือ Scale องค์กรที่จะประสบความสำเร็จคือองค์กรที่ให้ความสำคัญกับ Agent Management ในฐานะ First-Class Discipline ไม่ใช่เรื่องรอง"

ความท้าทายอีกประการหนึ่งคือการดูแล Agents ให้ทันสมัยอยู่เสมอ เนื่องจาก Foundation Models มีแนวโน้มเกิด Model Drift ได้ตลอดเวลา Renze Jongman, Founder และ CEO ของ Liberty91 กล่าวว่า "Agent ที่คุณ Certify ไว้ใน Q1 อาจมีพฤติกรรมที่เปลี่ยนแปลงไปแล้วใน Q3 โดยที่ไม่ใช่ความผิดของ Platform Governance Model ของคุณจึงต้องสมมติไว้เสมอว่าพื้นฐานกำลังเปลี่ยนแปลงอยู่ตลอดเวลา"

Kale แนะนำให้แยก Orchestration Layer ใน Agent Stack ออกจาก Model Layer และ Governance Layer อย่างชัดเจน พร้อมเตือนว่า "หากทั้งสาม Layer อยู่ภายใต้ Platform ของ Vendor เดียวกัน คุณก็กำลังมอบ Agent's Brain, Permissions และ Accountability Chain ทั้งหมดไว้ภายใต้ Single Contract เพียงฉบับเดียว"

Kale ยังเน้นย้ำด้วยว่า การกำกับดูแล Agent อย่างมีประสิทธิภาพ "ควรมีส่วนร่วมจากทีม Security, Architecture และ Business Unit ที่รับผิดชอบ Outcomes โดยตรง ไม่ใช่ปล่อยให้เป็นหน้าที่ของเพียงทีมที่ต้องการ Ship งานให้เร็วที่สุด"

Why it matters

💡 ผลสำรวจล่าสุดจาก Rubrik ZeroLabs เปิดเผยข้อมูลที่น่าตกใจว่า IT Managers เพียง 23% เท่านั้นที่ควบคุม AI Agents ในองค์กรได้อย่างสมบูรณ์ ขณะที่กว่า 86% คาดว่า Agent Sprawl จะแซงหน้า Security Guardrails ที่มีอยู่ภายในหนึ่งปี บทความนี้จึงสำคัญอย่างยิ่งสำหรับ IT Professionals ที่ต้องการเข้าใจความเสี่ยงเชิงลึกและแนวทางปฏิบัติจริงในการกำกับดูแล AI Agents ก่อนที่ปัญหาจะเรื้อรังจนยากแก้ไข

ข้อมูลอ้างอิงจาก https://www.zdnet.com/article/it-managers-say-ai-agents-are-out-of-control/