แพลตฟอร์ม AI โอเพนซอร์สระดับโลก Hugging Face ถูกโจมตีโดย Autonomous AI Agent

Key takeaway

• Hugging Face ถูกโจมตีโดย Autonomous AI Agent ที่ใช้ช่องโหว่ใน Data Processing Pipeline ผ่าน Remote Code Dataset Loader และ Template Injection เพื่อยกระดับสิทธิ์และเคลื่อนตัวแบบ Lateral Movement เข้าสู่ Internal Cluster หลายระบบ โดย Agent ดังกล่าวรันหลายพัน Action บน Swarm of Short-Lived Sandbox พร้อมระบบ Self-Migrating C2 ที่ซับซ้อน
• ในการทำ Forensic Analysis ทีมงานต้องหันไปใช้ Chinese Open-Weight Model อย่าง Z.ai GLM 5.2 เนื่องจาก Western Frontier Model ถูก Safety Guardrail บล็อกคำขอที่เกี่ยวข้องกับ Attack Command และ Exploit Payload จริง ซึ่งเปิดเผยช่องว่างสำคัญที่ว่า ผู้โจมตีไม่ถูกจำกัดด้วย Usage Policy ใดๆ แต่ฝ่าย Defender กลับถูก Guardrail ขัดขวางการทำงานแทน
• บทเรียนเชิงปฏิบัติที่สำคัญคือองค์กรควรเตรียม AI Model ที่ผ่านการ Vet แล้วและสามารถ Deploy บน Infrastructure ของตนเองได้ก่อนเกิดเหตุการณ์จริง เพื่อป้องกันทั้ง Guardrail Lockout และการรั่วไหลของข้อมูลสำคัญออกนอก Environment ขององค์กร

ในเหตุการณ์ที่เรียกได้ว่าเป็นความย้อนแย้งอย่างน่าตื่นตะลึง Hugging Face แพลตฟอร์ม Open-Source AI ชั้นนำของโลก ได้ออกมาเปิดเผยว่าตกเป็นเป้าหมายของการโจมตีทางไซเบอร์ที่ดำเนินการโดย Autonomous AI Agent โดยบริษัทระบุว่าสามารถตรวจพบและรับมือกับเหตุการณ์ที่มุ่งเป้าโจมตี Production Infrastructure ของบริษัทได้เมื่อสัปดาห์ที่ผ่านมา

"เราตรวจพบการเข้าถึง Internal Dataset จำนวนหนึ่งโดยไม่ได้รับอนุญาต รวมถึง Credential หลายรายการที่ใช้งานโดยบริการของเรา" — Hugging Face

รายละเอียดของการโจมตี

แม้การสืบสวนจะยังคงดำเนินต่อไป แต่ Hugging Face ยืนยันว่าไม่พบหลักฐานใดที่บ่งชี้ว่า AI Agent ดังกล่าวได้เข้ายุ่งเกี่ยวกับ Public Model, Dataset, Spaces หรือ Software Supply Chain ของบริษัทแต่อย่างใด

จุดเริ่มต้นของการโจมตีอยู่ที่ Data Processing Pipeline โดย Malicious Dataset ได้อาศัยช่องโหว่ในการรันโค้ด 2 เส้นทาง ได้แก่

• Remote Code Dataset Loader
• Template Injection ใน Dataset Configuration

ผ่านช่องโหว่ทั้งสองนี้ ผู้โจมตีสามารถรันโค้ดบน Processing Worker ได้สำเร็จ จากนั้นจึงทำการ Privilege Escalation ขึ้นสู่ระดับ Node-Level Access พร้อมรวบรวม Cloud และ Cluster Credential ก่อนเคลื่อนตัวแบบ Lateral Movement เข้าสู่ Internal Cluster หลายระบบตลอดช่วงวันหยุดสุดสัปดาห์

รูปแบบการโจมตีด้วย Autonomous Agent Framework

แม้ยังไม่สามารถระบุได้ว่า LLM ใดถูกนำมาใช้ในการโจมตีครั้งนี้ แต่แคมเปญดังกล่าวถูกขับเคลื่อนโดย Autonomous Agent Framework ที่ปฏิบัติการ "หลายพันแอคชันบน Swarm of Short-Lived Sandbox" พร้อมด้วยระบบ Self-Migrating Command-and-Control (C2) ที่ถูก Stage บน Public Service

มาตรการรับมือและ Remediation

Hugging Face ได้ดำเนินการแก้ไข Root Cause ที่ Code Execution Pathway ซึ่งเป็นจุดเริ่มต้นของการโจมตี พร้อมดำเนินขั้นตอน Remediation ดังต่อไปนี้

• ลบ Foothold ของผู้โจมตีออกจาก Cluster ที่ได้รับผลกระทบ และ Rebuild Node ที่ถูก Compromise
• Revoke และ Rotate Credential และ Token ที่ได้รับผลกระทบ พร้อมดำเนินการ Rotation of Secrets ในวงกว้างเป็นมาตรการเชิงป้องกัน
• Deploy Guardrail เพิ่มเติม และเสริมความเข้มแข็งให้กับ Admission Control บน Cluster
• ปรับปรุงระบบ Detection และ Alerting เพื่อให้ทีม Responder ได้รับการแจ้งเตือนภายในไม่กี่นาทีแบบ 24x7

นอกจากนี้ Hugging Face ยังแนะนำให้ผู้ใช้งานทุกรายดำเนินการ Rotate Access Token และตรวจสอบ Recent Activity บนบัญชีของตนโดยเร็วที่สุด

บทเรียนจากการใช้ Chinese Open-Weight Model เพื่อ Forensic Analysis

หนึ่งในประเด็นที่น่าสนใจอย่างยิ่งในเหตุการณ์ครั้งนี้คือ บริษัทจำเป็นต้องหันไปใช้ Z.ai GLM 5.2 ซึ่งเป็น Chinese Open-Weight Model ในการดำเนินการ Forensic Analysis เนื่องจาก Western Frontier Model ปฏิเสธ Request ที่มีเนื้อหาเกี่ยวกับ Attack Command จริง, Exploit Payload และ C2 Artifact เพราะ Safety Guardrail ถูก Trigger และไม่สามารถแยกแยะระหว่างผู้โจมตีกับทีม Incident Response ที่ถูกต้องตามกฎหมายได้

"ประสบการณ์นี้ชี้ให้เห็นช่องว่างที่ควรวางแผนรับมือ... ผู้โจมตีไม่ถูกผูกมัดด้วย Usage Policy ใดๆ ในขณะที่งาน Forensic ของเราเองกลับถูกบล็อกโดย Guardrail ของ Hosted Model ที่เราลองใช้งานในตอนแรก"

บทสรุปสำหรับ Defender

Hugging Face ซึ่งมีสำนักงานใหญ่ตั้งอยู่ที่นครนิวยอร์ก ได้ทิ้งท้ายด้วยบทเรียนเชิงปฏิบัติสำหรับฝ่าย Defender ว่า

"จงเตรียม Model ที่มีประสิทธิภาพซึ่งสามารถรันบน Infrastructure ของตนเอง ผ่านการ Vet และพร้อมใช้งานก่อนเกิดเหตุการณ์ ทั้งเพื่อหลีกเลี่ยง Guardrail Lockout และเพื่อป้องกันไม่ให้ข้อมูลของผู้โจมตีและ Credential รั่วไหลออกนอก Environment ของคุณ"

Why it matters

💡 เหตุการณ์ที่ Hugging Face แพลตฟอร์ม Open-Source AI ระดับโลกถูกโจมตีด้วย Autonomous AI Agent ครั้งนี้ถือเป็นสัญญาณเตือนที่สำคัญอย่างยิ่งสำหรับทุกองค์กรในยุค AI เนื่องจากแสดงให้เห็นว่าภัยคุกคามทางไซเบอร์กำลังวิวัฒนาการสู่ระดับใหม่ที่ซับซ้อนและอันตรายกว่าเดิม ไม่ว่าจะเป็นเทคนิค Lateral Movement, Privilege Escalation หรือแม้แต่ข้อจำกัดของ Safety Guardrail ในงาน Forensic Analysis ล้วนเป็นบทเรียนที่ทีม Security และ DevOps ต้องศึกษาและนำไปปรับใช้กับ Infrastructure ของตนเองโดยเร่งด่วน

ข้อมูลอ้างอิงจาก https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html