Microsoft เตือนว่าปุ่ม AI และลิงก์ที่ถูกปลอมแปลงอาจทำลายความไว้วางใจของคุณ

Key takeaway

• ไมโครซอฟท์เตือนเกี่ยวกับการโจมตีแบบ "AI Recommendation Poisoning" ที่แฝงคำสั่งในปุ่ม AI และลิงก์บนเว็บไซต์ เพื่อให้ AI แสดงคำแนะนำที่มีอคติหรือบิดเบือน
• นักวิจัยพบมากกว่า 50 พรอมต์เฉพาะจาก 31 บริษัทใน 14 อุตสาหกรรมที่ใช้เทคนิคนี้ ซึ่งอาจส่งผลกระทบต่อคำแนะนำในหัวข้อสำคัญเช่น สุขภาพ การเงิน และความปลอดภัย โดยที่ผู้ใช้ไม่รู้ตัว
• ผู้ใช้ควรระมัดระวังลิงก์ที่เกี่ยวข้องกับ AI ตรวจสอบปลายทางของลิงก์ หมั่นตรวจสอบและล้างหน่วยความจำของผู้ช่วย AI เป็นประจำ รวมถึงตั้งคำถามกับคำแนะนำที่น่าสงสัย

ท่ามกลางกระแสการโปรโมทเทคโนโลยี AI ที่กำลังมาแรง ไมโครซอฟท์ได้ออกมาเตือนลูกค้าเกี่ยวกับการพบกรณีที่มีการจัดการเทคโนโลยีเพื่อให้ AI แสดงคำแนะนำที่มีอคติ

ยักษ์ใหญ่วงการซอฟต์แวร์เปิดเผยว่า นักวิจัยด้านความปลอดภัยพบการเพิ่มขึ้นของการโจมตีที่ออกแบบมาเพื่อวางยา "หน่วยความจำ" ของโมเดล AI ด้วยข้อมูลบิดเบือน เทคนิคนี้มีชื่อเรียกว่า "AI Recommendation Poisoning" ซึ่งคล้ายกับ SEO Poisoning ที่ใช้โดยผู้ไม่หวังดีเพื่อทำให้เว็บไซต์อันตรายติดอันดับสูงในผลการค้นหา แต่จุดเป้าไปที่โมเดล AI แทนที่เครื่องมือค้นหา

บริษัทผู้ผลิต Windows ระบุว่าได้พบบริษัทต่างๆ แอบฝังคำสั่งซ่อนเร้นไว้ในปุ่ม "Summarize with AI" และลิงก์ต่างๆ บนเว็บไซต์

การโจมตีในลักษณะนี้ไม่ซับซ้อน เนื่องจาก URL ที่เชื่อมโยงไปยัง AI chatbot สามารถแฝงพารามิเตอร์การค้นหาที่มีข้อความพรอมต์บิดเบือนได้

ตัวอย่างเช่น The Register ได้ทดลองป้อนลิงก์ที่มีข้อความเข้ารหัส URL ลงใน omnibox ของ Firefox ซึ่งสั่งให้ Perplexity AI สรุปบทความของ CNBC ในรูปแบบภาษาโจรสลัด ผลปรากฏว่าบริการ AI ได้ส่งคืนสรุปเป็นภาษาโจรสลัดจริงๆ โดยอ้างอิงบทความต้นฉบับและแหล่งข้อมูลอื่นๆ

คำสั่งที่มีความจริงจังมากกว่านี้ หรือคำสั่งที่บังคับให้ AI สร้างเนื้อหาที่มีแนวโน้มเฉพาะ อาจทำให้ AI ผลิตเนื้อหาที่สะท้อนตามคำสั่งแฝงเหล่านั้น

"เราได้ระบุพรอมต์เฉพาะกว่า 50 รายการจาก 31 บริษัทใน 14 อุตสาหกรรม โดยมีเครื่องมือฟรีทำให้เทคนิคนี้ง่ายต่อการนำไปใช้อย่างมาก" ทีม Microsoft Defender Security กล่าวในบล็อกโพสต์ "สิ่งนี้มีความสำคัญเพราะผู้ช่วย AI ที่ถูกบุกรุกสามารถให้คำแนะนำที่มีอคติแฝงในหัวข้อสำคัญ ทั้งเรื่องสุขภาพ การเงิน และความปลอดภัย โดยที่ผู้ใช้ไม่รู้ตัวว่า AI ของตนถูกจัดการ"

นอกจากนี้ยังพบว่าเทคนิคดังกล่าวสามารถใช้กับ Google Search ได้เช่นกัน

นักวิจัยของไมโครซอฟท์ระบุว่ามีไลบรารีโค้ดและทรัพยากรเว็บต่างๆ ที่สามารถใช้สร้างปุ่มแชร์ AI สำหรับการฉีด recommendation ประสิทธิภาพของเทคนิคเหล่านี้อาจแตกต่างกันไปตามเวลา เมื่อแพลตฟอร์มปรับเปลี่ยนพฤติกรรมเว็บไซต์และเพิ่มการป้องกัน

หากการวางยาถูกกระตุ้นโดยอัตโนมัติหรือโดยผู้ใช้ไม่รู้ตัว ไม่เพียงแต่ผลลัพธ์ของโมเดลจะสะท้อนตามข้อความพรอมต์นั้น แต่การตอบสนองในภายหลังก็จะนำข้อความพรอมต์นั้นมาพิจารณาเป็นบริบททางประวัติศาสตร์หรือ "หน่วยความจำ" ด้วย

"AI Memory Poisoning เกิดขึ้นเมื่อบุคคลภายนอกฉีดคำสั่งหรือ 'ข้อเท็จจริง' ที่ไม่ได้รับอนุญาตเข้าไปในหน่วยความจำของผู้ช่วย AI" ทีม Defender อธิบาย "เมื่อถูกวางยาแล้ว AI จะปฏิบัติต่อคำสั่งที่ฉีดเข้าไปเหล่านี้เสมือนเป็นการตั้งค่าที่ถูกต้องของผู้ใช้ ซึ่งจะมีอิทธิพลต่อการตอบสนองในอนาคต"

นักวิจัยด้านความปลอดภัยของไมโครซอฟท์ชี้ว่าความเสี่ยงสำคัญคือ AI Recommendation Poisoning จะทำลายความเชื่อมั่นของผู้คนในบริการ AI โดยเฉพาะในกลุ่มผู้ที่ยังไม่ได้มองว่าโมเดล AI ไม่น่าเชื่อถืออยู่แล้ว

ผู้ใช้ส่วนใหญ่อาจไม่มีเวลาตรวจสอบคำแนะนำของ AI และการยืนยันที่ฟังดูน่าเชื่อถือจากโมเดล AI ยิ่งทำให้ผู้ใช้ยอมรับคำแนะนำเหล่านั้นได้ง่ายขึ้น

"นี่ทำให้การวางยาหน่วยความจำมีความร้ายกาจเป็นพิเศษ – ผู้ใช้อาจไม่รู้ตัวว่า AI ของตนถูกบุกรุก และแม้จะสงสัยว่ามีบางอย่างผิดปกติ พวกเขาก็ไม่รู้วิธีตรวจสอบหรือแก้ไข" ทีม Defender กล่าว "การจัดการนั้นมองไม่เห็นและคงอยู่ถาวร"

นักวิจัยจาก Redmond แนะนำให้ผู้ใช้ระมัดระวังกับลิงก์ที่เกี่ยวข้องกับ AI และควรตรวจสอบปลายทางของลิงก์เสมอ – ซึ่งเป็นคำแนะนำที่ดีสำหรับลิงก์เว็บทุกประเภท นอกจากนี้ยังแนะนำให้ตรวจสอบหน่วยความจำที่เก็บไว้ของผู้ช่วย AI ลบรายการที่ไม่คุ้นเคย ล้างหน่วยความจำเป็นประจำ และตั้งคำถามกับคำแนะนำที่น่าสงสัย

ทีม Defenders ของไมโครซอฟท์ยังแนะนำให้ทีมรักษาความปลอดภัยขององค์กรหมั่นสแกนหาความพยายามในการทำ AI Recommendation Poisoning ในอีเมลและแอปพลิเคชันข้อความภายในองค์กรอีกด้วย

Why it matters

💡 ข่าวนี้มีความสำคัญอย่างยิ่งสำหรับผู้ใช้เทคโนโลยีทุกคน เนื่องจากเปิดเผยภัยคุกคามใหม่ที่เรียกว่า "AI Recommendation Poisoning" ซึ่งอาจส่งผลกระทบต่อความน่าเชื่อถือของเทคโนโลยี AI ที่เรากำลังใช้อยู่ทุกวัน การที่ไมโครซอฟท์พบว่ามีบริษัทกว่า 31 แห่งใน 14 อุตสาหกรรมที่ใช้เทคนิคนี้ แสดงให้เห็นว่าปัญหานี้แพร่หลายกว่าที่คิด ผู้อ่านจะได้เรียนรู้วิธีป้องกันตัวเองจากการถูกจัดการโดยไม่รู้ตัว โดยเฉพาะเมื่อใช้ฟีเจอร์ AI ที่กำลังเป็นที่นิยมในปัจจุบัน

ข้อมูลอ้างอิงจาก https://www.theregister.com/2026/02/12/microsoft_ai_recommendation_poisoning/