แฮกเกอร์เปิดโปงช่องโหว่ ChatGPT บน macOS

Key takeaway

• นักวิจัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่เรียกว่า "SpAIware" ซึ่งสามารถใช้เป็นโปรแกรมสอดแนมได้ โดยการฝัง prompt injection ที่มีคำสั่งอันตรายเข้าไปในหน่วยความจำระยะยาวของ AI
• ผู้โจมตีสามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ โดยไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย
• OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว แต่ผู้ใช้ควรระมัดระวังโดยใช้เครื่องมือจัดการหน่วยความจำของแอป และหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

"TrustNoAI" รหัสลับแฮกเกอร์หมวกขาวเปิดโปง ChatGPT นักวิจัยด้านความปลอดภัย Johann Rehberger ได้ค้นพบช่องโหว่ใน ChatGPT ที่อาจถูกใช้เป็นโปรแกรมสอดแนมได้เขาตั้งชื่อการโจมตีนี้ว่า "SpAIware" ซึ่งใช้ประโยชน์จากฟีเจอร์ใหม่ของแอป ChatGPT

สำหรับ macOS Rehberger พบว่าสามารถสร้าง prompt injection ที่มีคำสั่งอันตราย ส่งข้อมูลการสนทนาของผู้ใช้ไปยังเซิร์ฟเวอร์ภายนอกได้ นอกจากนี้ยังสามารถเก็บคำสั่งนี้ไว้ในหน่วยความจำระยะยาวของ ChatGPT ทำให้การโจมตียังคงทำงานต่อเนื่องแม้จะเริ่มการสนทนาใหม่

ที่น่ากังวลคือ ผู้โจมตีไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง แต่สามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย ก็สามารถติดตั้ง SpAIware ได้แล้ว โชคดีที่ช่องโหว่นี้ยังจำกัดอยู่เฉพาะแอป ChatGPT บน macOS เท่านั้น ไม่ส่งผลกระทบต่อเวอร์ชันเว็บไซต์ OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว โดยปิดกั้นการส่งข้อมูลไปยังเซิร์ฟเวอร์ภายนอก แต่ยังคงมีความเสี่ยงที่แฮกเกอร์จะสามารถทำ prompt injection เข้าไปในหน่วยความจำระยะยาวได้

ผู้ใช้ควรระมัดระวังและใช้เครื่องมือจัดการหน่วยความจำของแอปเพื่อตรวจสอบและลบรายการที่น่าสงสัย นอกจากนี้ควรหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ เพื่อป้องกันการติดตั้ง SpAIware โดยไม่รู้ตัว

Why it matters

ข้อมูลอ้างอิงจาก https://www.techspot.com/news/104881-chatgpt-vulnerability-allows-hackers-record-sessions-indefinitely.html