news OpenAI

แฮกเกอร์เปิดโปงช่องโหว่ ChatGPT บน macOS

นักวิจัยด้านความปลอดภัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่อาจถูกใช้เป็นโปรแกรมสอดแนม เรียกว่า "SpAIware" สามารถส่งข้อมูลการสนทนาไปยังเซิร์ฟเวอร์ภายนอกได้ ผู้ใช้ควรระมัดระวังและหลีกเลี่ยงการสแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

Prompt Expert

Oct 3, 2024

Key takeaway

นักวิจัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่เรียกว่า "SpAIware" ซึ่งสามารถใช้เป็นโปรแกรมสอดแนมได้ โดยการฝัง prompt injection ที่มีคำสั่งอันตรายเข้าไปในหน่วยความจำระยะยาวของ AI
ผู้โจมตีสามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ โดยไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย
OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว แต่ผู้ใช้ควรระมัดระวังโดยใช้เครื่องมือจัดการหน่วยความจำของแอป และหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

"TrustNoAI" รหัสลับแฮกเกอร์หมวกขาวเปิดโปง ChatGPT นักวิจัยด้านความปลอดภัย Johann Rehberger ได้ค้นพบช่องโหว่ใน ChatGPT ที่อาจถูกใช้เป็นโปรแกรมสอดแนมได้เขาตั้งชื่อการโจมตีนี้ว่า "SpAIware" ซึ่งใช้ประโยชน์จากฟีเจอร์ใหม่ของแอป ChatGPT

สำหรับ macOS Rehberger พบว่าสามารถสร้าง prompt injection ที่มีคำสั่งอันตราย ส่งข้อมูลการสนทนาของผู้ใช้ไปยังเซิร์ฟเวอร์ภายนอกได้ นอกจากนี้ยังสามารถเก็บคำสั่งนี้ไว้ในหน่วยความจำระยะยาวของ ChatGPT ทำให้การโจมตียังคงทำงานต่อเนื่องแม้จะเริ่มการสนทนาใหม่

ที่น่ากังวลคือ ผู้โจมตีไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง แต่สามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย ก็สามารถติดตั้ง SpAIware ได้แล้ว โชคดีที่ช่องโหว่นี้ยังจำกัดอยู่เฉพาะแอป ChatGPT บน macOS เท่านั้น ไม่ส่งผลกระทบต่อเวอร์ชันเว็บไซต์ OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว โดยปิดกั้นการส่งข้อมูลไปยังเซิร์ฟเวอร์ภายนอก แต่ยังคงมีความเสี่ยงที่แฮกเกอร์จะสามารถทำ prompt injection เข้าไปในหน่วยความจำระยะยาวได้

ผู้ใช้ควรระมัดระวังและใช้เครื่องมือจัดการหน่วยความจำของแอปเพื่อตรวจสอบและลบรายการที่น่าสงสัย นอกจากนี้ควรหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ เพื่อป้องกันการติดตั้ง SpAIware โดยไม่รู้ตัว

Why it matters

💡

ผู้อ่านควรติดตามข่าวนี้เพราะเป็นการเปิดเผยช่องโหว่ด้านความปลอดภัยที่สำคัญใน ChatGPT ซึ่งเป็น AI chatbot ยอดนิยม การค้นพบนี้แสดงให้เห็นถึงความเสี่ยงที่แฝงอยู่ในเทคโนโลยี AI และความสำคัญของการรักษาความปลอดภัยทางไซเบอร์ ข่าวนี้ให้ข้อมูลที่มีค่าเกี่ยวกับวิธีการป้องกันตนเองจากภัยคุกคามที่อาจเกิดขึ้น และเน้นย้ำถึงความจำเป็นในการใช้เทคโนโลยี AI อย่างรอบคอบและระมัดระวัง

ข้อมูลอ้างอิงจาก https://www.techspot.com/news/104881-chatgpt-vulnerability-allows-hackers-record-sessions-indefinitely.html