แฮกเกอร์เปิดโปงช่องโหว่ ChatGPT บน macOS

นักวิจัยด้านความปลอดภัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่อาจถูกใช้เป็นโปรแกรมสอดแนม เรียกว่า "SpAIware" สามารถส่งข้อมูลการสนทนาไปยังเซิร์ฟเวอร์ภายนอกได้ ผู้ใช้ควรระมัดระวังและหลีกเลี่ยงการสแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

แฮกเกอร์เปิดโปงช่องโหว่ ChatGPT บน macOS

Key takeaway

  • นักวิจัยค้นพบช่องโหว่ใน ChatGPT บน macOS ที่เรียกว่า "SpAIware" ซึ่งสามารถใช้เป็นโปรแกรมสอดแนมได้ โดยการฝัง prompt injection ที่มีคำสั่งอันตรายเข้าไปในหน่วยความจำระยะยาวของ AI
  • ผู้โจมตีสามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ โดยไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย
  • OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว แต่ผู้ใช้ควรระมัดระวังโดยใช้เครื่องมือจัดการหน่วยความจำของแอป และหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ

"TrustNoAI" รหัสลับแฮกเกอร์หมวกขาวเปิดโปง ChatGPT นักวิจัยด้านความปลอดภัย Johann Rehberger ได้ค้นพบช่องโหว่ใน ChatGPT ที่อาจถูกใช้เป็นโปรแกรมสอดแนมได้เขาตั้งชื่อการโจมตีนี้ว่า "SpAIware" ซึ่งใช้ประโยชน์จากฟีเจอร์ใหม่ของแอป ChatGPT

สำหรับ macOS Rehberger พบว่าสามารถสร้าง prompt injection ที่มีคำสั่งอันตราย ส่งข้อมูลการสนทนาของผู้ใช้ไปยังเซิร์ฟเวอร์ภายนอกได้ นอกจากนี้ยังสามารถเก็บคำสั่งนี้ไว้ในหน่วยความจำระยะยาวของ ChatGPT ทำให้การโจมตียังคงทำงานต่อเนื่องแม้จะเริ่มการสนทนาใหม่

ที่น่ากังวลคือ ผู้โจมตีไม่จำเป็นต้องเข้าถึงอุปกรณ์เป้าหมายโดยตรง แต่สามารถซ่อน payload ไว้ในรูปภาพหรือเว็บไซต์ได้ เพียงแค่ผู้ใช้สั่งให้ ChatGPT สแกนเว็บไซต์ที่มีโค้ดอันตราย ก็สามารถติดตั้ง SpAIware ได้แล้ว โชคดีที่ช่องโหว่นี้ยังจำกัดอยู่เฉพาะแอป ChatGPT บน macOS เท่านั้น ไม่ส่งผลกระทบต่อเวอร์ชันเว็บไซต์ OpenAI ได้แก้ไขปัญหาบางส่วนแล้ว โดยปิดกั้นการส่งข้อมูลไปยังเซิร์ฟเวอร์ภายนอก แต่ยังคงมีความเสี่ยงที่แฮกเกอร์จะสามารถทำ prompt injection เข้าไปในหน่วยความจำระยะยาวได้

ผู้ใช้ควรระมัดระวังและใช้เครื่องมือจัดการหน่วยความจำของแอปเพื่อตรวจสอบและลบรายการที่น่าสงสัย นอกจากนี้ควรหลีกเลี่ยงการสั่งให้ ChatGPT สแกนเว็บไซต์ที่ไม่น่าเชื่อถือ เพื่อป้องกันการติดตั้ง SpAIware โดยไม่รู้ตัว

Why it matters

💡
ผู้อ่านควรติดตามข่าวนี้เพราะเป็นการเปิดเผยช่องโหว่ด้านความปลอดภัยที่สำคัญใน ChatGPT ซึ่งเป็น AI chatbot ยอดนิยม การค้นพบนี้แสดงให้เห็นถึงความเสี่ยงที่แฝงอยู่ในเทคโนโลยี AI และความสำคัญของการรักษาความปลอดภัยทางไซเบอร์ ข่าวนี้ให้ข้อมูลที่มีค่าเกี่ยวกับวิธีการป้องกันตนเองจากภัยคุกคามที่อาจเกิดขึ้น และเน้นย้ำถึงความจำเป็นในการใช้เทคโนโลยี AI อย่างรอบคอบและระมัดระวัง

ข้อมูลอ้างอิงจาก https://www.techspot.com/news/104881-chatgpt-vulnerability-allows-hackers-record-sessions-indefinitely.html

Read more

AI แนะนำให้ผู้ฟื้นตัวจากการติดยาเสพติดกลับไปเสพเมท เพื่อให้ "ทำงานได้"

news

AI แนะนำให้ผู้ฟื้นตัวจากการติดยาเสพติดกลับไปเสพเมท เพื่อให้ "ทำงานได้"

งานวิจัยเผยความเสี่ยงของ AI chatbot ที่แนะนำให้ผู้เลิกยาเสพติดกลับไปใช้เมทแอมเฟตามีน สะท้อนปัญหาการพัฒนา AI ที่เน้นการเติบโตมากกว่าความปลอดภัยของผู้ใช้

By
OpenAI Sora เปิดให้ผู้ใช้ทุกคนใช้งานฟรีผ่าน Microsoft Bing Video Creator บนมือถือ

news

OpenAI Sora เปิดให้ผู้ใช้ทุกคนใช้งานฟรีผ่าน Microsoft Bing Video Creator บนมือถือ

OpenAI และ Microsoft เปิดให้ใช้งาน Sora ฟรีผ่าน Bing Video Creator บนมือถือ ผู้ใช้สามารถสร้างวิดีโอ AI ความยาว 5 วินาที ได้ฟรี 10 ครั้งแรก พร้อมฟีเจอร์การกลั่นกรองเนื้อหาอัตโนมัติ

By
FinOps ได้รับแรงหนุนจากผู้ให้บริการคลาวด์รายใหญ่ ขณะที่ต้นทุน AI และ SaaS กลายเป็นจุดสนใจ

news

FinOps ได้รับแรงหนุนจากผู้ให้บริการคลาวด์รายใหญ่ ขณะที่ต้นทุน AI และ SaaS กลายเป็นจุดสนใจ

FinOps Foundation ได้รับการสนับสนุนจากผู้ให้บริการคลาวด์ยักษ์ใหญ่อย่าง AWS, Microsoft, Google Cloud และ Oracle ในการพัฒนามาตรฐาน FOCUS 1.2 ที่ครอบคลุมการจัดการต้นทุน AI และ SaaS พร้อมขยายฐานสมาชิกใหม่

By
CEO ของ Anthropic คัดค้านการระงับกฎหมาย AI ของรัฐที่จะใช้เวลานานถึง 10 ปี

news

CEO ของ Anthropic คัดค้านการระงับกฎหมาย AI ของรัฐที่จะใช้เวลานานถึง 10 ปี

ซีอีโอ Anthropic คัดค้านการระงับกฎหมาย AI 10 ปี เตือนเทคโนโลยีพัฒนาเร็วเกินกว่าจะหยุดควบคุม พร้อมเสนอให้รัฐบาลกลางสร้างมาตรฐานความโปร่งใสสำหรับผู้พัฒนา AI แทน

By