Google Gemini ถูกนำไปใช้สร้าง AI Influencer ปลอม Meta สั่งระงับบัญชีหลังพบ Fraudulent Activity

Key takeaway

• นักศึกษาแพทย์ชาวอินเดียวัย 22 ปี ใช้ Google Gemini สร้าง AI Influencer ปลอมในชื่อ "Emily Hart" บน Instagram, Facebook และ Fanvue จนสามารถสร้างรายได้หลักหลายพันดอลลาร์ต่อเดือน ก่อนที่ Meta จะตรวจพบ Fraudulent Activity และสั่งระงับบัญชีในเดือนกุมภาพันธ์ พร้อมออกนโยบายบังคับติด "AI Info" Label บน AI-Generated Content ทุกชิ้นเพื่อเพิ่ม Transparency
• Google ชี้แจงว่า Gemini ถูกออกแบบให้ปราศจาก Political Bias แต่ระบบจะตอบสนองตาม Prompt ของผู้ใช้ หากมีการระบุกลุ่มเป้าหมายทางการเมืองอย่างเจาะจง ซึ่งนักวิเคราะห์มองว่านี่คือช่องโหว่ด้าน AI Ethics ที่ยังไม่มีกลไกควบคุมที่ชัดเจนเพียงพอ
• กรณีนี้สะท้อนความเสี่ยงเชิงระบบของ Generative AI ที่เข้าถึงได้ง่ายในยุคปัจจุบัน โดยผู้เชี่ยวชาญด้าน Digital Security เรียกร้องให้ Social Media Platform เร่งพัฒนากลไกตรวจจับ AI-Generated Content ที่มีประสิทธิภาพสูงขึ้น เพื่อรับมือกับภัยคุกคามรูปแบบใหม่ที่ขยายตัวอย่างรวดเร็ว

นักศึกษาแพทย์ชาวอินเดียวัย 22 ปี เปิดเผยว่าตนเองใช้ Google Gemini ซึ่งเป็น AI Platform ของ Google ในการสร้าง AI-Generated Influencer ในชื่อ "Emily Hart" เพื่อสร้างรายได้หลักหลายพันดอลลาร์ต่อเดือน ผ่านช่องทาง Social Media อย่าง Instagram และ Facebook รวมถึงแพลตฟอร์ม Fanvue ซึ่งเป็น AI Monetization Platform ที่เติบโตขึ้นมาเป็นคู่แข่งสำคัญของ OnlyFans

Meta สั่งระงับบัญชี พร้อมประกาศนโยบายติด Label คอนเทนต์ AI

ต่อมาในเดือนกุมภาพันธ์ที่ผ่านมา Meta ได้สั่งระงับ Instagram Account ของ "Emily Hart" ภายหลังระบบตรวจพบสัญญาณของ Fraudulent Activity บนแพลตฟอร์ม ควบคู่กับการประกาศนโยบายใหม่ที่กำหนดให้ AI-Generated Content ทุกชิ้นต้องได้รับการติด "AI Info" Label อย่างชัดเจน โดย Meta ระบุว่านโยบายดังกล่าวมีเป้าหมายเพื่อเพิ่มความโปร่งใสให้แก่ผู้ใช้งาน และป้องกันการแพร่กระจายของ Misinformation บนแพลตฟอร์ม

Google ชี้แจง Gemini ไม่มี Political Bias แต่ตอบสนองตามคำสั่งผู้ใช้

ด้าน Google ออกมาชี้แจงว่า Gemini ได้รับการออกแบบมาเพื่อตอบสนองคำขอของผู้ใช้งานโดยปราศจาก Political Bias อย่างไรก็ตาม เมื่อผู้ใช้ป้อนคำขอที่มุ่งเป้าไปยังกลุ่มผู้ชมที่มีความเชื่อทางการเมืองเฉพาะเจาะจง ระบบก็จะตอบสนองตามคำสั่งนั้น ซึ่งนักวิเคราะห์มองว่าช่องโหว่ดังกล่าวสะท้อนให้เห็นถึงความเสี่ยงด้าน AI Ethics ที่ยังคงเป็นประเด็นถกเถียงในวงกว้าง

ความเสี่ยง Generative AI กับปัญหา Disinformation ในยุคดิจิทัล

กรณีของ "Emily Hart" ถือเป็นตัวอย่างที่ชัดเจนของการนำ Generative AI ไปใช้ในทางที่อาจก่อให้เกิด Disinformation และบั่นทอนความน่าเชื่อถือของข้อมูลในโลกออนไลน์ ผู้เชี่ยวชาญด้านความปลอดภัยทางดิจิทัลเรียกร้องให้แพลตฟอร์ม Social Media เร่งพัฒนากลไกการตรวจจับ AI-Generated Content ที่มีประสิทธิภาพมากยิ่งขึ้น เพื่อรับมือกับภัยคุกคามรูปแบบใหม่ที่กำลังขยายตัวอย่างรวดเร็วในยุคที่ AI เข้าถึงได้ง่ายกว่าที่เคย

Why it matters

💡 กรณีของ "Emily Hart" AI Influencer ที่สร้างจาก Google Gemini โดยนักศึกษาแพทย์ชาวอินเดียจนสามารถสร้างรายได้หลักหลายพันดอลลาร์ต่อเดือน ก่อนถูก Meta สั่งระงับบัญชีนั้น ถือเป็นสัญญาณเตือนที่นักพัฒนาและผู้ใช้งาน AI ทุกคนไม่ควรมองข้าม เพราะนี่คือภาพสะท้อนความเสี่ยงด้าน AI Ethics และ Disinformation ที่กำลังทวีความรุนแรงขึ้น การทำความเข้าใจเหตุการณ์นี้จะช่วยให้ Tech Professional เตรียมรับมือกับภัยคุกคามจาก Generative AI ได้อย่างมีประสิทธิภาพมากขึ้น

ข้อมูลอ้างอิงจาก https://www.independent.co.uk/news/world/americas/us-politics/emily-hart-maga-ai-influencers-scam-medical-student-b2963222.html?utm_source=flipboard&utm_content=Independent/magazine/News