Deepfake ของ Elon Musk มีส่วนทำให้สหรัฐฯ สูญเสียเงินจากการฉ้อโกงนับหลายพันล้านดอลลาร์

Key takeaway

• การฉ้อโกงด้วย Deepfake กำลังเพิ่มสูงขึ้นในสหรัฐฯ โดยเนื้อหาที่สร้างด้วย AI ก่อให้เกิดความเสียหายจากการฉ้อโกงกว่า 12 พันล้านดอลลาร์ในปีที่ผ่านมา และอาจสูงถึง 40 พันล้านดอลลาร์ภายในปี 2570
• ความก้าวหน้าทางเทคโนโลยีทำให้การสร้างวิดีโอ deepfake ง่ายขึ้น เพียงแค่ใช้ภาพนิ่งหนึ่งภาพและการบันทึกเสียงก็สามารถสร้างวิดีโอปลอมที่ดูน่าเชื่อถือได้
• มีเว็บไซต์ที่อ้างว่าสามารถตรวจจับ deepfake ได้เพิ่มขึ้น แต่จากการทดสอบพบว่าสามารถระบุวิดีโอได้ถูกต้องเพียง 75% ของเวลา แสดงให้เห็นว่าการสังเกตด้วยตาเปล่าจะยากขึ้นเมื่อเทคโนโลยีพัฒนาไปอีก

Heidi Swan พบเห็นโฆษณาครั้งแรกบน Facebook และต่อมาบน TikTok หลังจากเห็นภาพที่คล้าย Elon Musk เสนอโอกาสการลงทุนซ้ำแล้วซ้ำเล่า Swan เชื่อว่าเป็นเรื่องจริง

"ทั้งหน้าตาและน้ำเสียงเหมือน Elon Musk มาก ฉันคิดว่าเป็นตัวเขาจริงๆ" Swan กล่าว

เธอติดต่อบริษัทที่อยู่เบื้องหลังและเปิดบัญชีด้วยเงินกว่า 10,000 ดอลลาร์ พนักงานสาธารณสุขวัย 62 ปีรายนี้คิดว่ากำลังลงทุนอย่างฉลาดใน cryptocurrency กับนักธุรกิจและนักลงทุนพันล้าน

แต่ Swan จะรู้ในไม่ช้าว่าถูกหลอกโดยกลุ่มมิจฉาชีพไฮเทครุ่นใหม่ที่ใช้ artificial intelligence สร้าง deepfake

แม้ตอนนี้ย้อนกลับไปดูวิดีโอเหล่านั้น โดยรู้ว่าเป็นของปลอม Swan ก็ยังคิดว่าดูน่าเชื่อถือ

"มันยังคงดูและฟังเสียงเหมือน Elon Musk อยู่ดี" เธอกล่าว

การฉ้อโกงด้วย Deepfake พุ่งสูงขึ้นในสหรัฐฯ
เมื่อเทคโนโลยี artificial intelligence พัฒนาและเข้าถึงได้ง่ายขึ้น การหลอกลวงรูปแบบนี้ก็กลายเป็นเรื่องพบเห็นได้ทั่วไปมากขึ้น

ตามรายงานของ Deloitte กลุ่มวิจัยการเงินชั้นนำ เนื้อหาที่สร้างด้วย AI มีส่วนทำให้เกิดความเสียหายจากการฉ้อโกงกว่า 12 พันล้านดอลลาร์ในปีที่ผ่านมา และอาจสูงถึง 40 พันล้านดอลลาร์ในสหรัฐฯ ภายในปี 2570

ทั้ง Federal Trade Commission และ Better Business Bureau ได้ออกคำเตือนว่าการฉ้อโกงด้วย deepfake กำลังเพิ่มขึ้น

การศึกษาโดยบริษัท AI อย่าง Sensity พบว่า Elon Musk เป็นบุคคลที่มีชื่อเสียงที่ถูกนำไปใช้ในการฉ้อโกงด้วย deepfake มากที่สุด สาเหตุหนึ่งอาจเป็นเพราะความมั่งคั่งและความเป็นผู้ประกอบการของเขา อีกเหตุผลคือจำนวนการให้สัมภาษณ์ที่มากของเขา ยิ่งมีเนื้อหาของใครสักคนบนอินเทอร์เน็ตมากเท่าไร ก็ยิ่งง่ายที่จะสร้าง deepfake ที่น่าเชื่อถือมากขึ้นเท่านั้น

กลไกการทำงานของ Deepfake
ที่มหาวิทยาลัย North Texas ในเมือง Denton ศาสตราจารย์ Christopher Meerdo กำลังใช้ artificial intelligence เช่นกัน แต่เขาใช้เพื่อสร้างสรรค์งานศิลปะ

"มันจะไม่มาแทนที่ศิลปะ แต่จะเสริมและเปลี่ยนวิธีที่เราเข้าใจขอบเขตของความคิดสร้างสรรค์" Meerdo กล่าว

แม้ Meerdo มองว่า artificial intelligence เป็นเครื่องมือสร้างนวัตกรรม แต่เขาก็ตระหนักถึงอันตรายของมัน

Meerdo สาธิตให้ CBS News Texas I-Team เห็นว่านักต้มตุ๋นสามารถใช้เครื่องมือ AI กับวิดีโอจริงเพื่อแทนที่เสียงและการเคลื่อนไหวของปาก ทำให้ดูเหมือนคนกำลังพูดสิ่งที่แตกต่างไปโดยสิ้นเชิง

ความก้าวหน้าทางเทคโนโลยีทำให้การสร้างวิดีโอ deepfake ง่ายขึ้น ผู้ที่คุ้นเคยกับ AI ต้องการเพียงภาพนิ่งหนึ่งภาพและการบันทึกเสียงเพื่อสร้างมัน

เพื่อสาธิตสิ่งนี้ Meerdo ได้นำวิดีโอของนักข่าวสืบสวน Brian New มาสร้าง deepfake ของ Elon Musk

วิดีโอที่สร้างด้วย AI เหล่านี้ไม่ได้สมบูรณ์แบบ แต่เพียงแค่ต้องน่าเชื่อถือพอที่จะหลอกเหยื่อที่ไม่ระแวดระวัง

"ถ้าคุณตั้งใจจะหลอกลวงผู้คนจริงๆ ผมคิดว่าคุณสามารถทำอะไรที่เลวร้ายมากได้ด้วยสิ่งนี้" Meerdo กล่าว

วิธีสังเกต deepfake
Deepfake บางอันสังเกตได้ง่ายกว่าอันอื่น อาจมีสัญญาณเช่นการเคลื่อนไหวของริมฝีปากที่ไม่เป็นธรรมชาติหรือภาษากายที่ผิดปกติ แต่เมื่อเทคโนโลยีพัฒนาขึ้น การสังเกตด้วยตาเปล่าจะยากขึ้น

มีเว็บไซต์จำนวนมากขึ้นที่อ้างว่าสามารถตรวจจับ deepfake ได้ CBS News Texas I-Team ได้ทดสอบเว็บไซต์ 5 แห่งอย่างไม่เป็นทางการ โดยใช้วิดีโอ deepfake ที่เป็นที่รู้จัก 3 รายการและวิดีโอจริง 3 รายการ เว็บไซต์ที่ทดสอบได้แก่ Deepware, Attestiv, DeepFake-O-Meter, Sensity และ Deepfake Detector

โดยรวมแล้ว เครื่องมือออนไลน์ทั้ง 5 ตัวนี้สามารถระบุวิดีโอที่ทดสอบได้ถูกต้องเกือบ 75% ของเวลา I-Team ได้ติดต่อบริษัทต่างๆ พร้อมผลลัพธ์ เพื่อรับฟังความคิดเห็นของพวกเขา

Why it matters

💡 ข่าวนี้เปิดเผยภัยคุกคามที่น่ากลัวจาก Deepfake ซึ่งกำลังสร้างความเสียหายทางการเงินหลายพันล้านดอลลาร์ โดยเฉพาะการหลอกลวงที่ใช้เทคโนโลยี AI เลียนแบบบุคคลมีชื่อเสียง ผู้อ่านจะได้เรียนรู้วิธีป้องกันตนเองและเข้าใจความเสี่ยงในยุคดิจิทัลปัจจุบัน

ข้อมูลอ้างอิงจาก https://www.cbsnews.com/texas/news/deepfakes-ai-fraud-elon-musk/