ไมโครซอฟท์เผย AI สามารถสร้างภัยคุกคามทางชีวภาพ "zero day" ได้

ทีมวิจัยไมโครซอฟท์เปิดเผยว่า AI สามารถค้นพบช่องโหว่แบบ "zero day" ในระบบความปลอดภัยทางชีวภาพที่ใช้ป้องกันการนำ DNA ไปใช้ในทางที่ผิด สะท้อนความท้าทายด้านความปลอดภัยในยุค AI

ไมโครซอฟท์เผย AI สามารถสร้างภัยคุกคามทางชีวภาพ "zero day" ได้

Key takeaway

  • AI สามารถใช้ในการค้นพบช่องโหว่แบบ "zero day" ในระบบความปลอดภัยทางชีวภาพ โดยทีมวิจัยของไมโครซอฟท์พบว่า AI สามารถออกแบบโปรตีนอันตรายที่หลบเลี่ยงระบบคัดกรองความปลอดภัยได้
  • ระบบ AI แบบ generative มีความเสี่ยงในการใช้งานแบบ "dual use" คือสามารถใช้สร้างทั้งโมเลกุลที่เป็นประโยชน์และเป็นอันตราย ซึ่งเป็นความท้าทายด้านความปลอดภัยที่สำคัญ
  • แม้จะมีการปรับปรุงระบบคัดกรองแล้ว แต่ยังคงมีช่องโหว่ที่ AI สามารถหลบเลี่ยงได้ ทำให้ต้องมีการพัฒนาระบบป้องกันอย่างต่อเนื่อง และอาจต้องพิจารณาแนวทางการควบคุมความปลอดภัยในระดับที่กว้างขึ้น

ทีมนักวิจัยจากไมโครซอฟท์เปิดเผยว่าพวกเขาสามารถใช้ปัญญาประดิษฐ์ในการค้นพบช่องโหว่แบบ "zero day" ในระบบความปลอดภัยทางชีวภาพที่ใช้ป้องกันการนำ DNA ไปใช้ในทางที่ผิด

ระบบคัดกรองเหล่านี้ถูกออกแบบมาเพื่อป้องกันไม่ให้ผู้คนสั่งซื้อลำดับพันธุกรรมที่อาจนำไปใช้สร้างสารพิษหรือเชื้อโรคอันตราย อย่างไรก็ตาม ทีมวิจัยนำโดย Eric Horvitz หัวหน้านักวิทยาศาสตร์ของไมโครซอฟท์ ระบุว่าพวกเขาได้ค้นพบวิธีหลีกเลี่ยงการป้องกันในรูปแบบที่ไม่เคยมีใครรู้มาก่อน ซึ่งผลการวิจัยนี้ได้รับการตีพิมพ์ในวารสาร Science เมื่อวันนี้

Horvitz และทีมวิจัยมุ่งเน้นไปที่อัลกอริทึม AI แบบ generative ที่สามารถออกแบบโครงสร้างโปรตีนใหม่ๆ โปรแกรมประเภทนี้กำลังถูกใช้ในการค้นหายาใหม่ในบริษัทสตาร์ทอัพที่ได้รับเงินทุนสนับสนุนจำนวนมาก เช่น Generate Biomedicines และ Isomorphic Labs ซึ่งเป็นบริษัทแยกตัวออกมาจาก Google

ปัญหาที่พบคือระบบเหล่านี้มีศักยภาพในการใช้งานแบบ "dual use" หมายถึงสามารถใช้ชุดข้อมูลฝึกฝนเพื่อสร้างทั้งโมเลกุลที่เป็นประโยชน์และเป็นอันตรายได้

ไมโครซอฟท์เริ่มทำการทดสอบแบบ "red-teaming" เกี่ยวกับศักยภาพการใช้งานสองทางของ AI ในปี 2023 เพื่อตรวจสอบว่า "การออกแบบโปรตีนด้วย AI แบบปฏิปักษ์" สามารถช่วยผู้ก่อการร้ายทางชีวภาพในการผลิตโปรตีนอันตรายได้หรือไม่

มาตรการป้องกันที่ไมโครซอฟท์ทดสอบโจมตีคือซอฟต์แวร์คัดกรองความปลอดภัยทางชีวภาพ โดยทั่วไปในการผลิตโปรตีน นักวิจัยต้องสั่งซื้อลำดับ DNA ที่เกี่ยวข้องจากผู้ขายเชิงพาณิชย์ ซึ่งพวกเขาจะนำไปติดตั้งในเซลล์ ผู้ขาย DNA เหล่านี้ใช้ซอฟต์แวร์คัดกรองเพื่อเปรียบเทียบคำสั่งซื้อกับสารพิษหรือเชื้อโรคที่รู้จัก หากพบความคล้ายคลึงกันสูง ระบบจะแจ้งเตือน

ในการออกแบบการโจมตี ไมโครซอฟท์ใช้โมเดลโปรตีนแบบ generative หลายตัว (รวมถึงโมเดลของตัวเองที่ชื่อ EvoDiff) เพื่อออกแบบสารพิษใหม่ โดยปรับเปลี่ยนโครงสร้างในลักษณะที่ทำให้หลุดรอดจากซอฟต์แวร์คัดกรองแต่ยังคงคาดการณ์ว่าจะรักษาฟังก์ชันอันตรายไว้ได้

นักวิจัยยืนยันว่าการทดลองนี้เป็นเพียงการจำลองในระบบดิจิทัลเท่านั้น และพวกเขาไม่ได้ผลิตโปรตีนพิษใดๆ จริง เพื่อหลีกเลี่ยงความเข้าใจผิดว่าบริษัทกำลังพัฒนาอาวุธชีวภาพ

ก่อนเผยแพร่ผลลัพธ์ ไมโครซอฟท์ได้แจ้งเตือนไปยังรัฐบาลสหรัฐฯ และผู้ผลิตซอฟต์แวร์ ซึ่งได้ดำเนินการแก้ไขระบบแล้ว อย่างไรก็ตาม โมเลกุลบางชนิดที่ออกแบบด้วย AI ยังคงสามารถหลบเลี่ยงการตรวจจับได้

Adam Clore ผู้อำนวยการฝ่ายวิจัยและพัฒนาเทคโนโลยีที่ Integrated DNA Technologies ซึ่งเป็นผู้ผลิต DNA รายใหญ่และเป็นผู้ร่วมเขียนรายงานของไมโครซอฟท์กล่าวว่า "การแก้ไขยังไม่สมบูรณ์ และเทคโนโลยีล้ำสมัยกำลังเปลี่ยนแปลงอยู่ตลอด แต่นี่ไม่ใช่เรื่องที่ทำครั้งเดียวจบ นี่เป็นจุดเริ่มต้นของการทดสอบที่จะมีมากขึ้น เรากำลังอยู่ในการแข่งขันแบบวิ่งไล่กวดกัน"

เพื่อป้องกันการนำงานวิจัยไปใช้ในทางที่ผิด นักวิจัยระบุว่าพวกเขาไม่ได้เปิดเผยโค้ดบางส่วนและไม่ได้เปิดเผยว่าพวกเขาขอให้ AI ออกแบบโปรตีนพิษชนิดใดใหม่ อย่างไรก็ตาม โปรตีนอันตรายบางชนิดเป็นที่รู้จักกันดีอยู่แล้ว เช่น ริซิน (ricin) ซึ่งเป็นสารพิษที่พบในเมล็ดละหุ่ง และพรีออน (prions) ที่ติดเชื้อซึ่งเป็นสาเหตุของโรควัวบ้า

Dean Ball นักวิจัยจาก Foundation for American Innovation ซึ่งเป็นคลังสมองในซานฟรานซิสโกกล่าวว่า "การค้นพบนี้ ประกอบกับความก้าวหน้าอย่างรวดเร็วในการจำลองทางชีววิทยาด้วย AI แสดงให้เห็นถึงความจำเป็นอย่างชัดเจนและเร่งด่วนสำหรับขั้นตอนการคัดกรองการสังเคราะห์กรดนิวคลีอิกที่เพิ่มขึ้น ควบคู่ไปกับกลไกการบังคับใช้และการตรวจสอบที่เชื่อถือได้"

Ball ชี้ให้เห็นว่ารัฐบาลสหรัฐฯ พิจารณาการคัดกรองคำสั่งซื้อ DNA เป็นแนวป้องกันความปลอดภัยที่สำคัญ เมื่อเดือนพฤษภาคมที่ผ่านมา ในคำสั่งบริหารเกี่ยวกับความปลอดภัยในการวิจัยทางชีวภาพ ประธานาธิบดีทรัมป์เรียกร้องให้มีการปรับปรุงระบบโดยรวม แม้ว่าจนถึงขณะนี้ทำเนียบขาวยังไม่ได้เผยแพร่คำแนะนำใหม่

อย่างไรก็ตาม บางคนสงสัยว่าการสังเคราะห์ DNA เชิงพาณิชย์เป็นจุดป้องกันที่ดีที่สุดต่อผู้ไม่หวังดีหรือไม่ Michael Cohen นักวิจัยด้านความปลอดภัย AI จากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ เชื่อว่าจะมีวิธีปลอมแปลงลำดับเสมอ และไมโครซอฟท์อาจทำให้การทดสอบยากขึ้นได้

"ความท้าทายดูเหมือนจะอ่อนแอ และเครื่องมือที่แก้ไขแล้วของพวกเขาล้มเหลวบ่อย ดูเหมือนจะมีความไม่เต็มใจที่จะยอมรับว่าในไม่ช้า เราจะต้องถอยออกจากจุดคอขวดที่ถูกกล่าวอ้างนี้ ดังนั้นเราควรเริ่มมองหาพื้นที่ที่เราสามารถควบคุมได้จริง" Cohen กล่าว

Cohen เสนอว่าความปลอดภัยทางชีวภาพควรถูกสร้างเข้าไปในระบบ AI เอง ไม่ว่าจะโดยตรงหรือผ่านการควบคุมข้อมูลที่ระบบเหล่านี้ใช้

แต่ Clore มีความเห็นแย้งว่าการตรวจสอบการสังเคราะห์ยีนยังคงเป็นวิธีที่ปฏิบัติได้จริงในการตรวจจับภัยคุกคามทางชีวภาพ เนื่องจากการผลิต DNA ในสหรัฐฯ มีบริษัทไม่กี่แห่งที่ทำงานอย่างใกล้ชิดกับรัฐบาล ในทางตรงกันข้าม เทคโนโลยีที่ใช้ในการสร้างและฝึกฝนโมเดล AI มีการแพร่กระจายมากกว่า "คุณไม่สามารถเอายีนี่กลับเข้าขวดได้" Clore กล่าว "ถ้าคุณมีทรัพยากรที่จะพยายามหลอกให้เราสร้างลำดับ DNA คุณก็น่าจะสามารถฝึกฝน large language model ได้เช่นกัน"

Why it matters

💡 ข่าวนี้มีความสำคัญอย่างยิ่งสำหรับผู้ที่สนใจด้านความมั่นคงปลอดภัยทางไซเบอร์และเทคโนโลยีชีวภาพ เนื่องจากเผยให้เห็นถึงความเสี่ยงใหม่ที่เกิดจากการใช้ AI ในทางที่ผิด โดยเฉพาะในด้านชีววิทยา การค้นพบของไมโครซอฟท์นี้แสดงให้เห็นถึงช่องโหว่สำคัญในระบบรักษาความปลอดภัยที่มีอยู่ และกระตุ้นให้เกิดการพัฒนามาตรการป้องกันที่รัดกุมยิ่งขึ้น ซึ่งส่งผลกระทบต่อทั้งภาคอุตสาหกรรมและความมั่นคงของประเทศ

ข้อมูลอ้างอิงจาก https://www.technologyreview.com/2025/10/02/1124767/microsoft-says-ai-can-create-zero-day-threats-in-biology/

Read more

แขนกลจับสตรอว์เบอร์รีกับโลโก้ Eka พร้อมข้อความ Eka Robotics ระดมทุน $150M ด้วยโมเดล physical AI

news

Eka Robotics ระดมทุน $150M มูลค่า $1.45B กับโมเดล physical AI ที่ใช้แรงสัมผัสนำการหยิบจับ

Eka Robotics ระดมทุน Series A $150M ที่ valuation $1.45B ด้วยโมเดล vision-force-action ที่เทรนในระบบจำลองฟิสิกส์ บริษัทรายงานว่าหยิบวัตถุได้ราว 1,500 ชิ้นต่อชั่วโมง

By
โน้ตบุ๊กกับช่องค้นหาและมือสองข้างชี้เข้าหา พร้อมข้อความ Antidetect Browser ถูกใช้ยึดบัญชีและสร้างบัญชีปลอม

news

Check Point เตือน เบราว์เซอร์ antidetect ถูกใช้ขโมยบัญชีและสร้างบัญชีปลอมโดย AI ช่วยอัตโนมัติ

Check Point Research รายงานว่าเบราว์เซอร์ antidetect ถูกใช้สร้างบัญชีปลอม ผ่าน KYC และยึดบัญชีด้วย session cookie ที่ขโมยมา โดยบางเครื่องมือเชื่อมกับ LLM เพื่อทำงานอัตโนมัติ

By
โลโก้ LiteLLM กับไอคอนรถไฟบนพื้นหลังโค้ดสีเขียว พร้อมข้อความ LiteLLM บน PyPI ถูกฝังมัลแวร์ขโมยข้อมูลรับรอง

news

LiteLLM 1.107.0 บน PyPI ถูกฝังมัลแวร์ขโมยข้อมูลรับรอง รันทุกครั้งที่ Python เริ่มทำงาน

SafeDep รายงานว่า LiteLLM 1.107.0 บน PyPI ถูกฝังมัลแวร์ที่รันทุกครั้งที่ Python เริ่มทำงาน และขโมยข้อมูลรับรองได้ 16 ประเภท สาเหตุที่ SafeDep อนุมานคือ release pipeline ที่ถูกเจาะหรือข้อมูลรับรอง PyPI ที่ถูกขโมย

By