ไมโครซอฟท์เผย AI สามารถสร้างภัยคุกคามทางชีวภาพ "zero day" ได้

Key takeaway

• AI สามารถใช้ในการค้นพบช่องโหว่แบบ "zero day" ในระบบความปลอดภัยทางชีวภาพ โดยทีมวิจัยของไมโครซอฟท์พบว่า AI สามารถออกแบบโปรตีนอันตรายที่หลบเลี่ยงระบบคัดกรองความปลอดภัยได้
• ระบบ AI แบบ generative มีความเสี่ยงในการใช้งานแบบ "dual use" คือสามารถใช้สร้างทั้งโมเลกุลที่เป็นประโยชน์และเป็นอันตราย ซึ่งเป็นความท้าทายด้านความปลอดภัยที่สำคัญ
• แม้จะมีการปรับปรุงระบบคัดกรองแล้ว แต่ยังคงมีช่องโหว่ที่ AI สามารถหลบเลี่ยงได้ ทำให้ต้องมีการพัฒนาระบบป้องกันอย่างต่อเนื่อง และอาจต้องพิจารณาแนวทางการควบคุมความปลอดภัยในระดับที่กว้างขึ้น

ทีมนักวิจัยจากไมโครซอฟท์เปิดเผยว่าพวกเขาสามารถใช้ปัญญาประดิษฐ์ในการค้นพบช่องโหว่แบบ "zero day" ในระบบความปลอดภัยทางชีวภาพที่ใช้ป้องกันการนำ DNA ไปใช้ในทางที่ผิด

ระบบคัดกรองเหล่านี้ถูกออกแบบมาเพื่อป้องกันไม่ให้ผู้คนสั่งซื้อลำดับพันธุกรรมที่อาจนำไปใช้สร้างสารพิษหรือเชื้อโรคอันตราย อย่างไรก็ตาม ทีมวิจัยนำโดย Eric Horvitz หัวหน้านักวิทยาศาสตร์ของไมโครซอฟท์ ระบุว่าพวกเขาได้ค้นพบวิธีหลีกเลี่ยงการป้องกันในรูปแบบที่ไม่เคยมีใครรู้มาก่อน ซึ่งผลการวิจัยนี้ได้รับการตีพิมพ์ในวารสาร Science เมื่อวันนี้

Horvitz และทีมวิจัยมุ่งเน้นไปที่อัลกอริทึม AI แบบ generative ที่สามารถออกแบบโครงสร้างโปรตีนใหม่ๆ โปรแกรมประเภทนี้กำลังถูกใช้ในการค้นหายาใหม่ในบริษัทสตาร์ทอัพที่ได้รับเงินทุนสนับสนุนจำนวนมาก เช่น Generate Biomedicines และ Isomorphic Labs ซึ่งเป็นบริษัทแยกตัวออกมาจาก Google

ปัญหาที่พบคือระบบเหล่านี้มีศักยภาพในการใช้งานแบบ "dual use" หมายถึงสามารถใช้ชุดข้อมูลฝึกฝนเพื่อสร้างทั้งโมเลกุลที่เป็นประโยชน์และเป็นอันตรายได้

ไมโครซอฟท์เริ่มทำการทดสอบแบบ "red-teaming" เกี่ยวกับศักยภาพการใช้งานสองทางของ AI ในปี 2023 เพื่อตรวจสอบว่า "การออกแบบโปรตีนด้วย AI แบบปฏิปักษ์" สามารถช่วยผู้ก่อการร้ายทางชีวภาพในการผลิตโปรตีนอันตรายได้หรือไม่

มาตรการป้องกันที่ไมโครซอฟท์ทดสอบโจมตีคือซอฟต์แวร์คัดกรองความปลอดภัยทางชีวภาพ โดยทั่วไปในการผลิตโปรตีน นักวิจัยต้องสั่งซื้อลำดับ DNA ที่เกี่ยวข้องจากผู้ขายเชิงพาณิชย์ ซึ่งพวกเขาจะนำไปติดตั้งในเซลล์ ผู้ขาย DNA เหล่านี้ใช้ซอฟต์แวร์คัดกรองเพื่อเปรียบเทียบคำสั่งซื้อกับสารพิษหรือเชื้อโรคที่รู้จัก หากพบความคล้ายคลึงกันสูง ระบบจะแจ้งเตือน

ในการออกแบบการโจมตี ไมโครซอฟท์ใช้โมเดลโปรตีนแบบ generative หลายตัว (รวมถึงโมเดลของตัวเองที่ชื่อ EvoDiff) เพื่อออกแบบสารพิษใหม่ โดยปรับเปลี่ยนโครงสร้างในลักษณะที่ทำให้หลุดรอดจากซอฟต์แวร์คัดกรองแต่ยังคงคาดการณ์ว่าจะรักษาฟังก์ชันอันตรายไว้ได้

นักวิจัยยืนยันว่าการทดลองนี้เป็นเพียงการจำลองในระบบดิจิทัลเท่านั้น และพวกเขาไม่ได้ผลิตโปรตีนพิษใดๆ จริง เพื่อหลีกเลี่ยงความเข้าใจผิดว่าบริษัทกำลังพัฒนาอาวุธชีวภาพ

ก่อนเผยแพร่ผลลัพธ์ ไมโครซอฟท์ได้แจ้งเตือนไปยังรัฐบาลสหรัฐฯ และผู้ผลิตซอฟต์แวร์ ซึ่งได้ดำเนินการแก้ไขระบบแล้ว อย่างไรก็ตาม โมเลกุลบางชนิดที่ออกแบบด้วย AI ยังคงสามารถหลบเลี่ยงการตรวจจับได้

Adam Clore ผู้อำนวยการฝ่ายวิจัยและพัฒนาเทคโนโลยีที่ Integrated DNA Technologies ซึ่งเป็นผู้ผลิต DNA รายใหญ่และเป็นผู้ร่วมเขียนรายงานของไมโครซอฟท์กล่าวว่า "การแก้ไขยังไม่สมบูรณ์ และเทคโนโลยีล้ำสมัยกำลังเปลี่ยนแปลงอยู่ตลอด แต่นี่ไม่ใช่เรื่องที่ทำครั้งเดียวจบ นี่เป็นจุดเริ่มต้นของการทดสอบที่จะมีมากขึ้น เรากำลังอยู่ในการแข่งขันแบบวิ่งไล่กวดกัน"

เพื่อป้องกันการนำงานวิจัยไปใช้ในทางที่ผิด นักวิจัยระบุว่าพวกเขาไม่ได้เปิดเผยโค้ดบางส่วนและไม่ได้เปิดเผยว่าพวกเขาขอให้ AI ออกแบบโปรตีนพิษชนิดใดใหม่ อย่างไรก็ตาม โปรตีนอันตรายบางชนิดเป็นที่รู้จักกันดีอยู่แล้ว เช่น ริซิน (ricin) ซึ่งเป็นสารพิษที่พบในเมล็ดละหุ่ง และพรีออน (prions) ที่ติดเชื้อซึ่งเป็นสาเหตุของโรควัวบ้า

Dean Ball นักวิจัยจาก Foundation for American Innovation ซึ่งเป็นคลังสมองในซานฟรานซิสโกกล่าวว่า "การค้นพบนี้ ประกอบกับความก้าวหน้าอย่างรวดเร็วในการจำลองทางชีววิทยาด้วย AI แสดงให้เห็นถึงความจำเป็นอย่างชัดเจนและเร่งด่วนสำหรับขั้นตอนการคัดกรองการสังเคราะห์กรดนิวคลีอิกที่เพิ่มขึ้น ควบคู่ไปกับกลไกการบังคับใช้และการตรวจสอบที่เชื่อถือได้"

Ball ชี้ให้เห็นว่ารัฐบาลสหรัฐฯ พิจารณาการคัดกรองคำสั่งซื้อ DNA เป็นแนวป้องกันความปลอดภัยที่สำคัญ เมื่อเดือนพฤษภาคมที่ผ่านมา ในคำสั่งบริหารเกี่ยวกับความปลอดภัยในการวิจัยทางชีวภาพ ประธานาธิบดีทรัมป์เรียกร้องให้มีการปรับปรุงระบบโดยรวม แม้ว่าจนถึงขณะนี้ทำเนียบขาวยังไม่ได้เผยแพร่คำแนะนำใหม่

อย่างไรก็ตาม บางคนสงสัยว่าการสังเคราะห์ DNA เชิงพาณิชย์เป็นจุดป้องกันที่ดีที่สุดต่อผู้ไม่หวังดีหรือไม่ Michael Cohen นักวิจัยด้านความปลอดภัย AI จากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ เชื่อว่าจะมีวิธีปลอมแปลงลำดับเสมอ และไมโครซอฟท์อาจทำให้การทดสอบยากขึ้นได้

"ความท้าทายดูเหมือนจะอ่อนแอ และเครื่องมือที่แก้ไขแล้วของพวกเขาล้มเหลวบ่อย ดูเหมือนจะมีความไม่เต็มใจที่จะยอมรับว่าในไม่ช้า เราจะต้องถอยออกจากจุดคอขวดที่ถูกกล่าวอ้างนี้ ดังนั้นเราควรเริ่มมองหาพื้นที่ที่เราสามารถควบคุมได้จริง" Cohen กล่าว

Cohen เสนอว่าความปลอดภัยทางชีวภาพควรถูกสร้างเข้าไปในระบบ AI เอง ไม่ว่าจะโดยตรงหรือผ่านการควบคุมข้อมูลที่ระบบเหล่านี้ใช้

แต่ Clore มีความเห็นแย้งว่าการตรวจสอบการสังเคราะห์ยีนยังคงเป็นวิธีที่ปฏิบัติได้จริงในการตรวจจับภัยคุกคามทางชีวภาพ เนื่องจากการผลิต DNA ในสหรัฐฯ มีบริษัทไม่กี่แห่งที่ทำงานอย่างใกล้ชิดกับรัฐบาล ในทางตรงกันข้าม เทคโนโลยีที่ใช้ในการสร้างและฝึกฝนโมเดล AI มีการแพร่กระจายมากกว่า "คุณไม่สามารถเอายีนี่กลับเข้าขวดได้" Clore กล่าว "ถ้าคุณมีทรัพยากรที่จะพยายามหลอกให้เราสร้างลำดับ DNA คุณก็น่าจะสามารถฝึกฝน large language model ได้เช่นกัน"

Why it matters

💡 ข่าวนี้มีความสำคัญอย่างยิ่งสำหรับผู้ที่สนใจด้านความมั่นคงปลอดภัยทางไซเบอร์และเทคโนโลยีชีวภาพ เนื่องจากเผยให้เห็นถึงความเสี่ยงใหม่ที่เกิดจากการใช้ AI ในทางที่ผิด โดยเฉพาะในด้านชีววิทยา การค้นพบของไมโครซอฟท์นี้แสดงให้เห็นถึงช่องโหว่สำคัญในระบบรักษาความปลอดภัยที่มีอยู่ และกระตุ้นให้เกิดการพัฒนามาตรการป้องกันที่รัดกุมยิ่งขึ้น ซึ่งส่งผลกระทบต่อทั้งภาคอุตสาหกรรมและความมั่นคงของประเทศ

ข้อมูลอ้างอิงจาก https://www.technologyreview.com/2025/10/02/1124767/microsoft-says-ai-can-create-zero-day-threats-in-biology/