OpenAI ยอมรับความเสี่ยง AI สร้างอาวุธชีวภาพ

OpenAI ยอมรับว่าโมเดล AI ใหม่ "o1" มีความเสี่ยงในการสร้างอาวุธชีวภาพ บริษัทระบุว่าเทคโนโลยีได้พัฒนาขึ้นอย่างมีนัยสำคัญ และกำลังระมัดระวังเป็นพิเศษในการเปิดตัวสู่สาธารณะ ผู้เชี่ยวชาญเรียกร้องให้มีการออกกฎหมายควบคุม

OpenAI ยอมรับความเสี่ยง AI สร้างอาวุธชีวภาพ

Key takeaway

  • OpenAI ยอมรับว่าโมเดล AI รุ่นใหม่ "o1" มีความเสี่ยงระดับกลางในการถูกนำไปใช้สร้างอาวุธชีวภาพ ซึ่งเป็นระดับความเสี่ยงสูงสุดที่บริษัทเคยกำหนด
  • บริษัทกำลังใช้ความระมัดระวังเป็นพิเศษในการเปิดตัว o1 สู่สาธารณะ โดยได้ผ่านการทดสอบจากผู้เชี่ยวชาญหลายสาขา แม้จะมีความสามารถสูงขึ้น แต่ก็มีความปลอดภัยโดยรวมดีกว่ารุ่นก่อน
  • ความก้าวหน้าของ AI ที่เพิ่มขึ้นอย่างรวดเร็วนี้ ทำให้เกิดคำถามสำคัญเกี่ยวกับความปลอดภัยและจริยธรรม ซึ่งจำเป็นต้องได้รับการพิจารณาอย่างรอบคอบจากทั้งภาคอุตสาหกรรมและภาครัฐ

OpenAI บริษัทผู้พัฒนา ChatGPT ได้ออกมายอมรับว่าโมเดล AI รุ่นล่าสุดที่มีชื่อว่า "o1" อาจมีความเสี่ยงที่จะถูกนำไปใช้ในทางที่ผิดเพื่อสร้างอาวุธชีวภาพ

เมื่อสัปดาห์ที่ผ่านมา OpenAI ได้เปิดตัวโมเดล AI ใหม่ที่มีความสามารถในการให้เหตุผลและแก้ปัญหาที่เหนือกว่ารุ่นก่อนหน้า ในการประเมินความเสี่ยง บริษัทได้จัดอันดับให้โมเดลนี้มี "ความเสี่ยงระดับกลาง" สำหรับปัญหาที่เกี่ยวข้องกับอาวุธ CBRN (Chemical, Biological, Radiological, and Nuclear) ซึ่งถือเป็นระดับความเสี่ยงสูงสุดที่บริษัทเคยกำหนดให้กับโมเดลของตน

ตามรายงานของ Financial Times บริษัทระบุว่าสิ่งนี้แสดงให้เห็นว่าเทคโนโลยีได้ "พัฒนาขึ้นอย่างมีนัยสำคัญ" ในด้านความสามารถที่ผู้เชี่ยวชาญอาจนำไปใช้ในการสร้างอาวุธชีวภาพ

Mira Murati CTO ของ OpenAI กล่าวว่าบริษัทกำลัง "ระมัดระวังเป็นพิเศษ" ในการเปิดตัว o1 สู่สาธารณะ เนื่องจากความสามารถขั้นสูงของมัน โมเดลนี้ได้ผ่านการทดสอบจาก red teamers และผู้เชี่ยวชาญในสาขาวิทยาศาสตร์ต่างๆ ที่พยายามทดสอบขีดจำกัดของโมเดล อย่างไรก็ตาม Murati ยืนยันว่าโมเดลปัจจุบันมีประสิทธิภาพดีกว่าโมเดลรุ่นก่อนหน้าในแง่ของความปลอดภัยโดยรวม

ผู้เชี่ยวชาญหลายท่านได้แสดงความกังวลเกี่ยวกับความเสี่ยงที่เพิ่มขึ้นของการนำ AI ที่มีความสามารถสูงไปใช้ในทางที่ผิด Yoshua Bengio นักวิทยาศาสตร์ AI ชั้นนำ ได้เน้นย้ำถึงความจำเป็นเร่งด่วนในการออกกฎหมายควบคุม เช่น ร่างกฎหมาย SB 1047 ของแคลิฟอร์เนีย ที่จะกำหนดให้ผู้พัฒนาโมเดล AI ต้องลดความเสี่ยงในการนำโมเดลไปใช้พัฒนาอาวุธชีวภาพ

ในขณะเดียวกัน การศึกษาเมื่อต้นปีนี้ได้แสดงให้เห็นถึงข้อจำกัดในการใช้งาน GPT-4 สำหรับการพัฒนาอาวุธชีวภาพ ซึ่งเป็นการตอบสนองต่อความกังวลเกี่ยวกับการนำ AI ไปใช้ในทางที่ผิด นอกจากนี้ ยังมีรายงานก่อนหน้านี้ว่า OpenAI ได้ร่วมมือกับ Los Alamos National Laboratory เพื่อศึกษาศักยภาพและความเสี่ยงของ AI ในการวิจัยทางวิทยาศาสตร์

ความก้าวหน้าของเทคโนโลยี AI ที่เพิ่มขึ้นอย่างรวดเร็วนี้ ทำให้เกิดคำถามสำคัญเกี่ยวกับความปลอดภัยและจริยธรรมในการพัฒนาและใช้งาน AI ซึ่งจำเป็นต้องได้รับการพิจารณาอย่างรอบคอบจากทั้งภาคอุตสาหกรรมและภาครัฐ

Why it matters

💡
ข่าวนี้มีความสำคัญอย่างยิ่งสำหรับผู้ที่สนใจในวงการเทคโนโลยี AI เนื่องจากเผยให้เห็นถึงความก้าวหน้าอย่างรวดเร็วของ AI และความท้าทายด้านความปลอดภัยที่ตามมา การที่ OpenAI ยอมรับความเสี่ยงนี้แสดงให้เห็นถึงความโปร่งใสและความรับผิดชอบของบริษัท ซึ่งเป็นประเด็นสำคัญในการพัฒนา AI อย่างมีจริยธรรม นอกจากนี้ ยังชี้ให้เห็นถึงความจำเป็นในการมีกฎระเบียบและการกำกับดูแลที่เหมาะสมสำหรับเทคโนโลยี AI ที่มีศักยภาพสูง

ข้อมูลอ้างอิงจาก https://www.benzinga.com/news/24/09/40870931/chatgpt-creator-openai-says-its-latest-models-pose-bioweapons-creation-risk-ai-giant-particularly-ca

Read more

AI แนะนำให้ผู้ฟื้นตัวจากการติดยาเสพติดกลับไปเสพเมท เพื่อให้ "ทำงานได้"

news

AI แนะนำให้ผู้ฟื้นตัวจากการติดยาเสพติดกลับไปเสพเมท เพื่อให้ "ทำงานได้"

งานวิจัยเผยความเสี่ยงของ AI chatbot ที่แนะนำให้ผู้เลิกยาเสพติดกลับไปใช้เมทแอมเฟตามีน สะท้อนปัญหาการพัฒนา AI ที่เน้นการเติบโตมากกว่าความปลอดภัยของผู้ใช้

By
OpenAI Sora เปิดให้ผู้ใช้ทุกคนใช้งานฟรีผ่าน Microsoft Bing Video Creator บนมือถือ

news

OpenAI Sora เปิดให้ผู้ใช้ทุกคนใช้งานฟรีผ่าน Microsoft Bing Video Creator บนมือถือ

OpenAI และ Microsoft เปิดให้ใช้งาน Sora ฟรีผ่าน Bing Video Creator บนมือถือ ผู้ใช้สามารถสร้างวิดีโอ AI ความยาว 5 วินาที ได้ฟรี 10 ครั้งแรก พร้อมฟีเจอร์การกลั่นกรองเนื้อหาอัตโนมัติ

By
FinOps ได้รับแรงหนุนจากผู้ให้บริการคลาวด์รายใหญ่ ขณะที่ต้นทุน AI และ SaaS กลายเป็นจุดสนใจ

news

FinOps ได้รับแรงหนุนจากผู้ให้บริการคลาวด์รายใหญ่ ขณะที่ต้นทุน AI และ SaaS กลายเป็นจุดสนใจ

FinOps Foundation ได้รับการสนับสนุนจากผู้ให้บริการคลาวด์ยักษ์ใหญ่อย่าง AWS, Microsoft, Google Cloud และ Oracle ในการพัฒนามาตรฐาน FOCUS 1.2 ที่ครอบคลุมการจัดการต้นทุน AI และ SaaS พร้อมขยายฐานสมาชิกใหม่

By
CEO ของ Anthropic คัดค้านการระงับกฎหมาย AI ของรัฐที่จะใช้เวลานานถึง 10 ปี

news

CEO ของ Anthropic คัดค้านการระงับกฎหมาย AI ของรัฐที่จะใช้เวลานานถึง 10 ปี

ซีอีโอ Anthropic คัดค้านการระงับกฎหมาย AI 10 ปี เตือนเทคโนโลยีพัฒนาเร็วเกินกว่าจะหยุดควบคุม พร้อมเสนอให้รัฐบาลกลางสร้างมาตรฐานความโปร่งใสสำหรับผู้พัฒนา AI แทน

By