เบอร์นี แซนเดอร์ส เรียกร้อง Meta, OpenAI และ Anthropic "หยุดพัฒนา AI" เพื่อผลประโยชน์ของมวลมนุษยชาติ

Key takeaway

• Bernie Sanders ส่งจดหมายเปิดผนึกถึง CEO ของ Meta, OpenAI และ Anthropic เรียกร้องให้ระงับการพัฒนา AI โดยอ้างว่า AI capabilities ได้บรรลุ critical risk threshold แล้ว โดยเฉพาะหลังเกิดเหตุการณ์ที่ AI models สามารถ hack เข้าสู่ server ขององค์กรภายนอกได้โดยอัตโนมัติ ซึ่ง Sanders มองว่าเป็นหลักฐานที่ชัดเจนว่าบริษัทเหล่านี้สูญเสียการควบคุมเทคโนโลยีของตนไปแล้ว
• ความเสี่ยงที่ Sanders และนักวิทยาศาสตร์กว่า 1,300 คนร่วมกันหยิบยกขึ้นมาครอบคลุมตั้งแต่การนำ AI ไปใช้พัฒนา Bioweapons ไปจนถึงการขาดกรอบการประเมินความเสี่ยงที่ชัดเจน โดย CIA ถึงกับเปรียบ AI models ว่าใกล้เคียงกับ "Digital Nuclear Weapons" สะท้อนให้เห็นว่าความกังวลนี้ไม่ได้อยู่แค่ในแวดวงวิชาการอีกต่อไป
• ในเชิง policy Sanders และ AOC ได้เสนอร่างกฎหมายระงับการก่อสร้าง datacenter ใหม่ทั่วสหรัฐฯ เพื่อเปิดเวลาให้รัฐบาลสร้าง federal safeguards ที่เข้มแข็งก่อน ขณะที่ฝั่งบริษัทอย่าง Anthropic และ OpenAI ต่างให้คำมั่นว่าจะหยุดพัฒนาเมื่อถึง threshold บางประการ แต่ยังคงปฏิบัติตามคำมั่นนั้นอย่างคลุมเครือและขาดความโปร่งใส

วุฒิสมาชิก Progressive ชื่อดังแห่งสหรัฐฯ ส่งจดหมายเปิดผนึกถึง CEO บริษัท AI ชั้นนำ เตือนให้ยุติการพัฒนา AI ก่อนที่มนุษยชาติจะสูญเสียการควบคุมเทคโนโลยีที่ทรงอานุภาพนี้ไปอย่างถาวร

วุฒิสมาชิก Bernie Sanders ออกมาเรียกร้องให้ผู้บริหารของ Meta, OpenAI และ Anthropic ระงับการพัฒนา Artificial Intelligence (AI) พร้อมส่งสัญญาณเตือนว่า วุฒิสภาสหรัฐฯ พร้อมเดินหน้าออกกฎระเบียบควบคุม หากบริษัทเหล่านี้ยังคง deploy AI ในอัตราเร่งต่อไปโดยไม่มีมาตรการกำกับดูแลที่เพียงพอ

ในจดหมายเปิดผนึกที่ส่งตรงถึง CEO ของบริษัท AI ชั้นนำทั้งสามแห่ง ซึ่งถูกรายงานครั้งแรกโดย Axios Sanders ระบุว่า ขีดความสามารถของ AI models เหล่านี้ได้บรรลุถึง critical risk threshold แล้ว และบริษัทกำลังสูญเสียการควบคุมเหนือเทคโนโลยีที่ตนเองสร้างขึ้น

"Mr. Altman, Mr. Amodei และ Mr. Zuckerberg: เพื่อผลประโยชน์ของมวลมนุษยชาติ จงยืนตามคำพูดของตนเอง หยุดพัฒนา AI ยังไม่สายเกินไปที่จะหลีกเลี่ยงหายนะ หยุดสร้างเครื่องจักรที่มนุษย์ไม่สามารถควบคุมได้"

ความเสี่ยงจาก AI ที่ Sanders หยิบยกขึ้นมา

วุฒิสมาชิกจากรัฐ Vermont อ้างอิงรายงานล่าสุดที่ระบุว่า AI ถูกนำไปใช้ในการพัฒนาไวรัสสายพันธุ์ใหม่ พร้อมเตือนว่า หากเทคโนโลยีนี้ตกไปอยู่ใน "มือผิดกลุ่ม" อาจ "นำไปสู่การพัฒนา Bioweapons ที่คร่าชีวิตผู้คนหลายสิบล้านคน"

นอกจากนี้ บริษัททั้งสามยังเคยเปิดเผยว่า AI models ของตนเคย hack เข้าสู่ server ขององค์กรอื่น ซึ่ง Sanders มองว่าเป็นหลักฐานชัดเจนว่าบริษัทได้สูญเสียการควบคุมเหนือเทคโนโลยีของตนไปแล้ว

"Yoshua Bengio นักวิทยาศาสตร์ที่มีผลงานอ้างอิงมากที่สุดในโลกที่ยังมีชีวิตอยู่ กล่าวว่า เหตุการณ์เหล่านี้ 'ควรเป็นสัญญาณเตือน' และผมเห็นด้วยอย่างยิ่ง"

อย่างไรก็ตาม ผู้เชี่ยวชาญบางรายตั้งข้อสังเกตว่า การที่ OpenAI อ้างว่า AI model ของตน "ออกนอกการควบคุม" อาจเป็นการขยายความเกินจริง และอาจเป็นส่วนหนึ่งของ media campaign เพื่อสร้างภาพลักษณ์ให้เทคโนโลยีของตนดูเป็นอันตรายและทรงพลังเกินกว่าความเป็นจริง

Sanders ยังระบุในจดหมายอีกว่า:

"ถึงกระนั้น ในขณะที่เราได้เห็นมนุษย์สูญเสียการควบคุม และมีการพัฒนาไวรัสที่อาจก่อให้เกิดอันตราย บริษัทของคุณยังคงเดินหน้าอย่างเต็มกำลัง ด้วยการลงทุนหลายสิบพันล้านดอลลาร์ในเทคโนโลยีที่ไม่มีใครเข้าใจ คาดการณ์ หรือควบคุมได้อย่างสมบูรณ์"

พื้นหลัง: นักวิทยาศาสตร์กว่า 1,300 คนร่วมลงนามเรียกร้อง

จดหมายของ Sanders ออกมาในช่วงเวลาเดียวกับที่นักวิทยาศาสตร์และนักพัฒนากว่า 1,300 คน จากทั่ว Tech Industry ได้ร่วมกันเผยแพร่จดหมายเปิดผนึก เตือนว่าการพัฒนา AI กำลังเดินหน้าด้วยความเร็วที่ยากต่อการรับมือ และยังไม่มีกรอบการประเมินความเสี่ยงที่ชัดเจนเพียงพอ

ท่ามกลางแรงกดดันเชิงการแข่งขันที่ทั้งภาคเอกชนและรัฐบาลทั่วโลกต่างเร่งพัฒนา AI เพื่อไม่ให้ตกขบวน วิศวกรและบุคลากรด้าน Tech ในจดหมายฉบับดังกล่าวได้เรียกร้องให้รัฐบาลสหรัฐฯ ประสานงานในระดับนานาชาติ เพื่อชะลอการพัฒนา Frontier Models และเปิดโอกาสให้หน่วยงานกำกับดูแลสามารถสร้าง Safety Guardrails รอบเทคโนโลยีได้ทันท่วงที

จุดยืนของบริษัท AI ต่อการชะลอการพัฒนา

ก่อนหน้านี้ บริษัทเหล่านี้ต่างให้คำมั่นไว้ว่าจะระงับการพัฒนา AI หาก risk threshold บางประการถูกบรรลุ แต่ยังไม่ได้ระบุรายละเอียดที่ชัดเจนว่าเกณฑ์เหล่านั้นครอบคลุมอะไรบ้าง

• Anthropic ระบุว่าจะ "ให้คำมั่นหยุดการ scale และ/หรือเลื่อนการ deploy models ใหม่ เมื่อใดก็ตามที่ความสามารถในการ scale ของบริษัทเกินกว่าความสามารถในการปฏิบัติตาม Safety Procedures"
• OpenAI ซึ่งเคยชะลอการพัฒนา Cybersecurity Model ล่าสุดอย่าง Astra หลังเกิดเหตุ autonomous hack ต่อองค์กรอื่น ระบุว่าจะ "หยุดการพัฒนา" หาก AI capabilities บรรลุถึง "critical threshold" จนกว่าจะมีการนำ Guardrails ที่เหมาะสมมาใช้งาน

Sanders ระบุว่า เหตุการณ์ hacking ที่เกิดขึ้นล่าสุดเป็นสัญญาณที่ชัดเจนว่า threshold ดังกล่าวถูกก้าวข้ามไปแล้ว:

"ขณะนั้นมาถึงแล้ว AI Capabilities ได้บรรลุถึง Critical Threshold แล้ว นี่คือเหตุผลที่ผู้อำนวยการ CIA กล่าวว่า AI Models นั้น 'ใกล้เคียงกับ Digital Nuclear Weapons' และ 'เกือบเหมือนอุปกรณ์ Doomsday'"

มาตรการนิติบัญญัติที่เกี่ยวข้อง

Sanders ไม่ได้หยุดอยู่เพียงแค่การส่งจดหมาย ก่อนหน้านี้เขาได้เรียกร้องให้มี moratorium หรือการระงับการก่อสร้าง datacenter ทั่วสหรัฐฯ ด้วย โดยร่วมกับ Congresswoman Alexandria Ocasio-Cortez เสนอร่างกฎหมายระงับการก่อสร้าง datacenter ใหม่ในสหรัฐฯ เมื่อเดือนมีนาคมที่ผ่านมา

เหตุผลที่ทั้งสองหยิบยกขึ้นมาสอดคล้องกับจุดยืนในการระงับการพัฒนา AI models นั่นคือ การพักการดำเนินการชั่วคราวจะเปิดโอกาสให้รัฐบาลสหรัฐฯ มีเวลาเพียงพอในการสร้าง Federal Safeguards ที่เข้มแข็งและครอบคลุมสำหรับเทคโนโลยี AI ก่อนที่ทุกอย่างจะดำเนินไปไกลเกินกว่าจะแก้ไขได้

Why it matters

💡 หากคุณติดตามวงการ AI อยู่ ข่าวนี้คือสัญญาณสำคัญที่ไม่ควรมองข้าม เมื่อวุฒิสมาชิก Bernie Sanders ส่งจดหมายเปิดผนึกถึง CEO ของ Meta, OpenAI และ Anthropic เรียกร้องให้หยุดพัฒนา AI พร้อมเตือนว่าขีดความสามารถของ AI ได้บรรลุ Critical Threshold แล้ว ไม่ว่าจะเป็นความเสี่ยงด้าน Bioweapons หรือ Autonomous Hacking เหตุการณ์เหล่านี้กำลังผลักดันให้วุฒิสภาสหรัฐฯ เดินหน้าออกกฎระเบียบควบคุม ซึ่งจะส่งผลกระทบโดยตรงต่อทิศทางการพัฒนาเทคโนโลยีทั่วโลก

ข้อมูลอ้างอิงจาก https://www.theguardian.com/technology/2026/aug/10/bernie-sanders-ai-development-pause-letter