ตัวแทน OpenAI ผู้สร้าง ChatGPT ถูกเรียกตัวไปแคนาดาหลังเหตุกราดยิงในโรงเรียน
OpenAI ถูกเรียกตัวไปแคนาดาหลังเปิดเผยว่าไม่ได้แจ้งตำรวจเรื่อง Jesse Van Rootselaar ผู้ใช้ ChatGPT ที่ส่งเสริมกิจกรรมรุนแรง ก่อนเกิดเหตุกราดยิงโรงเรียนใน British Columbia ที่มีผู้เสียชีวิต 8 คน
Key takeaway
- OpenAI ถูกเรียกตัวไปชี้แจงที่แคนาดาหลังเปิดเผยว่าได้ตรวจพบกิจกรรมส่งเสริมความรุนแรงของ Jesse Van Rootselaar ผ่านระบบ abuse detection แต่ตัดสินใจไม่แจ้งตำรวจเนื่องจากประเมินว่าไม่ถึงเกณฑ์การส่งต่อ law enforcement
- รัฐมนตรี AI ของแคนาดาและนายกรัฐมนตรีบริติชโคลัมเบียแสดงความโกรธและเรียกร้องให้ OpenAI มาชี้แจง protocols การตัดสินใจส่งต่อคดีไปยังหน่วยงานบังคับใช้กฎหมาย โดยเชื่อว่าบริษัทมีโอกาสป้องกันเหตุกราดยิงที่ทำให้มีผู้เสียชีวิต 8 คนได้
- เหตุการณ์นี้เป็นการกราดยิงในโรงเรียนที่ร้ายแรงที่สุดครั้งหนึ่งในประวัติศาสตร์แคนาดา ทำให้เกิดคำถามเกี่ยวกับความรับผิดชอบของบริษัทเทคโนโลยี AI ในการป้องกันการใช้งานที่อาจนำไปสู่อันตรายต่อสาธารณะ
โตรอนโต (AP) — ตัวแทนของ OpenAI บริษัทผู้พัฒนา ChatGPT ถูกเรียกตัวไปยังกรุงออตตาวา หลังจากที่บริษัทเปิดเผยเมื่อสัปดาห์ที่แล้วว่า ได้พิจารณาแต่ไม่ได้แจ้งเตือนตำรวจแคนาดาเกี่ยวกับกิจกรrณ์ของบุคคลหนึ่ง ซึ่งต่อมาหลายเดือนต่อมาได้ก่อเหตุกราดยิงในโรงเรียนที่เลวร้ายที่สุดครั้งหนึ่งในประวัติศาสตร์ของประเทศ
รัฐมนตรีว่าการกระทรวง Artificial Intelligence อีวาน โซโลมอน กล่าวเมื่อวันจันทร์ว่า คาดหวังให้ตัวแทนด้านความปลอดภัยระดับสูงของบริษัทมาชี้แจง protocols และกระบวนการตัดสินใจในการส่งต่อคดีไปยัง law enforcement เมื่อมีการประชุมกันในวันอังคาร
นายกรัฐมนตรีบริติชโคลัมเบีย เดวิด เอบี กล่าวว่า "ดูเหมือนว่า" OpenAI มีโอกาสที่จะป้องกันเหตุกราดยิงหมู่ครั้งล่าสุดใน Tumbler Ridge, British Columbia ที่ทำให้มีผู้เสียชีวิต 8 คน
"จากภายนอกมองดู เหมือนว่า OpenAI มีโอกาสป้องกันโศกนาฏกรรมนี้ได้ ป้องกันการสูญเสียชีวิตที่น่าสยดสยองนี้ ป้องกันไม่ให้เด็กๆ ในบริติชโคลัมเบียต้องเสียชีวิต" เอบี กล่าว "ผมโกรธเรื่องนี้มาก"
OpenAI เปิดเผยเมื่อเดือนมิถุนายนที่แล้วว่า บริษัทได้ระบุ account ของ Jesse Van Rootselaar ผ่าน abuse detection efforts เนื่องจาก "การส่งเสริมกิจกรรมรุนแรง"
บริษัทเทคโนโลยีในซานฟรานซิสโกกล่าวว่า ได้พิจารณาว่าจะส่งต่อ account ดังกล่าวไปยัง Royal Canadian Mounted Police หรือ RCMP หรือไม่ แต่ตัดสินใจในขณะนั้นว่า account activity ไม่ถึงเกณฑ์สำหรับการส่งต่อไปยัง law enforcement OpenAI ได้ ban account นี้ในเดือนมิถุนายนเนื่องจากละเมิด usage policy
Van Rootselaar วัย 18 ปีได้ฆ่าผู้คน 8 คนในพื้นที่ห่างไกลของบริติชโคลัมเบียเมื่อเดือนนี้ และเสียชีวิตจากการยิงตัวเอง
OpenAI กล่าวว่า เกณฑ์สำหรับการส่งต่อ user ไปยัง law enforcement คือ กรณีที่เกี่ยวข้องกับความเสี่ยงที่ใกล้จะเกิดขึ้นและน่าเชื่อถือต่อการทำร้ายร่างกายอย่างร้ายแรงต่อผู้อื่น บริษัทกล่าวว่า ไม่ได้ระบุการวางแผนที่น่าเชื่อถือหรือใกล้จะเกิดขึ้น The Wall Street Journal เป็นสำนักข่าวแรกที่รายงานการเปิดเผยของ OpenAI โดยรายงานว่า พนักงานประมาณโหลหนึ่งได้อภิปรายเรื่องการแจ้งตำรวจแคนาดา
OpenAI กล่าวว่า จนกระทั่งได้รับทราบเกี่ยวกับเหตุกราดยิงในโรงเรียน พนักงานจึงได้ติดต่อ RCMP พร้อมส่งข้อมูลเกี่ยวกับบุคคลดังกล่าวและการใช้งาน ChatGPT
โซโลมอนกล่าวว่า ได้ติดต่อ OpenAI ทันทีเมื่ออ่านรายงานว่า OpenAI ไม่ได้ติดต่อ law enforcement ในเวลาที่เหมาะสม
"ผมได้เรียกตัว senior safety team จาก OpenAI ให้มาที่ออตตาวาจากสหรัฐอเมริกา" โซโลมอนกล่าว "ชาวแคนาดาคาดหวัง เป็นอันดับแรก ว่าเด็กๆ โดยเฉพาะจะได้รับความปลอดภัย และองค์กรเหล่านี้ดำเนินการอย่างมีความรับผิดชอบ"
โซโลมอนกล่าวว่า ตัวแทนบางคนของเขาได้พบกับเจ้าหน้าที่ OpenAI บางคนเมื่อวันอาทิตย์แล้ว แต่ไม่ยอมเปิดเผยว่า รัฐบาลแคนาดาตั้งใจจะกำกับดูแล AI chatbots อย่าง ChatGPT หรือไม่ แต่ยืนยันว่า ทุกตัวเลือกยังคงอยู่ในการพิจารณา
ตำรวจกล่าวว่า Van Rootselaar ฆ่าแม่และพี่ชายต่างพ่อที่บ้านก่อน จากนั้นจึงโจมตีโรงเรียนใกล้เคียง Van Rootselaar มีประวัติการติดต่อกับตำรวจเรื่องปัญหาสุขภาพจิต
แรงจูงใจในการกราดยิงยังไม่ชัดเจน
เมือง Tumbler Ridge ใน Canadian Rockies อยู่ห่างจากแวนคูเวอร์มากกว่า 1,000 กิโลเมตร (600 ไมล์) ทางตะวันออกเฉียงเหนือ ใกล้เขตแดนจังหวัดกับอัลเบอร์ตา ตำรวจกล่าวว่า ผู้เสียหายรวมถึงผู้ช่วยครูอายุ 39 ปี และนักเรียน 5 คน อายุ 12-13 ปี
การโจมตีครั้งนี้เป็นเหตุรุนแรงที่ร้ายแรงที่สุดของแคนาดาตั้งแต่ปี 2563 เมื่อมือปืนในโนวาสโกเชียฆ่าผู้คน 13 คน และจุดไฟทำให้อีก 9 คนเสียชีวิต
Why it matters
💡 ข่าวนี้เป็นจุดเปลี่ยนสำคัญในอุตสาหกรรม AI ที่ผู้เชี่ยวชาญด้านเทคโนโลยีต้องติดตาม เมื่อ OpenAI ผู้พัฒนา ChatGPT ถูกเรียกตัวไปแคนาดาหลังเหตุกราดยิงในโรงเรียนที่คร่าชีวิต 8 คน ประเด็นนี้จะส่งผลต่อการกำกับดูแล AI chatbots ในอนาคต รวมถึงความรับผิดชอบของบริษัทเทคโนโลยีในการตรวจจับและรายงานพฤติกรรมเสี่ยงของผู้ใช้งาน ซึ่งจะกำหนดทิศทางใหม่ของมาตรฐานความปลอดภัยในอุตสาหกรรม AI
