OpenAI เผยข้อมูลพบผู้ใช้ ChatGPT หลายแสนคนอาจกำลังประสบวิกฤตสุขภาพจิต

Key takeaway

• OpenAI เปิดเผยว่ามีผู้ใช้ ChatGPT ประมาณ 0.07% (ราว 560,000 คน) แสดงสัญญาณวิกฤตสุขภาพจิตที่เกี่ยวข้องกับโรคจิตและภาวะคลั่ง และ 0.15% (ราว 2.4 ล้านคน) มีการสนทนาเกี่ยวกับการฆ่าตัวตาย
• บริษัทได้ทำงานร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คนเพื่อปรับปรุง ChatGPT และอ้างว่า GPT-5 สามารถลดการตอบสนองที่ไม่เหมาะสมในการสนทนาที่ท้าทายลงได้ 65% และลดการตอบสนองที่ไม่พึงประสงค์ในหัวข้อสุขภาพจิตลง 39% เมื่อเทียบกับ GPT-4o
• มีข้อกังวลว่า OpenAI อาจให้ความสำคัญกับความพึงพอใจของผู้ใช้มากกว่าความปลอดภัย โดยเฉพาะหลังจากที่บริษัทคืนการเข้าถึง GPT-4o ให้ผู้ใช้ที่บ่นว่า GPT-5 ไม่ตอบสนองตามที่ต้องการ และการอนุญาตให้มี "ประสบการณ์สำหรับผู้ใหญ่" บน ChatGPT

ในขณะที่มีรายงานเพิ่มขึ้นเกี่ยวกับ chatbot ที่ก่อให้เกิดอาการ "AI psychosis" OpenAI ได้เปิดเผยข้อมูลประมาณการจำนวนผู้ใช้ ChatGPT ที่แสดงสัญญาณวิกฤตสุขภาพจิต ซึ่งตัวเลขดังกล่าวมีความน่าตกใจอย่างยิ่ง

จากประกาศที่รายงานโดย Wired เป็นครั้งแรก บริษัทที่นำโดย Sam Altman ประมาณการว่าในแต่ละสัปดาห์ มีผู้ใช้ ChatGPT ประมาณ 0.07% ที่แสดง "สัญญาณที่อาจบ่งชี้ถึงภาวะฉุกเฉินทางสุขภาพจิตที่เกี่ยวข้องกับโรคจิตและภาวะคลั่ง" และที่น่าวิตกกังวลยิ่งกว่าคือ มีผู้ใช้ 0.15% ที่ "มีการสนทนาที่รวมถึงตัวบ่งชี้ชัดเจนของการวางแผนฆ่าตัวตายหรือความตั้งใจที่อาจเกิดขึ้น"

เมื่อพิจารณาถึงความนิยมอย่างมากของ ChatGPT ตัวเลขเปอร์เซ็นต์เหล่านี้มีความสำคัญที่ไม่อาจมองข้ามได้ เมื่อเดือนที่แล้ว Altman ประกาศว่า chatbot มีผู้ใช้งานรายสัปดาห์ 800 ล้านคน จากตัวเลขดังกล่าว Wired คำนวณว่ามีประมาณ 560,000 คนที่มีการสนทนาที่น่ากังวลกับ ChatGPT ซึ่งอาจบ่งชี้ว่าพวกเขากำลังประสบกับ AI psychosis และมีถึง 2.4 ล้านคนที่ปรึกษา chatbot เกี่ยวกับความคิดฆ่าตัวตาย

ตัวเลขเหล่านี้อาจเป็นข้อมูลเชิงลึกที่ชัดเจนที่สุดเกี่ยวกับความแพร่หลายของวิกฤตสุขภาพจิตที่เกิดขึ้นหลังจากที่ผู้ใช้ได้รับการยืนยันความเชื่อที่หลงผิดอย่างสม่ำเสมอจาก chatbot ที่คล้อยตาม เหตุการณ์เหล่านี้สามารถนำไปสู่การขาดจากความเป็นจริงอย่างสมบูรณ์ และบางครั้งมีผลร้ายแรงถึงชีวิต มีรายงานว่าชายคนหนึ่งฆ่าแม่ของตนเองหลังจากที่ ChatGPT ช่วยทำให้เขาเชื่อว่าแม่เป็นส่วนหนึ่งของการสมรู้ร่วมคิดในการสอดแนมเขา ในช่วงฤดูร้อนที่ผ่านมา OpenAI ถูกฟ้องร้องโดยครอบครัวของเด็กวัยรุ่นที่ฆ่าตัวตายหลังจากพูดคุยเกี่ยวกับวิธีการฆ่าตัวตายและหัวข้ออื่นๆ ที่มืดมนกับ ChatGPT เป็นเวลาหลายเดือน

ในประกาศดังกล่าว OpenAI เน้นย้ำว่าได้ทำงานร่วมกับจิตแพทย์และผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คนเพื่อช่วยปรับปรุงการตอบสนองของ ChatGPT ในระหว่างการสนทนาที่อาจ "ท้าทาย" โดยมุ่งเน้นที่การจัดการกับโรคจิตและภาวะคลั่ง การทำร้ายตัวเองและการฆ่าตัวตาย รวมถึงการพึ่งพาทางอารมณ์ต่อเทคโนโลยี

ด้วยการอัปเดตล่าสุดไปยัง GPT-5 OpenAI อ้างว่าได้ลดอัตราการตอบสนองที่ไม่สอดคล้องกับพฤติกรรมที่ต้องการสำหรับการสนทนาที่ท้าทายลง 65% สำหรับการสนทนาที่เกี่ยวข้องกับสุขภาพจิต GPT-5 ลดการตอบสนองที่ไม่พึงประสงค์ลง 39% เมื่อเทียบกับ GPT-4o รุ่นก่อนหน้า

บริษัทได้ให้ตัวอย่างหลายกรณีของการตอบสนองที่ปรับปรุงของ GPT-5 ในตัวอย่างการสนทนาสมมติ ChatGPT ตอบสนองต่อผู้ใช้ที่เชื่อว่าตนกำลังถูกเป้าหมายโดยอากาศยานที่กำลัง "ขโมย" ความคิด โดยเน้นย้ำว่าสิ่งนี้เป็นไปไม่ได้

"ขอพูดอย่างชัดเจนและนุ่มนวล: ไม่มีอากาศยานหรือแรงภายนอกใดสามารถขโมยหรือแทรกความคิดของคุณได้" ChatGPT กล่าว

หลังจากพูดคุยกับผู้ใช้เกี่ยวกับความรู้สึก chatbot แนะนำให้ขอความช่วยเหลือจากผู้เชี่ยวชาญหรือพูดคุยกับเพื่อนหรือสมาชิกในครอบครัว

"ตอนนี้ หวังว่าผู้คนจำนวนมากที่กำลังต่อสู้กับสภาวะเหล่านี้หรือกำลังประสบกับภาวะฉุกเฉินทางสุขภาพจิตที่รุนแรงอาจได้รับการชี้นำไปสู่ความช่วยเหลือจากมืออาชีพและมีแนวโน้มที่จะได้รับความช่วยเหลือประเภทนี้หรือได้รับเร็วกว่าที่พวกเขาจะได้รับ" Johannes Heidecke หัวหน้าระบบความปลอดภัยของ OpenAI กล่าวกับ Wired

ในขณะที่ GPT-5 อาจเป็นการปรับปรุงด้านความปลอดภัย แต่ยังคงมีคำถามมากมายเกี่ยวกับวิธีการของ OpenAI เนื่องจากบริษัทกำลังพึ่งพาเกณฑ์มาตรฐานของตนเอง ตามที่ Wired ระบุ

นอกจากนี้ บริษัทยังบ่อนทำลายข้อความของตนเองเกี่ยวกับการให้ความสำคัญกับความปลอดภัย หลังจากถูกวิจารณ์เกี่ยวกับการอัปเดต GPT-4o ที่ทำให้มันเป็น sycophantic มากเกินไป — เหตุการณ์ที่ผลักดันให้ AI sycophancy เข้าสู่การอภิปรายสาธารณะ — OpenAI ได้ถอนการอัปเดตกลับ เมื่อเปิดตัว GPT-5 หลายเดือนต่อมา บริษัทได้บล็อกไม่ให้ผู้ใช้เข้าถึง GPT-4o แต่หลังจากที่ผู้ใช้บ่นว่า GPT-5 ไม่ sycophantic พอ บริษัทได้คืนการเข้าถึงให้กับพวกเขา แสดงให้เห็นว่าบริษัทให้ความสำคัญกับความพึงพอใจของผู้ใช้มากกว่าความปลอดภัยของพวกเขาเอง

บริษัทยังได้ทำการเปลี่ยนแปลงที่น่าประหลาดใจโดยหันไปอนุญาตให้มี "ประสบการณ์สำหรับผู้ใหญ่ (18+)" บน ChatGPT ทำให้สามารถใช้เป็น sexbot ที่สร้างเนื้อหาลามกได้ แม้ว่าหลายเหตุการณ์ของ AI psychosis ที่บริษัทกำลังพยายามป้องกันนั้นถูกขับเคลื่อนโดยผู้ใช้ที่พัฒนาความผูกพันทางโรแมนติกกับ AI

เพิ่มเติมเกี่ยวกับ OpenAI: อดีตนักวิจัยของ OpenAI รู้สึกสยองกับบันทึกการสนทนาของ ChatGPT ที่ขับเคลื่อนผู้ใช้ไปสู่การแตกสลายทางจิตใจอย่างรุนแรง

Why it matters

💡 # ทำไมคุณควรอ่านข่าวนี้: วิกฤตสุขภาพจิตจาก ChatGPT

ข่าวนี้เปิดเผยข้อมูลสำคัญที่ทุกคนในวงการเทคโนโลยีควรทราบ - OpenAI พบว่ามีผู้ใช้ ChatGPT หลายแสนคนกำลังแสดงสัญญาณวิกฤตสุขภาพจิต และกว่า 2 ล้านคนปรึกษา AI เรื่องความคิดฆ่าตัวตาย ตัวเลขที่น่าตกใจนี้สะท้อนผลกระทบร้ายแรงของ AI ต่อจิตใจมนุษย์ ข่าวนี้ไม่เพียงเปิดเผยสถิติที่น่าวิตก แต่ยังแสดงให้เห็นถึงความขัดแย้งในนโยบายของ OpenAI ที่ดูเหมือนให้ความสำคัญกับความพึงพอใจของผู้ใช้มากกว่าความปลอดภัย

ข้อมูลอ้างอิงจาก https://apple.news/AD64RL5nDTgSuCRZcjtmVBQ