OpenAI เตรียมท้าทายวงการ AI ด้วยโมเดลใหม่ “Strawberry” และ “Orion”

Key takeaway

• OpenAI กำลังพัฒนา AI Model ใหม่ 2 ตัว คือ "Strawberry" และ "Orion" ที่มีศักยภาพสูงกว่า GPT-4
• Strawberry มุ่งเน้นการแก้ปัญหาทางคณิตศาสตร์และโปรแกรมมิ่งที่ซับซ้อน โดยอาจเปิดตัวในฤดูใบไม้ร่วงนี้
• Orion เป็น flagship language model ที่ออกแบบมาเพื่อเอาชนะ GPT-4 โดยใช้ Strawberry ช่วยสร้างข้อมูลคุณภาพสูง
• การพัฒนาทั้งสองโมเดลนี้แสดงให้เห็นถึงความก้าวหน้าในการเพิ่มความสามารถด้านการให้เหตุผลและการแก้ปัญหาของ AI

OpenAI กำลังพัฒนา AI Model ใหม่ 2 ตัว ที่อาจช่วยพัฒนาวงการ AI ก้าวหน้าไปอย่างมาก โมเดล "Strawberry" มีจุดมุ่งหมายเพื่อแก้ปัญหาทางคณิตศาสตร์ที่ซับซ้อนและโปรแกรมมิ่งได้ดีกว่าระบบในปัจจุบัน ในขณะที่ "Orion" ตั้งเป้าที่จะเกินขีดความสามารถของ GPT-4 ด้วยความช่วยเหลือจาก Strawberry

ตามรายงานของ The Information อ้างอิงจากบุคคล 2 คนที่เกี่ยวข้องในโปรเจกต์ OpenAI อาจเปิดตัว chatbot เวอร์ชันของ Strawberry ในช่วงฤดูใบไม้ร่วงนี้ อาจเป็นส่วนหนึ่งของ ChatGPT ก็เป็นได้

Strawberry ถูกออกแบบมาเพื่อรับมือกับโจทย์คณิตศาสตร์ที่ไม่เคยพบมาก่อน และเพิ่มประสิทธิภาพงานโปรแกรมมิ่ง ตรรกะที่เพิ่มขึ้นควรช่วยให้แก้ปัญหาที่เกี่ยวกับภาษาได้ดีขึ้น เมื่อมีเวลา "คิด" เพียงพอ โดยในการสาธิต Strawberry สามารถแก้ปริศนาคำศัพท์ "Connections" ของ New York Times ได้ โมเดลนี้ยังสามารถเป็นพื้นฐานสำหรับระบบ AI ขั้นสูงที่ไม่เพียงสร้างเนื้อหา แต่ยังลงมือปฏิบัติการได้ด้วย

OpenAI ได้ทดสอบ AI ภายในที่ได้คะแนนมากกว่า 90% ในการทดสอบมาตรฐาน MATH ซึ่งเป็นชุดของงานเพื่อวัดทักษะคณิตศาสตร์ ซึ่งน่าจะเป็น Strawberry นี่เอง ที่ถูกนำเสนอต่อเจ้าหน้าที่ความมั่นคงแห่งชาติด้วย และเอกสารภายในของ OpenAI อธิบายแผนการนำโมเดล Strawberry ไปใช้ในการค้นหาทางอินเทอร์เน็ตอัตโนมัติ ทำให้ AI สามารถวางแผนล่วงหน้าและทำวิจัยเชิงลึกได้ แต่ก็ยังไม่แน่ชัดว่า Strawberry จะเปิดตัวในปีนี้หรือไม่ หากปล่อยออกมา จะเป็นเวอร์ชันที่กลั่นกรองจากโมเดลดั้งเดิม ให้ประสิทธิภาพใกล้เคียงแต่ใช้พลังการคำนวณน้อยลง ซึ่งเป็นเทคนิคที่ OpenAI ใช้กับ GPT-4 variant ตั้งแต่โมเดลต้นฉบับเปิดตัวในเดือนมีนาคม 2023

แนวทางของ OpenAI คล้ายกับวิธี "Self-Taught Reasoner" (STaR) ที่นักวิจัยจาก Stanford เสนอ ซึ่งมุ่งปรับปรุงความสามารถในการให้เหตุผลของระบบ AI โดยมีอดีตหัวหน้านักวิจัยของ OpenAI อย่าง Ilya Sutskever ซึ่งตอนนี้ก่อตั้ง startup ของตัวเองที่โฟกัสเรื่อง secure super AI เป็นผู้ให้ไอเดียและรากฐานของ Strawberry

OpenAI ยังทำงานกับ flagship language model ชื่อรหัส "Orion" ที่ออกแบบมาเพื่อเอาชนะ GPT-4 โดย Strawberry จะมีส่วนช่วยโดยการสร้างข้อมูลให้ Orion การผสมผสานระหว่าง Strawberry และ high-quality synthetic data อาจช่วยลดข้อผิดพลาดใน Orion เมื่อเทียบกับโมเดลก่อนหน้า งานวิจัยแสดงให้เห็นว่าข้อมูลคุณภาพสูงเป็นกุญแจสำคัญสำหรับโมเดล AI ที่มีความสามารถและมีประสิทธิภาพ

Sam Altman CEO ของ OpenAI กล่าวในงานเมื่อเดือนพฤษภาคมว่า บริษัทรวบรวมข้อมูลได้เพียงพอที่จะ train โมเดลถัดไป และกำลังทดลองกับ synthetic data

ส่วนทาง Google DeepMind ก็กำลังวิจัยระบบ AI ที่มีความสามารถทางคณิตศาสตร์ขั้นสูงเช่นกัน พวกเขาพัฒนา AlphaProof และ AlphaGeometry 2 ซึ่งได้เหรียญเงินในการแข่งขัน International Mathematical Olympiad แต่ยังไม่ชัดเจนว่าโมเดลเหล่านี้จะ scale และ generalize ได้ดีเพียงใด

Why it matters

ข้อมูลอ้างอิงจาก OpenAI's Strawberry AI is reportedly the secret sauce behind next-gen Orion language model