DeepSeek เปิดซอร์ส DSpark เฟรมเวิร์กใหม่ที่อาจเพิ่มความเร็ว LLM Inference ได้สูงสุด 85%

Key takeaway

• DSpark คือ Speculative Decoding Framework ล่าสุดจาก DeepSeek ที่เปิดเป็น Open Source ภายใต้ MIT License โดยใช้เทคนิค Semi-Autoregressive Generation และ Confidence-Scheduled Verification เพื่อเพิ่มความเร็ว LLM Inference ได้สูงสุดถึง 85% บน DeepSeek-V4 โดยไม่กระทบต่อความถูกต้องของ Output
• ผลทดสอบจาก Community Developer พบว่า DSpark ให้ความเร็วประมาณ 60 tokens/วินาที บน DeepSeek-V4-Flash เร็วกว่า MTP-1 ถึง 1.5 เท่า และเร็วกว่า Non-Speculative Decoding ถึง 2.3 เท่า นอกจากนี้ยังให้ผลดีบน Open-Weight Models อย่าง Qwen3 และ Gemma4 โดยเฉพาะงานที่มีโครงสร้างชัดเจนอย่าง Math และ Code
• Enterprise ที่ต้องการนำ DSpark ไปใช้กับ Open-Weight Models อื่นต้องลงทุน Train Draft Module เองและมี Infrastructure ระดับสูง เนื่องจาก Default Setup ต้องการ Storage สูงถึง 38 TB และ GPU 8 ตัวต่อ Node แต่สำหรับ Proprietary API Models นั้นไม่สามารถ Integrate DSpark ได้โดยตรง เพราะไม่มีสิทธิ์เข้าถึง Token Verification Loop และ Serving Scheduler

ท่ามกลางความตึงเครียดทางภูมิรัฐศาสตร์ด้าน AI ที่ทวีความรุนแรงขึ้น หลังจากรัฐบาลสหรัฐฯ ออกมาตรการจำกัดการเข้าถึงโมเดล AI รุ่นใหม่จาก Anthropic และ OpenAI DeepSeek สตาร์ทอัพ Open Source สัญชาติจีนก็กลับมาสร้างความฮือฮาอีกครั้ง ด้วยการเปิดเผย Codebase ชุดใหม่ที่อาจพลิกโฉม AI Development ทั่วโลก

ช่วงสุดสัปดาห์ที่ผ่านมา DeepSeek ได้ปล่อย DSpark ระบบภายใต้ MIT License ที่ออกแบบมาโดยเฉพาะเพื่อเร่งความเร็วในการ Inference ของ Large Language Models (LLMs) โดยไม่กระทบต่อคุณภาพและความถูกต้องของ Output ที่โมเดลสร้างขึ้น

DSpark ทำงานอย่างไร

โดยปกติ AI Chatbot ส่วนใหญ่จะ Generate ข้อความแบบ Token ต่อ Token ซึ่งเปรียบได้กับการเดินข้ามแม่น้ำทีละก้าว DSpark แก้ปัญหานี้ด้วยการส่ง "Scout" วิ่งล่วงหน้าไปหลายก้าวเพื่อคาดเดาเส้นทางที่น่าจะเป็น แล้วให้โมเดลหลักตรวจสอบว่าก้าวใดถูกต้องและปลอดภัย เมื่อการคาดเดาแม่นยำ โมเดลก็เดินหน้าได้เร็วขึ้น ส่วนในกรณีที่การคาดเดาคลาดเคลื่อน DSpark จะข้ามการตรวจสอบในส่วนที่ไม่มีประโยชน์ออกไปทันที

DeepSeek เผยแพร่งานชิ้นนี้พร้อมกับ Technical Paper, Model Checkpoints และ DeepSpec ซึ่งเป็น Codebase สำหรับการ Training และ Evaluation ระบบ Speculative Decoding โดย Release ทั้งหมดเผยแพร่ผ่าน GitHub และ Hugging Face ภายใต้ MIT License ทำให้ Developer, นักวิจัย และองค์กรธุรกิจทั่วโลกสามารถนำไปใช้งานและปรับแต่งได้อย่างอิสระ

ประสิทธิภาพที่เพิ่มขึ้นอย่างมีนัยสำคัญในการ Generate Token

DeepSeek นำ DSpark ไปทดสอบกับโมเดล Flagship รุ่นล่าสุดอย่าง DeepSeek-V4 ซึ่งแบ่งออกเป็นสองรุ่น ได้แก่

• DeepSeek-V4-Flash โมเดลแบบ Mixture-of-Experts (MoE) ขนาด 284 พันล้าน Parameters ที่ Optimize ด้านความเร็ว โดยมี Active Parameters 13 พันล้านตัว
• DeepSeek-V4-Pro โมเดลขนาด 1.6 ล้านล้าน Parameters ที่เน้นความแม่นยำ โดยมี Active Parameters 49 พันล้านตัว

ทั้งสองโมเดลรองรับ Context Window สูงสุดถึง 1 ล้าน Tokens

ผลการทดสอบใน Production จริง DSpark ให้ผลลัพธ์ดังนี้

นอกจากนี้ ภายใต้ Speed Target ที่เข้มงวดขึ้น ได้แก่ 120 tokens/วินาที/user สำหรับ V4-Flash และ 50 tokens/วินาที/user สำหรับ V4-Pro DSpark รายงาน Aggregate Throughput เพิ่มขึ้นสูงถึง 661% และ 406% ตามลำดับ เนื่องจาก Baseline เดิมอย่าง MTP-1 เข้าสู่ภาวะ Bottleneck เมื่อระดับ Concurrency สูงขึ้น

พื้นฐานของ Speculative Decoding

LLMs โดยทั่วไป Generate ข้อความทีละ Token ซึ่งก่อให้เกิด Bottleneck เพราะโมเดลต้องหยุดตรวจสอบ Full Context ทุกครั้งก่อนเลือก Token ถัดไป เปรียบได้กับ Senior Editor ที่ต้องอนุมัติทุกคำก่อนที่นักเขียนจะเขียนต่อได้

Speculative Decoding แก้ปัญหานี้ด้วยการใช้ Draft Component ขนาดเล็กกว่าเพื่อ Propose Token หลายตัวพร้อมกัน จากนั้นโมเดลหลักจะตรวจสอบการคาดเดาเหล่านั้นแบบ Parallel หากคาดเดาถูกต้อง ระบบจะก้าวข้ามไปหลาย Token พร้อมกัน แต่หาก Draft ผิดพลาด ระบบจะ Reject Token ที่ผิดและสร้าง Corrected Token ขึ้นมาแทน

เทคนิคนี้มีรากฐานมาจากงานวิจัยหลายชิ้น ได้แก่

• 2018 Mitchell Stern, Noam Shazeer และ Jakob Uszkoreit เสนอ Blockwise Parallel Decoding
• 2022 Heming Xia และคณะ แนะนำ SpecDec ขณะที่ Yaniv Leviathan และคณะ นำเสนองานวิจัย "Fast Inference from Transformers via Speculative Decoding"
• 2023 นักวิจัยจาก DeepMind พัฒนา Speculative Sampling

นวัตกรรมหลักของ DSpark

DSpark แก้ปัญหาสองด้านพร้อมกัน ได้แก่ การคาดเดาที่ไม่แม่นยำ และการตรวจสอบที่สิ้นเปลือง Computing Power

1. Semi-Autoregressive Generation

DSpark ผสมผสานจุดแข็งของสองแนวทางเข้าด้วยกัน ได้แก่

• Parallel Backbone สำหรับงาน Drafting ส่วนใหญ่เพื่อความรวดเร็ว
• Lightweight Sequential Head ที่ช่วยให้ Draft คำนึงถึงความสัมพันธ์ระหว่าง Token ที่อยู่ใกล้เคียงกัน เพื่อเพิ่มความแม่นยำ

ตัวอย่างเช่น Parallel Drafter อาจสับสนระหว่าง Phrase ที่น่าจะเป็นอย่าง "of course" และ "no problem" เพราะคาดเดาแต่ละตำแหน่งแยกกันเกินไป Sequential Component ของ DSpark จึงเข้ามาช่วยให้ Token ที่ตามมาสอดคล้องกับ Token ก่อนหน้าได้อย่างเป็นธรรมชาติมากขึ้น

2. Confidence-Scheduled Verification

แทนที่จะให้ Target Model ตรวจสอบ Draft Token ในจำนวนคงที่ตลอดเวลา DSpark จะประมาณการว่า Prefix ส่วนใดของ Draft มีแนวโน้มผ่านการตรวจสอบมากที่สุด จากนั้น Hardware-Aware Scheduler จะปรับปริมาณงานที่ต้องตรวจสอบตาม Model Confidence และ Serving Load ในขณะนั้น

เปรียบได้กับห้องครัวของร้านอาหาร เมื่อลูกค้าน้อย หัวหน้าเชฟสามารถตรวจสอบงานของ Prep Cook ได้อย่างละเอียด แต่เมื่อร้านคึกคัก เชฟจะโฟกัสเฉพาะจานที่พร้อมเสิร์ฟเท่านั้น DSpark นำหลักการเดียวกันนี้มาประยุกต์ใช้กับ AI Serving

ผลการทดสอบ Offline บน Qwen และ Gemma

DeepSeek ทดสอบ DSpark บน Target Models หลายตัว ได้แก่ Qwen3-4B, Qwen3-8B, Qwen3-14B และ Gemma4-12B ครอบคลุม Benchmarks ด้าน Math, Coding และ Chat

เปรียบเทียบกับ Eagle3 (Autoregressive Drafter)

เปรียบเทียบกับ DFlash (Parallel Drafter)

ผลลัพธ์เหล่านี้ยังครอบคลุมถึง Gemma4-12B ด้วย โดย Developer Daniel Han ได้ Highlight บน X ว่า DSpark ให้ประสิทธิภาพสูงกว่าที่ DeepSeek-V4 ทำได้บนโมเดลของตัวเอง

สำหรับงานที่มีโครงสร้างชัดเจน เช่น Math และ Code มักได้รับ Accepted Length สูงกว่างาน Open-Ended Chat ซึ่งบ่งชี้ว่า DSpark อาจเหมาะอย่างยิ่งสำหรับ Coding Assistants, Data Analysis Agents และระบบ Structured Workflow Automation

Enterprise จะนำ DSpark ไปใช้กับโมเดลอื่นได้อย่างไร

DSpark ไม่ได้จำกัดการใช้งานเฉพาะ DeepSeek-V4 แต่ก็ไม่ใช่ระบบ Plug-In ที่ติดตั้งได้อัตโนมัติ

สำหรับ Open-Weight Models ทีม Enterprise ที่ใช้งานโมเดลอย่าง Qwen, Gemma, Llama, Mistral, Granite หรือโมเดล Open-Weight อื่น ๆ สามารถ Train หรือ Fine-Tune DSpark-Style Draft Module สำหรับ Target Model ของตัวเองได้ จากนั้นวัด Acceptance บน Workload ของตัวเองและ Integrate Verification Scheduler เข้ากับ Inference Stack ที่ใช้งานอยู่

สำหรับ Proprietary Models ผ่าน API ผู้ใช้ไม่สามารถเพิ่ม DSpark จากภายนอกได้โดยตรง เนื่องจากไม่มีสิทธิ์เข้าถึง Token Verification Loop, Logits, Batching Behavior หรือ Serving Scheduler ที่จำเป็นสำหรับการทำงานของ DSpark

DeepSpec สำหรับ Developer

สำหรับ Developer DeepSpec มอบ Implementation Path ที่ชัดเจนสำหรับการ Train และ Evaluate Speculative Decoding Draft Models โดยครอบคลุมขั้นตอน Data Preparation, Training และ Benchmark Evaluation พร้อม Released Checkpoints สำหรับ Open Model Families หลายตัว

อย่างไรก็ตาม มี Deployment Caveats ที่ควรทราบ DeepSpec ระบุว่า Default Data Preparation Setup สำหรับ Qwen3-4B อาจต้องการ Storage สูงถึง 38 TB สำหรับ Target Cache และ Default Scripts ต้องการ Single Node ที่มี 8 GPUs ทำให้เหมาะสำหรับ AI Labs, Cloud Teams และกลุ่ม Enterprise AI Infrastructure มากกว่า Application Developer ทั่วไป

ผลการทดสอบจากชุมชน Developer

การ Release ครั้งนี้ได้รับความสนใจจาก Developer อย่างรวดเร็ว Rafael Caricio เผยแพร่ GitHub Pull Request รายงาน Single-Stream Benchmark บน DeepSeek-V4-Flash DSpark ดังนี้

• ไม่มี Speculative Decoding: 26.33 tokens/วินาที
• MTP-1: 39.88 tokens/วินาที
• DSpark: ประมาณ 60 tokens/วินาที (เร็วกว่า MTP-1 ถึง 1.5 เท่า และเร็วกว่า Non-Spec Decoding ถึง 2.3 เท่า)

Five-Run Mean บันทึกไว้ที่ 60.31 tokens/วินาที ซึ่งสอดคล้องกับตัวเลขที่อ้างอิงใน Paper

อย่างไรก็ตาม งานนี้ยังชี้ให้เห็น Practical Limitation ที่สำคัญ ในการใช้งาน Multi-Turn Coding Sessions จริง ประสิทธิภาพอาจลดลงเมื่อ Draft Acceptance ตกต่ำลงตาม Context ที่เพิ่มขึ้นเรื่อย ๆ

บทสรุป

DSpark แสดงให้เห็นอย่างชัดเจนว่ายังมีศักยภาพด้าน Performance อีกมากที่สามารถดึงออกมาจาก Inference Layer ได้ แม้ว่า Underlying Model Architecture จะไม่มีการเปลี่ยนแปลงเลยก็ตาม ในขณะที่ AI Companies ต่างแข่งขันกันด้าน Model Quality, Context Length และ Pricing Decoding Efficiency กำลังกลายเป็น Battleground สำคัญอีกด้านหนึ่งที่ไม่อาจมองข้ามได้

สิ่งที่ทำให้ Release ของ DeepSeek ครั้งนี้โดดเด่นเป็นพิเศษคือการรวม Production-Tested Method, Open Code, Public Checkpoints และ Detailed Paper ไว้ด้วยกันในแพ็กเกจเดียว นวัตกรรมหลักไม่ได้อยู่ที่การ Draft Token ให้มากขึ้นเพียงอย่างเดียว แต่อยู่ที่การทำให้ระบบ เลือกสรรมากขึ้น ว่า Speculative Work ส่วนใดคุ้มค่าแก่การ Verify

สำหรับ Enterprise Teams บทเรียนสำคัญจาก DSpark คือ Performance Gains รอบถัดไปของ AI อาจไม่ได้มาจากการสร้างโมเดลที่ใหญ่ขึ้นเพียงอย่างเดียว แต่จะมาจากการ Run โมเดลที่มีอยู่แล้วได้อย่างชาญฉลาดและมีประสิทธิภาพมากขึ้น โดยเฉพาะในองค์กรที่ควบคุม Stack ได้เพียงพอที่จะ Tune โมเดล, Train Draft Module ที่เข้ากันได้ และ Optimize Serving Engine รอบ Real Workloads จริง

Why it matters

💡 ในยุคที่ AI Inference Cost กลายเป็นปัจจัยชี้ขาดความสำเร็จขององค์กร การที่ DeepSeek เปิดตัว DSpark ภายใต้ MIT License พร้อม Technical Paper และ Model Checkpoints ครบชุดถือเป็นเรื่องที่ Tech Professional ทุกคนไม่ควรพลาด เพราะ DSpark ไม่ได้แค่เพิ่มความเร็ว LLM Inference ได้สูงสุดถึง 85% แต่ยังพิสูจน์ว่า Performance Gains รอบถัดไปของ AI จะมาจากการ Run โมเดลที่มีอยู่แล้วได้อย่างชาญฉลาดขึ้น ไม่ใช่แค่การสร้างโมเดลที่ใหญ่กว่าเดิม

ข้อมูลอ้างอิงจาก https://venturebeat.com/orchestration/deepseek-open-sources-dspark-a-new-framework-to-speed-up-llm-inference-by-up-to-85?utm_source=flipboard&utm_content=venturebeat/magazine/VentureBeat