news
ความก้าวหน้าของ Long-context LLMs และการพัฒนา KV Cache เปิดมิติใหม่ด้านเทคโนโลยี AI
ติดตามความก้าวหน้าของ Long-context LLMs ที่รองรับ context window ขนาด 128K ถึง 10M tokens พร้อมการพัฒนา KV Cache ผ่านเทคโนโลยีอย่าง PagedAttention และ RadixAttention เพื่อเพิ่มประสิทธิภาพการประมวลผล