นวัตกรรม AI ประหยัดพลังงาน 95%

นักวิจัยพัฒนาอัลกอริทึม L-Mul ที่ช่วยลดการใช้พลังงานของ AI ลงได้ถึง 95% โดยไม่กระทบความแม่นยำหรือความเร็ว นวัตกรรมนี้อาจเป็นจุดเปลี่ยนสำคัญสู่ AI ที่ยั่งยืนในอนาคต แม้จะมีความท้าทายด้านฮาร์ดแวร์

นวัตกรรม AI ประหยัดพลังงาน 95%

Key takeaway

  • นวัตกรรมอัลกอริทึม L-Mul จาก BitEnergy AI มีศักยภาพลดการใช้พลังงานของโมเดล AI ลงได้ถึง 95% โดยไม่กระทบความแม่นยำหรือความเร็วอย่างมีนัยสำคัญ
  • L-Mul แก้ปัญหาการใช้พลังงานมหาศาลในการคำนวณ floating-point numbers ด้วยการประมาณการคูณที่ซับซ้อนด้วยการบวกจำนวนเต็มที่ง่ายกว่าและใช้พลังงานน้อยกว่า
  • แม้จะมีศักยภาพสูง แต่การนำ L-Mul มาใช้อย่างเต็มรูปแบบยังติดข้อจำกัดด้านฮาร์ดแวร์ที่ต้องการอุปกรณ์เฉพาะทาง ซึ่งอาจต้องเผชิญกับการต่อต้านจากผู้ผลิตฮาร์ดแวร์ AI รายใหญ่

ในยุคที่ artificial intelligence (AI) กำลังเติบโตอย่างรวดเร็วและสร้างความก้าวหน้าในหลายอุตสาหกรรม ปัญหาการใช้พลังงานมหาศาลของเทคโนโลยีนี้กำลังเป็นประเด็นที่น่ากังวล แม้ว่าบริษัทยักษ์ใหญ่อย่าง Nvidia, Microsoft และ OpenAI จะพยายามแก้ไขปัญหานี้ แต่มีบริษัทหนึ่งที่อาจค้นพบทางออกที่น่าสนใจ

นักวิจัยจาก BitEnergy AI ได้พัฒนาอัลกอริทึมใหม่ที่เรียกว่า Linear-Complexity Multiplication หรือ L-Mul ซึ่งมีศักยภาพในการลดการใช้พลังงานของโมเดล AI ลงได้ถึง 95% โดยไม่กระทบต่อความแม่นยำหรือความเร็วอย่างมีนัยสำคัญ นวัตกรรมนี้อาจเป็นจุดเปลี่ยนสำคัญที่ทำให้ AI มีความยั่งยืนมากขึ้น

ปัญหาหลักของการใช้พลังงานในระบบ AI คือการคำนวณที่ใช้ floating-point numbers ซึ่งจำเป็นสำหรับงานซับซ้อนอย่าง natural language processing และ machine vision แต่ต้องแลกมาด้วยการใช้พลังงานมหาศาล ตัวอย่างเช่น ChatGPT เพียงระบบเดียวใช้ไฟฟ้าเทียบเท่ากับบ้านในสหรัฐฯ 18,000 หลังต่อวัน

อัลกอริทึม L-Mul แก้ปัญหานี้ด้วยการประมาณการคูณ floating-point ที่ซับซ้อนด้วยการบวกจำนวนเต็มที่ง่ายกว่า ซึ่งใช้พลังงานน้อยกว่ามาก ผลการทดสอบแสดงให้เห็นว่าสามารถลดการใช้พลังงานลงได้ถึง 95% สำหรับ tensor multiplications และ 80% สำหรับ dot products โดยที่ความแม่นยำลดลงเพียง 0.07% เท่านั้น

นอกจากนี้ L-Mul ยังสามารถทำงานร่วมกับกลไก attention ซึ่งเป็นส่วนสำคัญของระบบ transformer-based เช่น GPT ได้อย่างมีประสิทธิภาพ การทดสอบกับ AI frameworks ยอดนิยมอย่าง Llama และ Mistral แสดงให้เห็นถึงการประหยัดพลังงานที่น่าประทับใจ

อย่างไรก็ตาม การนำ L-Mul มาใช้อย่างเต็มรูปแบบยังติดข้อจำกัดด้านฮาร์ดแวร์ เนื่องจากต้องการอุปกรณ์เฉพาะทางที่ยังไม่มีในปัจจุบัน BitEnergy AI กำลังวางแผนพัฒนาฮาร์ดแวร์และ APIs ที่รองรับเทคโนโลยีนี้ แต่อาจต้องเผชิญกับการต่อต้านจากผู้ผลิตฮาร์ดแวร์ AI รายใหญ่อย่าง Nvidia

แม้จะมีความท้าทาย แต่ L-Mul เปิดโอกาสให้เห็นอนาคตที่ยั่งยืนมากขึ้นสำหรับ AI หากมีการพัฒนาฮาร์ดแวร์ที่เหมาะสมและได้รับการสนับสนุนจากอุตสาหกรรม เทคโนโลยีนี้อาจช่วยลดรอยเท้าคาร์บอนของภาคส่วน AI ได้อย่างมีนัยสำคัญ

สำหรับผู้สนใจรายละเอียดทางเทคนิค ทีมวิจัยได้เผยแพร่การศึกษาเบื้องต้นบนห้องสมุด arXiv ของมหาวิทยาลัย Rutgers ซึ่งนำเสนอการวิเคราะห์เชิงลึกเกี่ยวกับอัลกอริทึม L-Mul

แม้ว่าเส้นทางสู่ AI ที่ประหยัดพลังงานอาจไม่ราบรื่น แต่ประโยชน์ที่อาจเกิดขึ้นนั้นมีความสำคัญอย่างยิ่ง เทคโนโลยีนี้อาจเป็นกุญแจสำคัญในการทำให้ AI มีความยั่งยืนและเป็นมิตรต่อสิ่งแวดล้อมมากขึ้นในอนาคต

Why it matters

💡
ข่าวนี้น่าสนใจเพราะนำเสนอนวัตกรรมที่อาจเปลี่ยนโฉมหน้าอุตสาหกรรม AI อย่างมีนัยสำคัญ อัลกอริทึม L-Mul ของ BitEnergy AI มีศักยภาพในการลดการใช้พลังงานของ AI ลงถึง 95% โดยไม่กระทบประสิทธิภาพ ซึ่งเป็นการแก้ปัญหาสำคัญของเทคโนโลยี AI ในปัจจุบัน ผู้อ่านจะได้เข้าใจถึงความก้าวหน้าล่าสุดในวงการ AI รวมถึงผลกระทบที่อาจเกิดขึ้นต่ออุตสาหกรรมและสิ่งแวดล้อมในอนาคต

ข้อมูลอ้างอิงจาก https://www.thebrighterside.news/post/breakthrough-new-algorithm-reduces-ai-energy-consumption-by-95-percent/

Read more

โลโก้ LiteLLM กับไอคอนรถไฟบนพื้นหลังโค้ดสีเขียว พร้อมข้อความ LiteLLM บน PyPI ถูกฝังมัลแวร์ขโมยข้อมูลรับรอง

news

LiteLLM 1.107.0 บน PyPI ถูกฝังมัลแวร์ขโมยข้อมูลรับรอง รันทุกครั้งที่ Python เริ่มทำงาน

SafeDep รายงานว่า LiteLLM 1.107.0 บน PyPI ถูกฝังมัลแวร์ที่รันทุกครั้งที่ Python เริ่มทำงาน และขโมยข้อมูลรับรองได้ 16 ประเภท สาเหตุที่ SafeDep อนุมานคือ release pipeline ที่ถูกเจาะหรือข้อมูลรับรอง PyPI ที่ถูกขโมย

By
แผนภาพสถาปัตยกรรมกับโลโก้ Cisco และ Nvidia พร้อมข้อความ Cisco DefenseClaw คุมเอเจนต์เขียนโค้ดใน OpenShell sandbox

news

Cisco DefenseClaw จับคู่ Nvidia OpenShell คุมเอเจนต์เขียนโค้ดให้รันใน sandbox ตามนโยบายองค์กร

Cisco อธิบายวิธีใช้ DefenseClaw กับ Nvidia OpenShell เพื่อให้เอเจนต์เขียนโค้ดรันใน sandbox ตามนโยบายที่กำหนดจากตัวตนผู้ใช้และกลุ่ม พร้อมบันทึกตรวจสอบที่ส่งต่อไปยัง Splunk หรือ OpenTelemetry ได้

By
โลโก้ Oracle บนหน้าจอ AI Agent Studio พร้อมข้อความ Oracle เปิดตัว AI Agent Studio for Industry Applications

news

Oracle เปิดตัว AI Agent Studio for Industry Applications สร้างเอเจนต์เฉพาะอุตสาหกรรมแบบ no-code

Oracle ประกาศ AI Agent Studio for Industry Applications สภาพแวดล้อมแบบ no-code และ low-code สำหรับสร้างและบริหารเอเจนต์ในกระบวนการเฉพาะอุตสาหกรรม โดยวางแผนเปิดให้ใช้ในสหรัฐฯ ภายใน 12 เดือนข้างหน้า

By
หุ่นยนต์ AI ถือรถเข็นข้างโลโก้ Walmart และมือถือ พร้อมข้อความ Walmart เปิด Agent Gateway ให้เอเจนต์ AI ซื้อของแทนลูกค้า

news

Walmart เปิด Agent Gateway ให้เอเจนต์ AI ที่ได้รับอนุมัติค้นสินค้าและซื้อของแทนลูกค้า

Walmart เปิดตัว Agent Gateway ให้เอเจนต์ AI ที่ได้รับอนุมัติค้นสินค้าและซื้อของแทนลูกค้าที่ Walmart และ Sam’s Club โดยลูกค้ากำหนดการอนุมัติได้ ส่วน Agent Profiles จะเปิดใช้เดือนหน้า

By