OpenAI อัพเกรด Feature ระดับองค์กรสำหรับลูกค้า API เพิ่มการควบคุมด้านความปลอดภัยและช่วยบริหารจัดการต้นทุนได้ดียิ่งขึ้น

OpenAI ได้เพิ่มการสนับสนุนระดับองค์กรด้วยฟีเจอร์และการควบคุมด้านความปลอดภัยที่มากขึ้น การอัพเดต Assistants API และเครื่องมือเพื่อช่วยบริหารจัดการต้นทุนได้ดียิ่งขึ้น

OpenAI  อัพเกรด Feature ระดับองค์กรสำหรับลูกค้า API เพิ่มการควบคุมด้านความปลอดภัยและช่วยบริหารจัดการต้นทุนได้ดียิ่งขึ้น

OpenAI ได้ทำงานร่วมกับบริษัทระดับ Enterprise มากมาย เช่น Klarna, Morgan Stanley, Oscar, Salesforce และ Wix เพื่อช่วยให้พวกเขาสร้างโซลูชัน AI จากศูนย์ และสามารถ deploy AI ได้อย่างปลอดภัยทั่วทั้งองค์กรและผลิตภัณฑ์

ความปลอดภัยระดับองค์กรที่เพิ่มขึ้น

Private Link เป็นวิธีใหม่ที่ลูกค้าสามารถรับประกันการสื่อสารโดยตรงระหว่าง Azure และ OpenAI ในขณะที่ลดการเปิดเผยต่ออินเทอร์เน็ตแบบเปิด และ Multi-Factor Authentication (MFA) แบบ native เพื่อช่วยให้มั่นใจว่าสอดคล้องกับข้อกำหนดการควบคุมการเข้าถึงที่เพิ่มขึ้น สิ่งเหล่านี้เป็นส่วนเสริมใหม่ของ stack คุณสมบัติความปลอดภัยระดับองค์กรที่มีอยู่ของ Open AI ซึ่งรวมถึงการรับรอง SOC 2 Type II, single sign-on (SSO), การเข้ารหัสข้อมูลโดยใช้ AES-256 และ TLS 1.2 รวมถึงการควบคุมการเข้าถึงตามบทบาท (role-based access controls) อีกทั้งยังมีข้อตกลงพันธมิตรทางธุรกิจ (Business Associate Agreements) สำหรับบริษัทด้านการดูแลสุขภาพที่ต้องการให้สอดคล้องกับ HIPAA และนโยบายการเก็บข้อมูลเป็นศูนย์สำหรับลูกค้า API ที่มีกรณีการใช้งานที่มีคุณสมบัติเหมาะสม

การควบคุมการบริหารที่ดีขึ้น

ด้วยคุณลักษณะ Projects ใหม่ขององค์กร จะมีการควบคุมและกำกับดูแลโครงการต่างๆ ใน OpenAI ได้ละเอียดยิ่งขึ้น ซึ่งรวมถึงความสามารถในการกำหนดขอบเขตบทบาทและ API keys ให้กับโครงการเฉพาะ สามารถจำกัด/อนุญาตโมเดลใดที่จะทำให้พร้อมใช้งาน และกำหนดขีดจำกัดตามการใช้งานและอัตราเพื่อให้สิทธิ์การเข้าถึงและหลีกเลี่ยงการเกินกำหนดที่ไม่คาดคิด เจ้าของโครงการจะมีความสามารถในการสร้าง service account API keys ซึ่งให้สิทธิ์การเข้าถึงโครงการโดยไม่ต้องผูกกับผู้ใช้รายบุคคล

การปรับปรุง Assistants API

Open AI ได้ปรับปรุง Assistants API หลายอย่างเพื่อให้สามารถค้นหาข้อมูลได้แม่นยำยิ่งขึ้น มีความยืดหยุ่นในการกำหนดพฤติกรรมของ model และเครื่องมือที่ใช้ในการทำงาน รวมถึงควบคุมค่าใช้จ่ายได้ดียิ่งขึ้น โดยมีฟีเจอร์ที่น่าสนใจดังนี้

  • ปรับปรุงการค้นหาด้วย 'file_search' ซึ่งสามารถรองรับไฟล์ได้สูงสุดถึง 10,000 ไฟล์ต่อ assistant เพิ่มขึ้น 500 เท่าจากเดิมที่จำกัดไว้ที่ 20 ไฟล์ นอกจากนี้ยังเร็วขึ้น รองรับการค้นหาแบบ parallel ผ่าน multi-threaded searches และมีการปรับปรุง reranking และ query rewriting ให้ดีขึ้น
  • รองรับ streaming สำหรับการตอบกลับแบบ real-time และ conversational ซึ่งเป็นหนึ่งในคำขอยอดนิยมจากนักพัฒนาและองค์กร
  • ควบคุมจำนวน tokens สูงสุดที่ใช้ต่อการรัน รวมถึงจำกัดจำนวน messages ก่อนหน้าและล่าสุดที่ใช้ในแต่ละรัน เพื่อให้คุณสามารถบริหารจัดการค่าใช้จ่าย token ได้
  • เพิ่มพารามิเตอร์ 'tool_choice' เพื่อเลือกเครื่องมือเฉพาะ (เช่น 'file_search', 'code_interpreter' หรือ 'function') ในการรันแต่ละครั้ง
  • รองรับ fine-tuned GPT-3.5 Turbo models ใน API (เริ่มต้นเราจะรองรับ fine-tunes ของ 'gpt-3.5-turbo-0125')

มีตัวเลือกเพิ่มเติมสำหรับการบริหารค่าใช้จ่าย

เพื่อช่วยให้องค์กรต่างๆ สามารถขยาย AI usage ของพวกเขาได้โดยไม่ต้องใช้งบประมาณเกินขอบเขต Open AI ได้เพิ่มวิธีใหม่อีก 2 วิธีเพื่อลดค่าใช้จ่ายในการทำงานแบบต่อเนื่องและ Asynchronous

1.ส่วนลดการใช้งานบน Committed Throughput: ลูกค้าที่มีระดับการใช้งาน tokens per minute (TPM) อย่างต่อเนื่องบน GPT-4 หรือ GPT-4 Turbo สามารถขอเข้าถึง provisioned throughput เพื่อรับส่วนลดตั้งแต่ 10-50% ตามขนาดของ commitment

2.ลดค่าใช้จ่ายใน Asynchronous Workloads: ลูกค้าสามารถใช้ Batch API ใหม่ของเรา(opens in a new window) เพื่อรันปริมาณงานที่ไม่เร่งด่วนแบบ Asynchronous โดยคิดราคา Batch API ลดลง 50% จากราคาที่ใช้ร่วมกัน และส่งผลลัพธ์ภายใน 24 ชั่วโมง ซึ่งเหมาะอย่างยิ่งสำหรับ กรณีการใช้งาน เช่น การประเมินแบบจำลอง การจำแนกแบบออฟไลน์ การสรุป และการสร้างข้อมูลสังเคราะห์ เป็นต้น

สรุปแล้ว Open AI มีแผนที่จะเพิ่ม Features ใหม่ๆ ที่มุ่งเน้นไปที่ความปลอดภัยระดับองค์กร การควบคุมการดูแลระบบ และการจัดการต้นทุนอย่างต่อเนื่อง

ข้อมูลอ้างอิงจาก

Introducing more enterprise-grade features for API customers

Read more

Google ปรับนโยบาย AI ครั้งใหญ่ ยกเลิกข้อจำกัดการพัฒนาเทคโนโลยี

news

Google ปรับนโยบาย AI ครั้งใหญ่ ยกเลิกข้อจำกัดการพัฒนาเทคโนโลยี

กูเกิลปรับเปลี่ยนนโยบาย AI ครั้งสำคัญ ยกเลิกข้อจำกัดการพัฒนาเทคโนโลยีที่อาจก่อให้เกิดอันตราย เน้นการกำกับดูแลโดยมนุษย์ สร้างความกังวลในหมู่พนักงานถึงประเด็นจริยธรรม AI

By
หน่วยงานลิขสิทธิ์สหรัฐฯ ออกรายงานชี้ชัด ผลงาน AI ต้องมีส่วนร่วมจากมนุษย์จึงจะได้ลิขสิทธิ์

news

หน่วยงานลิขสิทธิ์สหรัฐฯ ออกรายงานชี้ชัด ผลงาน AI ต้องมีส่วนร่วมจากมนุษย์จึงจะได้ลิขสิทธิ์

หน่วยงานลิขสิทธิ์สหรัฐฯ ออกรายงานยืนยันว่าผลงานที่สร้างจาก AI จะได้รับความคุ้มครองลิขสิทธิ์ต่อเมื่อมีการมีส่วนร่วมจากมนุษย์เท่านั้น โดยระดับการมีส่วนร่วมเป็นปัจจัยสำคัญในการพิจารณา

By
Microsoft เพิ่มฟีเจอร์ "Think Deeper" ให้ผู้ใช้ Copilot ทั่วไป

news

Microsoft เพิ่มฟีเจอร์ "Think Deeper" ให้ผู้ใช้ Copilot ทั่วไป

Microsoft ประกาศเปิดให้ผู้ใช้ทั่วไปใช้ฟีเจอร์ Think Deeper ฟรีใน Copilot โดยใช้ OpenAI's O1 reasoning model ที่ออกแบบมาให้ "คิดก่อนพูด" เหมาะสำหรับงาน STEM และการวิเคราะห์ขั้นสูง

By
Meta ประกาศวิสัยทัศน์ AI ปี 2025 มุ่งพัฒนา Engineering Agent เทียบชั้นโปรแกรมเมอร์

news

Meta ประกาศวิสัยทัศน์ AI ปี 2025 มุ่งพัฒนา Engineering Agent เทียบชั้นโปรแกรมเมอร์

Mark Zuckerberg เผยวิสัยทัศน์ Meta ปี 2025 มุ่งพัฒนา AI Engineering Agent ให้เทียบเท่าโปรแกรมเมอร์ระดับกลาง พร้อมเปิดตัว Llama 4.0 ตั้งเป้าเป็นผู้นำด้าน open-source AI ระดับโลก

By