สรุปข่าว AI 9 ส.ค. 69: เปิดตัว Pokee-Isaac 28B โมเดล 10M-Token รันบนระบบปิดองค์กร

ควรรู้วันนี้

Pokee AI Releases Pokee-Isaac 28B: A 10M-Token Context Agentic Model Built to Run Inside the Customer Boundary — MarkTechPost

เกิดอะไรขึ้น: Pokee AI ได้เปิดตัวโมเดลภาษาขนาด 28B ในชื่อ Pokee-Isaac 28B ซึ่งมีจุดเด่นด้าน Context Window ที่กว้างถึง 10 ล้านท็อกเค็น และถูกออกแบบมาให้สามารถทำงานภายในขอบเขตความปลอดภัยของลูกค้าโดยเฉพาะ เช่น บนระบบ VPC หรือ On-premises โดยทำคะแนนทดสอบ RULER ได้สูงถึง 93.3% ที่ระดับ 10M tokens และมีความเร็วในการประมวลผล Prefill สูงถึง 137,200 tokens/s เมื่อใช้งานบนชิป B200

ทำไมสำคัญ: การเปิดตัวโมเดลที่มี Context Window สูงระดับ 10 ล้านท็อกเค็นควบคู่กับความสามารถในการรันภายในระบบปิดขององค์กร ช่วยแก้ปัญหาสำคัญด้านความปลอดภัยของข้อมูลและความเป็นส่วนตัว ทำให้ธุรกิจสามารถประมวลผลเอกสารหรือข้อมูลมหาศาลได้โดยไม่ต้องกังวลว่าข้อมูลสำคัญจะรั่วไหลออกไปภายนอก

ผลต่อธุรกิจหรือการทำงาน: องค์กรขนาดใหญ่และธุรกิจที่มีกฎระเบียบด้านข้อมูลเข้มงวด เช่น การเงิน การแพทย์ หรือหน่วยงานรัฐ สามารถนำโมเดลนี้ไปติดตั้งในระบบปิดของตนเองเพื่อวิเคราะห์ฐานข้อมูลขนาดใหญ่หรือเอกสารจำนวนมากได้อย่างปลอดภัย ช่วยลดความเสี่ยงด้านการละเมิดข้อมูลและเพิ่มประสิทธิภาพในการทำงานกับข้อมูลภายใน

โอกาสใช้ AI หรือผลต่อการตลาด/ครีเอทีฟ: นักพัฒนาและผู้สร้างระบบอัตโนมัติในองค์กรสามารถใช้ประโยชน์จาก Context Window ขนาด 10 ล้านท็อกเค็นในการป้อนคู่มือการทำงาน เอกสารทางกฎหมาย หรือโค้ดโปรแกรมทั้งหมดของบริษัทเข้าไปในระบบ เพื่อสร้างผู้ช่วยอัจฉริยะที่เข้าใจบริบทขององค์กรได้อย่างครบถ้วนและแม่นยำสูง

อ่านข่าวต้นฉบับ →

ข่าวไทยและเอเชีย

วันนี้ไม่มีข่าว AI/ธุรกิจจากภูมิภาคที่ผ่านเกณฑ์

สิ่งที่ควรจับตาต่อ

• น่าจับตาการแข่งขันของโมเดลภาษาขนาดใหญ่ที่เน้นจุดเด่นด้าน Context Window ระดับหลายล้านท็อกเค็น ว่าจะเข้ามาแทนที่ระบบ RAG แบบเดิมในบางธุรกิจได้หรือไม่
• คาดว่าผู้ให้บริการคลาวด์และฮาร์ดแวร์จะเร่งพัฒนาโซลูชันเพื่อรองรับการรันโมเดลขนาดใหญ่ภายในระบบปิด (On-premises) ของลูกค้ามากขึ้น
• ควรติดตามการทดสอบประสิทธิภาพของชิป B200 ในการประมวลผลโมเดลระดับองค์กรว่าจะช่วยลดต้นทุนและเพิ่มความเร็วได้มากน้อยเพียงใด