NVIDIA กำลังก้าวลึกเข้าสู่โมเดล AI แบบเอเจนต์ด้วยการเปิดตัว Nemotron 3.5 Lightning โมเดลโอเพ่นรุ่นใหม่ที่สร้างขึ้นมาโดยเฉพาะสำหรับงานแบบเปิดตลอดเวลา ปริมาณคำขอสูง ที่ตอนนี้ เอเจนต์ AI แบบอัตโนมัติ รับมือได้ตลอด 24 ชั่วโมง ควบคู่กันนั้น บริษัทได้เปิดตัว NeMo Switchyard เครื่องมือโอเพ่นซอร์สสำหรับจัดเส้นทางคำขอ ที่ออกแบบมาเพื่อส่งคำขอ AI แต่ละรายการไปยังโมเดลที่สามารถจัดการได้เร็วและถูกที่สุด ทั้งสองการเปิดตัวนี้สะท้อนความพยายามล่าสุดของ NVIDIA ที่จะทำให้ระบบ AI แบบเอเจนต์ไม่เพียงฉลาดขึ้น แต่ยังมีประสิทธิภาพจริงในการรันในระดับสเกลใหญ่
Summary
ประเด็นสำคัญ
- NVIDIA เปิดตัว Nemotron 3.5 Lightning โมเดลโอเพ่นแบบ mixture-of-experts ขนาด 30 พารามิเตอร์พันล้านตัว ที่สร้างขึ้นเพื่อรองรับงาน AI แบบเอเจนต์ปริมาณสูง
- โมเดลนี้ให้ ความเร็วการสร้างผลลัพธ์สูงขึ้นถึง 4 เท่า และ ความเร็วการทำงานเสร็จสิ้นเร็วขึ้น 30% เมื่อเทียบกับโมเดลในคลาสเดียวกัน
- NVIDIA ยังเปิดตัว NeMo Switchyard ไลบรารีโอเพ่นซอร์สสำหรับจัดเส้นทาง ที่สามารถลดต้นทุนการทำงานให้เสร็จสิ้นลงได้เกือบ เหลือหนึ่งในสาม เมื่อเทียบกับการใช้โมเดลระดับแนวหน้าตัวเดียว
- Nemotron 3.5 Lightning สามารถรันแบบโลคัลบน พีซี NVIDIA RTX, DGX Spark, DGX Station และ Jetson หรือสเกลขึ้นไปยังดาต้าเซ็นเตอร์และคลาวด์ได้
- ทั้งสองผลิตภัณฑ์เป็นแบบเปิด ปรับแต่งได้ และได้รับการสนับสนุนแล้วจากพาร์ทเนอร์ในอีโคซิสเท็ม เช่น CrowdStrike, Harvey, CodeRabbit และ Lila Sciences
NVIDIA เปิดตัว Nemotron 3.5 Lightning สำหรับงาน AI แบบเอเจนต์
Nemotron 3.5 Lightning เป็นสมาชิกใหม่ล่าสุดในตระกูล Nemotron 3 ของ NVIDIA และบริษัทอธิบายว่าเป็นโมเดลที่มีประสิทธิภาพสูงที่สุดในคลาสของมันสำหรับงานเอเจนต์ที่รันต่อเนื่องยาวนาน โมเดลนี้เปิดตัวตามหลัง Nemotron 3 Nano และสานต่อรูปแบบที่ NVIDIA ใช้กับทุกการเปิดตัว Nemotron: ให้ความสำคัญกับน้ำหนักโมเดลแบบเปิด การปรับแต่ง และความเร็วดิบ มากกว่าขนาดที่ใหญ่เพียงอย่างเดียว
โมเดล 30 พันล้านพารามิเตอร์ที่สร้างมาเพื่อความเร็ว
Nemotron 3.5 Lightning เป็นโมเดล mixture-of-experts ขนาด 30 พันล้านพารามิเตอร์ หมายความว่าจะเปิดใช้งานเฉพาะส่วนของเครือข่ายที่จำเป็นสำหรับงานนั้น ๆ แทนที่จะรันทั้งโมเดลทุกครั้ง การออกแบบเช่นนี้สะท้อนโดยตรงในด้านประสิทธิภาพ: NVIDIA ระบุว่าโมเดลนี้ให้ ความเร็วการสร้างผลลัพธ์สูงขึ้นถึง 4 เท่า ซึ่งแปลงเป็น ความเร็วการทำงานของเอเจนต์เสร็จสิ้นเร็วขึ้น 30% เมื่อเทียบกับโมเดลอื่นในคลาสขนาดเดียวกัน ตามผลการทดสอบภายใน PinchBench ที่ NVIDIA อ้างถึง การเพิ่มความเร็วนี้เกิดขึ้นโดยไม่สูญเสียความแม่นยำเมื่อเทียบกับโมเดลคู่เทียบ
โมเดลนี้ถูกสร้างขึ้นเพื่อทำหน้าที่เฉพาะภายในระบบหลายเอเจนต์ขนาดใหญ่ แทนที่จะพยายามวางแผนเวิร์กโฟลว์ทั้งหมดด้วยตัวเอง Nemotron 3.5 Lightning ถูกออกแบบมาเพื่อจัดการงานที่แคบ ซ้ำ ๆ และมีปริมาณสูง — งานประเภทที่สะสมเร็วมากเมื่อเอเจนต์ AI รันอย่างต่อเนื่องแทนที่จะตอบสนองต่อพรอมต์เป็นครั้งคราว
การปรับแต่งและการโพสต์เทรนเพื่อความแม่นยำเฉพาะโดเมน
เนื่องจาก Nemotron 3.5 Lightning เป็นแบบเปิด องค์กรจึงสามารถโพสต์เทรนโมเดลนี้ด้วย NVIDIA NeMo บนข้อมูลโดเมนของตนเอง เครื่องมือภายใน และเวิร์กโฟลว์ขององค์กร การปรับแต่งโมเดล AI แบบเปิดนี้เป็นหัวใจของการวางตำแหน่งผลิตภัณฑ์ของ NVIDIA: แทนที่จะเป็นโมเดลแบบหนึ่งเดียวใช้ได้ทุกงาน องค์กรจะได้ฐานโมเดลที่สามารถปรับให้เหมาะกับงานเฉพาะ ไม่ว่าจะเป็นการวิเคราะห์สัญญากฎหมายหรือการแจ้งเตือนด้านความปลอดภัย
มีหลายบริษัทที่ได้ทำเช่นนั้นแล้ว CrowdStrike กำลังปรับแต่งโมเดลสำหรับงานด้านความปลอดภัยไซเบอร์ Harvey กำลังทำงานร่วมกับ Trajectory ในแอปพลิเคชันด้านบริการกฎหมาย และ CodeRabbit จับคู่โมเดลนี้กับ Baseten สำหรับการรีวิวโค้ดอัตโนมัติ Lila Sciences ใช้โมเดลนี้เพื่อปรับปรุงการให้เหตุผลในงานด้านวิทยาศาสตร์กายภาพและชีววิทยา ขณะที่ Fastino Labs รายงานว่ามีความแม่นยำระดับแนวหน้าหลังจากจูนโมเดลสำหรับงานด้านพัฒนาซอฟต์แวร์ การเงิน และเฮลท์แคร์ NVIDIA ระบุว่าโมเดลนี้ถูกพัฒนาขึ้นโดยได้รับข้อมูลป้อนกลับจาก Nemotron Coalition ซึ่งสมาชิกได้มีส่วนร่วมในด้านวิธีการประเมิน ซอฟต์แวร์อินเฟอเรนซ์ และชุดข้อมูลที่ช่วยกำหนดรูปแบบเวอร์ชันสุดท้าย
NeMo Switchyard นำการจัดเส้นทางอัจฉริยะมาสู่เอเจนต์ AI
NeMo Switchyard แก้ปัญหาที่จะยิ่งแย่ลงเมื่อระบบเอเจนต์ขยายสเกล: การพึ่งพาโมเดลดีฟอลต์ตัวเดียวอาจทำให้สิ้นเปลืองเงินกับงานที่ไม่ต้องการการให้เหตุผลหนัก ๆ หรือทำให้คุณภาพลดลงเมื่อโมเดลขนาดเล็กถูกขอให้ทำงานเกินขีดจำกัด คำตอบของ NVIDIA คือไลบรารีโอเพ่นซอร์สที่ตัดสินใจโดยอัตโนมัติแบบคำขอต่อคำขอว่าโมเดลใดควรจัดการงานนั้น
ลดต้นทุนด้วยการเลือกโมเดลแบบไดนามิก
NeMo Switchyard จะจัดเส้นทางแต่ละขั้นตอนของเวิร์กโฟลว์เอเจนต์ไปยังโมเดลที่มีความสามารถและคุ้มค่าที่สุดสำหรับงานนั้น ๆ โดยไม่ต้องให้ดีเวลลอปเปอร์เขียนแอปพลิเคชันใหม่ ดีเวลลอปเปอร์สามารถปรับจูนหรือเปลี่ยนอัลกอริทึมการจัดเส้นทางได้ตามสิ่งที่สำคัญที่สุดสำหรับพวกเขา — ไม่ว่าจะเป็น latency คุณภาพ หรือค่าใช้จ่าย ผลการทดสอบภายในของ NVIDIA แสดงให้เห็นว่าแนวทางการจัดเส้นทางของ NeMo Switchyard นี้ยังคงความแม่นยำใกล้เคียงโมเดลระดับแนวหน้า ขณะเดียวกันก็ลดต้นทุนการทำงานให้เสร็จสิ้นลงเหลือเกือบหนึ่งในสามของการรันทุกอย่างผ่าน Opus 4.8 เพียงตัวเดียว
ช่องว่างนี้มีความสำคัญ ในระบบที่เอเจนต์รันอย่างต่อเนื่อง ความแตกต่างระหว่างการจัดเส้นทางอย่างชาญฉลาดกับการใช้โมเดลตัวเดียวโดยดีฟอลต์จะทบต้นอย่างรวดเร็วในงานนับพันรายการต่อวัน — ทำให้สิ่งที่ดูเหมือนเป็นการเพิ่มประสิทธิภาพเล็กน้อยกลายเป็นการลดต้นทุนการดำเนินงานอย่างมีนัยสำคัญในระยะยาว
การผสานรวมทั่วทั้งอีโคซิสเท็ม AI
NVIDIA กำลังทำงานร่วมกับพาร์ทเนอร์หลากหลายรายเพื่อนำการจัดเส้นทางลักษณะนี้เข้าไปในเครื่องมือที่ดีเวลลอปเปอร์ใช้ทุกวัน ผลลัพธ์เบื้องต้นจากการทำงานในอีโคซิสเท็มนี้แสดงให้เห็นว่าการจัดเส้นทางสามารถเปลี่ยนแปลงต้นทุนและประสิทธิภาพได้มากเพียงใด:
- Boomi ทำได้ถึง 100% ความแม่นยำในการจัดเส้นทางตามโดเมน ขณะเดียวกันส่งทราฟฟิก 59% ไปยังโมเดลที่ฟายน์จูนแล้วซึ่งเร็วขึ้น 5 เท่า ลด latency ในรอบถัดไปลง 21%
- Cognition ผสานรวมตัวจัดเส้นทางแบบเป็นสเตจเข้าใน Devin Desktop ลดค่าใช้จ่ายเฉลี่ยลง 28% เมื่อเทียบกับการจัดเส้นทางทุกอย่างไปยังโมเดลระดับแนวหน้าตัวเดียว
- LangChain ลดต้นทุนลง 74% ในงาน Deep Agents แบบหลายรอบ 145 งาน โดยส่งเพียง 7% ของคอลไปยังโมเดลระดับแนวหน้า ด้วยการแลกความแม่นยำ 6%
- Ramp ทำผลงานได้เทียบเท่าโมเดลระดับแนวหน้า ขณะเดียวกันลดต้นทุนลง 58% และลดเวลา runtime ลง 33% ในการทดสอบ SWE-Bench
- Classmethod รายงานว่าลดต้นทุนลง 27% ขณะยังคงคุณภาพไว้ได้ในเวิร์กโหลด opencode และ Fireworks
Kong, LiteLLM, Nous Research, Cadence และ Siemens ก็กำลังผสานรวมหรือทดสอบ NeMo Switchyard ภายในแพลตฟอร์มของตนเอง ตั้งแต่เกตเวย์ AI ไปจนถึงการตรวจสอบชิปแบบฟอร์มัลและเอเจนต์ด้านวิศวกรรม
ความยืดหยุ่นในการดีพลอยบนฮาร์ดแวร์ของ NVIDIA
หนึ่งในจุดขายสำคัญของการเปิดตัวครั้งนี้คือ Nemotron 3.5 Lightning สามารถรันได้ที่ไหนบ้าง โมเดลรองรับการดีพลอยทั้งแบบโลคัลและบนคลาวด์บน พีซี NVIDIA RTX, DGX Spark, DGX Station และ อุปกรณ์ Jetson ทำให้องค์กรสามารถใช้ฮาร์ดแวร์ที่มีอยู่แล้วแทนที่จะต้องย้ายทุกอย่างขึ้นคลาวด์ จากนั้นสามารถสเกลขึ้นไปยังเวิร์กสเตชัน RTX PRO อุปกรณ์เอดจ์ ดาต้าเซ็นเตอร์ และ สภาพแวดล้อมคลาวด์เต็มรูปแบบ สำหรับการดีพลอยระดับองค์กรขนาดใหญ่
ความยืดหยุ่นนี้ทำให้องค์กรควบคุมความเป็นส่วนตัวและ latency ได้จริง การรันโมเดลแบบโลคัลหรือออนพรีมิสเหมาะกับงานปริมาณสูงที่มีความเฉพาะทาง ต้องการการตอบสนองรวดเร็วและการควบคุมข้อมูลที่เข้มงวดขึ้น ขณะที่การดีพลอยบนคลาวด์ยังคงเหมาะสำหรับเวิร์กโหลดที่ต้องการสเกลตามความต้องการ
ข้อมูลแบบเปิดและความพร้อมใช้งานของแพลตฟอร์ม
เช่นเดียวกับทุกการเปิดตัว Nemotron NVIDIA ระบุว่าจะเผยแพร่ข้อมูลการเทรนและเทคนิคต่าง ๆ ให้มากที่สุดเท่าที่เงื่อนไขลิขสิทธิ์จะอนุญาต เพื่อให้นักวิจัยภายนอกสามารถติดตาม ตรวจสอบ และแม้แต่เทรนโมเดลอื่นบนข้อมูลชุดเดียวกันได้ ควบคู่กับ Lightning NVIDIA กำลังปล่อย Nemotron-RL-Agentic-Terminal-Pivot ชุดข้อมูลรีอินฟอร์สเมนต์เลิร์นนิงแบบเอเจนต์ที่ใช้โพสต์เทรนโมเดลสำหรับงานเอเจนต์ด้านโค้ดดิ้ง
Nemotron 3.5 Lightning พร้อมใช้งานแล้วบน Hugging Face, ModelScope และ OpenRouter รวมถึงบน build.nvidia.com ในรูปแบบ ไมโครเซอร์วิส NVIDIA NIM โดยจะมีการเปิดให้เข้าถึงกว้างขึ้นผ่าน NVIDIA Cloud Partners แพลตฟอร์มโพสต์เทรน และผู้ให้บริการคลาวด์เพิ่มเติม NeMo Switchyard เปิดให้ใช้งานแล้วบน GitHub วันนี้ โดยคาดว่าจะมีการรองรับแพลตฟอร์มพาร์ทเนอร์เพิ่มเติมในเร็ว ๆ นี้
คำถามที่พบบ่อย
Nemotron 3.5 Lightning คืออะไร และแตกต่างอย่างไร?
Nemotron 3.5 Lightning เป็นโมเดล AI แบบเปิดขนาด 30 พันล้านพารามิเตอร์ที่ถูกปรับให้เหมาะกับงาน AI แบบเอเจนต์ปริมาณสูง ให้ความเร็วการสร้างผลลัพธ์สูงขึ้นถึง 4 เท่า และความเร็วการทำงานเสร็จสิ้นเร็วขึ้น 30% เมื่อเทียบกับโมเดลที่ใกล้เคียงกัน
NeMo Switchyard ช่วยเพิ่มประสิทธิภาพ AI ได้อย่างไร?
NeMo Switchyard เป็นไลบรารีโอเพ่นซอร์สสำหรับจัดเส้นทางที่คอยส่งคำขอ AI ไปยังโมเดลที่เหมาะสมที่สุดแบบไดนามิก ลดต้นทุนการทำงานให้เสร็จสิ้นลงเหลือประมาณหนึ่งในสามเมื่อเทียบกับการพึ่งพาโมเดลตัวเดียว
Nemotron 3.5 Lightning สามารถปรับแต่งให้ตรงกับความต้องการเฉพาะขององค์กรได้หรือไม่?
ได้ Nemotron 3.5 Lightning สามารถโพสต์เทรนบนข้อมูลขององค์กรเองด้วย NVIDIA NeMo เพื่อเพิ่มความแม่นยำสำหรับงานเฉพาะทางในโดเมนต่าง ๆ
Nemotron 3.5 Lightning พร้อมดีพลอยบนแพลตฟอร์มใดบ้าง?
Nemotron 3.5 Lightning รองรับการดีพลอยทั้งแบบโลคัลและบนคลาวด์บนพีซี NVIDIA RTX ระบบ DGX อุปกรณ์ Jetson และอุปกรณ์เอดจ์ และพร้อมใช้งานบนแพลตฟอร์มต่าง ๆ เช่น Hugging Face, ModelScope, OpenRouter และ NVIDIA Cloud Partners
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Nemotron 3.5 Lightning คืออะไร และแตกต่างอย่างไร?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Nemotron 3.5 Lightning เป็นโมเดล AI แบบเปิดขนาด 30 พันล้านพารามิเตอร์ที่ถูกปรับให้เหมาะกับงาน AI แบบเอเจนต์ปริมาณสูง ให้ความเร็วการสร้างผลลัพธ์สูงขึ้นถึง 4 เท่า และความเร็วการทำงานเสร็จสิ้นเร็วขึ้น 30% เมื่อเทียบกับโมเดลที่ใกล้เคียงกัน.”}},{“@type”:”Question”,”name”:”NeMo Switchyard ช่วยเพิ่มประสิทธิภาพ AI ได้อย่างไร?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”NeMo Switchyard เป็นไลบรารีโอเพ่นซอร์สสำหรับจัดเส้นทางที่คอยส่งคำขอ AI ไปยังโมเดลที่เหมาะสมที่สุดแบบไดนามิก ลดต้นทุนการทำงานให้เสร็จสิ้นลงเหลือประมาณหนึ่งในสามเมื่อเทียบกับการพึ่งพาโมเดลตัวเดียว.”}},{“@type”:”Question”,”name”:”Nemotron 3.5 Lightning สามารถปรับแต่งให้ตรงกับความต้องการเฉพาะขององค์กรได้หรือไม่?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”ได้ Nemotron 3.5 Lightning สามารถโพสต์เทรนบนข้อมูลขององค์กรเองด้วย NVIDIA NeMo เพื่อเพิ่มความแม่นยำสำหรับงานเฉพาะทางในโดเมนต่าง ๆ.”}},{“@type”:”Question”,”name”:”Nemotron 3.5 Lightning พร้อมดีพลอยบนแพลตฟอร์มใดบ้าง?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Nemotron 3.5 Lightning รองรับการดีพลอยทั้งแบบโลคัลและบนคลาวด์บนพีซี NVIDIA RTX ระบบ DGX อุปกรณ์ Jetson และอุปกรณ์เอดจ์ และพร้อมใช้งานบนแพลตฟอร์มต่าง ๆ เช่น Hugging Face, ModelScope, OpenRouter และ NVIDIA Cloud Partners.”}}]}
บทความนี้จัดทำขึ้นด้วยความช่วยเหลือจากปัญญาประดิษฐ์และผ่านการตรวจทานโดยทีมบรรณาธิการแล้ว
