作家：赵雨荷开云体育

来源：硬AI

英伟达周四推出用于加快生成式AI模子的部署的容器化微就业Nvidia Inference Microservices（NIM），但愿匡助企业提高手工智能代理的信任、安全和可靠性。

英伟达在一篇博客中暗意，东谈主工智能代理是一项正在赶快发展的技能，正冉冉编削东谈主们与商量机互动的时势，但也伴跟着诸多环节问题。智能化 AI（Agentic AI）有望校正学问责任者的任务本质时势，以及客户与品牌“对话”的时势，但其背后的大型话语模子仍可能出现不良反应，以致在坏心用户试图打破防护时激勉安全问题。

英伟达暗意，周四发布的实质是基于其为成立者提供的保护框架NeMo Guardrails的扩张，旨在提高生成式东谈主工智能应用的安全性、精准性和可扩张性。NeMo Guardrails是英伟达NeMo平台的一部分，用于处治、定制和保护东谈主工智能，匡助成立者在大型话语模子（LLM）应用中集成并处治AI防护要领。咫尺Amdocs、Cerence AI和Lowe’s正在使用NeMo Guardrails来保护 AI 应用。

英伟达发布的NIM共有三种，隔离涵盖主题限度、实质安全和逃狱保护。该公司暗意，这些微就业是历程高度优化的袖珍轻量级AI模子，可通过调控大型模子的反映擢升应用性能。

英伟达企业AI模子、软件与就业副总裁Kari Briski暗意。

“其中一项用于调控实质安全的新微就业，是基于Aegis实质安全数据集试验的。这是同类数据辘集质地最高、由东谈主工标注的数据源之一。” 

Aegis实质安全数据集由英伟达推出，包括来源35,000个由东谈主工标注的样本，用于检测AI安全问题和试图绕过系统范畴的逃狱动作。该数据集将在本年晚些时候于Hugging Face上公成立布。

举例，用于主题限度的NIM可驻防AI代理“过于健谈”或偏离其原来的任务认识，确保其保握在既定主题内。英伟达暗意，与AI聊天机器东谈主进行的对话时刻越长，它越容易健忘对话的初志，从而让话题偏离轨谈，肖似于东谈主类对话可能的座谈。天然东谈主类不错经受这种情况，但关于聊天机器东谈主，尤其是品牌AI代理，偏离主题可能导致评述到名东谈主或竞争居品，这对品牌不利。

Briski暗意，

“像NeMo Guardrails系列中的袖珍话语模子，具有较低的延长，专为资源受限或漫衍式环境中的高效运行而策划，这使它们非常顺应在医疗、汽车、制造等行业的病院或仓库等场景中扩张AI应用。”

此外，NIM允许成立者以最小的附加延长重迭多个防护要领。英伟达暗意，这对大精深生成式AI应用至关伏击，因为用户不心爱万古刻恭候，举例看到三点精通或转圈加载动画后才出现文本或语音。

英伟达暗意，NIM微就业以及用于轨谈编排的NeMo Guardrails和NVIDIA Garak用具包，咫尺照旧面向成立者和企业通达使用。成立者不错通过干系教程启动将AI防护要领集成到客户就业的AI代理中，诓骗NeMo Guardrails构建安全的AI应用。

风险教导及免责条件 商场有风险，投资需严慎。本文不组成个东谈主投资提议，也未计议到个别用户稀奇的投资认识、财务现象或需要。用户应试虑本文中的任何意见、不雅点或论断是否顺应其特定现象。据此投资，职守得志。