Nvidiaは、3つの新しいNIMマイクロサービスをリリースし、そのうちの1つは、AIエージェントが有害またはバイアスのある出力を生成しないようにするためのコンテンツセーフティを対象としています。 別のサービスは、承認されたトピックに焦点を合わせた会話を維持し、サードのサービスは、AIエージェントがジェイルブレイクの試み、つまりソフトウェアの制限を解除することを防ぎます。
これら3つの新しいNIMマイクロサービスは、Nvidia NeMo Guardrailsの一部であり、企業がAIアプリケーションを改善するのに役立つNvidiaの既存のオープンソースソフトウェアツールとマイクロサービスのコレクションです。
「軽量で専門化されたモデルをガードレールとして適用することで、開発者は、より一般的なグローバルポリシーや保護だけではできない隙間をカバーすることができます。一般的なアプローチは、複雑なエージェンティックAIワークフローを適切に保護および制御することができないためです」とプレスリリースに記載されています。
AI企業が、企業がAIエージェントテクノロジーを採用するのは当初考えていたよりも簡単ではないことに気付き始めているようです。Salesforce CEOのMarc Benioffなどの人々は最近、次の12か月でSalesforceだけで10億以上のエージェントが稼働すると予測していましたが、現実は少し異なるでしょう。
Deloitteの最近の調査によると、約25%の企業がすでにAIエージェントを使用しているか、2025年までに使用する予定です。このレポートでは、2027年までに約半数の企業がエージェントを使用すると予測されています。これは、企業がAIエージェントに明らかな関心を持っている一方で、AIテクノロジーを同じペースで採用していないことを示しています。
Nvidiaは、このような取り組みにより、AIエージェントの採用をより安全で実験的ではないものに見せることを願っているでしょう。実際にそうなるかどうかは時が経つのを待つほかありません。
