Cisco AI Defense：AI モデルと AI アプリケーションの検証

開発者は、Hugging Edge や GitHub などのパブリックリポジトリからモデルやデータをダウンロードしますが、これは意図せずに組織を大きなリスクにさらします。AI 検証は、オープンソースのモデル、データ、ファイルを自動的にスキャンし、環境内で任意のコード実行を可能にする悪意のあるモデルファイルをはじめとする、サプライチェーンの脅威をブロックします。新しいモデルをレジストリに追加すると、シンプルな API コールを使用して評価を開始できます。

サードパーティのガードレールを使用することにより、AI アプリケーションを不良データでの学習、悪意のあるリクエストへの応答、意図しない情報の共有から保護できます。AI 検証によって各モデルで検出された特定の脆弱性に合わせたガードレールが自動的に生成されるため、その有効性が向上します。これらのルールは、企業が属する業界、ユースケース、優先事項に合わせてさらに修正できます。