AIベンダーのセキュリティ評価とは、人工知能のツールまたはプラットフォームが、当該ベンダーに組織のデータへのアクセス権を付与する前、または業務ワークフローに統合する前に、組織のセキュリティ、コンプライアンス、データ保護に関する要件を満たしているかどうかを判断するための体系的な評価プロセスです。これは、調達プロセスにおいて、判断を誤った場合の影響がまだ管理可能な時点で、推測を証拠に置き換えるものです。

ほとんどの組織には、従来のソフトウェアに対しては合理的に機能するベンダーセキュリティ評価プロセスがあります。ベンダーが質問票に記入します。法務部門が契約書を確認します。IT部門が認証を確認します。そしてツールが導入されます。AIベンダーに対しては、このプロセスでは重要な点を見逃しすぎます。AIベンダーとの関係において最も重大なリスクを明らかにする質問は、標準的なITベンダー質問票には含まれていません。それはモデルの学習データの使用、推論インフラストラクチャの管轄区域、会話終了時のデータの取り扱い、そしてベンダーが提示するセキュリティ認証が実際に導入される特定の製品をカバーしているのか、それとも全く別のインフラストラクチャの一部をカバーしているのかに関する質問です。契約に署名し、機密データが適切に評価されていないシステムを通って流れた後にこれらのギャップを発見する組織は、二度目にはより慎重に評価を行います。本ガイドでは、重要な点を捉えるAIベンダーのセキュリティ評価の実施方法、主張として受け入れるのではなく証拠として要求すべきもの、そして評価プロセスを組織として反復可能な能力として構築する方法について説明いたします。

標準的なベンダー評価がAIに対して不十分な理由

汎用的な質問票が見逃すギャップ

標準的なITベンダーのセキュリティ質問票は、主要なセキュリティ上の懸念がデータストレージのセキュリティ、アクセス制御、ネットワーク保護であったソフトウェア環境向けに開発されました。これらの懸念はAIベンダーにも当てはまります。しかしAIシステムは、汎用的な質問票では明らかにされるように設計されておらず、具体的に質問されない限りベンダーが自発的に提供することのない一連の追加的な懸念事項を導入します。

モデルの学習データの使用は最初のギャップです。ベンダーが自社製品を通じて送信されたデータをAIモデルの学習または改善に使用するかどうかは、AIツールを通じて専有情報または機密情報を処理する組織にとって最も重大なデータ取り扱いに関する質問の一つです。また、これは標準的なベンダー質問票には含まれていない質問です。なぜなら、従来のソフトウェア調達には同等のものがないからです。データベースベンダーは御社のデータで自社製品を学習させません。AIベンダーはそうする可能性があり、それを行うかどうかは、しばしば目立つように開示されるのではなく、利用規約の文言に埋もれています。

推論インフラストラクチャの所在地は二番目のギャップです。AIモデルが御社のデータを物理的に処理する場所は、その処理にどの法的枠組みが適用されるか、国境を越えたデータ転送メカニズムが必要かどうか、そしてどの管轄区域の法的手続きがそのデータの開示を強制できるかを決定します。標準的なベンダー評価は、データがどこに保存されるかを尋ねます。AI評価では、推論中にデータがどこで処理されるかを別途尋ねる必要があり、それは別の場所にある別のインフラストラクチャである可能性があります。

セキュリティ認証の対象範囲の境界が三番目のギャップです。ベンダーは自社のクラウドインフラストラクチャをカバーするSOC 2 Type 2レポートを提示する一方で、評価対象となる特定のAI製品は監査範囲外の異なるインフラストラクチャで動作している可能性があります。提示された認証が御社の導入に関連する特定の製品とインフラストラクチャをカバーしていることを検証せずに認証レビューを行うと、決して検査されたことのない導入について誤った安心感をもたらす可能性があります。

AI securityの評価要件が従来のベンダーセキュリティ評価とどのように異なるかを理解することは、これらのプロセスが本来設計された従来のソフトウェアリスクの状況ではなく、実際のAIリスクの状況に対処する評価プロセスを構築するために組織を支援いたします。

AIベンダーセキュリティ評価のフレームワーク構築

すべての評価がカバーすべき5つの領域

効果的なAIベンダーセキュリティ評価は、検討中の特定の導入に対するベンダーのセキュリティ態勢の全体像を提供する5つの領域にわたって評価を組織化します。各領域は他の領域がカバーしない異なるリスクの次元を扱っており、これが、1つまたは2つの領域に焦点を当てて残りを省略する評価が、一貫して重要なリスクを見逃す理由です。

技術的セキュリティは、ベンダーのAIシステムによって処理されるデータを保護するインフラストラクチャ制御をカバーします。これは従来のベンダーセキュリティ評価と最も重なる領域であり、暗号化標準、ネットワークセキュリティアーキテクチャ、脆弱性管理慣行、インシデント検出と対応の能力、およびAIワークロードを実行するインフラストラクチャの物理的セキュリティをカバーします。

データガバナンスは、ベンダーが自社システム内で組織のデータをそのライフサイクル全体を通じてどのように取り扱うかをカバーします。この領域には、学習データの使用ポリシー、推論ログの保持慣行、データ削除の能力とタイムライン、副処理者との関係およびそのデータアクセス、国境を越えたデータ転送メカニズム、そして上記のすべてを規定する契約上の保護が含まれます。

コンプライアンスと認証は、ベンダーのセキュリティに関する主張の独立した検証と、その製品がサポートできる規制の枠組みをカバーします。この領域には、ベンダーの声明を受け入れるのではなく特定の認証文書のレビュー、認証の範囲と最新性の検証、必要なデータ契約の利用可能性の評価、および御社の組織に適用されるセクター固有のコンプライアンス要件のサポートの確認が含まれます。

AI固有のセキュリティは、従来のソフトウェアベンダー評価には同等のものがないAIシステムに固有のリスクをカバーします。この領域には、プロンプトインジェクションへの感受性と緩和制御、敵対的ロバストネステスト、モデル抽出に対する保護、導入される特定のユースケースに対するハルシネーション率と緩和アプローチ、およびモデル更新と動作変更管理に対するベンダーのアプローチが含まれます。

運用上のセキュリティは、特定の製品の技術的制御ではなく、組織としてのベンダーのセキュリティ慣行をカバーします。この領域には、セキュリティチームの構造と専門知識、セキュリティ開示と脆弱性管理の慣行、侵害通知プロセスと過去のインシデント記録、そしてベンダーのAI製品が依存するコンポーネントとサービスに対するベンダー自身のサプライチェーンセキュリティが含まれます。

評価領域	主要な質問	必要な証拠
技術的セキュリティ	暗号化標準、ネットワークアーキテクチャ、脆弱性管理	SOC 2 Type 2レポート、ペネトレーションテストの要約
データガバナンス	学習データの使用、保持期間、削除能力、副処理者	契約条件、データ処理契約、副処理者リスト
コンプライアンスと認証	認証範囲と最新性、データ契約の利用可能性、規制サポート	最新の認証文書、署名済みDPAまたはBAA
AI固有のセキュリティ	プロンプトインジェクション制御、敵対的ロバストネス、モデル更新慣行	技術文書、セキュリティテスト結果
運用上のセキュリティ	セキュリティチーム、開示慣行、インシデント履歴、サプライチェーン	セキュリティ開示、インシデント通知履歴

評価を受容から分ける証拠基準

AIベンダーセキュリティ評価において最も重要な規律は、主張を受け入れるのではなく証拠を要求することです。営業会話、マーケティング資料、さらにはベンダーが記入した質問票でなされたベンダーのセキュリティに関する主張は、独立して検証された事実の陳述ではありません。それらは、その正確性がベンダー自身のセキュリティ態勢の評価と、それを有利に提示する商業的インセンティブに依存する表明です。

証拠に基づく評価では、すべての重要なセキュリティ上の主張が、独立した第三者によって検証された、または組織が直接検証できる文書によって裏付けられることが要求されます。SOC 2準拠を主張するベンダーは、要約やバッジではなく、実際のSOC 2レポートを提示すべきです。レポートは単に受け取るだけでなく、範囲の境界、監査期間、テストされた特定の制御、および記録された例外や逸脱に注意して読まれるべきです。自社製品がモデルの学習に顧客データを使用しないと主張するベンダーは、その禁止事項を営業会話で述べるだけでなく、関係を規定する契約条件に文書化しているべきです。

検証の規律は認証自体にまで及びます。SOC 2監査人は品質と厳密さに違いがあります。実証されたテクノロジー分野の専門知識を持つ認知された企業からの監査レポートは、限られたテクノロジー監査履歴を持つ未知の企業からのものより強力な証拠を提供します。レポート期間は重要です。非常に短い監査期間をカバーするレポートは、成熟した持続的なセキュリティプログラムではなく、認証を迅速に取得するために設計された初回監査を反映している可能性があるからです。

ベンダーからのAI architecture文書がセキュリティ制御をどのように説明しているかをレビューすることは、評価者が、提示されている技術アーキテクチャが首尾一貫していて防御可能なものか、あるいは重大なギャップを隠す抽象化レベルでセキュリティを記述しているのかを評価するのに役立ちます。

最も重要なAI固有の質問

学習データの使用について尋ねるべきこと

学習データの使用に関する質問は、有意義なリスクを生み出す慣行が一般的な質問が捉えるよりも具体的であるため、はい・いいえの答えよりも精度を要求します。顧客データを学習に使用しないと答えるベンダーは、質問が示唆するよりも狭い意味で言っている可能性があります。

プロンプトと応答の両方を含む会話内容が、利用規約を通じて取得された顧客の同意がある場合も含め、いかなる状況下においてもモデルの学習またはファインチューニングに使用されるかどうかを尋ねてください。顧客データの集計版または匿名化版がモデルの改善に貢献するかどうかを尋ねてください。禁止事項がすべての製品階層に適用されるか、評価中のエンタープライズ階層のみに適用されるかを尋ねてください。禁止事項が絶対的なものか、または顧客との合意により放棄できるかを尋ねてください。そして、技術的に強制されない契約上の禁止事項はアーキテクチャ上の保証ではなく完全にベンダーの運用上のコンプライアンスに依存するため、禁止事項が契約上だけでなく技術的にどのように強制されるかを尋ねてください。

これらの具体的な追加質問への回答は、学習データの使用慣行が最初のベンダーの声明が示唆するよりも微妙であること、そして組織が評価しているエンタープライズ階層で利用可能な保護が、評価中の特定のユースケースにとって重要な方法で標準的な製品条件と異なる可能性があることをしばしば明らかにします。

推論インフラストラクチャとデータ所在地について尋ねるべきこと

AIシステムのインフラストラクチャに関する質問では、モデルの重みがどこに保存されているか、推論が計算上どこで行われるか、入力データがどこで処理されるか、出力データとログがどこに保存されるか、そしてベンダーのインフラストラクチャ全般ではなく導入される特定の製品階層の文脈でこれらのそれぞれがどこで発生するかを別々に尋ねる必要があります。

データ所在地義務を有する組織にとって、推論場所の質問は、保管場所の質問よりも直接的に重要であることが多いです。なぜなら、ほとんどの管轄区域で所在地要件を推進する規制枠組みは、処理管轄区域を保管管轄区域と同等に扱うからです。ストレージインフラストラクチャは要求された管轄区域に置かれているが、推論処理が他の場所で行われるベンダーは、ストレージ制御が完全に準拠していても所在地要件を満たしていません。

ベンダーに、組織のデータを送信から推論、出力、ロギングを経て削除までトレースし、各段階の物理的な場所を明確に示したデータフロー図を提供するよう依頼してください。ベンダーがこの文書を作成できない場合、自社のデータフローについての理解のギャップ自体が、有意義なセキュリティ上の発見となります。

モデル更新と動作変更について尋ねるべきこと

AIベンダーは、必ずしも事前に顧客に伝達されないスケジュールで基盤モデルを更新します。モデルの更新は、AIシステムの動作を、そのセキュリティ態勢、顧客の許容利用要件への準拠、または顧客が導入した特定のユースケースに対する出力品質に影響を与える方法で変更する可能性があります。

ベンダーがセキュリティまたはコンプライアンスに関連する動作に影響を与えるモデル更新について顧客にどのように通知するかを尋ねてください。エンタープライズ顧客が自動更新を受け取るのではなく、特定のモデルバージョンに留まるオプションを持っているかどうかを尋ねてください。ベンダーが顧客環境に展開する前に、セキュリティの回帰についてモデル更新をどのようにテストするかを尋ねてください。そして、モデル更新が顧客の導入におけるコンプライアンスまたはセキュリティに影響を与える方法で動作を変更した場合、顧客が利用できる救済策が何かを尋ねてください。

回答は、組織が導入したAIシステムのコアコンポーネントに対して持つ制御の度合いと、モデルライフサイクルへの顧客参加に対するベンダーの哲学を明らかにします。導入されたAIシステムが規制された文脈または高リスクの意思決定支援で使用される組織は、低リスクの生産性アプリケーションにAIを使用する組織よりも、モデルの安定性と更新通知に強い関心を持ちます。

評価が確立すべき契約上の保護

データが流れる前に整備されるべき契約

AIベンダーセキュリティ評価の契約フェーズは、技術的およびガバナンス上の発見を法的に強制可能な保護に変換します。技術的制御は、ベンダーのインフラストラクチャ上のデータを保護します。契約上の保護は、そのインフラストラクチャがどのように運用されるかを規定する法的義務、および義務が果たされない場合に組織が持つ救済策を定義します。

導入される特定のAI製品をカバーするデータ処理契約は、GDPR、CCPA、または同等の枠組みの対象となる個人データを処理するすべてのベンダーにとって基本的な契約上の要件です。DPAは、学習データの禁止、カテゴリー別の保持制限、副処理者管理義務、データ削除タイムライン、および侵害通知要件に明示的に対処する必要があります。一般的なクラウドサービス向けに作成されたベンダーのDPAテンプレートは、評価が関連性があると特定したAI固有の考慮事項に十分に対処していない可能性があります。

医療組織にとって、Business Associate Agreementは、保護された健康情報を構成する可能性のあるデータがベンダーのAIシステムを通じて流れる前の法的前提条件です。BAAは、ベンダーのインフラストラクチャ全般ではなく、導入される特定の製品をカバーする必要があり、AI製品のデータ取り扱い慣行がHIPAAの技術的保護要件と一致していることを確認する必要があります。

エンタープライズAIプラットフォームにおけるAI featuresが交渉中の契約上の保護に対してどのように構造化されているかを理解することは、組織が、製品の動作と契約条件が一貫している箇所、および組織が要求する保護を達成するために製品の技術的現実が追加の契約上の具体性を必要とする箇所を特定するのに役立ちます。

必要な契約	適用される場合	AIにとって重要な条件
データ処理契約	GDPRまたは同等の下での個人データの処理	学習データの禁止、保持制限、副処理者リスト
Business Associate Agreement	HIPAAの下でのPHIの処理	製品固有のカバレッジ、技術的保護の確認
Master Services Agreement	すべての商業的ベンダー関係	責任配分、侵害救済、契約終了時のデータ返却
セキュリティ補遺	高機密データ処理の文脈	標準条件を超える特定のセキュリティ義務
モデルリスク文書	規制された金融活動におけるAI	モデル文書、検証権、更新通知
秘密保持契約	評価プロセス自体と機密の発見事項	評価方法論と組織要件をカバーする範囲

標準条件を超えた交渉

ほとんどのエンタープライズAIベンダー契約は、ベンダーに有利に作成された標準条件で始まります。評価プロセスは、優先順位付けなしに標準条件全体に対して交渉するのではなく、組織のセキュリティ上の発見とコンプライアンス要件に基づいて修正を必要とする特定の条件を特定すべきです。

交渉において最も優先度の高い条件は、評価が特定したセキュリティおよびコンプライアンスリスクに最も直接的に影響する条件です。組織が禁止する必要のある使用を許可する学習データ使用条項。処理されるデータカテゴリーに対して不十分な責任制限。規制要件を満たさない侵害通知期間。組織のコンプライアンス要件が許容できる以上に、ベンダーがインフラストラクチャを変更する柔軟性を与える副処理者承認権。

取引規模、ブランド価値、または市場ポジションを通じて大きな調達上の影響力を持つ組織は、ベンダーがその関係を十分に評価して標準テンプレートを超える要件に対応するため、これらの点でちょうど標準的なAIベンダー条件に対して有意義な改善を達成することが多いです。限られた影響力を持つ組織は、ベンダーがあらゆる個別の顧客関係を超えて準拠した導入をサポートする商業的利益を持っているため、要件を選好ではなく規制上の必要性として枠組むことで、同じ結果を達成できる場合があります。

セキュリティとコンプライアンスのためのAIベンダー契約の構造化に関する徹底的なAI guideは、組織が、すべての条項を同じ強度で交渉しようとするのではなく、実際のリスクエクスポージャーに最も影響を与える条件に優先順位を付ける交渉枠組みを構築するのに役立ちます。

評価を反復可能なプロセスに組み込む

拡張可能な評価ワークフロー

すべての重要なAI調達に対する一回限りのプロジェクトとしてAIベンダーセキュリティ評価を実施する組織は、後続の評価に効率的に転送されない制度的知識を構築します。文書化された方法論、標準的な証拠テンプレート、および定義された決定基準を備えた反復可能なプロセスとして評価を構築する組織は、各評価を以前の評価よりも速く一貫性のあるものにする能力を開発します。

反復可能なAIベンダーセキュリティ評価プロセスには、5つの評価領域をカバーするAIベンダー向けに特に開発された標準化された質問票、各主要なセキュリティ上の主張に必要な正確な証拠を指定する文書要求リスト、評価の発見を導入の推奨事項に変換するスコアリングまたは決定枠組み、セキュリティ、法務、コンプライアンス、およびビジネス機能にわたって適切なステークホルダーを関与させるレビュープロセス、そして内部ガバナンスと外部規制審査の両方に有用な記録を生成する文書化標準が含まれます。

質問票と文書要求リストは、ベンダーの状況、規制環境、および組織自身の導入経験から浮上した新しいAI固有のセキュリティ上の考慮事項を組み込むため、少なくとも年に一度レビューおよび更新されるべきです。12ヶ月前に包括的だった評価ツールは、AIセキュリティ脅威の状況とそれに関する規制上の期待が引き続き発展するため、今日では有意義なギャップを持つ可能性があります。

初回調達を超えた継続的評価

調達時に実施されたAIベンダーセキュリティ評価は、ベンダーのセキュリティ態勢の特定時点での評価を提供します。それは、ベンダーの製品が進化し、インフラストラクチャが変化し、所有権または財務状況が変動し、または技術スタックに新しいセキュリティ脆弱性が出現するにつれて、態勢が適切なままであり続けるという継続的な保証を提供しません。

重要なAIベンダーに対する継続的評価には、更新された認証とセキュリティ文書の年次レビュー、ベンダーからのセキュリティインシデント開示または侵害通知のレビュー、初回評価が評価したデータ取り扱い慣行に影響を与えるベンダーの利用規約またはプライバシーポリシーの重大な変更の評価、および初回評価の基礎となるセキュリティ前提に影響を与える可能性のあるベンダーのAI製品、インフラストラクチャ、または所有権の重要な変更のレビューが含まれるべきです。

AIベンダーセキュリティ評価を継続的な関係管理慣行ではなく調達上のチェックポイントとして扱う組織は、文書化されたセキュリティ前提と実際のベンダーセキュリティ態勢との間の段階的なズレを蓄積し、それがプロアクティブな監視と比較してインシデント発見を非常に高コストにします。

知っておくべきこと

組織がプログラムを成熟させるにつれて一貫して遭遇するAIベンダーセキュリティ評価に関するいくつかの重要な現実：

評価範囲は導入範囲と正確に一致する必要があります。ベンダーのエンタープライズAPIをカバーするセキュリティ評価は、ベンダーの消費者向け製品について保証を提供しません。同じブランド名を持っていても、ベンダーのテキスト生成製品をカバーする評価は、その画像生成製品をカバーしません。評価される特定の製品、階層、および導入構成を定義し、レビューされるすべての認証および契約上の保護がその特定の範囲をカバーすることを確認してください。

参照顧客との会話は、文書では再現できない方法で文書レビューを補完します。同じベンダーのAI製品を導入した同様の規模、業界、規制プロファイルの組織と話すことは、ベンダーの応答性、文書化されたものに対する実際のデータ取り扱い慣行、および文書レビューでは捉えられないベンダー関係を運用する実践的経験について定性的な洞察を提供します。

ベンダーの財務的安定性は、正当なセキュリティ評価の側面です。営業を停止するAIベンダーは、コンプライアンスの問題となり得るデータポータビリティ、削除、および監査証跡の課題を生み出します。ベンダーの財務的健全性、資金調達の余裕、および市場ポジションを評価することは、抽出されたまたは学習されたデータが継続的な依存関係を生み出すものを特に含め、重要な本番導入の対象として検討されているAIベンダーにとって適切です。

30%の原則は評価の労力配分に適用されます。評価の労力の約30%は、評価プロセスが実際のリスク貢献に比べて最も過剰投資する技術的セキュリティ領域に向けられるべきです。残りの70%は、表面的には認証が類似して見えるベンダー間の最も有意義な差別化要因を明らかにするデータガバナンス、契約上の保護、AI固有のリスク、および運用上のセキュリティの側面をカバーすべきです。

評価の発見は、技術的言語ではなくリスクの言葉でビジネス関係者に伝えられる必要があります。ベンダーのSOC 2監査範囲がAI推論インフラストラクチャを除外しているという発見は技術的には正確ですが、ビジネスリスクの言葉に翻訳されないと、ビジネス意思決定者にとって実行可能ではありません。ベンダーが最も機密性の高いデータを処理するシステムのセキュリティを独立に検証していないという発見は、意思決定を生み出す言葉での同じ発見です。

再評価のトリガーは事前に定義される必要があります。重要なベンダーインシデント、利用規約の重大な変更、ベンダーの買収または所有権の変更、および重要な製品アーキテクチャの変更を含む、新規または部分的なAIベンダーセキュリティ評価を引き起こすべき特定のイベントは、これらのイベントが発生したときに場当たり的に決定されるのではなく、評価プロセスで定義されるべきです。

競争的選択ツールとしてのAIベンダーセキュリティ評価

徹底的なAIベンダーセキュリティ評価を実施する組織は、プロセスが受け入れがたいベンダーを特定するだけ以上のことを行うことを一貫して見出します。それは、認証とマーケティングが類似して見えるが、主張ではなく証拠のレベルで検査されたときに実際のセキュリティ慣行が大きく異なるベンダー間の有意義な差別化を明らかにします。

その差別化は、リスク管理の価値を超えて商業的に有用です。真のセキュリティインフラストラクチャに投資し、最新かつ包括的な認証を維持し、透明性のあるデータ取り扱い慣行を運用し、規制された組織が要求する契約上の保護をサポートするベンダーは、セキュリティをコンプライアンスコストではなく競争優位性にしています。厳格な評価を通じてそれらのベンダーを特定し、彼らと持続的な関係を構築することは、AIツールの状況が引き続き進化しセキュリティ要件が引き続き厳格化するにつれて価値が複利的に高まる調達結果を生み出します。

AIベンダーセキュリティ評価は、責任あるAI採用へのコミットメントが、最も重要なデータを誰に任せるかを選ぶという運用上の現実と出会う場所です。その作業を徹底的に、一貫して、それに値する証拠基準で行う組織は、不適切な評価が必然的に残す未発見の負債を作るのではなく、AIの野心を支えるベンダー関係を構築します。

よくある質問

AIベンダーをどのように評価すればよいですか？

AIベンダーの評価には、5つの領域にわたる体系的な評価が必要です。最新の認証文書を通じて検証された技術的セキュリティ制御、契約条件を通じて検証された学習データの使用と保持をカバーするデータガバナンス慣行、ベンダーの声明ではなく実際のレポートを通じて検証されたコンプライアンス認証の範囲と最新性、プロンプトインジェクション制御とモデル更新慣行を含むAI固有のセキュリティ上の考慮事項、そしてベンダーの組織的セキュリティ慣行とインシデント履歴をカバーする運用上のセキュリティです。 評価は、ベンダーの主張ではなく証拠に基づいた導入の決定を生み出し、組織のデータがベンダーのシステムを通じて流れる前に契約上の保護が確立されます。

AIを使用したセキュリティ評価とは何ですか？

AIを使用したセキュリティ評価とは、セキュリティ関連の条項についてベンダー文書を分析する、複数のベンダー提出にわたって質問票への回答分析を自動化する、ベンダーのセキュリティ開示とインシデント通知を継続的に監視する、そして手動レビュープロセスでは見逃すベンダーのセキュリティ態勢データのパターンを特定するためにAIを使用することを含む、セキュリティ評価プロセスの効率性とカバレッジを改善するために人工知能ツールを応用することを指します。 これは、AIツール自体のセキュリティを評価するAIベンダーセキュリティ評価とは異なりますが、成熟したセキュリティプログラムを持つ組織は、AIベンダー評価プロセスとより広範なセキュリティ評価能力の両方を強化するためにAIを使用することが増えています。

ベンダーセキュリティ評価とは何ですか？

ベンダーセキュリティ評価とは、第三者の技術プロバイダーに組織のデータへのアクセス権を付与する前、またはビジネスシステムに統合する前に、そのプロバイダーのセキュリティ制御、データ取り扱い慣行、コンプライアンス認証、および契約上の保護を体系的に評価することです。 特にAIベンダーについては、評価は、学習データの使用、推論インフラストラクチャの管轄区域、モデル更新慣行、および標準的なITベンダー質問票が明らかにするように設計されていなかったAI固有の攻撃面のAI固有のリスクに対処するために、従来のベンダーセキュリティ評価を超えて拡張されます。

AIサプライヤーが安全であることを確保するためにどのような対策を講じることができますか？

AIサプライヤーが安全であることを確保するための5つの最も重要な対策は、導入される特定の製品とインフラストラクチャをカバーする最新のSOC 2 Type 2または同等の認証文書を要求すること、組織のデータが処理される前に学習データの明示的な禁止と定義された保持制限を含む署名済みのデータ処理契約を取得すること、推論インフラストラクチャが該当するデータ所在地要件を満たす管轄区域に置かれていることを検証すること、契約条件と技術文書を通じてベンダーのセキュリティ制御がプロンプトインジェクションとモデル抽出を含むAI固有のリスクに対処していることを確認すること、そして認証の更新、インシデント開示、利用規約の重大な変更を定義された年次サイクルでレビューする継続的なベンダー監視プロセスを確立することです。 これらの対策は共に、検証されていない主張と推定される誠実さではなく、検証された証拠と強制可能な義務に基づくAIサプライヤーとのセキュリティ関係を作り出します。

5つのセキュリティ対策とは何ですか？

AIベンダー関係全体に適用される5つの基本的なセキュリティ対策は、文書化された鍵管理慣行を伴う最新の標準を使用した送受信中および保存中のデータの暗号化、ベンダー組織内で組織のデータにアクセスできる者とその条件を制限するアクセス制御、インシデント調査をサポートする保持期間を伴うすべてのデータアクセスおよび処理イベントの包括的なロギング、定期的なセキュリティテストと特定された脆弱性に対する定義された改善タイムラインを含む脆弱性管理慣行、そして組織の規制上の通知義務を満たす特定のタイムラインで適時の開示にベンダーをコミットさせる侵害通知プロセスです。 これら5つの対策は、重要なデータ処理責任について評価されるすべてのAIベンダーに対して証拠を通じて検証されるべき技術的セキュリティの基準線を表し、AI固有の評価次元はこの従来のセキュリティ基盤の上に重ねられます。