サプライチェーンセキュリティ（Supply Chain Security）

インフラ
約1分で読めます

AIモデルの開発からデプロイに至る全過程において、データ、モデルの重み、サードパーティ製ライブラリ、およびインフラの完全性を保護し、脆弱性を管理する体系です。

別名
AIサプライチェーンセキュリティSCRMAIBOM

詳しい説明

AIサプライチェーンセキュリティは、データ収集、モデル学習、デプロイ、および運用の段階に関与するすべての外部コンポーネントの安全性を確保するプロセスです。従来のソフトウェアサプライチェーンセキュリティに加え、AI特有の要素であるデータセットのソース（Provenance）、学習データの汚染（Data Poisoning）、モデルの重みの改ざんといった脅威を防ぐことが核心です。特に、EU AI Act（Regulation 2024/1689）などのグローバルな規制は、高リスクのAIシステムに対して厳格な透明性と追跡可能性を求めています。このため、従来のソフトウェア部品構成表（SBOM）を拡張し、モデルの仕様、学習データの履歴、ライセンス情報を含むAI部品構成表（AIBOM）の導入が必須の信頼指標として活用されています。企業はこれにより、サードパーティ製コンポーネントの脆弱性を把握し、潜在的なセキュリティ脅威に先んじて対応することができます。

ツール選定において重要な理由

AIモデルは、数多くのオープンソースライブラリや外部データセットに依存しています。サプライチェーンのたった1箇所でも汚染されたり脆弱性が含まれたりすると、モデル全体の性能の歪みや機密データの流出につながる可能性があります。特に規制対象企業は、サプライチェーンの透明性を証明できない場合、法的な不利益を被る可能性があります。

確認すべき点

  • 提供企業が詳細なAI部品構成表（AIBOM）またはSBOMを提供しているか？
  • モデルの学習データのソースとクレンジングプロセスが明確に文書化されているか？
  • サードパーティ製APIやオープンソースコンポーネントの脆弱性を定期的にスキャンしているか？
  • モデルの重みやソースコードに対する完全性検証手順（デジタル署名など）があるか？

例

Hugging Faceなどの共有プラットフォームから事前学習済みモデルを取得する際、モデルファイル内に隠された悪意あるコード（Pickleファイルの脆弱性など）を検査したり、データセット作成者が明記したデータセットカード（Dataset Card）を通じて著作権や倫理的適合性を確認したりするセキュリティ活動が含まれます。