セルフホスティング (Self-hosting)

技術用語
約1分で読めます

外部ベンダーのクラウドサービス（SaaS）を利用する代わりに、企業や個人が直接所有するサーバーまたは独立したクラウドインスタンスにAIモデルやソフトウェアをインストールして運用する方式です。

別名
private cloud deploymenton-premise deployment

詳しい説明

セルフホスティングは、セキュリティが重要なデータ、モデルの実行場所、障害対応の責任をサービス利用者側に置くデプロイ方式です。データを外部のサーバーに送信せず、ローカル環境や専用インフラで処理するため、個人情報の保護やコンプライアンス（Compliance）に有利です。最近では Llama 3 や Mistral などの高性能なオープンソースモデルが登場し、Ollama や vLLM といったツールを活用して独自にAI環境を構築する事例が増えています。初期のハードウェア投資や運用人材が必要になりますが、大量のデータを長期間処理する場合、API利用料よりも予測可能なコスト構造を構築できます。

ツール選択において重要な理由

データ漏洩のリスクを根底から遮断できます。特に機密性の高い内部資料をAIで分析する必要がある企業にとっては、SaaS型のAIよりもセルフホスティングが安全な選択肢となります。また、モデルのアップデート周期やAPIの停止といった外部の変動要因に影響されることなく、サービスの安定性を自社で直接管理できます。

確認すべき点

  • モデルの実行に必要なGPUリソース（VRAMなど）を保有しているか？
  • インフラスを直接保守運用できる技術人材がいるか？
  • API呼び出し費用と比較して、サーバー運用費（電気代、レンタル料など）が経済的か？
  • データセキュリティの規定によって外部クラウドの利用が禁止されているか？

例

セキュリティが重要視される法律事務所が、内部サーバーに Ollama をインストールして Llama 3 モデルを載せ、外部への漏洩なしに判例データを分析する環境を構築する場合。

関連用語

GPU