SLM(小規模言語モデル)

技術用語
約1分で読めます

数十億規模のパラメータを持ち、低スペックなハードウェアでも高いパフォーマンスを発揮する効率的なモデルで、オンデバイスAIや特定タスクへの特化に最適化されています。

別名
Small Language Model軽量言語モデル小規模言語モデル

詳しい説明

SLMは、パラメータ数を数億から数百億(通常は1B〜10B、広くは30B以下)の規模に最適化し、演算効率を高めた人工知能モデルです。大規模言語モデル(LLM)とは異なり、スマートフォンやノートPCなどのデバイス単体(オンデバイス)において、クラウドへの接続なしに独立して動作可能であり、非常に短い遅延時間(レイテンシ)と低い運用コストを実現します。最新のSLMは、高品質に選別されたデータセットの学習や、巨大モデルからの知識蒸留(Knowledge Distillation)技術を用いて構築されており、特定のビジネスロジックや専門ドメインのタスクにおいてLLMに匹敵するパフォーマンスを発揮します。データが外部に送信されないためセキュリティ性に優れており、プライバシーが重視される金融・医療現場や、オフライン環境でのAIエージェントシステム構築において重要な役割を果たしています。

ツール選定において重要な理由

SLMは、重厚なインフラを用意することなくAI機能を実用化することを可能にします。特に、API呼び出しコストを劇的に削減したい企業や、個人情報保護のためにオンプレミス(On-premise)またはローカル環境でAIを稼働させる必要がある場合、LLMよりもはるかに合理的な選択肢となります。

確認すべき点

  • 量子化(Quantization)のサポート有無:モデルを4ビットなどに圧縮した際、モバイルデバイスのメモリにロード可能かどうかの確認
  • 推論速度(Tokens per second):実際のハードウェア環境(CPU/NPU)で目標とする応答速度が得られるかを測定
  • ファインチューニング(Fine-tuning)の効率性:少量のドメインデータでも特定のタスクにおける性能が十分に向上するか検証

代表的なSLM

MicrosoftのPhi-3-mini(3.8B)、GoogleのGemma 2B/7B、MetaのLlama 3.2(1B/3B)、MistralのMinistral 3B/8Bなどが代表的です。これらのモデルは、iPhoneや一般的なノートPCのGPUでもスムーズに動作します。

関連用語

LLMオンデバイスAI (On-device AI)ファインチューニング