SLM(小規模言語モデル)
用語名をコピー
技術用語約1分で読めます
数十億規模のパラメータを持ち、低スペックなハードウェアでも高いパフォーマンスを発揮する効率的なモデルで、オンデバイスAIや特定タスクへの特化に最適化されています。
別名
Small Language Model軽量言語モデル小規模言語モデル
詳しい説明
SLMは、パラメータ数を数億から数百億(通常は1B〜10B、広くは30B以下)の規模に最適化し、演算効率を高めた人工知能モデルです。大規模言語モデル(LLM)とは異なり、スマートフォンやノートPCなどのデバイス単体(オンデバイス)において、クラウドへの接続なしに独立して動作可能であり、非常に短い遅延時間(レイテンシ)と低い運用コストを実現します。最新のSLMは、高品質に選別されたデータセットの学習や、巨大モデルからの知識蒸留(Knowledge Distillation)技術を用いて構築されており、特定のビジネスロジックや専門ドメインのタスクにおいてLLMに匹敵するパフォーマンスを発揮します。データが外部に送信されないためセキュリティ性に優れており、プライバシーが重視される金融・医療現場や、オフライン環境でのAIエージェントシステム構築において重要な役割を果たしています。
ツール選定において重要な理由
SLMは、重厚なインフラを用意することなくAI機能を実用化することを可能にします。特に、API呼び出しコストを劇的に削減したい企業や、個人情報保護のためにオンプレミス(On-premise)またはローカル環境でAIを稼働させる必要がある場合、LLMよりもはるかに合理的な選択肢となります。
確認すべき点
- 量子化(Quantization)のサポート有無:モデルを4ビットなどに圧縮した際、モバイルデバイスのメモリにロード可能かどうかの確認
- 推論速度(Tokens per second):実際のハードウェア環境(CPU/NPU)で目標とする応答速度が得られるかを測定
- ファインチューニング(Fine-tuning)の効率性:少量のドメインデータでも特定のタスクにおける性能が十分に向上するか検証
代表的なSLM
MicrosoftのPhi-3-mini(3.8B)、GoogleのGemma 2B/7B、MetaのLlama 3.2(1B/3B)、MistralのMinistral 3B/8Bなどが代表的です。これらのモデルは、iPhoneや一般的なノートPCのGPUでもスムーズに動作します。
関連用語
LLM
数十億以上のパラメータを通じて膨大なデータを学習した人工知能モデルです。自然言語の理解や生成だけでなく、複雑な推論、要約、コード作成など多様な知的タスクを実行し、現代の生成AIサービスのコアエンジンとしての役割を果たしています。
オンデバイスAI (On-device AI)クラウドサーバーを経由せず、スマートフォンやPCなどユーザー端末内のハードウェア(NPU)を通じてAIモデルを直接動かし、セキュリティとリアルタイム性の向上を支援する技術です。
ファインチューニング事前学習された人工知能モデルに特定のデータ셋を追加学習させ、特定のタスクやドメインに合わせて最適化するプロセスです。汎用モデルの一般的な知識を維持しつつ、特定の目的に必要な専門性や応答スタイルを精緻に調整する際に使用されます。