小規模言語モデル（SLM）とは何か
ChatGPTのような文章を作るAIの中身は「言語モデル」と呼ばれます。中でも巨大なものを大規模言語モデル（LLM）と呼び、多くはインターネットの先にある大きな計算機で動いています。
小規模言語モデル（SLM）は、その小型版です。総務省の令和8年版情報通信白書「小規模言語モデル 概要」によると、厳密な定義はまだ統一されていません。海外の研究では70億パラメータ以下、人工知能学会の論文では140億以下をSLMとして扱う例があります。白書自身は、おおよそ百億程度までのモデルをSLMとしています。
パラメータは、AIの「頭の大きさ」を表す数だと考えてください。小さいぶん計算が軽く、パソコンやスマートフォン、社内のサーバーの中で動かせます。インターネットにつながなくても使えるのが最大の違いです。
なぜ今「手元で動くAI」なのか
生成AIは、すでに多くの会社の日常の道具です。総務省の令和8年版情報通信白書「生成AIの業務利用状況」では、何らかの業務で生成AIを使う日本企業は86.4%でした。2024年度調査の55.2%から大きく伸びています。
一方で、不安も残っています。同じ白書の「懸念されるリスク及びリスク対策のための取組状況」によると、日本企業の懸念は次の順でした。「社内情報の漏洩などのセキュリティリスク」46.4%、「出力結果の精度」35.3%、「著作権等の権利侵害」31.3%です。
クラウドのAIに文章を入れると、その内容は提供元の会社のサーバーへ送られます。送らずに済むなら、漏洩の心配の一部は根元から消えます。手元で動くAIが注目される理由はここにあります。
クラウドのAIと手元のAIの違い
どちらが優れているかではなく、得意な仕事が違います。違いを表にまとめます。
| 比べる点 | クラウドのAI | 手元のAI（SLM） |
|---|---|---|
| 入力した内容 | 提供元のサーバーへ送られる | 端末や社内に残る |
| ネット接続 | 必要 | なくても動く |
| 知識の広さ・推論 | 広く、複雑な質問に強い | 限られる。得意分野にしぼる |
| 費用の形 | 月額や使った量で払う | 端末の性能と電気代が中心 |
| 更新・管理 | 提供元が行う | 自社で行う |
表の最後の行が見落とされがちです。手元で動かすと、更新や不具合の対応も自社の仕事になります。安く済むかどうかは、この手間も含めて考えます。
手元のAIが向く仕事、向かない仕事
向いているのは、中身を外に出したくない、形の決まった作業です。白書の業務別の集計では、「議事録・メール作成補助」で効果を実感した日本企業は72.3%と、ほかの業務より目立って高い結果でした。社内の会議メモの要約は、手元のAIでも試しやすい代表例です。
ほかにも、日報の要点まとめ、問い合わせメールの仕分け、見積書の明細の分類などが候補になります。どれも答えの形が決まっていて、広い知識より正確な書き換えが求められる作業です。ネットがつながりにくい工場や倉庫でも、端末の中だけで処理できます。
向かないのは、幅広い知識や込み入った考えが要る仕事です。前述の白書「小規模言語モデル 概要」は、SLMについて「汎用的な知識や高度な推論が求められる用途においては、SLM単体での対応には限界がある」と明記しています。そのため実務では、社内資料を参照させる仕組みや、クラウドのAIとの組み合わせが有効だと整理しています。
国内ではどう使われ始めているか
日本の会社も小さなモデルを作っています。Preferred Networksのグループ会社は2024年8月28日の発表「小型で軽量な小規模言語モデルPLaMo Liteの提供開始」で、10億パラメータのPLaMo Liteを公表しました。自動車やロボット、パソコンのほか、機密情報を扱う社内のサーバーでの利用を想定しています。
総務省の白書「小規模言語モデル 社会実装等の動向」は、すでに実用化された例も紹介しています。パソコンやスマートフォンの中のAI機能や、端末のAIとクラウドのAIを使い分ける仕組みです。神戸市のスタジアムでは、カメラ近くの機器とSLMで警備員向けの報告を作る実証も行われました。
同じ白書は、国立情報学研究所の佐藤一郎教授の見方も紹介しています。教授は、パソコンでは他の端末との差別化のためにSLMが動くことが必須になる可能性があると指摘しています。これから買い替えるパソコンに、手元のAIが入っている場面は増えていきそうです。
「手元で動く＝安全」ではない
手元で動かしても残る3つのリスク
パソコンの紛失や盗難、配布元が分からないモデルの利用、ライセンス違反の3つです。データを外に送らないことと、安全に使えることは別の話です。
対策の現状にも差があります。白書のデータでは、「生成AIへの入力データを学習に使えない仕組み」を入れた中小企業は20.3%でした。「特に実施している施策はない・把握していない」も24.1%あり、大企業の13.8%を上回ります。全社的なガイドラインの整備は、大企業44.9%に対し中小企業29.1%です。
個人情報保護委員会は2023年6月2日に「生成AIサービスの利用に関する注意喚起等について」を公表しています。手元のAIに切り替えても、何を入れてよいかを決める社内ルールはやはり必要です。ルールの決め方はAIに入力してはいけない情報で整理しています。
中小企業が試すときの4手順
手順1で、AIに頼みたい仕事を「社外に出せる」「出せない」の2つに分けます。出せる仕事は、今まで通りクラウドのAIで構いません。手順2で、出せない仕事から要約や分類のような定型の作業を1つ選びます。
手順3で、使う端末の性能と、モデルの利用条件（ライセンス）を確かめます。商用で使ってよいか、配布元が信頼できるかは必ず見てください。手順4で、個人情報を含まない同じ課題をクラウドのAIにも解かせ、質を比べます。足りなければ、無理に置き換えないのが正解です。ツール全体の選び方はAIツールの選び方も参考になります。
仕事を2つに振り分けるプロンプト
手順1の振り分けは、クラウドのAIに手伝ってもらえます。仕事の名前だけを並べ、中身は入れずに次の文を送ってください。
AIの振り分けは、あくまで案です。最終的にどれを社外に出さないかは、取引先との契約や社内規程を知っている人が決めてください。
よくある質問（Q&A）
ネットにつながないで使えるAIってあるの？
あります。小規模言語モデル（SLM）と呼ばれる小さなAIは、パソコンや社内のサーバーの中で動かせます。入力した内容が外の会社に送られないのが利点です。ただし、知識の広さや難しい推論はクラウドのAIに及びません。
社内の情報を入れたくないけど、パソコンの中のAIなら安全？
外へ送らない点では安心が増えますが、それだけで安全とは言えません。パソコンの紛失、配布元の分からないモデル、ライセンス違反のリスクは残ります。何を入れてよいかの社内ルールは、手元のAIでも必要です。
小さいAIと大きいAI、うちの会社はどっちを使えばいい？
仕事ごとに選びます。社外に出せない文書の要約や定型の作業は手元のAI、幅広い知識が要る相談はクラウドのAIが向きます。総務省の令和8年版情報通信白書も、両者の組み合わせが有効だと整理しています。
まとめ
- パソコンの中で動くAIの正体は小規模言語モデル（SLM）。入力を外に送らずに処理できる。
- 日本企業の懸念1位は「社内情報の漏洩」46.4%。手元のAIはその選択肢の1つになる。
- 得意は要約や分類などの定型作業。広い知識はクラウドのAIと使い分ける。
- 手元で動かしても、紛失・配布元・ライセンスの確認と社内ルールは欠かせない。
まずは、AIに頼みたい仕事を紙に10個書き出し、「社外に出せるか」で2つに分けてみてください。出せない側に何が残るかで、手元のAIが必要かどうかが見えてきます。