BLOG
llama.cppが1.0に到達。ローカルAIを使い続けるために何が変わるのか
llama.cppとggmlが1.0.0を公開しました。注目は速さだけでなく、更新を重ねても外部のアプリと接続し続けるためのAPI・ABIの互換性方針です。ローカルAIを使い続けるうえで、何が安定し、何を更新時に確かめる必要があるのでしょうか。

ローカルAIを、使い続けるための1.0
PCで使っているAIアプリの中には、画面の裏で別のソフトウェアがモデルを動かしているものがあります。その実行基盤の一つがllama.cppです。開発チームは2026年11月13日、llama.cppと計算ライブラリggmlのバージョン1.0.0を公開しました。
今回、最も注目したいのは、アプリを開発する側に対して、公開API・ABIの互換性を壊す変更をメジャーバージョンで示す方針を明確にしたことです。新しいモデルを試せることに加え、既存のアプリを更新しながら提供し続けることにも目を向けた節目です。
llama.cpp開発チームの1.0発表llama.cppは、AIモデルを動かす実行エンジン
AIモデルには、学習で得た大量の数値である「重み」が入っています。llama.cppはその重みを読み込み、入力を処理し、次に出す言葉の断片であるトークンを順に選んで文章を生成します。チャット画面、モデル、実行エンジンは、それぞれ別の役割を持っています。

その計算を支えるのがggmlです。CPUやGPUの違いに合わせたバックエンドを通して、行列などの数値計算を実行します。例えばMacではMetal、NVIDIAのGPUではCUDAを利用できます。対応するモデルや演算、ビルド設定によって、使える構成は変わります。
モデルの重みを少ないビット数で表す量子化や、CPUとGPUに処理を分ける仕組みも、手元の機器でAIを動かす助けになります。これらは以前からある特徴です。1.0で初めてローカル実行やGPU利用が可能になったわけではありません。
llama.cpp 1.0.0の概要と対応バックエンドAPIとABI。更新で何が壊れるのか
APIは、アプリからライブラリを呼び出すための決まりです。どの関数に、どんな値を渡し、何が返るのかを定めます。例えば、モデルを読み込む関数が削除されたら、その関数を使うアプリのコードも直す必要があります。
ABIは、コンパイルされたプログラム同士が接続するときの決まりです。ソースコードの書き方だけでなく、関数やデータの扱いがバイナリ同士で合う必要があります。ライブラリのファイルだけを入れ替えてよいかという判断にも関係します。
呼び出し方とバイナリの接続方法の両方が、ライブラリを組み込むアプリの更新に関わります。開発チームは、今後のAPI・ABIの非互換をメジャーバージョンで示す方針を説明しています。
公式発表のバージョン更新ルールバージョン番号で、変更の境界を伝える
公式発表では、公開C APIの変更について、互換性を壊す変更、互換性を保つ機能追加、API変更のない修正を、次のように分けています。
| 更新する桁 | 変更内容 |
|---|---|
| MAJOR 先頭の桁 | 公開C APIの互換性を壊す変更 |
| MINOR 中央の桁 | 互換性を保つ機能追加、バックエンド更新、モデル対応、API追加 |
| PATCH 末尾の桁 | API変更のないバグ修正 |
更新する側は、先頭の桁が変わるときに移行の必要性を確認し、機能追加や修正では対象となる変更を読み取れます。これは変更の性質を判断する手掛かりです。実際に使う機能や、依存するアプリの対応を確かめる作業は引き続き必要です。
公式発表のバージョン更新ルール今回は、古い呼び出し方を実際に整理した
1.0では、llama.hで非推奨とされていた35関数などが削除されました。一方、NextNや先読み生成に関するAPIは、拡張用のヘッダーから主要な公開ヘッダーへ移されています。開発者が利用する入口を整理した変更です。
具体例として、0.9.0の公開ヘッダーには、旧関数llama_load_model_from_fileに対して、llama_model_load_from_fileを使うよう案内が書かれています。旧名を呼ぶコードは、1.0への更新時に置き換えを確認する必要があります。
この例が示すのは、アプリ側の呼び出し方法の変更です。それだけで、手元にあるモデルファイルがすべて使えなくなるという意味ではありません。モデル形式への対応と、ライブラリを呼ぶAPIの互換性は、分けて確かめる必要があります。
削除したAPIと移行先を説明する変更PR長い会話と大きなモデル。メモリの使い方も広がった
1.0に含まれる更新には、FP8のKVキャッシュ対応があります。KVキャッシュは、生成中に過去の入力を参照するため、Attentionの計算途中で得た情報を保持するものです。モデルの重みとは別のメモリを使い、入力が長くなるほど負担になる構成があります。
FP8は、このキャッシュを8ビットの浮動小数点形式で保持する選択肢です。16ビット形式と比べて、値を保持する部分のデータ量を抑えられます。ただし、モデル全体の必要メモリが半分になるという話ではありません。対応する演算経路や、回答品質への影響も確認する必要があります。
FP8 KVキャッシュ対応の変更PRMoEでは、GPUにない計算をCPUへ分担できる
MoEは、多数の専門部分から、入力ごとに使う部分を選ぶモデルの構造です。選ばれる部分を「エキスパート」と呼びます。llama.cppのMoEキャッシュでは、ホストメモリに置いたエキスパートを扱いながら、GPU側のキャッシュを利用します。
今回の更新では、キャッシュにないエキスパートの処理のうち、どれだけをCPUで計算するか調整できます。すべてをGPUへ転送してから計算する代わりに、一部をCPUで処理することで、機器の構成によっては待ち時間を減らせる可能性があります。
効果はGPUのメモリ容量だけで決まりません。CPUがメモリを読む速度、CPUとGPU間の転送速度、キャッシュの当たり方も関係します。変更PRには設定を比較する調整用スクリプトがあり、掲載例でも条件によってCPU分担の効果が異なります。自分の機器とモデルで測る必要があります。
MoEキャッシュのCPU分担と調整方法使う人の画面と、安全な接続にも更新がある
利用者に見える部分では、Web画面のチャットグループ、長文を入力しやすいMarkdownエディター、モバイル向けのレイアウトなどが更新されました。対応モデルを使った音声生成の入口も追加されています。
サーバー側では、ブラウザーからの接続や外部URLの取得に関する修正も入っています。ローカルで動くソフトウェアでも、ブラウザーやツール、ネットワークにつなぐ箇所には安全性の設計が必要です。1.0という番号だけで安全と判断せず、使う機能の更新内容を確認することが大切です。
Web画面・音声・サーバーのリリースノート何を使っているかで、更新時の確認は変わる
完成したチャットアプリを使っている人は、そのアプリの更新情報から、どのモデルが使えるか、不具合修正が取り込まれたかを確認できます。アプリがllama.cppを内蔵している場合、PC上の別のllama.cppを更新しても、アプリ内部まで同時に変わるとは限りません。
開発者がlibllamaを直接組み込む場合は、削除された関数や構造体の変更、言語ごとのラッパーの対応を確認します。llama-serverへHTTPで接続するアプリは、ライブラリのC APIとは別に、利用するエンドポイントや設定の変更を確認します。
配布経路にも違いがあります。公式リリースのタグはv1.0.0のような形式で、開発ビルドはbに番号が続く形式です。どちらを使っているか、アプリやパッケージがどの版を取り込んでいるかを記録すると、更新前後の問題を追いやすくなります。
公式リリースと開発ビルドの配布方針ローカルAIの価値は、継続して使えることにもある
今回の方針は、ローカルAIの実行エンジンを製品に組み込む開発者にとって、更新の影響を判断する手掛かりになります。新しいモデルへの対応を取り込みながら、既存の処理を維持するには、変更の境界が分かることが重要だからです。
ただし、APIの互換性が保たれていても、回答内容、速度、メモリ使用量が同じになるとは限りません。導入する側は、同じモデル・量子化・入力を使い、必要な回答品質、応答時間、メモリの条件が保たれるかを確かめます。この記事では、実機での性能比較は行っていません。
llama.cppの1.0は、AIを手元で動かす技術が、それを組み込むアプリや利用者の継続性を支える方向へ進む節目と捉えられます。これからはモデルの賢さとともに、更新しながら安心して使える実行環境を選ぶ視点も大切になります。
開発チームが説明する1.0の狙い