BLOG
Qwenputerの先へ。AIの中に広がるGPU・記憶・エージェント
AIの内部にCPUを組み込んだQwenputer。その発想はGPU型の計算回路、ファイルシステム、OS、エージェントの制御へ広がっています。似た名前でも、中へ組み込む機能や外部に残す処理は異なります。計算・記憶・制御をどこが担うのかが、可能性と限界を読む手掛かりになります。

AIの中のCPUから、計算・記憶・制御へ。
文章を作るAIの内部に、命令どおりに計算するCPUを組み込む。Qwenputerから始まったこの発想が、GPUのような計算回路、ファイルシステム、小さなOS、エージェントの制御へ広がっています。家の中に作業机を一つ置いた実験から、道具や書庫、仕事の手順まで整える実験へ進んだ、と考えると全体をつかみやすくなります。
基になっているのは、Alibabaの言語モデルQwenです。ただし、ここで紹介するのは独立した開発者たちの実験で、Alibabaが一つの製品群として提供するものではありません。Qwenputerのコードを利用するものも、同じ考え方を別の方法で実装するものもあります。
本記事は2026年11月8日時点の公開資料をもとに、何を内部へ移したのか、何が外部に残るのかを整理します。実行結果や性能の数値は各開発者の報告であり、当サイトで実モデルを追試した結果ではありません。
Qwenputerの基本の仕組みを読むまず、言葉を考える部分と、手順を実行する部分を分ける。
通常の言語モデルは、文脈に続くトークンを生成します。トークンとは文章を扱う単位で、これらの実験では機械の実行状態を表す専用の記号も使います。Qwenputerは、学習済みの言語処理に、人が設計したCPUの処理層を加えました。物理的な半導体を増設するのではなく、CPUの規則をネットワークが行う演算へ変換します。

重みとは、モデルの処理を決める数値です。通常は学習で調整しますが、追加するCPU部分の重みは、規則からコンパイラーが直接作ります。コンパイラーは、ある形で書いた処理を、実行できる別の形へ変換する道具です。AIに大量の計算例を覚えさせ、正答を期待する方法とは役割が違います。
処理を続けるためのメモリーには、Qwen3.5のGated DeltaNetという層が保持する内部状態を使います。指定した場所へ数値を書き込み、同じ場所から読み出せるよう制御します。実行中に変わる作業用の状態と、処理規則を決める重みは別です。保存した内容を、そのたびに追加学習しているわけではありません。
Qwenputer作者による構成の説明QwenPU:AIの中で、小さなAIの計算を進める。
Qwenputerの作者Divyansh Agrawal氏は、ニューラルネットの計算に向く命令を加えたQwenputer-npuを公開し、さらにCPUとベクトル演算ユニットを組み合わせたQwenPUへ進みました。ベクトル演算は、並んだ複数の数値をまとめて処理する仕組みです。
QwenPUでは、数値を表に並べて処理する行列計算や、情報の関係に重みを付けるAttentionなどを使い、26万パラメーターの小さな言語モデルstories260Kをプログラムとして動かします。外側のQwenが、内部の計算機で別のモデルの推論を進める構成です。
ただし、内側のモデルが小さくても、外側まで軽くなるわけではありません。公開された重みは約26.7GBで、全体を読み込む構成には40GB以上のGPUメモリーが案内されています。言語処理の層を省いた回路部分のデモでも、作者のL4での測定では、内部モデルの生成に1トークンあたり約16秒かかっています。回路部分だけを動かす条件と、会話用Qwenも含めて動かす条件も分ける必要があります。
QwenPUの構成・実行条件qwenGPU:同じ処理を並べて進める計算回路。
qwenGPUは、Qwen3.5-2BにGPU型の回路を追加する取り組みです。GPUは多数のデータへ似た処理を並行して適用するのが得意で、この実験では4レーンの小さな構成を作っています。物理GPUの性能をそのままモデル内部へ持ち込むものではありません。
CUDAで書いた処理をPTXという命令表現へ変換し、さらに内部回路が扱える形へ変換します。CUDAはGPU向けプログラムを書くための仕組みです。コンパイルと入力の準備は外部プログラムが担当し、実行中の分岐や数値の更新は追加したモデル層が処理します。
作者は小規模なベクトル・行列計算などを報告しています。一方、言語モデルにCUDA自体を書かせるモードでは、プログラムの誤りが残ります。回路が命令を正確に動かしても、間違ったプログラムを書けば正しい答えにはなりません。
qwenGPUの内部回路と外部コンパイルqwenTPU:行列計算に絞って、回路そのものを組む。
qwenTPUも計算を担当しますが、汎用CPUの命令を順に進めるより、行列計算のための配列状の回路へ焦点を当てています。GoogleのTPUという実物の半導体が入っているわけではありません。行列を処理するアクセラレーターの構成を参考にした独自の実験です。
内部状態へ重みや途中の合計を置き、複数の行をまとめて読み出す性質を加算へ利用します。小さい整数を正確に扱うために、数値の桁を分けて計算する設計も使っています。扱える行列の大きさや数値の幅には上限があります。
初期版では外部側が処理用トークンを与えて回路を進めます。後続のv2では、最初にプログラムや入力を渡すと、モデルが次の処理用トークンを出しながら停止まで進む構成を試しています。同じプロジェクトでも、どこまで自分で処理を進めるかは版によって異なります。
qwenTPUの方式とv1・v2の違いqwenFS:計算の次に必要なのは、仕事を残す場所。
計算できるだけでは、前に何を決め、何が終わったかを引き継げません。qwenFSは、ファイルの読み書きや検索、ファイル同士のリンクを扱う処理をQwen3.5-2Bへ追加します。Qwenputer作者の4B版Filesystemとは別の実装です。
ファイル本文のコピーにはAttentionの記録を、ファイル名や版の表にはGated DeltaNetの状態を使います。AIが読み書きの要求を出し、追加した層がその結果を返します。たとえば、作業メモを保存したあと、必要なファイルを指定して読む、という流れです。
ただし、内部状態だけで電源を切ったあとも残るわけではありません。qwenFSは外部のディスクイメージへ保存し、次のセッションで復元し、必要な本文を読み込みます。ファイル数は128、名前や一回の書き込み量にも上限があり、検索は短い単語の完全一致です。一般的なファイルシステムや検索サービスと同等の機能ではありません。
qwenFSの保存方式と制約BabyAGI Inside:道具に加え、仕事を進める手順も内部へ。
エージェントとは、目標に向けて複数の作業を進めるAIの仕組みです。通常は外側のソフトウェアが作業一覧を持ち、AIを呼び出し、結果を保存し、次の作業を選びます。BabyAGI Insideは、このうち回数を限定した制御ループと記録処理をモデル側へ移す実験です。

qwenFSを土台にし、最初の目標を受け取ったあとは、決められた作業サイクルを進めて停止します。公開された検証では、2・3・5・8サイクル用に、それぞれ別のモデルを作っています。無制限に仕事を増やす自律エージェントではありません。
公開10例では、制御と読み書きは規則どおりに進み、8例の連続した算術処理は期待する結果になりました。一方、残る2例の構造的な計画を求める課題は、機械的には完了しても内容が誤りました。制御器が正しく実行したのは、AIが作った誤った作業記録だったためです。診断用に選んだ10例であり、一般的な成功率を示す評価でもありません。
BabyAGI Insideの公開検証と未解決点qwenNET:複数のAIをつなぐ通信へ。
一つのモデルの記憶と制御ができると、次は複数の担当をつなぐ試みが出てきます。qwenNETはQwenputerのCPUと、qwenFSに由来するファイル・通信の仕組みを組み合わせ、別のエージェントへメッセージを送り、共有するファイルを扱います。
ここで「内部に通信を持つ」とは、モデルがそのままインターネットへ接続するという意味ではありません。別のエージェントへ要求を届け、順番に動かす仲介は外部の実行環境に残ります。
通信の内容を正確に運べることと、適切な相手へ必要な情報だけを渡すことも別です。公開実験には、計算できても確認を繰り返し、制限内に返答を送れない例があります。内部に通信を組み込むほど、本文だけでなくファイルや状態のやり取りを含めて検査する必要が出てきます。
qwenNETの構成とホスト側の役割QwenOS:小さなOSで、実際のプログラムを動かす。
OSは、プログラムへ入出力や実行のための基本機能を提供します。QwenOSは、QwenputerのRISC-V CPU上に小さなOSを作り、シェルで命令を受け取り、DOOMを動かす取り組みです。シェルは文字で命令を入力する窓口です。
重要なのは、もっともらしいゲーム画面を画像生成したのではなく、ゲームのプログラムが出す計算を追っている点です。ただし、公開物にはモデルによる実行と、同じCPUを再現する高速な外部エミュレーターによる実行があります。操作できるライブデモは後者です。
作者はモデル経路での命令検証や、画素をトークンとして出力する実験も報告しています。一方、従来の測定では1フレームに約18分かかり、最適化後の8〜10分という値は推定です。滑らかに再生された動画の速度を、モデルの実行速度と受け取ることはできません。キー入力、ディスク、時刻などを外部が支える範囲も残ります。
QwenOSのモデル経路とデモの区別qwengl:画像を想像するのではなく、描画を計算する。
qwenglは、qwenTPUを使って三角形の描画や奥行きの判定を計算するライブラリーです。画像生成AIのように場面を描くのではなく、頂点の位置から、どの画素に何を表示するかを小さな整数のネットワークで求めます。
報告されているのは、低解像度の図形や場面です。透視投影、テクスチャーなどには対応せず、奥行きも三角形ごとの近似です。画面や奥行きのバッファは処理の間に外部で保持し、処理の割り振りやデータ移動も外部が担当します。
また、回路部分だけを動かして言語モデルの層を省略する経路が使われています。「Qwenの中で描いた」という言葉だけでは、会話するQwen全体が毎回働いているのかまで分かりません。どの層を動かし、どこに結果を置いたかを見る必要があります。
qwenglの描画処理と外部に残る機能qwentensorとQIQ:別のニューラルネットを、プログラムとして扱う。
qwentensorは、小さなPyTorchのニューラルネットを5ビット整数へ変換し、qwenTPUの仕組みで動かします。PyTorchはAIのモデルを作るための開発用ライブラリーです。処理の内容や重みをプロンプトへ渡すことで、同じ回路へ別の計算を行わせます。
小さな分類器や畳み込みネットワークなどの実行が報告されています。ただし、大きいものは複数のページへ分割し、前のページの出力を次の入力へ渡す処理を外部が担当します。量子化後の整数モデルを正確に再現することと、変換前のモデルと同じ認識精度を保つことも別の評価です。
qwentensorの変換・分割実行Qwenの中のQwenは、どこまで動いたのか。
Qwen-in-Qwen、略してQIQは、修正したQwen3.5-4Bの内部CPUで、Qwen3-0.6Bの計算を進める実験です。作者が示した到達点は、特定の入力トークンをプログラム内に固定して、それに続く1トークンを計算し、参照する実装の出力と一致させたことです。
そのために約1億9,900万の実行用トークンを使っています。これは内側のQwenが約2億語の回答を書いたという意味ではなく、推論の数値計算を進めるための記録の長さです。
別の言語モデルを内部で動かせることを示す実験としては興味深い一方、連続した会話や実用速度が示されたわけではありません。一般的なモデルの蒸留や軽量化と同じものとして読むと、成果の意味を取り違えます。
QIQで検証された1トークンの範囲似た名前でも、学習する仕組みまで同じとは限らない。
関連するqwenagentは、ここまでの回路を規則から作る方式とは異なります。固定したQwen3-0.6Bの途中に、学習する小さな処理器と、それぞれの記憶状態を追加します。複数の計算の途中経過を分けて持ち、結果を元のモデルへ戻す実験です。
「サブエージェント」という名前でも、別々のチャット担当が外部ツールを使って仕事をする構成ではありません。公開結果は人工的な計算課題で、複数の処理器へ振り分ける方式が、単一の記憶状態より優れるとはまだ確定していません。Qwenputerの直接の派生として一括りにせず、関連する別方向の試みとして区別できます。
qwenagentの学習対象と評価上の留保今後の可能性は、学習と設計を組み合わせられること。
これらに共通して見えるのは、AIの能力を増やす方法が、学習データやパラメーターを増やすだけではないということです。文章から目的を読み取る部分には学習を使い、指定した計算や読み書き、停止条件には設計した処理を使う。その組み合わせを、モデルの構造そのものとして検討できます。
たとえば、AIが集計の条件を整理し、決められた処理が数値を計算し、記録を残す構成が考えられます。これは本記事の活用上の考察であり、各プロジェクトが業務で検証した成果ではありません。集計対象や単位の選び方が誤れば、計算だけが正しくても業務上の答えは間違います。
設計した処理を内部へ置く価値は、その境界を明確にして検査できる可能性にあります。どの命令を実行し、どの状態を変え、どこで止まったかを追えるなら、学習した判断の誤りと、手順の実行の誤りを切り分けやすくなります。外部ツールを使う構成でも可能な分担ですが、それをモデル内でも試せることが、この流れの意味です。
現時点では、内部に入った範囲と、全体の費用を見る。
実用性を判断するときは、「モデル内で動いた」という言葉を、実行条件へ分解すると比較しやすくなります。追加した層だけを動かす高速経路、会話用の層も含めた実行、外部エミュレーターのデモは、同じ数字として比べられません。
- 実行範囲:追加したモデル層、言語処理の層、外部プログラムが、それぞれ何を担当するか。
- 正しさ:命令どおりの計算、AIが作った計画、最終的な答えを分けて検証しているか。
- 資源と時間:重みや実行時メモリー、初期化、状態の保存・復元まで含めて比較しているか。
- 実証範囲:一つの出力、限られた入力、診断用の例が、どの条件で確認されたか。
また、内部にあることだけで安全になるわけではありません。保存内容を誰が読めるか、別の担当へ何を送れるか、状態をどう消し、誤った記録からどう復旧するかは別途必要です。小さな人工課題で動作した結果を、顧客情報を扱う業務全体の保証へ広げることもできません。
Qwenputerからの広がりは、言語モデルの内部を、学習済みの能力だけが入った完成品として扱わず、計算・記憶・制御を組み合わせる場として考える動きです。次に見たいのは、より大きなデモだけでなく、外部ツールを使う構成と同じ課題で比べたときの正確さ、全体の時間、容量、失敗から戻るための手間です。