Qwen3.8 27Bを5.9GBまで小型化しつつ性能は98.2％維持したAIモデル「Ternary Bonsai 2 27B」が登場

親愛なる読者の皆さまへ。ご存じの通り価格高騰などの悪影響でサーバー運営がとても苦しい状態です。回線や台数を整理し見直せる部分は全て見直しましたが、やはりまだ危険水域です。このままだと1ページを10分割ぐらいして無理矢理PVを増やさざるを得なくなってしまいます。そこで、GIGAZINEの物理的なサーバーたちを、たった1円でも良いので親愛なる読者の皆さまに支援してもらえればとっても助かります！今すぐ寄付は上のボタンから！ ・ これまでGIGAZINEを支援してくれたメンバーのリスト

Alibabaの「Qwen3.8 27B」をベースに高いローカルスループットや優れたエネルギー効率を実現するモデル「 Ternary Bonsai 2 27B 」をアメリカ企業のPrismMLが発表しました。 PrismML — Introducing Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint https://prismml.com/news/bonsai-2-27b

Today, we’re announcing Ternary Bonsai 2 27B. Based on Qwen3.8 27B, Bonsai 2 27B is 9x smaller than its full-precision counterpart while retaining 98.2% of its aggregate benchmark performance. Two months after the first Bonsai 27B release, the biggest change is quality. The… pic.twitter.com/R8koycSkmJ

Ternary Bonsai 2 27Bは強力な推論能力やコーディング能力、エージェント能力を備え、「Bonsai」シリーズに特有の大幅に小さいメモリフットプリントや高いローカルスループット、優れたエネルギー効率を維持したモデルです。

以前にPrismMLが公開した「Bonsai 27B」はメモリ使用量を大幅に節約してiPhoneでも動かせることを売りにしていました。今回のBonsai 2 27BもiPhoneを含むAppleデバイス(Mac、iPhone、iPad)で動作するのが特徴です。 iPhoneでローカル実行可能な270億パラメータのAIモデル「Bonsai 27B」が登場、Qwen3.6-27Bをメモリ使用量3.9GBまで小型化してスマホ単体で実用的な速度で動作 - GIGAZINE

ベースとなっているのはQwen3.8 27Bですが、サイズはQwen3.8 27Bの9分の1となる5.9GBで、27Bという大規模なモデルでありながらVRAMが8GBしか搭載されていないグラフィックボードでもローカル実行を視野に入れられるサイズに収まっています。そしてQwen3.8 27Bが示すベンチマークスコアの98.2％をたたき出すなど、「サイズを小さくして性能を維持する」という大きなアドバンテージを持っています。 前世代のBonsai 27Bと比較して、Bonsai 2 27Bでは以下を実現しているとのこと。 ・ベースモデルをQwen3.6-27BからQwen3.8 27Bに強化 ・フル精度モデルに対して98.2％という高い性能維持率 ・推論、コーディング、ビジョン、長期的なエージェント性能の向上 各種ベンチマークの比較表は以下の通り。

Ternary Bonsai 2 27BはApache 2.0ライセンスでリリースされています。Hugging Faceにも公開されています。 Bonsai-2 - a prism-ml Collection https://huggingface.co/collections/prism-ml/bonsai-2

・関連記事 アリババが「Qwen3.8」のオープンモデル化を予告、「Claude Fable 5に次ぐ性能」で2.4兆パラメーターの大型モデル - GIGAZINE iPhoneで動作しBonsai 27Bと同等性能で13倍高速なAI「Maple-Preview」が登場、ローカルAIがまた1歩前進 - GIGAZINE iPhone 17 Proで270億パラメータのAI「Qwen3.6-27B」が動作、AppleはPrismMLと圧縮技術の活用を協議か - GIGAZINE

You can read the machine translated English article The 'Ternary Bonsai 2 27B' is an AI mode… .