スマホで27B級LLMが動く！PrismMLが「Bonsai 27B」を無料公開
この記事で分かること
スマートフォン上で27Bパラメータの大規模言語モデルを無料で実行できる。PrismMLが公開した「Bonsai 27B」は、端末内で動作するためインターネット接続が不要で、プライバシー面でも有利。具体的な利用シーンとしては、外出先での文章作成や情報整理など、クラウドAPIに依存しないローカルLLMの活用が可能になる。
関連ニュース
【2026年最新】Bonsai 27B完全ガイド — iPhoneで動く1-bit版とTernary版の違い・選び方
Bonsai 27Bの1-bit版とTernary版の違いと選び方が、iPhoneでの動作を前提に比較できる。量子化方式による性能と動作環境の違いが判断基準となる。
OmniRoute+OpenCodeで月16億トークン無料は実現できるのか
OmniRouteとOpenCodeを組み合わせて月16億トークンを無料で利用できるかどうかの検証結果が得られる。実現可能性とその条件を判断するための材料が提供される。
「colibrì」が超巨大な7440億パラメータLLM「GLM-5.2」をメモリ25GBで稼働させる仕組み（生成AIクローズアップ） | テクノエッジ TechnoEdge
メモリ25GBという限られた環境で、7440億パラメータの巨大LLMを稼働させる具体的な手法が分かる。量子化やメモリ管理の工夫により、通常は不可能な規模のモデルをローカルで動かすための実用的な知見が得られる。特に、推論時
Claude Opus 4.8超えの予測力、マルチモーダルLLM「Inkling」無償公開
Claude Opus 4.8を超える予測力を持つマルチモーダルLLM「Inkling」が無償公開された。画像やテキストを同時に処理できる点が特徴で、無料で利用開始できる。
Google、ブラウザ内でAIを高速実行する「LiteRT.js」を発表 WebGPU対応、既存ランタイム比で最大約3倍 | Ledge.ai
ブラウザ上でAIモデルを高速実行できるJavaScriptランタイムが公開された。WebGPUに対応しており、既存のランタイムと比較して最大で約3倍の処理速度を実現する。これにより、クラウド経由ではなくユーザーの端末だけ
iPhoneでローカル実行可能な270億パラメータのAIモデル「Bonsai 27B」が登場、Qwen3.6-27Bをメモリ使用量3.9GBまで小型化してスマホ単体で実用的な速度で動作
iPhoneでローカル実行可能な270億パラメータのAIモデル「Bonsai 27B」が登場した。メモリ使用量を3.9GBまで小型化し、スマホ単体で実用的な速度で動作する。ローカルLLMをモバイル端末で利用したい場合の選