iPhoneでローカル動作する画像生成AI「Bonsai Image 4B」が登場したので使ってみた、FLUX.2 Klein 4Bを1bit版に魔改造してメモリ使用量を8.3分の1に削減
この記事で分かること
ローカル環境で動作する画像生成AI「Bonsai Image 4B」がリリースされた。FLUX.2 Klein 4Bを1bit版に変換することでメモリ使用量を約8分の1に削減しており、iPhoneでも動作する点が実用的な利点である。ローカルで画像生成を行いたい場合の選択肢として、メモリ制約のある環境でも使えるかどうかの判断材料になる。
詳細要約
iPhoneでローカル動作する画像生成AIが登場し、メモリ使用量を大幅に削減した点が実用的。具体的には、FLUX.2 Klein 4Bを1bit版に魔改造することで、元の8.3分の1のメモリで動作可能になった。これにより、高スペックなクラウド環境がなくても、iPhone単体で画像生成を試せる。ただし、画質や生成速度が元のモデルと比べてどの程度劣るかは、実際に使う際の判断材料として確認が必要。