MiniMax H3 (Hailuo 3.0) をColab A100で動かしたら、詰まったのはVRAMじゃなくディスクとRAMだった

ローカル環境とクラウド環境の違いを踏まえながら、10種類の動画AIが1枚の画像から生成する結果を比較できる。モデルごとの出力傾向と実行環境の差が、用途に合わせた選定の判断材料になる。

1枚の16GB GPU上で蒸留モデルを比較し、モデル規模の大きさが常に勝つわけではなく、蒸留条件下では小規模モデルが逆転することを実測データから確認できる。蒸留データ量や学習条件の違いによる性能変化を把握でき、手持ちGP

新モデルQwen3.8-Maxの発表内容と、来週予定の小型モデルQwen3.8-27Bの情報を一括で把握できる。オープンウェイトモデルとして提供されるため、ローカル環境での利用を検討する際の判断材料になる。性能の主張はベ

DGX Spark 1台にローカル推論環境を構築する手順と判断材料が得られる。llama.cppで対象モデルを動かすための実行設定、必要なメモリやパフォーマンスの観点、導入時の注意点を確認できる。

ローカル環境で機密情報を外部送信せずにAIへ読ませるRAG運用の始め方が得られる。AnythingLLMを導入して手元の文書を参照させるまでの流れと、社外秘情報を扱う際のセキュリティ上の注意点を確認できる。

無償公開されたDeepSeek V4 Flashのモデルサイズ違いが分かる。公式版167GB、Unsloth版最小82GB台という選択肢を踏まえ、自分の環境で動かせる容量を判断できる。