128GB超メモリMac専用の巨大LLMエンジン「ds4」はローカル推論の常識をどう書き換えるのか。284BのDeepSeek V4 FlashをM4 Max 128GB MacBook Proの自作AIに組み込んでみた（CloseBox） | テクノエッジ TechnoEdge
この記事で分かること
128GBメモリを搭載したMacで、284BパラメータのDeepSeek V4 Flashをローカル推論する実装例が得られる。M4 Max MacBook Proで巨大LLMを動かすためのメモリ管理や推論速度の実測値、自作AIへの組み込み手順が判断できる。
詳細要約
128GB以上のメモリを搭載したApple Silicon Macで、284BパラメータのDeepSeek V4 Flashをローカル推論できる専用エンジン「ds4」が登場した。C言語で書かれ、Metal専用で依存ライブラリが極小なのが特徴で、llama.cppとは異なる設計思想を持つ。実際に使う際の具体点は、動作条件が128GB以上のメモリを積んだApple Silicon Macに限定されること、そして「ds4」は一度に一つのモデルに特化し、公式ベクトル検証や長文脈テスト、エージェント連携の実用性確認を重視していることである。