並列化したら文字起こしが3倍遅くなった話 — Whisper × Apple Silicon (MPS) の実測
この記事で分かること
Whisperの文字起こしをApple Silicon（MPS）で並列化したところ、逆に3倍遅くなったという実測結果から、並列化の落とし穴と注意点が学べる。MPSバックエンドの特性や、並列化が逆効果になる条件を具体的に把握できる。
詳細要約
Apple Silicon搭載MacでWhisperの文字起こしをMPS（Metal Performance Shaders）で並列処理すると、逆に3倍遅くなるケースがある。実測では、バッチサイズを大きくするほど処理時間が増加し、特にバッチサイズ8以上で顕著な劣化が確認された。原因はMPSの並列処理オーバーヘッドがGPUの計算能力を上回るためで、小規模なモデルや短い音声ほど悪影響が出やすい。設定時はバッチサイズ1（逐次処理）を基準に、実際の音声長やモデルサイズでテストしながら調整するとよい。