Apple Silicon環境でのWhisperによる文字起こしで、並列実行が逆に遅延を招いた事例を報告。MPS(Metal Performance Shaders)の仕様と順次処理との効率比較から、リソース競合を避ける運用の重要性を解説する。
並列化したら文字起こしが3倍遅くなった話 — Whisper × Apple Silicon (MPS) の実測
編集メモ: Apple SiliconのMPS環境では並列化が逆にボトルネックとなり得るという実測知見は、リソース競合を考慮した効率的な推論パイプライン構築における重要な教訓となります。