faster-whisper 实测同一段音频转录快 4 倍显存少一半【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisper2 小时的会议录音原版 Whisper 转了 40 分钟还没完后面还排着十几条。做语音转录的人天天卡在这faster-whisper 就是拆这个局的。它是什么不是什么faster-whisper 是 SYSTRAN 用 CTranslate2 重写的 Whisper 推理实现——权重还是 OpenAI 那套只是换了一台跑得快的推理引擎。它不训练新模型、也不改算法精度纯粹把同一套权重跑得更快、更省。它凭什么快 说回速度。快不是玄学拆开看是三件具体的事每件都能对到你拿到的数字上。权重从 FP16 压到 INT8显存直接砍掉三分之一CTranslate2 原生支持 int8 量化CPU 和 GPU 都能开。权重精度从 16 位降到 8 位计算量变小、显存带宽也省。你实际拿到的是large-v2 在 GPU 上从 4.5GB 掉到2.9GB13 分钟音频59 秒跑完。不用装 FFmpeg音频解码自己搞定它用 PyAV 解码音频把 FFmpeg 库直接打包进 pip 依赖。环境里少一个坑容器、裸服务器装完就能跑不用折腾 ffmpeg 版本对不对。VAD 默认开着静音段自动剪掉内置 Silero VADtranscribe 时vad_filter默认就是 True。只转有人声的片段不拿时间算静音。长音频里大段无声被跳过速度和质量两头都受益参数见 vad.py。3 分钟上手 ⏱先装包pip install faster-whisper。有卡走 cuda 混合精度没卡走 cpu int8其余参数看 transcribe.py。from faster_whisper import WhisperModel # 有 NVIDIA 卡就用 cuda int8_float16精度和速度都留得住 # 纯 CPU 环境就换成 devicecpu, compute_typeint8 model WhisperModel(large-v3, devicecuda, compute_typeint8_float16) segments, info model.transcribe(audio.mp3, beam_size5, word_timestampsTrue) for seg in segments: # segments 是生成器循环到这才真正开始转录 print(f[{seg.start:.2f} - {seg.end:.2f}] {seg.text})两个真实场景走查场景一视频字幕批量生成需求一晚上出几百条视频字幕词级时间戳要对齐画面。怎么配devicecuda、compute_typeint8_float16、word_timestampsTrue拿到seg.words里每个词的起止时间直接拼 SRT。实际效果int8 比 fp16 省一半显存同一张卡能并发挂更多任务时间戳是词级的字幕跟得上口型。容易踩的坑长视频别整段丢进去按 5 分钟切片再手动补上时间戳偏移否则内存和延迟都会爆。# 只给字幕流水线用的最小改动开词级时间戳即可 segments, _ model.transcribe(clip.mp4, word_timestampsTrue) for seg in segments: for w in seg.words: print(w.start, w.end, w.word)场景二客服通话质检需求通话录音转文本做质检专业术语要准服务器只有 CPU 或显存不大。怎么配devicecpu、compute_typeint8再往initial_prompt里塞行业词表把术语顶上去。实际效果int8 在 CPU 上内存从 2.3GB 降到1.5GB速度也跟着提上来质检批处理能压进一晚上。容易踩的坑静音多的录音一定别关vad_filter不然 no_speech 段会被硬生生吐出乱码。常见坑与调优 ⚠️速度数字对不上这里默认beam_size5openai/whisper 默认是 1比速度前先对齐参数不然没法比。跑了个寂寞segments是生成器不迭代就不执行想拿结果就list(segments)。GPU 报缺 cuBLAS/cuDNN新版只认 CUDA 12 cuDNN 9老环境把ctranslate2降到 3.24.0。int8 偶发质量掉换int8_float16混合精度速度和精度一起留住。长音频内存爆分块转或换BatchedInferencePipeline批处理思路是按 chunk 循环再拼时间戳别一次灌全片。什么时候该用它什么时候别用要速度、要省内存就上 faster-whisper——GPU 走int8_float16CPU 走int8多数场景快4 倍、显存省一半。追求极致精度且不在乎耗时、或根本没有 Python 环境那就别折腾退回原版 Whisper 或云 API。【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisper创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考