win10部署fast-whisper实测最佳方案

因为不喜欢win10上的shell,一直都比较喜欢在wsl中的ubuntu中跑服务,结果轮到fast-whisper的时候发现容器中无法加载模型,因为无法利用宿主机的代理,又不太方便把模型下载完放进去。

还有个情况是,无法用到GPU,导致用CPU跑超慢。

win10上的docker-desktop也是基于wsl的,但是创建容器的时候发现有个区别,一种是在powershell中跑命令,那么创建的容器可以走代理,下载模型顺利,而在wsl中的ubuntu跑创建docker命令创建的容器则不行,目前没有资料证实是否这样,没有太多时间再去研究这个网络。

最后实测最佳方案是,在powershell中运行:

docker run -d --gpus all -p 7860:7860 --name fast-whisper --mount type=bind,source=$(pwd)/.cache/whisper,target=/root/.cache/whisper --mount type=bind,source=$(pwd)/.cache/huggingface,target=/root/.cache/huggingface --restart=on-failure:15 registry.gitlab.com/aadnk/whisper-webui:latest app.py --input_audio_max_duration -1 --server_name 0.0.0.0 --auto_parallel True --default_vad silero-vad --default_model_name large-v2

另外,打开Word Timestamps – Highlight Words以后,效果似乎更棒一些,还加上了标点符号,准确度很高。

评论

《“win10部署fast-whisper实测最佳方案”》 有 1 条评论

  1. 这一篇中docker创建的部分可以参考,关于代理的部分请看下一篇。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

这个站点使用 Akismet 来减少垃圾评论。了解你的评论数据如何被处理