知名语音应用 Handy 的作者发布了基于 ggml 的全新语音转文字库 transcribe.cpp。该项目旨在解决当前跨平台 ASR(自动语音识别)应用分发困难的问题,作者指出现有的 Whisper.cpp 模型支持有限,而 ONNX 在 CPU 上运行性能不足。transcribe.cpp 支持 16 个 ASR 家族的 60 多个模型,并通过 Vulkan、Metal、CUDA 和 TinyBLAS 实现了广泛的硬件加速。与许多未经验证的第三方库不同,该项目对每一个模型都进行了严格的数值验证和 WER(词错率)测试,确保推理精度接近参考实现。为了方便开发者集成,库提供了 Python、JavaScript/TypeScript、Rust 和 Objective-C/Swift 的官方语言绑定。性能测试显示,该库甚至能在 RK3566 这类低功耗设备上实现比实时更快的转录。该项目得到了 Mozilla AI 的 BiR 计划支持,致力于让更准确、隐私友好的本地语音识别技术触手可及。
事件分析
💡 核心观点:经过严格验证且支持多模型端侧推理的开源引擎,是构建隐私优先 AI 应用的关键基础设施。
原文链接:Hacker News

评论前必须登录!
立即登录 注册