ASR 模型延迟与字正确率测试对比
在 Xinference 下比较 P40 与 Xeon CPU 的短音频延迟,并对照 T1H 机器人集、S5H 客服集的字正确率,分析模型选择、热词收益与测试边界。
阅读全文 ↗:ASR 模型延迟与字正确率测试对比用数据记录实际表现,
把测试条件与结果一起留下。
在 Xinference 下比较 P40 与 Xeon CPU 的短音频延迟,并对照 T1H 机器人集、S5H 客服集的字正确率,分析模型选择、热词收益与测试边界。
阅读全文 ↗:ASR 模型延迟与字正确率测试对比比较 P40 + Xinference、L20 + Xinference 和 L20 + vLLM 三组部署,记录不同并发下的 QPS、P50 与 P95,以及单轮短测试的适用范围。
阅读全文 ↗:P40 与 L20 上的 Embedding 和 Reranker 服务性能对比一次 HDD 到 SSD 的数据卷迁移测试:RAGFlow 检索平均耗时下降 17.15%,Dify 检索平均耗时下降 11.43%,Agent 平均总耗时下降 27.66%。从 10 轮样本看结果,也看测量边界。
阅读全文 ↗:把知识库数据迁到 SSD 之后 Dify 与 RAGFlow 的性能变化没有找到匹配的报告,试试其他关键词。
持续记录,慢慢积累。