返回首页
最新
嗨，HN！我是Bek，Speko的创始人。Speko是一个平台，可以在所有公开基准选项中，根据您的约束条件找到最佳的语音转文本（STT）、大型语言模型（LLM）和文本转语音（TTS）模型组合，并告诉您原因。
<p>演示：<a href="https://youtu.be/no2LY2gRh-c" rel="nofollow">https://youtu.be/no2LY2gRh-c</a>
<p>典型的生产语音代理由三个模型组成：STT、LLM和TTS。
<p>每一层都有十多个可信的供应商，每个月市场上都会出现新的模型。几乎每个人只评估一次，选择自己喜欢的堆栈，然后再也不检查，因为从一个供应商切换到另一个供应商涉及额外的集成和关于数据的争论。
<p>结果是，您使用的语音代理运行的是上个季度的模型，而更好、更便宜的选项已经可用。
<p>在创办Speko之前，我花了四年时间作为联合创始人和首席技术官，为亚洲的企业构建语音代理，支持10多种语言。每当有新的语音模型出现时，我们都会重复同样的流程：雇佣母语评估员，将其与我们现有的堆栈进行基准测试，如果有改进就更新生产。Speko将这个过程转变为一个API。一个每天处理数千个电话的团队告诉我们：“我们可以直接去这个仪表盘，切换模型，它会为我们完成。”
<p>工作原理：您发送一个请求，包含您的优化标准（准确性、延迟、成本或平衡）、语言和地区。路由器会过滤出我们针对给定约束组合测量过的模型，对其进行基准测试，选择获胜者，并返回包含供应商、模型名称和分数的响应头。网关会预取已签名的会话计划，因此新的会话可以直接从内存中拨打供应商的电话；在呼叫者等待时不会有控制平面往返。
<p>故障切换仅在连接设置阶段发生：如果供应商拒绝连接请求，我们会开始连接备选供应商。
<p>一些客户故事：一位创始人来找我们时完全不知道该选择什么：他给我们提供了他的用例，现在所有内容都通过这个平台进行路由。一家物业管理AI在Python中运行LiveKit，自启动以来没有更新STT或TTS：他们不知道自己的STT在通话中错误率很高，更好的选项存在，而切换看起来总像是一个研发项目。一个团队不知道该选择哪个西班牙语模型。一个医疗团队不知道哪个STT最适合处理医学词汇。在每种情况下，我们都帮助他们从基准中找到合适的堆栈，现在他们通过我们进行路由。
<p>测量部分是公开的：我们在同一区域对每个模型进行不同日期的相同输入测试，并发布这些结果，包括我们选择的表现不如替代方案的情况。发布的演示回答了哪个30秒的片段听起来更好；生产环境则关注哪个模型能在第八分钟存活，因此我们测试自发语音、金钱和日期、十分钟的录音，排名会发生变化。我们为TTS自然度训练了一个自动评分器，在我们的盲听投票中；对于它从未见过投票的供应商，它选择的获胜者与我们的评估员一致的频率与评估员之间的共识相当。
<p>我们不自己训练或销售模型，这正是我们保持排名公正的原因。
<p>我们还开源了网关，供希望避免音频路径上额外网络跳转并且不想与我们的云共享密钥的团队使用（<a href="https://github.com/SpekoAI/gateway" rel="nofollow">https://github.com/SpekoAI/gateway</a>, MIT）：一个Go二进制文件，作为您代理容器中的侧车运行，通过Unix套接字使用一种本地协议，与提供商主机固定并附加您的密钥。在BYOK模式下，它根本不与我们通信。
<p>请注意，匿名的、无内容的遥测默认启用，您只需设置一个环境变量即可禁用。
<p>费用：网关和BYOK设置将永远免费，我们对托管路由器和管理密钥收取费用，并提供合并账单。自从我们在6月底启动批量以来，外部使用量平均每周增长约25%，在发布周前期集中。
<p>我非常希望得到社区的反馈：您现在是如何选择语音模型的？是什么让您信任第三方基准？
这段话的意思很明确。你们能否解释一下为什么这些问题会不断发生？<p>我注意到大多数帖子和回复只是人们根据发布的数据得出的个人结论。<p>我认为，能够获得一些实际的、非企业或营销的信息，来自那些真正了解内部情况的人，会很有帮助。<p>谢谢<p>能否……
随着人工智能承担了大部分工作，我们人类如何保持生活的趣味性？
例如：
1. 生成大量代码，剥夺了开发者多年来的乐趣。
2. 生成动画视频、电影或动漫书籍。那些因为热爱绘画而谋生的人会感到更加痛苦。
3. 可能还有更多的情景可以列举。
如果你从事某个职业是因为热爱，并且还获得报酬，那么你有充分的理由感到痛苦或沮丧。
你怎么看？
1. 这是否意味着那些没有什么技能、只是平庸的人将借助人工智能工具赚得盆满钵满，而那些因为热情从事某个职业的人将被挤出市场？
2. 创意工作者是否注定要遭殃？
3. 有哪些选择可供考虑？
4. 看起来贪婪正在让每个人的生活变得痛苦。
5. 也许热情的人会继续以“传统方式”做事，但无法谋生或与人工智能从业者竞争。例如：手绘动画与人工智能生成的相比，除非你比子弹还快，否则将变得不具经济效益。
请分享你的想法。
谢谢。