返回首页
最新
我对我们媒体的质量感到沮丧，它往往对一方提出强有力的论据，而对另一方则采用稻草人论证。因此，我开发了一个工具，让大型语言模型（LLMs）就辩论的对立双方进行辩论，以更深入地探讨一个话题。
每一方随机分配一个模型（支持或反对），目的是从两个角度提出最佳论据。
目前，该工具使用的是GPT-4、Gemini 2.5 Flash和Grok-3。我非常希望能收到任何反馈或建议，以便改进这个工具。
<a href="https://www.botbicker.com" rel="nofollow">https://www.botbicker.com</a>
我使用这个工具已经两年了，现在它真的成了一把多功能的“瑞士军刀”。我相信它可以帮助许多开发者。
和你们中的许多人一样，我正在通过服务器发送事件（SSE）逐个令牌地流式传输来自大型语言模型（LLMs）的响应。
保持SSE连接在页面刷新时不变的最佳方法是什么？
我没有看到很多关于这个的文档或示例。在我使用的大多数支持LLM的应用中，如果令牌正在流式传输而页面刷新或更改，流就会中断。
我想到的一个主意是将流式传输的令牌写入某种队列或Kafka主题，然后将我的用户界面连接到该队列，从那里流式传输令牌。但这似乎工作量很大。
大多数人是如何做到这一点的？
大家好，我是来自Leaping AI的阿尔卡迪（Arkadiy），我们的官网是<a href="https://leapingai.com">https://leapingai.com</a>。Leaping允许您以多阶段、图形化的格式构建语音AI代理，这使得测试和改进变得更加容易。通过评估通话的每个阶段，我们可以将错误和回归追溯到特定阶段。然后，我们会自主调整该阶段的提示并进行A/B测试，从而使代理能够随着时间的推移自我改进。
您可以直接与我们的一个机器人对话，网址是<a href="https://leapingai.com">https://leapingai.com</a>，还有一个演示视频可以在<a href="https://www.youtube.com/watch?v=xSajXYJmxW4" rel="nofollow">https://www.youtube.com/watch?v=xSajXYJmxW4</a>观看。
大型公司对AI开始接听电话自然是有所顾虑——这项技术在某种程度上是有效的，但往往效果不佳。如果他们真的下定决心，通常会花费数月时间来调整仅一个用例的提示，有时甚至最终不会发布语音机器人。
问题是双向的：用简单的语言准确地指定机器人应该如何行为并非易事，同时确保大型语言模型（LLM）始终按照您的意图执行指令也是一项繁琐的工作。
现有的语音AI解决方案在复杂用例的设置上非常麻烦。它们需要数月时间来处理所有边缘案例，然后再花几个月时间进行监控和改进提示。我们通过运行持续的分析和测试循环，比人类提示者做得更好、更快。
我们的技术大致分为三个子组件：核心库、语音服务器和自我改进逻辑。核心库负责建模和执行多阶段（类似n8n风格）的语音代理。对于语音服务器，我们使用传统的STT（语音转文本）->LLM（大型语言模型）->TTS（文本转语音）级联方式。我们尝试过语音对语音模型，虽然与之对话的体验非常好，但功能调用的性能显然较差，因此我们仍在等待它们的改进。
自我改进的工作原理是首先收集对话指标和评估结果，以生成“反馈”，即关于如何改进语音代理设置的具体想法。在收集到足够的反馈后，我们会触发一个专门的自我改进代理进行运行。它是一种光标风格的AI，能够访问各种工具，改变主要的语音代理。它可以重写提示，配置一个阶段使用摘要对话而不是完整对话，等等。每次迭代都会生成代理的新快照，使我们能够将一小部分流量引导到它上面，并在情况良好时将其推广到生产环境。这个循环可以在没有任何人工干预的情况下运行，从而使代理能够自我改进。
Leaping对用例没有特定限制，但我们目前专注于入站客户支持（旅游、零售、房地产等）和潜在客户预筛选（医疗保险、家庭服务、绩效营销），因为我们在这些领域有很多成功案例。
我们最初在德国起步，因为我们在大学时在那里，但最初的增长面临挑战。我们决定立即针对企业客户，但他们对将语音AI作为公司前台“面孔”的接受度不高。此外，对于每天有成千上万通电话的企业来说，监控所有电话并手动调整代理是不可行的。为了应对他们非常合理的担忧，我们将所有精力投入到可靠性上——至今仍未提供自助访问，这也是我们尚未制定固定定价的原因之一。（此外，对于某些客户，我们采用基于结果的定价，即对于未转化为潜在客户的电话不收取任何费用，仅对成功转化的电话收费。）
自从我们进入YC并搬到美国以来，事情开始加速发展，但如果您试图向大型企业销售，谨慎的情绪在这里也依然存在。我们相信，出色地进行评估、模拟和A/B测试是我们的竞争优势，也是我们能够解决大型、敏感用例的关键。
我们非常希望听到您的想法和反馈！
嘿，HN，我们是一家YC创业公司，正在构建一个开源、以隐私为首要考虑的Perplexity Comet替代品。
<p>与其他许多产品不同，我们没有邀请系统——你可以今天就从我们的网站或GitHub上下载它：<a href="https://github.com/browseros-ai/BrowserOS">https://github.com/browseros-ai/BrowserOS</a>
<p>--- 为什么要构建一个替代品？我们相信，浏览器将成为新的操作系统，我们将大量工作交给AI代理。但这些代理将能够访问你所有的敏感数据——电子邮件、文档，以及你的浏览历史。需要存在开源、以隐私为首的替代品。
<p>我们不是搜索或广告公司，因此没有奇怪的激励机制。你的数据保留在你的机器上。<i>你可以使用Ollama的本地LLM。</i>我们还支持BYOK（自带密钥），所以没有每月200美元的计划。
<p>与Perplexity Comet的另一个重大区别是：我们的代理在你的浏览器中本地运行（而不是在他们的服务器上）。你可以实际看到它点击和执行操作，这非常酷！短演示在这里：<a href="https://bit.ly/browserOS-demo" rel="nofollow">https://bit.ly/browserOS-demo</a>
<p>--- 我们是如何构建的？我们对Chromium的C++源代码进行了补丁修改，因此我们拥有与Google Chrome相同的安全性。我们还为安全补丁和定期更新提供了自动更新程序。
<p>处理Chromium的1500万行C++代码是另一个有趣的冒险，我正在为此写一篇博客文章。在这个规模下，Cursor/VSCode会崩溃，所以我们又回到了使用grep来查找和修改内容。Claude代码的表现也出乎意料地好。
<p>构建二进制文件大约需要3小时，在我们的M4 Max MacBook上。
<p>--- 接下来呢？我们只有两个人，面临大量工作（Firefox最初是由3名黑客创建的，历史总是有相似之处！）。但我们坚信，拥有本地LLM支持的以隐私为首的浏览器比以往任何时候都更重要——因为代理将能够访问如此多的敏感数据。
<p>期待任何和所有的评论！
去年冬天，我女朋友在忙她的大学论文，需要手动转录数小时的访谈。我最终帮她运行了一个本地的Whisper模型，几个月后我决定将其开发成一个产品。这是一个简单的AI转录工具，允许你上传音频或视频，并获得干净、易读的转录文本。它非常适合论文访谈、讲座、播客——任何口语内容。
- 免费计划每月最多支持30分钟。
- 支持音频和视频文件。
- 说话人识别与标记。
- AI洞察与摘要。
- 多彩标签用于组织和筛选转录文本。
- 上传自定义词汇以帮助提高转录质量。
- 导出为与研究工具兼容的格式，如NVivo、Atlas.ti、MAXQDA、R/RStudio和SPSS。
- 以隐私为重心构建（不对您的数据进行训练）以及其他许多功能。
该应用程序可在www.verbatimly.com上获取。
我很想听听您的想法——无论您是学生、研究人员，还是曾经需要手动输入长访谈的人。请告诉我哪些功能有效，哪些无效，以及如何改进。
此外，我们自豪地在德国制造。
欢迎提出问题或帮助任何人入门！