3作者: pixelmash133 个月前原帖
嗨,HN——我开发了Platypus,因为我想将笔记记录、实时转录和知识库管理结合在一个应用程序中。它是Granola / Notebook LM的免费本地替代品。这是一个基于Tauri/Rust的桌面应用程序,通过whisper.cpp进行设备上的会议转录,使用TipTap记录笔记,并在您的知识库中进行按项目的HNSW向量搜索。您可以使用自己的大语言模型(如Claude、OpenAI、Gemini或本地的Ollama)。 有几个有趣的点需要弄清楚: Zoom/Teams会议的自动检测是通过进程检查实现的——Zoom仅在活跃通话期间生成CptHost(而不是在应用程序仅打开时),Teams则是通过audio.mojom.AudioService子进程。无需Zoom/Teams API访问。当地的Whisper在Mac上运行良好。旧款PC的体验不推荐,因此我内置了API转录切换功能,以防本地模型运行缓慢。 代码库:<a href="https://github.com/pixelsmasher13/platypus" rel="nofollow">https://github.com/pixelsmasher13/platypus</a> 网站:<a href="https://platypusnotes.com" rel="nofollow">https://platypusnotes.com</a> 欢迎反馈!
1作者: davidbjaffe3 个月前原帖
人们在使用大型语言模型(LLMs)从科学论文中提取信息方面的经验如何? 我的个人经历是:我首次尝试从3730篇临床试验论文中提取抗药物抗体(ADA)率,这些论文均已在PubMed中索引。我从PDF文件开始。Claude Opus 4.7使用我们制定的规则文档分析每个PDF。处理所有论文大约花了一周的时间,因为我不断遇到会话限制;总费用约为25美元。我们从909篇论文中获得了实际的ADA率。其余的论文大多是因为没有提供该率或不符合我们的标准,包括仅一次只使用一种药物的情况。 我阅读了其中三十篇论文,并重新审阅了那些与Claude的答案不同的论文,得出结论:Claude出错了一次,而我出错了三次。 因此,这种方法是有效的,但并不是完全方便:会话限制意味着我不能启动后就离开,或者我不知道如何设计这种能力。此外,我也很好奇本地模型的表现如何。 为此,我在我的Mac M5 Max(128GB内存)上尝试了llama 3.3 70B。我使用了Ollama,Q4_K_M,128k上下文,经过pdftotext -layout处理后约80k输入标记。 一篇论文花了18分钟;该模型无法确定ADA率,而这在论文中是明确提到的。一篇论文并不是一个合适的基准,但速度太慢,无法进行适当的测试。显然,速度问题的一部分在于Claude可以访问服务器农场,而我只是运行在一台Mac上。这是使用本地计算时可能面临的实际问题。 在这个问题的最新进展如何?无论是逐篇回答问题,还是同时使用多篇论文?我很想听听成功的案例!
5作者: karakanb3 个月前原帖
大家好,我是Burak。 当代理成为现实时,我想做的第一件事就是自动化构建仪表板。我遇到的第一个,也是最明显的障碍是,很多工具都是通过用户界面驱动的。这意味着,如果没有代理处理浏览器的用户界面等操作,就无法让代理完成这些任务。此外,代理所做的任何更改也无法进行审查。 最初的想法是让代理为仪表板构建一个React应用。这在理想情况下效果很好,但我很快遇到了其他问题: - 每个仪表板实际上都是不同的 - 需要实现一个后端来集中执行查询 - 没有集中控制可视化规则和标准的机制 - 没有简单的方法让语义层与仪表板协同工作 最终,代理在每个新的仪表板上都重新发明了轮子,即使在同一个项目下。为这些仪表板构建一个标准化的本地项目,实际上就是从头开始构建一个商业智能工具。 在尝试过这些之后,我问自己:如果仪表板是为代理作为主要用户构建的,会怎么样? 这样的产品需要具备几个特性: - 首先,一切都需要由可版本控制的文本驱动。YAML格式很好。 - 对仪表板的更改应该易于人类审查和理解。 - 代理擅长编写代码,如果能通过代码驱动动态内容,那就太好了:JSX非常合适。 - 静态分析作为一等公民:在部署之前验证仪表板。代理也可以检查他们的工作。 - 基于文件夹中的几个文件以标准化方式进行部署:在操作上非常简单。 - 内置语义层以标准化指标。 这就是我最终构建的:dac(Dashboard-As-Code)是一个开源工具和规范,用于将仪表板定义为代码。它包含一个用Go实现的版本,可以作为单个二进制文件在任何地方部署。仪表板使用YAML和JSX定义,YAML用于静态内容,JSX用于动态仪表板。您可以在加载时运行查询以定义条件图表,按客户动态生成标签,或列出您正在进行的每个A/B测试的图表。 我选择用Go构建它,因为我非常喜欢Go,并且我认为它是目前与AI代理合作的最佳语言。 dac作为单个二进制文件运行,您可以通过`dac init`命令开始,它会根据duckdb自动为您创建一些示例仪表板。它支持10多种SQL后端,未来还会增加更多。它支持验证、自定义主题等功能。 您可以在这里查看它: [https://github.com/bruin-data/dac](https://github.com/bruin-data/dac) 我很想听听您认为可以改进的地方,请告诉我您的想法。