返回首页
最新
嗨,HN!我是Erik。我们开发了Butter,一个大型语言模型代理,通过缓存和重放响应使代理系统变得确定性,从而确保自动化在不同运行之间表现一致。
- 这是一个兼容聊天完成的端点,便于将其集成到现有代理中,只需设置自定义的base_url。
- 缓存是模板感知的,这意味着查找可以将动态内容(如姓名、地址等)视为变量。
您可以在这个演示中看到它的实际应用,它能够记忆井字棋游戏: [观看演示](https://www.youtube.com/watch?v=PWbyeZwPjuY)
我们为什么要构建这个:在Butter之前,我们是Pig.dev(YC W25),我们开发了计算机使用代理来自动化传统的Windows应用程序。我们的目标是替代机器人流程自动化(RPA)。但实际上,这些代理运行缓慢、成本高昂且不可预测——这与确定性的RPA相比是一个重大退步,在医疗、借贷和政府等领域是不可接受的。我们意识到用户并不想用AI替代RPA,他们只是希望AI能够处理边缘案例。
我们着手构建一个用于AI自动化的“肌肉记忆”系统(通用,不仅限于计算机使用),在这个系统中,代理的轨迹被固化为可重用的代码。您可能还记得我们在五月推出的第一个版本,一个名为Muscle Mem的库:[查看链接](https://news.ycombinator.com/item?id=43988381)
今天,我们将其重新推出为聊天完成代理。它通过将观察到的消息历史存储在树状结构中来模拟脚本化的自动化,其中每个分支代表工作流程“代码”中的某个条件分支。我们通过沿着树走来重放行为,如果下一个步骤尚不明确,则回退到AI以添加新分支。
该代理现已上线并可免费使用,同时我们正在努力使模板感知引擎更加灵活和准确。请试用一下,并分享您的体验、遇到的问题以及它是否对您有帮助。
由于Analogue Pocket的推动,我首次深入FPGA开发,创造了一个从零开始的原始Tamagotchi玩具的门级实现。<p>这个核心在Analogue Pocket和MiSTer平台上运行,让用户能够以准确的仿真体验1996年首款Tamagotchi的乐趣,同时还加入了现代化的功能。该核心具备存档状态(在硬件中实现这一点比软件仿真要困难得多)、高达1800倍的超速(这是我目前达到的最高时钟速度)等特点。<p>多年来,我一直希望能更深入地了解硬件和FPGA,我强烈推荐给任何有编程思维的人。这是一种略微不同的思维方式,对你看待简单问题的方式有着深远的影响。
我在OpenAI的应用程序SDK的海洋中游泳……并带回了一本手册!<p>在过去的几周里,我深入研究了ChatGPT应用程序SDK:探索其API、工具和隐藏的宝藏。在这个过程中,我构建、破坏、修复并重新构思了一些小实验。<p>附言:确实,OpenAI的官方文档是权威来源,这只是一本粗略的笔记本。<p>也许,我可以创建一个命令行工具来搭建应用程序的框架?