最新

构建了一个背景去除工具，通过WASM/WebGPU将约40MB的分割模型加载到浏览器中，并在客户端运行推理。<p>没有上传步骤，没有API调用，没有排队。只需拖放一张图片，2-3秒内即可获得结果。由于没有服务器在处理，因此没有每张图片的收费。<p>同一个缓存模型支持6个衍生工具——背景更换器、护照照片制作器、产品照片美白器、肖像模糊器、贴纸制作器——每个工具只是对同一掩膜输出进行不同的后处理。

我构建了一个概念验证的用户界面，能够将大语言模型（LLM）的对话以有向无环图的形式展示，而不是线性聊天的方式。<p>试试这个：<a href="https://llm-dag-ui.vercel.app" rel="nofollow">https://llm-dag-ui.vercel.app</a>（仓库中有截图）<p>这个想法是：与LLM的对话常常会遇到死胡同，或者走向你想要回溯的方向。如果你可以从任何消息分支出去，探索不同的路径，同时保持原始内容不变，会怎样呢？<p>它的工作原理：<p>- 从任何消息节点拖动以创建新分支。<p>- 每个分支仅具有其直接祖先的上下文——它不知道兄弟分支或树的其他部分。<p>- 删除一个节点时，所有其子节点也会随之消失。<p>当你想从同一个起点尝试三种不同的方法，或者测试Claude对不同措辞的反应时，这个功能非常有用。<p>这只是一个概念演示，并不是一个完善的产品。<p>它使用BYOK（自带你的Anthropic API密钥），仅存储在你浏览器的本地存储中。Express代理仅控制使用哪个Claude模型；你的密钥会通过，但不会被记录或存储。会话之间没有任何数据持久化。<p>我认为这更接近于LLM对话应该如何运作。线性聊天的范式对于消息传递是有意义的，但探索过程很少是线性的。<p>代码：<a href="https://github.com/dgrims3/LLM-DAG-UI" rel="nofollow">https://github.com/dgrims3/LLM-DAG-UI</a><p>非常希望能收到关于交互模型的反馈。