7作者: najmuzzaman3 个月前原帖
我为人工智能代理开发了一个维基层,使用Markdown和Git作为真实数据源,并在其上构建了一个Bleve(BM25)和SQLite索引。目前还没有使用向量或图数据库。 该系统在本地运行于~/.wuphf/wiki/,如果你想带走你的知识,可以通过Git克隆它。 这个形状是Karpathy一段时间以来一直在关注的:一个LLM原生的知识基础,代理既可以从中读取也可以写入,因此上下文在会话之间得以累积,而不是每天早上重新粘贴。大多数实现这个想法的方案使用Postgres、pgvector、Neo4j、Kafka和一个仪表板。 我想回归基础,看看Markdown和Git能走多远,然后再添加更复杂的东西。 它的功能包括: - 每个代理都有一个私有笔记本,位于agents/{slug}/notebook/.md,同时可以访问位于team/的共享团队维基。 - 草稿到维基的推广流程。笔记本条目由代理或人类审核,并以反向链接的形式推广到规范维基。一个小型状态机负责过期和自动归档。 - 每个实体的事实日志:在team/entities/{kind}-{slug}.facts.jsonl中以追加方式存储的JSONL。合成工作者每N个事实重建一次实体摘要。提交以独特的“Pam the Archivist”Git身份记录,以便在Git日志中可见来源。 - [[Wikilinks]],并且断链检测以红色显示。 - 每日的Lint定时任务,用于检查矛盾、过时条目和断链。 - /lookup斜杠命令以及一个用于引用检索的MCP工具。启发式分类器将短查询路由到BM25,将叙述查询路由到引用答案循环。 基础选择: 使用Markdown以确保持久性。维基超越运行时,用户可以带走每一个字节。使用Bleve进行BM25检索。使用SQLite存储结构化元数据(事实、实体、边缘、重定向和替代)。目前还没有使用向量。当前基准(500个文档,50个查询)在仅使用BM25的情况下达到了85%的召回率@20,这是内部发布的门槛。如果某个查询类别低于该值,将使用预先承诺的sqlite-vec作为后备。 规范ID是第一类公民。事实ID是确定性的,并包括句子偏移量。规范slug只分配一次,通过重定向存根合并,并且永不重命名。重建在逻辑上是相同的,而不是字节上相同。 已知限制: - 召回调优仍在进行中。基准上的85%并不是普遍保证。 - 合成质量受代理观察质量的限制。垃圾事实输入,垃圾摘要输出。Lint检查有帮助,但它不是判断引擎。 - 当前仅限于单一办公室范围。没有跨办公室的联合。 演示:5分钟的终端演示,记录五个事实,触发合成,切换到用户的LLM命令行界面,并在Pam的身份下提交结果: [https://asciinema.org/a/vUvjJsB5vtUQQ4Eb](https://asciinema.org/a/vUvjJsB5vtUQQ4Eb) 脚本位于./scripts/demo-entity-synthesis.sh。 背景:该维基作为WUPHF的一部分发布,WUPHF是一个开源的协作办公环境,适用于像Claude Code、Codex、OpenClaw和通过OpenCode的本地LLM。MIT许可,自托管,用户自带密钥。你不必使用完整的办公环境就可以使用维基层。如果你已经设置了代理,只需将WUPHF指向它,维基将自动附加。 源代码:[https://github.com/nex-crm/wuphf](https://github.com/nex-crm/wuphf) 安装:npx wuphf@latest 我很乐意深入讨论基础的权衡、推广流程的状态机、BM25优先的检索策略或规范ID的稳定性规则。也很乐意回答“为什么不使用带插件的Obsidian库”这个合理的问题。
2作者: duprat3 个月前原帖
标准的人工智能能耗辩论将服务器端的大型语言模型(LLM)推理与服务器端的谷歌查询进行比较。我认为这忽视了在真实搜索会话中移动设备上实际发生的大部分情况。 我构建了一个完整的端到端移动搜索会话的参数模型:4G/5G无线电能耗、2.5MB页面的系统芯片(SoC)渲染成本、后台运行的程序化广告实时竞价(RTB)拍卖,以及双方的网络传输成本。然后将其与相应的LLM会话进行了比较。 在10,000次蒙特卡罗抽样中的主要发现是:在移动设备上,标准的LLM会话平均使用的能量比经典的广告支持的网页搜索会话少5.4倍。仅程序化广告就占每次会话设备电池消耗的41%。 我尝试明确说明的注意事项包括: - 在固定的Wi-Fi/光纤环境下,优势消失 - 对于推理模型,结果相反 - 这是一个参数模型,而非实证设备测量。Greenspector已提出为版本2进行终端测量 - 适用杰文斯悖论 这是SSRN的工作论文,尚未经过同行评审。论文中详细记录了方法论和蒙特卡罗分布。乐意为假设进行辩护。 DOI: 10.2139/ssrn.6287918
1作者: e1ghtSpace3 个月前原帖
嘿,HN! 我一直想讨论这个话题,经过一段时间的观察,我觉得现在有足够的证据可以安全地谈论它。我一直在尝试在电影上播放音乐,并记录其效果。它们似乎能够同步,电影变成了这首歌的音乐视频。我不确定观看这些视频的人是否会影响最终结果,但我觉得这可能会有影响。 一个非常明显的例子是这里的20:55:<a href="https://x.com/KyleSerbov/status/2044696810095255732" rel="nofollow">https://x.com/KyleSerbov/status/2044696810095255732</a> 我从未听说过有人真正讨论过这个,所以我很想知道你们对此的看法。我常常想,电影制作人是否会对观看我录制的他们电影的版本感兴趣。 我非常喜欢这个人在2:22时做的可视化效果:<a href="https://x.com/KyleSerbov/status/2046164265502212137" rel="nofollow">https://x.com/KyleSerbov/status/2046164265502212137</a> 我发现即使音乐是反向播放,它也能奏效。这里还有另一个例子:<a href="https://www.youtube.com/watch?v=w40MXiiXosY" rel="nofollow">https://www.youtube.com/watch?v=w40MXiiXosY</a>。请注意,这个视频在澳大利亚、日本、新西兰和英国是区域限制的。