返回首页
最新
我有一个提案,旨在解决大型语言模型(LLMs)在新数据持续到达时的长期记忆问题(成本低廉!)。该方案不涉及代码,只需要两个Markdown文件。<p>为了检索,设计了一个语义文件系统,使得LLMs可以方便地使用shell命令进行搜索。<p>目前这是一个初步版本,但效果比我尝试过的任何方案都要好。<p>期待任何反馈!
我思考这个想法已经有好几年了,之前也尝试过几次。去年我开始了这个项目,现在我觉得我有了一些可用的东西。
这是一个异步框架,可以混合同步和异步的 Python 函数,将它们组合成有向无环图(DAG),运行它们,调度它们,在步骤之间持久化数据,或者让数据仅在内存中流动。
GitHub: [https://github.com/walnutgeek/lythonic](https://github.com/walnutgeek/lythonic)
文档: [https://walnutgeek.github.io/lythonic/](https://walnutgeek.github.io/lythonic/)
PyPI: pip install lythonic
它是数据流的。因此,从理论上讲,你可以仅用纯函数来组合它。Lythonic 需要对参数和返回值进行注解,以便将输出与输入连接起来。目前,所有数据都以 JSON 格式保存在 SQLite 中,并且对于一定量的数据来说,这样的处理是可以的。
你可以将其用作任务流,保持参数和返回值为空,并将所有数据维护在流之外。
但实际上,你可以在某种折中方案中做得很好,只需流动元数据,足以使你的函数调用可重复,并保持一些可以可靠查询的记录系统。
无论如何,我会尽快停止唠叨。
Python 3.11+
MIT 许可证。
最小依赖:Pydantic, Pyyaml, Croniter
正在准备 v0.1。期待反馈。v0.0.14 已发布。Claude 生成了合理的文档。抱歉,我无法做得更好。我也在开发 Web 界面和实际的端到端示例应用。
谢谢。
- Sergey