最新

`openapi-batch` 是一个小型 Python 库，用于可靠地运行大规模语言模型（LLM）请求的批处理。<p>它提供了以下功能： - 默认异步提交（在批处理运行时不会阻塞） - 在 SQLite 中持久化状态（跟踪进度，恢复检查） - 重试和部分失败处理 - 原生批处理支持（适用于提供此功能的服务商，如 OpenAI、Gemini） - 服务商适配器（无需网关） - 进度、每项完成和作业完成的回调<p>许可证：MIT

我一直是 Fedora 的原子发行版的忠实粉丝，因此我决定基于 Arch 自己制作一个，这样可以兼顾两者的优点。现在想想，这有点搞笑，因为它看起来和 Silverblue 完全一样。这值得吗？不太确定，但这确实是一次有趣的体验——如果你的硬件配置合适，它可以作为日常使用的系统。 值得注意的是，由于设置的限制，你可以在主机上开发类似的东西，而不会有实际的数据丢失风险，因为你实际上并没有接触到引导加载程序或文件系统（分区等）。

一个小的爱好项目

构建了json-healer，这是一个小型的npm包，用于修复由大型语言模型（LLMs）生成的格式错误或不完整的JSON。<p>受到OpenRouter最近推出的响应修复工具的启发（<a href="https:&#x2F;&#x2F;openrouter.ai&#x2F;docs&#x2F;guides&#x2F;features&#x2F;plugins&#x2F;response-healing" rel="nofollow">https:&#x2F;&#x2F;openrouter.ai&#x2F;docs&#x2F;guides&#x2F;features&#x2F;plugins&#x2F;response-...</a>），该实现与模型无关，可以处理来自任何LLM或文本源的JSON，而不仅限于OpenRouter。<p>包含全面的测试用例，设计上易于集成到依赖结构化LLM输出的现有工作流程中。<p><a href="https:&#x2F;&#x2F;www.npmjs.com&#x2F;package&#x2F;@freakynit&#x2F;json-healer" rel="nofollow">https:&#x2F;&#x2F;www.npmjs.com&#x2F;package&#x2F;@freakynit&#x2F;json-healer</a><p>欢迎反馈！