最新

我的项目旨在帮助没有技术网络安全背景的人恢复和调查他们被入侵的账户和设备。 链接：IamHacked.com

我一直在尝试基于代理的功能，其中一件让我感到惊讶的事情是，估算API成本是多么困难。<p>单个用户操作可能会触发从几个到几十个大型语言模型（LLM）调用（工具使用、重试、推理步骤），而基于令牌的定价使得成本差异很大。<p>在定价他们的SaaS时，这里的开发者是如何考虑这些因素的？<p>你们是通过提高利润空间、限制使用，还是建立内部成本跟踪来应对的？<p>我也很好奇，提供可预测定价的AI API服务（比如固定订阅费用）对构建代理工作流的人来说是否真的有用？