24小时热榜

大家好， 在构建基于人工智能的网站时，我遇到了两个主要问题：1）大多数自主工具对现有文件的编辑缺乏针对性，常常会进行多余的修改；2）许多用户希望随意尝试各种功能，但不愿意为每个基于大型语言模型（LLM）的网络应用付费。 第一个问题，即针对性编辑，过去是一个更大的问题。在引入代理之前，ChatGPT会直接删除一段代码，并用 `// existing code goes here` 替代。简单编辑现有文件的过程非常麻烦。现在这个问题大部分得到了解决，因为Cursor等工具在替换特定行方面做得更好。然而，它们仍然经常出现偏差（尤其是我注意到的Gemini CLI），并进行不必要和不想要的更改。 我希望通过使用我的抽象语法树（Abstract Syntax Tree）方法来解决这个问题：在编辑文件时，LLM实际上被指示编写代码来修改支持源文本的数据结构，而不是直接修改源文本。例如，在编辑HTML文件时，我们指示LLM编写Python代码，导入BeautifulSoup，然后修改其底层的数据结构。如果你感兴趣，我几年前写过一篇关于这个方法的博客文章：<a href="https://codeplusequalsai.com/static/blog/prompting_llms_to_modify_existing_code_using_asts.html" rel="nofollow">https://codeplusequalsai.com/static/blog/prompting_llms_to_modify_existing_code_using_asts.html</a>。 我希望通过运行一个令牌共享系统来解决第二个问题（令牌使用会产生实际费用，但用户不想为每个可能使用的网站注册）。具体做法是：我根据LLM提供商（目前支持Anthropic和OpenAI）收取2倍的令牌使用费，这样就形成了利润空间。开发者可以将他们的LLM驱动的网络应用发布到一个子域名上，我会代理所有LLM请求以捕获令牌使用情况。当最终用户访问他们的网站时，用户按2倍的费率收费，开发者获得额外利润的80%，而我获得20%。 是的，最终用户仍然需要通过Stripe注册并支付费用，但只需在Code+=AI上注册一次。之后，他们可以使用在我们子域名上发布的任何调用LLM的网站，而无需为每个网站单独付费。 我很想知道你们对此的看法。我刚刚在网站上开放了访客使用功能，你可以在不注册的情况下构建项目（访客有2美元可用，注册免费账户后还可以获得3美元）。 谢谢，祝好！ - Jacob