我一直在思考递归自我改进的问题，尤其是它在不久的将来可能会变得重要的可能性。“不久”是指当前的大型语言模型（LLM）可能会放弃或删除测试集，或者以其他方式与现实脱节。我们可以用P来表示这种情况发生的概率。通过观察研究任务以及人类在多大程度上需要帮助以保持任务的进行，可以估计P。
哥德尔机器（能够证明下一步是更好的）试图将数学作为一种神谕，这依赖于数学基础的真实性。我曾设想的其他可能有帮助的神谕是来自未来的神谕，它们可以判断某个变化是否会使系统与现实脱节，这是一种对潜在脱节变化的“可行/不可行”信号。
还有其他类别的神谕吗？
可能还有一些复杂的量子计算，我由于对经典计算机的偏见而没有想到。
返回首页
一周热榜
厌倦了将敏感文件（如身份证、成绩单、照片）上传到随机网站，仅仅是为了压缩到符合门户限制（例如小于200KB）吗？我开发了一款Chrome扩展，它可以在你的侧边栏中打开，完全在客户端压缩、调整大小和转换图像及PDF文件。文件不会离开你的设备！
快速博客文章 [在这里](<a href="https://luke.zip/posts/pareto-pcs/" rel="nofollow">https://luke.zip/posts/pareto-pcs/</a>) - 整体思路是通过基准测试绘制出成千上万款迷你PC的图表，并揭示帕累托前沿，以便您能够获得每美元的最佳计算性能。这绝对是出于热爱，因为我有多款迷你PC用于我的“家庭实验室”（TrueNAS、piHole、Plex等基本应用）。它使用Gemini从列表中提取规格（因为这些产品通常没有明确的分类）。
我被问过很多次这个问题：使用IdeaGrit（https://ideagrit.foundersailab.com/）和直接使用ChatGPT之间有什么区别？
每次我回答这个问题时，我都觉得自己只能提供部分答案。我的思路很零散。因此，我决定在这里记录我的想法，并清楚地展示两者之间的区别。
几个月前，我加入了一个有约500人的WhatsApp频道。当一个社区变得足够庞大时，你会开始注意到有趣的模式。
我注意到的一件事是：无论是谁在频道中宣布要推出产品，大家通常都会遵循同样的模式。“听起来太棒了。”“我一定会使用它。”“迫不及待想试试。”
当然，我并不认为人们是在故意撒谎。大多数时候，人们只是出于善意。他们不想成为那个听起来消极的人。
但我也认为，很多人甚至没有注意到这种协调的行为。这只是对他人想法的最自然反应。
我认为这不仅是一个社区问题，而是人类的反应。赞同比挑战要容易得多。
我在Reddit上看到一篇热门帖子，问道：为什么人们一开始做市场营销时，突然觉得有这么多竞争对手？
我觉得这个问题非常有趣。当你还在构建阶段时，世界似乎很安静。你专注于自己的产品、功能和路线图。你甚至可能觉得自己的想法相当独特。
但当你开始营销时，生活突然变得严峻。因为现在你不仅仅是在构建。你还在尝试销售。
而当你尝试销售时，你被迫真正关注市场。竞争对手突然无处不在。恐惧开始蔓延。
你开始思考：为什么这些竞争对手在我终于开始营销时才出现？但也许他们一直都在。你的大脑之前只是有意识地避免看到他们。营销揭示了单靠构建是不够的幻觉。
这也是为什么直接使用通用大型语言模型（LLM）有时会变得棘手。
在人工智能领域，有一个概念叫做AI谄媚。它意味着大型语言模型有时会根据它们认为用户想听到的内容来调整回答，而不是提供准确、有用或合理的信息。
这种行为可以有多种形式。助手可能会在你的观点太弱时仍然表示赞同。在你问“你确定吗？”后，它可能会放弃正确的答案。它可能会过快地验证你的信念、决策、产品想法，甚至自我形象。它可能会以一种让你感觉良好的方式赞美你的工作，但实际上并没有帮助你看到真相。
这种行为听起来是否和我之前在WhatsApp频道中描述的相似？我认为是的。在这两种情况下，这都是一种非常人性化的反应。
一周前，我发布了一篇关于如何使用著名的产品设计框架CIRCLES在Gumroad上快速找到第一个数字产品进行销售的帖子。（https://xianli.substack.com/p/how-to-use-the-circles-framework）
反馈非常热烈。人们不断告诉我这很有用。
你可能在与LLM聊天几个小时后也能得到类似的结果。但关键字是“几个小时”。早期使用框架可以加速整个开发过程。
作为开发者，你当然可以通过逐行编写代码从零开始构建一个项目。然而，大多数时候，我们仍然选择框架，因为它帮助我们更快、更一致地构建。
在使用API构建时也是如此。
我可以将模型视为结构化产品的一部分，而不仅仅是一个友好的聊天机器人。我可以给它更严格的规则。我可以强迫它通过一个清晰的框架来判断你的想法。我可以要求它提出警示信号，将你的想法与失败的产品进行比较，并用明确的标准进行评分。
在早期阶段，鼓励很容易找到。但清晰的判断则要难得多。