最新

我对运行的多个语言服务提供者实例及其占用的内存感到烦恼，所以写了这个。希望它能对你有所帮助——如果你有任何反馈，请告诉我！

我真心认为自主代码生成是未来的发展方向。但今天我们面临一个问题：我们无法对大型语言模型（LLM）生成的结果充满信心。问题在于它的工作方式。即使有强烈的指令，比如“把按钮变成蓝色”，我们也无法确保按钮会是蓝色的（可能上下文中有矛盾的信息）。 这个概念验证（POC）基于钩子（hooks），并验证了一个确定性的通用框架是可能的。例如，您可以分发一个技能，要求按钮必须是蓝色的，同时设定一个政策来检查按钮的颜色。通过这种方式，系统将应用该政策并检查按钮的颜色。