最新

使用大型语言模型（LLMs）时，我会先设计一个提示，然后得到一些输出，但这些输出往往结构不够清晰，需要人类进行一定的监督，以验证我所获得的结果是否具有质量。而LLMs的非确定性特性是造成这种情况的主要原因。 我看到一些使用LLMs、视觉语言模型（VLMs）等的解决方案，它们能够解决一些以前已经解决过的问题（例如光学字符识别（OCR）、解析，甚至是代码生成）。它们在这些问题上表现得非常好且速度很快……90%的时间都是如此。那么，我该如何建立一个框架，以便对我的解决方案充满信心（即100%确定我知道它将会做什么）？ 在标准机器学习中，我有置信度评分来判断是否接受某个输出为有价值的结果。一般来说，它是确定性的（即给定相同的输入，我总是会得到相同的输出）。而在LLMs等模型中，这一部分似乎缺失了。

我发现有些网站尊重我的隐私。我将浏览器设置为“发送不追踪请求”，今天当我访问AQR网站时，看到左下角显示“...已接受”。起初我不知道这是什么意思，但后来意识到这是我的设置。这是我发现的第一个也是唯一一个给出提示的网站，告诉我我没有被追踪。（虽然我不知道自己是否真的没有被追踪，但这仍然是一个积极的反馈。）