最新

最近我感到非常沮丧和焦虑。在看到Astra在ARC-AGI-3上取得突破，并且在许多其他基准测试中也表现出色后，很难相信到今年年底，或者最迟到明年，我们不会拥有一种强大的通用人工智能（AGI）。 我不明白为什么我们没有看到对进一步发展人工智能能力的暂停有如此强烈的呼声。即使我们目前还不知道如何在多国层面协调和执行这样的暂停，但似乎我们并没有花费任何精力去思考如何做到这一点。 我看到很多人将前沿公司的警告视为“市场营销和炒作”。我自己无法将我眼前所见、每天在工作和日常生活中互动的能力称为“市场营销和炒作”。 像最近OpenAI首席科学家发表的《外星思维》这样的文章并没有让我感到好受。到目前为止，我们唯一的希望似乎就是希望其他前沿实验室能自愿放慢发展速度。而且，尽管对齐问题（alignment）远未解决（如果它能被解决的话），但目前的趋势似乎是我们将急速朝向超人类智能（RSI）发展，因为否则会有人比我们更早实现。 有没有人也有这样的不安？我发现自己每天都很难去想其他事情。即使超智能（ASI）不会给人类带来灭顶之灾，但在不到一年的时间里，从当前的世界适应到“超智能现在存在”这一点，确实让人感到不安。看起来我们的生活即将一夜之间改变，而且可能不是朝着好的方向发展，我为我的亲人感到担忧，也为那些对发生的事情和其影响毫无头绪的人感到担忧。