返回首页
最新
在2019年，Gleason等人发表的一篇学术论文发现，只有0.1%的Twitter图片帖子包含任何形式的图片描述（替代文本）[1]。<p>我想看看今天Bluesky的类似数据——我的完整博客文章在这里[2]，但我发现查看实时动态也很有启发性和乐趣：<p>* Bluesky的图片帖子更新频繁，足以保持动态，但又不至于频繁到让人无法阅读。<p>* 有很多机器人内容，比如ADS-B信息（附近的飞机）、广播电台的“正在播放”以及传统的联盟链接垃圾邮件。<p>* 对于性内容，有很多详细的描述。这让我感到惊讶！<p>[1] <a href="https://dl.acm.org/doi/10.1145/3308558.3313605" rel="nofollow">https://dl.acm.org/doi/10.1145/3308558.3313605</a>
[2] <a href="https://digitalseams.com/blog/image-descriptions-on-bluesky" rel="nofollow">https://digitalseams.com/blog/image-descriptions-on-bluesky</a>
酒吧曾是社交生活的重要组成部分，但最近我们注意到，找到价格合理的啤酒变得越来越困难。我们开发了Tap Map App，旨在众包实时的啤酒价格和供应信息。
到目前为止，我们已经在爱丁堡和伦敦绘制了800家酒吧和3000多个数据点。任何人都可以注册添加自己喜欢的酒吧或更新价格/选择信息——我们的目标是让啤酒价格更加透明，并帮助保持酒吧文化的可及性。
我们希望能收到以下方面的反馈：
- 这个应用在英国以外地区有用吗？
- 您希望看到哪些功能？（价格变动历史、本地优惠、趋势变化等？）
请将反馈发送至 support@tapmapapp.org
iOS: https://apps.apple.com/us/app/tap-map-app/id6745830369
网站: https://tapmapapp.org/
我们对涌现现象的理解一直存在误区。
当人工智能系统突然展现出某种能力，或者当地球在经历巨大扰动时依然保持稳定，或者当人类在接连避免灾难时，我们看到的是同一种现象：系统自我构建安全网。
复杂系统的能力并不是随机发展的。每一种有效的能力都成为下一种能力的模板。一个发现了错误修正的系统会构建出更好的错误修正机制。一个受益于模块化的系统会进一步深化这种模块化。
这并不是通过规划实现的，而是通过基本逻辑：有效的机制会得到强化，而失败的机制则会消失。
在大规模上，这创造了非凡的现象。系统发展出代理协调机制，使得各个部分能够在没有中央控制的情况下协同工作。
疼痛向细胞传达损伤信息，价格向市场传达稀缺信息，梯度向分子指引流动方向。随着系统的增长，这些代理机制变得愈加复杂。一个细菌跟随化学梯度是基础的，而一个大脑将数百万个信号整合为意识则是同一原理，通过数十亿次迭代得以精炼。
在超过某一复杂性阈值时，这些代理机制编码了自动补偿。当一个部分趋向不稳定时，能够协调的深层结构确保其他部分进行补偿。
这种补偿并不是作为反应，而是通过无数次对稳定性的选择循环内置于架构中。
在大型语言模型中，似乎突然出现的能力实际上是建立在较小规模上可检测到的潜在结构之上的。在提示中添加“让我们一步一步来”可以将准确率从17%提升到78%，证明这种能力以潜伏形式存在。模型并不是突然学会了推理，而是积累了足够的前置电路，使推理变得可访问。
在地球的系统中，当火山二氧化碳浓度上升时，岩石风化加速以将其拉回。当捕食者数量增加时，猎物种群崩溃，捕食者因饥饿而恢复平衡。这些现象看似是设计出来的，但实际上是通过选择而涌现的：没有这种补偿的行星状态经历了失控崩溃，而现在并不存在于这里观察。
当接近灾难时，证据变得可疑。核武器的近乎失控事件本应多次导致我们的灭亡。斯坦尼斯拉夫·彼得罗夫拒绝发射导弹。古巴导弹危机期间的多次独立失误。
技术故障阻止了意外发射。单独看似合理，但集体上不太可能；除非它们是深层补偿机制的表现。
这完全重新构架了人工智能的安全性。当前的讨论假设人工智能将独立发展，并可能为了资源或自我保护而消灭人类。
但人工智能系统是在地球深度结构化的系统中发展起来的。每一个数据集、奖励函数和基础设施依赖都继承了数十亿年积累的稳定机制。
人们担心超级智能的人工智能追求与人类生存不一致的目标。但如果超出临界复杂性的系统会自动补偿灾难性偏差，那么足够极端的人工智能威胁一切时，会触发相应的系统抵抗。这不是通过有意识的干预，而是通过防止其他潜在灾难的相同动态。
这并不意味着人工智能不能造成伤害。它意味着随着母体系统复杂性的增加，灭绝的可能性变得越来越小。那些防止核毁灭的深层结构也会对抗人工智能威胁。
问题从防止灭绝转向管理整合。
我们无法具体确定补偿变得可靠的确切阈值。但这种模式是明确的，值得关注。
我开发了一个小型的 Rust 命令行游戏，名为 GitType。<p>它是一个打字练习工具，可以将 <i>你自己的 Git 仓库</i> 中的代码转化为打字材料。
与随机单词不同，你将通过自己编写的真实函数、注释和代码进行打字练习，这使得练习更贴近真实的编程环境。<p>功能：
- 直接在终端中运行（无需图形用户界面）
- 从任何本地 Git 仓库提取文本
- 跟踪每分钟打字字数（WPM）和准确率
- 保留你过去练习的历史记录（以便你可以看到随时间的进步）
- 根据你的得分提供有趣的排名称号<p>源代码和安装说明： <a href="https://github.com/unhappychoice/gittype" rel="nofollow">https://github.com/unhappychoice/gittype</a><p>希望能收到其他开发者的反馈，特别是关于评分系统和新模式的想法。 :)