返回首页
最新
构建了一个基于浏览器的 FFmpeg 编辑器,完全通过 WebAssembly 在客户端运行。您的文件不会离开您的设备——所有处理都在 Web Worker 中进行。首次加载后,可以作为可安装的渐进式网页应用(PWA)离线使用。
《华尔街日报》
Anthropic呼吁顶尖人工智能实验室考虑放缓开发速度,指出AI系统的进步速度如此之快,以至于它们可能很快能够在没有人类干预的情况下自我改进,这可能会带来重大的社会风险。
该公司在周四的一篇博客文章中表示,放慢全球AI发展速度“可能是件好事”,并披露了记录其最先进模型改进速度的内部数据。
这篇文章由其内部研究院院长和政策负责人撰写,指出模型的进步似乎正朝着“递归自我改进”的方向发展,即AI系统能够在没有人类干预的情况下自行改进。一些AI业内人士将这一门槛视为潜在的危险和巨大的社会动荡的标志。
文章中写道:“我们认为,世界应该有选择放慢或暂时暂停前沿AI开发的选项,以便社会结构和对齐研究能够跟上技术的进步。”它提议达成一项全球协议,以可能放慢开发速度,并建立一个机制来验证竞争对手是否遵守该协议。
文章警告称,递归自我改进尚未发生,也不是不可避免的,“但可能会比大多数机构准备的要早。”
Anthropic最近完成了一轮融资,公司的估值接近1万亿美元,并提交了保密文件,开始公开上市的过程。该公司最近在与ChatGPT制造商OpenAI的激烈竞争中脱颖而出,后者也预计很快会提交首次公开募股的文件。
Anthropic的年化收入预测,即初创公司常用的基于短期销售预测的年收入数字,预计到本月底将达到500亿美元,而2025年底时为90亿美元。