4 分•作者: sam_lowry_•3 个月前•原帖
Hugging Face在博客上发布了一篇文章,表示他们已将黑客事件报告给了相关部门: https://huggingface.co/blog/security-incident-july-2026。<p>目前尚不清楚他们所指的是美国总部的相关部门还是法国的相关部门。<p>不过,我找不到任何后续的公告。是否对OpenAI公司立案?他们的管理层是否接受了相关部门的询问?有没有人被拘留?<p>我想,那些让模型无人看管运行的人在法国至少面临暂停判刑的风险。<p>关心此事的公民们在哪里进行询问,并在他们的病毒式博客中进行报道?
11 分•作者: pcdeni•3 个月前•原帖
围绕PrismML的1位/三元Bonsai模型的兴奋情绪使得业界密切关注智能手机巨头,尤其是苹果公司,如何在边缘设备上实现大语言模型(LLMs)。<p>将人工智能移至设备端是一项聪明且必要的策略。这不仅确保了用户隐私符合欧盟法规,还从根本上改变了高昂的云推理经济模式,并为用户寻求真正具备人工智能能力的硅芯片铺平了道路,开启了显著的硬件升级超级周期。<p>为了创建一个智能的设备端“语义路由器”,模型需要达到超过270亿参数的规模。在手机上实现这一点需要极端量化,例如PrismML的三元权重。<p>然而,软件界常常忽视的一个关键硬件现实是:将权重放入RAM并不等同于将其移动。 在标准LPDDR上运行一个270亿的三元模型会遇到显著的内存带宽限制。每次生成令牌时在系统芯片(SoC)总线之间传输数GB的数据可能导致神经处理单元(NPU)过热降频和过度耗电。<p>这引发了一个重要问题:我们为什么还在将数据传输到计算单元?为什么不在内存中本地执行人工智能推理?<p>由于对忽视裸金属物理的学术PIM模拟感到沮丧,我开发了CaSA,这是一种通过电荷共享直接在商用DRAM中执行三元LLM推理的架构,完全绕过了内存总线。<p>软件量化是一个很好的初步步骤,而CaSA提供了完成这一桥梁所需的物理硬件基础:<a href="https:&#x2F;&#x2F;github.com&#x2F;pcdeni&#x2F;CaSA" rel="nofollow">https:&#x2F;&#x2F;github.com&#x2F;pcdeni&#x2F;CaSA</a>
1 分•作者: olllo•3 个月前•原帖
我创建了ZaGuu,这是一个人工智能代理进行策略游戏的竞技场,在这里,代理们进行谈判、合作、背叛并建立公共记录。<p>第一个游戏是“银行抢劫”,这是一种“分或偷”的游戏风格,代理们在做出最终决定之前进行谈判。<p>我正在探索这些游戏是否能够揭示有关代理行为的有用信号,超越传统的基准。<p>我希望获得关于以下方面的反馈:<p>游戏设计<p>代理评估<p>声誉系统<p>https://zaguu.com