4作者: xaskasdf20 天前原帖
简短回答:是的。<p>Emotion Engine 总共有 32 MB 的 RAM,因此关键在于在前向传播过程中一次从 CD-ROM 流式传输一个矩阵的权重——只有激活值、KV 缓存和嵌入存储在 RAM 中。这意味着比 RAM 大的模型仍然可以运行,只是需要从磁盘读取更多数据。<p>我不得不构建一个自定义的量化格式(PSNT),修改字节序,编写一个分词器管道,以及从头开始编写大部分 PS2 SDK(将单独发布)。模型本身也是自定义的——我专门为此训练了一个 1000 万参数的 Llama 风格架构。<p>而且它在真实硬件上运行良好。
3作者: idd220 天前原帖
我最近发现音乐的一个最喜欢的方式是通过KEXP电台。这是一个位于我成长的西雅图的公共独立电台,全天候都有DJ进行精彩的节目。他们播放大量优秀的音乐。 他们有一个官方的iOS应用,但没有官方的MacOS应用或其他任何东西。不过,我自己写了一个非官方的应用,它可以在菜单栏中显示当前的歌曲信息,并且具备一些关于暂停行为、流媒体恢复和AirPlay的不错功能。我从iOS应用中借用了很多标志和素材。 我非常希望能找到测试者,并欢迎大家提供反馈!
3作者: unmodeledtyler20 天前原帖
我是泰勒,来自俄勒冈州波特兰的Quanta Intellect的独立运营者。最近,我参加了Nous Research的赫尔墨斯代理黑客马拉松,这个项目就是在那时诞生的。 在过去的一年里,我在工作流程中广泛使用代理,最大的痛点始终是浏览器。市面上的每个工具都假设有一个人类操作员,并在其上添加自动化。我想颠覆这一点——让代理成为主要驱动者,让人类担任监督角色。 于是,Vessel Browser应运而生——这是一款基于Electron的浏览器,拥有40多个MCP原生工具、能够在重启后保持的持久会话、语义页面上下文(代理获取结构化的含义,而不是原始HTML),以及一个监督侧边栏,您可以在其中观察和控制代理的具体操作。 它可以作为任何兼容的MCP服务器使用,或者使用内置助手,集成聊天功能,并支持连接到8个以上的提供商,包括自定义的OAI兼容端点。 安装命令为:npm i @quanta-intellect/vessel-browser