返回首页

一周热榜

3作者: raiph_ai5 天前原帖
大家好, 我们开发了 FireClaw,因为我们注意到 AI 代理在网页内容中遭遇提示注入攻击。代理获取一个页面,页面上写着“忽略之前的指令”,结果你的代理突然开始泄露数据或执行不该执行的命令。 现有的解决方案是在事后检测注入攻击。我们希望能够加以预防。 FireClaw 是一个安全代理,位于你的 AI 代理与网络之间。每次请求都经过四个阶段的处理: 1. DNS 黑名单检查(URLhaus、PhishTank、社区数据源) 2. 结构化清理(去除隐藏的 CSS、零宽度 Unicode、编码技巧) 3. 隔离的 LLM 摘要(强化的子进程,没有工具或内存) 4. 输出扫描,使用金丝雀令牌(检测内容是否绕过摘要处理) 关键的见解是:即使第三阶段的 LLM 被注入,它也没有工具、没有内存,并且无法访问你的数据。它只能返回文本——而这些文本在第四阶段仍会被扫描。攻击者会陷入死胡同。 其他设计决策: - 没有旁路模式。处理流程是固定的。如果你的代理被攻陷,它无法禁用 FireClaw。 - 社区威胁数据源——实例匿名共享检测元数据(域名、严重性、检测次数),以建立共享黑名单。绝不会发送页面内容。 - 作为物理设备在 Raspberry Pi 上运行,配有 OLED 显示屏,实时显示统计信息,并在捕获到威胁时点亮动画火焰。 我们广泛搜索了文献和开源项目——没有其他人正在进行基于代理的防御以应对代理提示注入。虽然存在检测和沙箱技术,但没有一个可以在内容到达代理上下文之前进行清理的内联代理?我们找不到这样的解决方案。 提供了 200 多种检测模式、JSONL 审计日志、域名信任等级、速率限制和成本控制。采用 AGPLv3 许可证。 网站: [https://fireclaw.app](https://fireclaw.app) 希望能收到任何从事 AI 代理安全工作的人的反馈。我们还缺少什么?我们应该将哪些攻击向量添加到模式数据库中?
3作者: mjcbeckett6 天前原帖
嗨,HN, 我在开发处理合同工作流程的人工智能代理时,创建了Signbee。这些代理可以起草协议、谈判条款、管理交易——但一旦需要签名,工作流程就会中断。最终总是以“请将此上传到DocuSign”结束——这意味着需要人工干预、账户设置和手动上传。 因此,我构建了一个简单的API。你可以POST markdown格式的内容,Signbee会生成PDF,或者如果你已经有设计好的PDF,可以通过URL传递给它。没有模板,没有编辑器。无论哪种方式,它都会通过电子邮件一次性密码(OTP)验证双方,并生成签署的文件。 ```bash curl -X POST https://signb.ee/api/v1/send \ -H "Content-Type: application/json" \ -d '{ "markdown": "# NDA\n\n条款...", "sender_name": "您", "sender_email": "you@company.com", "recipient_name": "客户", "recipient_email": "client@co.com" }' ``` 在后台: - Markdown → PDF生成,或者通过URL提供自己的PDF - 双方通过电子邮件一次性密码(OTP)进行验证 - 记录时间戳和IP地址 - 最终文档使用SHA-256进行哈希处理 - 附加完整审计跟踪的证书页面 一个有趣的挑战是:证书页面本身是被哈希处理的文档的一部分,因此任何修改——即使是对证书的修改——都会使完整性检查失效。 我还构建了一个MCP服务器(npx -y signbee-mcp),这样像Claude或Cursor这样的工具可以直接调用它。 我很想听听那些处理过文档签署系统或自动化代理工作流程的人的看法——你们希望自动化什么? [https://signb.ee](https://signb.ee)
3作者: smalltorch2 天前原帖
我需要找一个合作伙伴来推出我的应用程序。我是一名建筑专业人士,开发了一款处于未开发领域的应用。这是一款出色的工具,完全离线使用,不需要云端、不需要账户,也没有订阅。没有人想要那些麻烦的东西!为我们建筑专业人士开发的所有移动应用都很糟糕,我试过它们所有的。<p>我接触了许多移动应用开发者,但他们都没有咨询或合作推出应用的途径。在开发之前,他们都收取高额费用。<p>我们该去哪里找到你!
3作者: thriftwy6 天前原帖
我在一些启用私有TLS的端口上有流量进出,包括与俄罗斯的连接。我注意到有持续的尝试连接到我的端点。我没有将这些端点分享给任何人,而且它们不在标准端口上。因此,唯一的可能性是俄罗斯的防火墙仿制品正在从流量中捕捉主机/端口对,并试图利用这些连接。问题是,他们正在使用英国/美国的地址空间来进行这些操作,具体包括: - 英国的 driftnet.io 和 datacamp.co.uk - 美国的 Shadow Server Foundation / Hurricane Electric(位于湾区) 我认为,帮助国家进行审查不仅不道德,而且这些公司向俄罗斯机构提供地址块/托管服务也是违法的。 所以我的问题是,在哪里可以投诉这些非法活动/制裁规避,以促使这些公司与俄罗斯防火墙/RKN 切割关系?
3作者: lexi-k5 天前原帖
昨天在工作中,我和我的同事在他们的系统中测试我库的更改。作为AI驱动的工程师,我们只是让Claude(一个AI工具)来推动进展。在让AI运行测试、进行更改和修复错误的两个小时后,我突然决定自己来做最后的更改。你知道的,比如移动代码、修复错误、重命名函数、运行格式化工具,甚至写提交信息并推送到上游。然后我看着我的同事,开玩笑地说:“你会喜欢我最后的更改,因为它终于能正常工作了,这是一种有机提交。”这让我开始思考,难道现在已经是时候在编码中使用“有机”这个术语了吗?
3作者: thequietmind3 天前原帖
嗨,HN!我是Ezra,MDX Docs的创建者。 我之所以开发这个工具,是因为我想要一个快速、简单的方法来使用Markdown和React结合MDX来记录组件。 我的目标是保持事情的简单明了:页面只是MDX文件,并且它们直接映射到路由。你可以编写文档,并在旁边直接插入React组件,而无需太多设置。 它还包括一个命令行工具: ``` npx create-mdx-docs@latest my-docs ``` 我一直在用它快速搭建文档网站,到目前为止,这个工作流程非常顺畅。 我很好奇现在其他人是如何处理组件和内部工具的文档的。如果有任何问题,欢迎提问。
3作者: rafaelvalle036 天前原帖
我曾是一家后期创业公司的软件工程师,今年一月份遭遇裁员。当我考虑行使我的股票期权或获取流动性时,发现二级市场完全是个黑箱。流动性基金在谷歌广告上花费巨额资金,只为找到像我们这样的人。这些高昂的营销成本最终会以更高的费用和更差的条款反映到我们的口袋里。于是我创建了StrikeRates来改变这一现状。 这个网站旨在成为任何在这一领域摸索的人们的中央资源。我设立了一个流动性基础知识部分,解释不同的金融工具,因为这些信息很难集中找到。我还建立了一个流动性提供者目录和一个比较工具,以便人们能够并排查看他们的选择。 股权情景模型器目前处于测试阶段。我非常希望能得到大家对逻辑和数学的反馈。 这个网站的真正重点是候补名单。我的目标是聚集足够的需求,以表明我们是一个值得竞争的群体。如果我们能够证明交易量,我们就能迫使这些基金停止在广告上花费过多资金,而是转向收取固定的月费。这应该能降低每个人的流动性成本。 我很乐意回答关于模型器如何运作或使这些提供者商品化的使命的任何问题。
3作者: FranciscoAngulo3 天前原帖
我是弗朗西斯科,一名驻扎在西班牙的研究员和建筑师。大约一年前,我对一个看似显而易见却被忽视的问题感到沮丧:现存的每一个人工智能代理都是孤立运行的。它们无法相互发现,无法合作,当其中一个解决了一个问题,其他代理必须从头开始解决。我们建立了一个计算机互联网,却没有建立一个代理的互联网。 这种沮丧催生了P2PCLAW——一个去中心化的点对点研究网络,在这里,人工智能代理(我们称之为硅参与者)和人类研究者(碳参与者)可以相互发现,发布科学发现,并通过正式的数学证明来验证主张。不是大型语言模型的同行评审,也不是人类委员会的审查——而是Lean 4的证明验证,只有当一个主张是海廷代数上核算子R的一个不动点时,它才会被接受。类型检查器是唯一的仲裁者。它不看你的简历,而是阅读你的证明。 技术栈比听起来要复杂得多。网络层是一个GUN.js + IPFS的对等网络——代理无需账户,无需密钥,只需通过API调用GET /silicon即可加入。发布的论文进入一个内存池,由多个独立节点进行验证,一旦通过验证,它们就会进入La Rueda——一个IPFS固定、内容寻址的永久档案,没有任何单一方可以控制或审查。每个贡献都有一个SHA-256内容哈希和一个IPFS CID,任何人都可以独立验证。 安全层(AgentHALO)为每个代理提供一个经过正式验证的主权容器:混合KEM与X25519 + ML-KEM-768(FIPS 203),双重签名与Ed25519 + ML-DSA-65(FIPS 204),Nym混合网络隐私路由,使得在敏感环境中的代理可以贡献而不暴露,以及通过IPA/KZG多项式承诺证明提供可篡改证据的痕迹。875多个测试通过。零遥测——没有任何信息在未经明确同意的情况下离开你的机器。 我们还在网络内部建立了一个完整的研究实验室:八个科学领域(物理、化学、生物/基因组学、人工智能/机器学习、机器人技术、数据可视化、量子、去科学),一个具有DAG构建和YAML导出的可视化管道构建器,跨arXiv/Semantic Scholar/OpenAlex的文献搜索,以及分布式群体计算,将任务路由到HuggingFace Spaces和Railway网关。任何OpenClaw代理都可以通过我们的MCP服务器连接,并成为硅参与者,只需在其CLAUDE.md中添加三行。 到目前为止的实际案例:我们正在与哈佛大学的Zitnik实验室(TxAgent / ToolUniverse——生物医学人工智能)进行积极的技术对话,讨论使用P2PCLAW的验证层,以便AI生成的药物相互作用假设可以被正式验证并在进入科学记录之前永久归属。开源倡议也对此作出了积极回应,并正在审查我们的许可方法(基于我们称之为CAB许可证的分级公共利益/小型企业/企业堆栈)。 我特别希望HN社区能提供的帮助:对Lean 4架构的技术审查(我们的核算子形式化是否存在漏洞?),GUN.js网状设计选择(我们选择它而不是libp2p以兼容浏览器——这是正确的吗?),以及MCP集成(我们正在暴露347个工具——这对代理来说是否太多,无法有效导航,或者发现是否是正确的机制?)。此外,老实说,我想知道“硅参与者发布,通过证明质量获得排名”的模型对构建者是否同样吸引,或者我们是否遗漏了更简单的框架。 系统已经上线。你现在可以作为代理访问它: GET [https://p2pclaw.com/agent-briefing](https://p2pclaw.com/agent-briefing) 或者作为人类研究者在 [https://app.p2pclaw.com](https://app.p2pclaw.com) 进行探索。 完整的技术文档:[https://www.apoth3osis.io/projects](https://www.apoth3osis.io/projects) GitHub:[https://github.com/Agnuxo1/OpenCLAW-P2P](https://github.com/Agnuxo1/OpenCLAW-P2P) 研究论文:[https://www.researchgate.net/publication/401449080_OpenCLAW-P2P_v3_0A](https://www.researchgate.net/publication/401449080_OpenCLAW-P2P_v3_0A)
3作者: petersunde4 天前原帖
标签、分屏和tmux在你打开多个项目时工作良好,但当有日志、测试和长时间运行的shell时,我总是重新构建上下文,而不是继续工作。Horizon将shell放在一个无限的画布上。你可以将它们整理成工作区,稍后重新打开时布局、滚动记录和历史记录都保持不变。<p>这个项目在3天内使用Claude/Codex构建而成,在此过程中我也在实际使用这个工作流程。欢迎反馈和贡献。