我们刚刚发布了 Khaos SDK 和 khaos-examples(BSL 1.1)。

2作者: exordex3 个月前原帖
这是一个以本地为优先的命令行工具,用于测试人工智能代理,主要针对以下方面: - 提示注入 - 工具误用 / 认证绕过 - 数据泄露(个人身份信息) - 弹性故障 示例故意设计得较弱,以便您可以快速破解,然后进行加固和重新测试。 安装命令: ``` pip install khaos-agent cd quickstart khaos discover . khaos start echo-assistant khaos run echo-assistant --eval security --verbose ``` SDK: [https://github.com/ExordexLabs/khaos-sdk](https://github.com/ExordexLabs/khaos-sdk) 示例: [https://github.com/ExordexLabs/khaos-examples](https://github.com/ExordexLabs/khaos-examples) 我希望能收到关于以下方面的直接反馈: 1. 命令行用户体验的摩擦点 2. 缺失的攻击类别 3. 您今天在持续集成中采用此工具所需的条件
查看原文
It’s a local-first CLI for testing AI agents against:<p><pre><code> - prompt injection - tool misuse &#x2F; auth bypass - data leakage (PII) - resilience faults The examples are intentionally weak so you can break them quickly, then harden and re-test. pip install khaos-agent cd quickstart khaos discover . khaos start echo-assistant khaos run echo-assistant --eval security --verbose SDK: https:&#x2F;&#x2F;github.com&#x2F;ExordexLabs&#x2F;khaos-sdk Examples: https:&#x2F;&#x2F;github.com&#x2F;ExordexLabs&#x2F;khaos-examples I’d love blunt feedback on: 1. CLI UX friction 2. Missing attack classes 3. What you’d need to adopt this in CI today</code></pre>