1作者: ajaysheoran232310 天前原帖
我在过去几个月里一直在构建 Sandflare——它可以在大约 300 毫秒的冷启动时间内启动 Firecracker 微虚拟机(microVM)以支持 AI 代理。这个想法源于在生产环境中运行 LLM 生成的代码。使用 Docker 感觉风险太大(共享内核),而完整的虚拟机启动速度又太慢(需要 5-10 秒)。Firecracker 则恰好处于两者之间:真正的虚拟机隔离,快速启动。 我还添加了托管的 Postgres,因为我构建的几乎每个代理都需要持久化状态。只需一次调用,就可以将数据库接入沙箱。 在这个领域已经有一些很好的工具(如 E2B、Modal、Daytona)——我想要的是一个内置 Postgres 的解决方案,并且定价更简单。 我想要解决的问题是:如何将冷启动时间降低到 100 毫秒以下?目前的瓶颈在于 Firecracker API 和网络设置。希望能听到任何推动 Firecracker 更进一步的人的意见。 https://sandflare.io