返回首页
一周热榜
大家好!
我是mistral.rs的维护者。我刚刚实现了通过/v1/skills端点支持与OpenAI兼容的代理技能,并且它可以与本地开放模型一起使用。
到目前为止,技能基本上只能用于封闭模型,而随着私有本地智能变得越来越重要,这个功能允许您使用本地模型进行XYZ操作。
它与OpenAI的/v1/skills API完全兼容,因此您可以轻松地将mistral.rs集成到现有代码中。
我们也支持相关工具:/v1/files或input_file用于将文件附加到您的提示中,mistral.rs还允许模型使用与OpenAI兼容的方法发送生成的文件。
尝试mistral.rs比以往任何时候都更简单:我们提供了适用于NVIDIA CUDA、Apple Silicon和CPU的预构建二进制文件!
# Linux/Mac
> curl --proto '=https' --tlsv1.2 -sSf [https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.sh](https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.sh) | sh
# Windows
> irm [https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.ps1](https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.ps1) | iex
然后:
mistralrs serve --agent --isq 4 -m google/gemma-4-E4B-it
我非常期待您尝试这个功能,并欢迎任何反馈!您对下一个版本有什么建议吗?
请查看GitHub:[https://github.com/EricLBuehler/mistral.rs](https://github.com/EricLBuehler/mistral.rs)
文档与快速入门:[https://ericlbuehler.github.io/mistral.rs/](https://ericlbuehler.github.io/mistral.rs/)
我正在维护一个开源项目(确定性开源重复代码检测器),有用户请求一个我不太清楚如何实现的功能。
这似乎是一个很难解决的问题:
- 测试重复相同的场景。对于结构性检测器来说,这被标记为重复(重复代码)。然而,测试并不是人们希望从代码库中删除的内容。
- 测试中的重复(故意的)最终看起来像是不必要的代码重复,而工具无法区分哪一个是哪个。
- 解决这个问题的一种方法可能是引入“人类在环”的机制(类似于代码检查工具允许用户在第一次运行时接受某些内容,同时保持默认的零配置)。
我想知道你们是如何处理这个问题的,以及是否有人有任何想法。
这是项目的仓库链接:https://github.com/Rafaelpta/dupehound
这是更详细的问题链接:https://github.com/Rafaelpta/dupehound/issues/23
关于我们如何扩展开源性能分析器以支持持续生产环境中的PC采样的博客文章。
最近,人工智能和智能代理占据了大部分的关注焦点。<p>你对近期非人工智能技术的进展感到兴奋的是什么?为什么?