一周热榜

我创建了LibreAI，旨在提供一个私密的、自托管的替代方案，使用像Mistral、LLaMA 3和Phi这样的开源模型，通过Ollama实现。它运行快速，实时流式响应（通过HTMX），并且没有任何遥测数据。 有一个免费版本供您试用，还有一个付费选项来支持开发。欢迎反馈、功能请求或模型建议！ 该项目使用Go Fiber和HTMX构建，托管在我自己的基础设施上。这里没有JavaScript前端 :) 在线访问： [https://libreai.app](https://libreai.app)

大家好，这是我第一次在这里发帖 :) 在过去的几周里，我写了一个开源项目，旨在帮助人们从nanoGPT级别的LLM基础知识，逐步接近现代研究的深度学习前沿。 这个项目包含了数千行注释的代码，从零开始使用PyTorch实现了从推测解码到视觉/扩散变换器，再到线性和稀疏注意力等各种内容，还有更多其他功能。 我非常希望能听到大家对过去几年我错过的基础研究论文的反馈，或者任何其他方面的建议。这是我第一次在HN发帖，多年来我在这里看到了很多很酷的项目 :)