最新

大家好，我决定制作一个实现Star-KV论文的vLLM插件。结果相当令人鼓舞，在较大的批量大小下，解码内核的速度比FA2更快。欢迎大家提出任何想法和建议！

受到最近再次发布的3D新宿站的启发，我注意到它缺少了“综合体”的大部分，其中“综合体”被宽泛地定义为你可以在不走出外面的情况下行走的范围。 于是我请Claude制作一个东京所有火车的3D地图，不使用任何库，并让你可以放大到车站。大约在3小时内，包含地图和新宿综合体的第一个版本就准备好了。之后又花了大约7个小时进行各种细节的调整，才达到了现在的版本。 我知道这些会越来越好，但我觉得最有趣的是不需要任何库。Claude可以从头编写着色器，它可以同时支持WebGPU和WebGL，并且通常能够写出最优的解决方案。例如，整个地图/车站/火车只用5次绘制调用就完成了。我并没有要求这样，它就是这么做的。 这个版本有很多不完美之处。大部分问题归结于数据和/或如何使用提供的数据。例如，据我所知，并没有什么东西明确指出“这些部分构成了综合体”。这是需要你自己推导或手动编写规则/列表（包括这个，不包括那个）的内容。 无论如何，我知道并不是每个人都对此感兴趣，但我觉得很有趣。

你好， 在尝试个人本地RAG应用程序设置时，我发现自己不断需要（重新）生成嵌入向量，因此我非常希望能有一些预计算的嵌入数据集，以便能够快速提取并在不同环境中使用。 我构建了一个库来测试这个想法：lance-bundle允许你将预计算的嵌入向量与实际的嵌入模型打包在一起，这样所有内容都可以从一个文件中加载，以便对向量进行查询；初始版本使用LanceDB和ONNX，具有低依赖性和快速冷启动的优点。 作为这个项目的一部分，我预计算了一些可能对大家感兴趣的数据集，并将它们托管在Hugging Face数据集中心，可以直接加载并进行查询： 通过这些数据集，你可以直接加载并运行语义查询，以检索最近的文档/嵌入： ```python from lance_bundle import load_dataset bundle = load_dataset("lance-bundle/berkshire-hathaway-letters") bundle.search("沃伦·巴菲特对被动指数基金的看法是什么？") ``` 希望分享这个项目，看看是否有人觉得它有用，并收集反馈，了解它是否对本地优先的AI爱好者有意义。欢迎告诉我你的想法！

有人曾说过：“人工智能对现有技术技能有倍增效应”（https://news.ycombinator.com/item?id=48235526），但其他人呢？ 在技术专业人士与其他劳动力之间，生产力差距正在迅速扩大，并且这一差距每天都在加大。尽管我们都可以使用相同的工具，但聊天界面并不具备工程师的思维或建筑师解决问题的视角。Relevare的诞生就是为了缩小这一差距，让每位专业人士都有机会在工作中实现10倍的提升。 它是如何运作的： Relevare可以在Mac和Windows上运行，学习用户的角色、他们想要实现的目标以及日常工作的样貌。解决方案架构师和研究代理会分析这些工作流程，以找出瓶颈和机会，从而提高用户的生产力和成功率。这可能意味着为一名销售人员在使用Claude和LinkedIn进行潜在客户开发时建议更好的实践，或者为一名建筑项目经理设计一个自动化工具，以标记进度风险和逾期的请求信息（RFI）。 人工智能并不总是解决方案。Relevare可能会发现一个需要简化的流程、一个未被使用的现有功能，或者一个更适合工作的工具。有时，正确的答案可能是传统的自动化、定制应用程序或AI辅助的工作流程。当定制解决方案是正确的答案时，Relevare可以通过一次点击将其发送给ChatGPT或Claude进行构建（更多集成正在开发中）。 我们的目标不是让用户变成“随意工作者”，将工作交给人工智能而失去控制。这就是为什么每个新引入的工作流程都伴随着启用和持续检查最新最佳实践的原因。用户始终掌控着变化的内容。 由于理解某人的工作需要大量上下文，隐私是我们构建Relevare时的核心部分。原始屏幕截图保留在用户的设备上。Relevare并不旨在对员工进行评分或让管理者查看个体活动。当在团队中使用时，公司领导看到的是共享工作流程模式的汇总，而不是来自哪个员工的信息。 我们的一些早期用户甚至从未自动化过任何事情，除了信用卡支付。我们看到他们开始改善流程，发现他们已经在使用的工具中的功能，并在适用时有选择地引入自动化和人工智能。 尽管Relevare主要是为非技术专业人士构建的，但我们的一些早期验证来自于工程师，他们发现自己的工作也可以得到改善。工作的标准变化比我们以往经历的都要快。Relevare旨在让每个人都有机会跟上，无论他们的技术背景如何。 我们很想听听HN的看法。您可以使用您的ChatGPT账户免费试用。 https://relevare.tech

嗨，HN！我们是Zack和Tommy，Keet的联合创始人（<a href="https://trykeet.com">https://trykeet.com</a>）。我们正在开发一款移动应用，能够生成任何主题的课程，配有短视频进行讲解和游戏进行巩固。课程内容与真实的课程大纲相似，旨在帮助你在较长时间内学习。 Tommy和我在大学的线性代数课上相识，接下来的四年里一起上课。我们的友谊建立在共同学习新事物的基础上。在学校里，课程大纲由他人设计，内容由教师传授，评估由教师编写。你只需到场即可。没有这种结构的学习令人沮丧，开始时也存在很多摩擦。 Zack对咖啡情有独钟，但在将YouTube视频、与ChatGPT的对话以及他正在阅读的书籍整合成对冲泡咖啡的各种变量的连贯理解时遇到了困难。他的尝试让他能够自由追寻好奇心，但教学设计却很复杂。每一段内容要么假设有某种先决知识，要么完全没有。 Keet是我们尝试提供自主学习的工具，同时增加有利于学习的结构。它能够找到一个定制的起点，并以逻辑顺序排列课程。 我们发现Keet在以下场景中最为有用： - 你对某个主题有兴趣，喜欢被动学习（例如，你非常喜欢学习中世纪历史，并生成关于中世纪工程的课程）。 - 你想探索一个你已经了解很多的主题领域中的小众话题（例如，你对生物学了解颇深，但想探讨迁徙动物如何感知地球的磁场）。 - 你在某个地方看到一个非常小众的话题被提及，想进一步探索（例如，便士大学的历史、复式簿记或罗伯特·摩西与BQE的创建）。 当你创建课程时，我们会询问一些关于课程难度、深度以及一些可选的意图问题，以了解你想学习的内容。未来，我们希望能够建立一个全球的先决条件地图，以便了解每个用户已经掌握的知识，从而为他们生成量身定制的课程。例如，如果某人主修计算机科学，他们的课程应该与没有STEM背景的人有很大不同。 在了解你的目标和意图后，我们会根据Biglan分类对课程进行分类。Biglan分类分为四个象限： - 硬性-纯粹（例如，数学、理论物理） - 硬性-应用（例如，工程学和应用科学） - 软性-纯粹（例如，历史、文学、哲学） - 软性-应用（例如，政策、管理、教育、社会工作） 我们利用这些分类调整教学内容，以更好地适应主题。例如，在寻找示例时，硬性-纯粹课程会寻找已解决的问题、证明和现实案例，而软性-纯粹课程则使用原始资料叙述和对比视角。 我们尝试先以网站形式构建，然后再以仅文本的移动应用形式进行开发。网站效果不佳，因为我们无法随时与内容互动，而当我们互动时，文本又显得乏味，无法清晰表达复杂的想法。Vox和3B1B的视频使复杂的想法变得易于理解，这激励我们转向基于视频的课程。没有一个“恍然大悟”的时刻让这一切变得可行。在过去的一年中，我们一直在使用和迭代这个产品，直到我们享受使用它的过程。 我们有两种类型的解释视频，分别使用Manim（<a href="https://www.manim.community/" rel="nofollow">https://www.manim.community/</a>）和Remotion（<a href="https://www.remotion.dev/" rel="nofollow">https://www.remotion.dev/</a>）制作。Manim用于需要数学可视化的视频，而Remotion视频则旨在动画化过程并展示原始资料，以模仿Vox视频的风格。 我们还在开发更具吸引力的评估方式，通过定制活动来完成。例如，在遗传学课程中，学习者可能会与Watson-Crick DNA模型进行互动，而不是回答关于碱基对的选择题。 你可以今天下载Test flight测试版（<a href="https://testflight.apple.com/join/wkWW2enA" rel="nofollow">https://testflight.apple.com/join/wkWW2enA</a>）。我们为每位用户提供3次免费的课程生成。你可以在候补名单页面使用代码“KEETHN”。下载应用后，尝试生成一个关于小众兴趣或非常具体主题的课程。我们看到的最酷的课程都是在这些类别中生成的。 [备注] - 个性化仍处于早期阶段。目前，Keet主要围绕主题和课程目标进行调整；我们希望它能更好地适应学习者的背景、节奏和薄弱环节。 - 课程生成速度较慢。我们故意在生成时间上做出了权衡，以获得更高质量的课程，因为用户将长期学习这些课程。 - 我们正在积极努力提高巩固质量。生成测验很简单，但生成能够深入理解概念的互动则困难得多。 [定价] 我们计划推出月度订阅，用户可以使用积分生成课程。这将类似于Suno（<a href="https://suno.com/" rel="nofollow">https://suno.com/</a>）。

GitHub - <a href="https://github.com/vostride/agent-qa" rel="nofollow">https://github.com/vostride/agent-qa</a>