2作者: itstomo大约 1 年前原帖
嘿,HN, 如果有一种口袋大小的紧凑型硬件,可以离线托管大型开源语言模型(LLMs),那会不会很有帮助呢? 好处包括: - 你可以使用大型开源语言模型,而不占用你的电脑或智能手机的计算资源 - 你可以保护你的隐私 - 你可以离线使用高性能的语言模型
2作者: Ashbyiscool大约 1 年前原帖
我已经尝试了几个月,但似乎找不到源代码。我在搜索栏里查找过,但就是没有效果。如果你们有任何推荐,或者有什么可以帮助我的,比如评论链接,我们需要的信息,我和我的小组已经尝试了一段时间,但仍然找不到。如果你知道怎么做,请联系我,我会回复你。谢谢!