HackerNews中文版HackerNews CN
GitHubTwitter

请问HN：像Llama-3.1-8B这样的语言模型对机器的要求是什么？

1 分•作者: wasimsk•大约 2 小时前•原帖
我想创建一个本地的生成式人工智能（GenAI）。请告诉我服务器机器的要求。<p>或者，如果你能同时建议一个模型和相应的廉价机器要求，那将会很有帮助。顺便提一下，目前我有一台配备第六代Intel i5 CPU、4 GB显存的显卡、16 GB内存和以太网的机器。如果能在这里得到好的指导，我会考虑升级。
查看原文
I want to create a local GenAI. Tell me the server machine requirements.<p>Or if you can suggest both—The model &amp; a cheap machine requirement against that, it will help a lot. By the way, for now—I have Intel i5 6th Gen CPU, Graphics card with 4 GB VRAM, 16 GB RAM &amp; Ethernet. I will improve it if I get a good guidance here on.