问HN:你们在使用大型语言模型API时遇到了哪些问题?

1作者: acstorage5 个月前原帖
在使用大型语言模型(LLM)API时,您遇到了哪些可靠性、成本和性能问题?例如,您在使用OpenAI的文件API时遇到了哪些问题?
查看原文
What reliability, cost, performance problems do you run into when using LLM APIs? For example, what issues have you had when using Open AI’s Files API?