请问HN:如何对AI的响应进行单元测试?

4作者: bikamonki5 天前原帖
我的任务是构建一个客户支持聊天系统。这个人工智能应该以公司的文档为基础进行训练。我该如何确保人工智能不会给客户产生错误的回应?
查看原文
I am tasked to build a customer support chat. The AI should be trained with company docs. How can I be sure the AI will not hallucinate a bad response to a customer?