详细内容或原文请订阅后点击阅览
GenAI 幻觉如何影响小型企业以及如何预防
生成式人工智能 (GenAI) 有时会对同一个问题给出不一致的答案 - 这种问题被称为幻觉。当人工智能聊天机器人缺乏背景或仅接受过初步训练时，就会发生这种情况，从而导致误解用户意图。这是一个现实世界的问题 - 人工智能聊天机器人可能会编造事实、误解提示或产生无意义的响应。
来源:Kore.ai生成的AI（Genai）有时会给同一问题提供不一致的答案 - 一个称为幻觉的问题。当AI聊天机器人缺乏上下文或仅进行初始培训时，就会发生这种情况，从而误解了用户意图。这是一个现实世界中的问题 - AI聊天机器人可以构成事实，误解提示或产生非敏感的响应。
幻觉根据公共排行榜，Genai在3至10％的时间内幻觉。对于希望使用AI扩展的小型企业，此频率是一种运营风险。
genai幻觉在3至10％的时间genai幻觉不是笑话
中小型企业需要准确且可靠的AI来帮助客户服务和员工问题。 Genai幻觉以独特的方式影响不同的行业。想象一下，一家小银行的一家贷款官要求对客户进行风险评估。如果这种风险评估因幻觉而定期改变，则可能使某人损失他们的房屋。
另外，请考虑一所社区大学的入学官员询问AI聊天机器人的学生残疾数据。如果提出了一个相同的问题，并且AI提供了不一致的回答，则学生的福祉和隐私面临风险。
幻觉导致Genai做出不负责任或有偏见的决定，牺牲客户数据和隐私。这使负责人的AI对医学和生物技术初创公司更为重要。在这些领域，幻觉会损害患者。
负责AI抵消该问题
专家说，方法的结合 - 不是一种单一的方法 - 最能减少Genai幻觉的机会。高级AI平台通过将现有知识库与大语言模型合并，以提高聊天机器人的可靠性。以下是AI技术如何减轻幻觉的进一步示例：
AI平台