详细内容或原文请订阅后点击阅览
教AI模拟他们不知道的
一组麻省理工学院研究人员创建了Themis AI，以量化AI模型不确定性并解决知识差距。
来源:MIT新闻 - 人工智能诸如chatgpt之类的人工智能系统为您可能提出的任何问题提供了合理的答案。但是他们并不总是揭示知识或不确定领域的差距。由于AI系统越来越多地用于开发药物，合成信息和驱动自动驾驶汽车之类的事情，因此这个问题可能会产生巨大的后果。
现在，麻省理工学院的旋转主体AI有助于量化模型不确定性并在引起更大问题之前纠正输出。该公司的CAPSA平台可以与任何机器学习模型一起使用，以在几秒钟内检测和纠正不可靠的输出。它通过修改AI模型来使其能够检测数据处理中的模式，以表明歧义，不完整或偏见。
“这个想法是采用模型，将其包裹在CAPSA中，确定模型的不确定性和故障模式，然后增强模型。” Themis AI联合创始人兼麻省理工学院教授Daniela Rus说，他还是MIT计算机和人工智能实验室（CSAIL）的主任。 “我们很高兴提供可以改善模型并提供保证模型正常运行的解决方案。”
RUS于2021年与Alexander Amini ’17，SM ’18，PhD ’22和Elaheh Ahmadi ’20，Meng ’21建立了Themis AI，这是她实验室中的两位前研究分支机构。从那以后，他们帮助电信公司进行了网络计划和自动化，帮助石油和天然气公司使用AI了解地震图像，并发表了有关开发更可靠和值得信赖的聊天机器人的论文。
“我们希望在每个行业的最高赌注应用程序中启用AI，” Amini说。 “我们都看到了AI幻觉或犯错误的例子。随着AI的部署更广泛，这些错误可能导致毁灭性后果。主题使任何AI都可以预测并预测其自身的失败，然后才能实现。”
帮助模型知道他们不知道的
工作 类似的方法影响影响