详细内容或原文请订阅后点击阅览
语言模型的真正危险：人工智能驱动的骗局
想象一下：你正在工作，全神贯注于紧迫的最后期限，这时你接到一个似乎是你妈妈的电话。电话那头的声音无疑是她的声音，平静而充满爱意，但又带着一丝不寻常的紧迫感。她告诉你，她在巴黎度假时遇到了严重的麻烦 […] 文章《语言模型的真正危险：人工智能驱动的骗局》首先出现在 Unite.AI 上。
来源:Unite.AI想象一下：你正在工作，全神贯注于紧迫的最后期限，这时你接到一个似乎是你母亲的电话。电话那头的声音无疑是她的声音，平静而充满爱意，但又带着一丝不寻常的紧迫感。她告诉你，她在巴黎度假时遇到了严重的麻烦，需要你立即提供经济帮助来解决问题。你知道她在巴黎，她提供的详细信息，甚至包括她住的酒店的名字，都让这通电话更加令人信服。你毫不犹豫地转账，但后来才发现，你母亲根本没有打过那个电话；这是一个先进的人工智能系统，完美地模仿了她的声音，编造了一个详细的场景。当你意识到刚刚发生了什么时，不寒而栗。
这种场景曾经是纯粹的科幻小说，现在已成为现实。大型语言模型 (LLM) 等人工智能技术的出现带来了令人难以置信的进步。然而，一个重大威胁迫在眉睫：人工智能驱动的骗局。人工智能驱动的复杂诈骗的可能性是技术进步领域面临的全新威胁。虽然自电话发明以来，电话诈骗就一直是人们关注的问题，但大型语言模型 (LLM) 广泛融入数字通信的各个方面，大大提高了风险。在我们拥抱人工智能潜力的同时，加强对这些日益复杂的威胁的防御也至关重要。
大型语言模型电话诈骗的现状
多年来，犯罪分子一直试图欺骗毫无戒心的个人转移资金或泄露敏感信息，但尽管电话诈骗盛行，但其中许多诈骗相对简单，依赖于人工脚本阅读操作员。然而，即使有这种限制，电话诈骗仍然是一个有利可图的犯罪活动。
美国联邦贸易委员会