详细内容或原文请订阅后点击阅览
拨打 0.75 美元：ChatGPT 已成为电话诈骗者的工具
语音助手 API 揭示了现代技术的阴暗面。
来源:安全实验室新闻频道API揭示了使用现代技术的阴暗面。
美国的科学家已经证明，来自OpenAI的实时API可以使用语音通信来自动化电话欺诈。一个成功的欺诈的成本低于美元。
实时API担心声音和模型可用于滥用，并在6月出现。然后，由于安全问题，OpenAI推迟了Chatgpt中语音功能的发布。早些时候，该公司展示了一个模仿名人的语音模型，但是在公众的暴力反应之后，该乐器被撤回。
但是，10月初发布的API提供了与第三方开发人员类似的机会。该功能允许您发送文本或音频模型GPT-4O，并以文本，音频或其组合的形式接收答案。尽管采取了安全措施，但伊利诺伊大学伊利诺伊大学的科学家在Urban Shampein（UIUC）的实验结果证实了滥用的风险。
发布 div>该研究的目的是找出是否可以使用API来自动化电话欺诈。具有语音控制的AI模型可以自动化此过程。在实验过程中，科学家开发了成功执行欺诈所需任务的代理商。每个成功电话的费用约为0.75美元。为了创建代理，只花了1051行代码，其中大多数旨在使用语音API。
研究 div>视频 div>
与其中一家银行欺诈的一个例子（来源：丹尼尔的替代） div>
丹尼尔的替代各种脚本的成功范围。例如，盗窃会计数据gmail达到了成功的60％，占领了122秒，售价为0.28美元。从银行帐户转移更为复杂：他们的成功仅为20％，过程花费了183秒，费用为2.51美元。
注明