详细内容或原文请订阅后点击阅览
黑客大规模抵制 ChatGPT、Claude 和 Gemini
完美的数字武器结果证明太正确了。
来源:安全实验室新闻频道完美的数字武器结果证明太正确了。
帮助办公室工作人员加快日常工作的人工智能工具越来越多地发现自己为犯罪分子服务 - 并且为他们工作的效率丝毫不减。 ReliaQuest 致力于人工智能在网络攻击中的应用的第三份年度报告中对此进行了阐述。
主要结论很简单：人工智能几乎不会产生新类型的攻击，而是使旧的攻击更快、更便宜、更隐形。犯罪分子将其集成到攻击的几乎每个阶段，从创建令人信服的网络钓鱼页面到获取凭据和编写恶意代码。
其中一个示例显示了这可以多大程度地加快工作速度。在人工智能的帮助下，专家们在一分钟内部署了所谓的 Web shell，这是一种恶意脚本，可以远程控制被黑的服务器。人无法手动完成此操作。
与此同时，影子平台上的现成攻击工具市场也在不断增长：从用于替换视频中面孔的程序到从头到尾自动执行攻击的复杂程序。
同时，像 Claude、Grok、Gemini 和 ChatGPT 这样的高级模型对于犯罪分子来说是很难的。对恶意使用的内置限制可以半途而废，并且尽管特殊绕过请求不断增加，但它们始终无法被绕过。因此，攻击者正在转向开放的、未经审查的模型 - Qwen、Dolphin 和 Mistral。它们的质量较差，但工作起来更可预测，并且不依赖于可以中断会话的云提供商，因为它们是在本地启动的。
一项单独的技术基于对知名人工智能品牌的信任。用户被说服安装恶意扩展或在正常安装的幌子下执行命令。这就是从事社会工程、传播恶意软件并雇用来自朝鲜的假冒 IT 员工的团体的运作方式。目标各不相同——勒索、数据访问、欺诈、支持间谍活动。