详细内容或原文请订阅后点击阅览
急于采用热门技术，经常被遗忘。 AI也不例外
Cisco发现数百台Ollama服务器开放了未经授权的访问，创建了各种令人讨厌的风险Securits Security Research Team，发现了1,100多个暴露于公共互联网上的Ollama服务器，在这里，Miscreants可以使用它们来做讨厌的事情。
来源:The Register _恶意软件思科的TALOS安全研究团队发现了1,100多个Ollama服务器接触到公共互联网，在这里，Miscreants可以使用它们来做讨厌的事情。
Ollama提供了一个框架，可以在台式机或服务器上本地运行大型语言模型。思科决定研究它，因为用高级事件响应的话说，建筑师Giannis Tziakouris博士，Ollama“因其易用性和当地部署能力而受欢迎。”
talos的研究人员使用shodan扫描工具来查找无抵押的Ollama服务器，并发现了1,100多个，其中约有20％“主动托管了容易受到未经授权访问的模型”。思科的扫描发现在开始互联网的10分钟内发现了1,000多个暴露的服务器。
将Ollama服务器留在开放的Internet上意味着任何了解其存在的人都可以查询LLM并使用其API，也许会消耗其所有资源或为托管系统付出大账单。有针对性的攻击是可能的，因为思科发现许多服务器公开了信息，这些信息使识别主机成为可能。
思科的Infosec调查人员还担心以下后果：
- Model Extraction Attacks — Attackers can reconstruct model parameters by querying an exposed ML server repeatedly.Jailbreaking and Content Abuse — LLMs like GPT-4, LLaMA, and Mistral can be manipulated to generate restricted content, including misinformation, malware code, or harmful outputs.Backdoor Injection and Model Poisoning — Adversaries could exploit unsecured model endpoints to introduce malicious payloads or远程加载不信任的模型。