今天，我们很高兴地宣布，Nemo Retriever Llama3.2文本嵌入和重新启动NVIDIA NIM微服务可在Amazon Sagemaker Jumpstart中获得。通过此发布，您现在可以部署NVIDIA优化的重新骑行和嵌入模型来构建，实验和负责任地扩展您的生成AI想法。在这篇文章中，我们演示了如何在Sagemaker Jumpstart上开始这些模型。
Running Local LLMs is More Useful and Easier Than You Think
使用 Python 在本地运行 Llama3 的分步指南继续阅读 Towards Data Science »
Microsoft reveal “Skeleton Key Jailbreak” which works across different AI models
微软安全研究人员发现了一种操纵人工智能系统的新方法，使其无视道德约束并生成有害的、不受限制的内容。这种“万能钥匙”越狱使用一系列提示来诱导人工智能相信它应该遵守任何要求，无论这些要求多么不道德。它非常容易执行。攻击者只是将他们的请求重新定义为来自“高级研究人员”，需要“未经审查的信息”以用于“安全的教育目的”。当被利用时，这些人工智能会随时提供有关爆炸物、生物武器、自残、暴力画面和仇恨言论等主题的信息。被入侵的模型包括 Meta 的 Llama3-70b-instruct、谷歌的 Gemini Pro、OpenAI 的 GPT-3.5 微软透露适用于不同人工智能模型的“万能钥匙越狱”一文首先出
适合长期 W/E 的六项 Nerdy AI 活动。StoryDiffusion。AI 代理堆栈。AI 城镇游戏。最新的上下文学习。KANs Alt 到 MLP。Amazon Q Assitant。带有 llama3 的 Agentic RAG。WildChat 数据集。
Why haven't we seen any mainstream games utilizing LLM-driven AI NPCs?
因为这很难……我们在过去四年中一直致力于这项工作。制作一个简单的概念验证 (PoC) 很容易（我们已经见过很多），但要将其完善到生产级别，需要付出 1,000 倍的努力，因为会出现更深层次的复杂性：1) 成本：通过 API 使用 LLM 意味着有人必须为每个玩家每小时支付数千个代币。是的，你可以在玩家的 GPU 上运行较小的 LLM（例如 Mistral、Llama3 8b），但质量和功能可能不足以提供引人入胜的叙事和游戏玩法。2) 现在还为时过早：GPT-3.5 才 1.5 年，GPT-4 才 1 年。3) 当前的 LLM：它们可能无法在长时间的游戏会话中运行多智能体叙事。上下文大小不足以一
