Memory-Efficient Backpropagation for Fine-Tuning LLMs on Resource-Constrained Mobile Devices
使用反向传播对大型语言模型 (LLM) 进行微调(即使对于 LoRA 等参数子集)可能比推理更消耗内存,并且对于资源受限的移动设备来说通常被认为是不切实际的。零阶优化 (ZO) 等替代方法可以大大减少内存占用,但代价是模型收敛速度显着减慢(比反向传播多 10 倍到 100 倍的步骤)。我们提出了一种在移动设备上实现反向传播 (MeBP) 的内存高效实现,它可以在内存使用和计算之间提供更好的权衡……
Meet ChatGPT Atlas, OpenAI’s Agentic Web Browser
OpenAI 刚刚正式推出 ChatGPT Atlas,这是一款新型人工智能驱动的网络浏览器,旨在将自动化、内存和人工智能辅助直接融入您的日常浏览中。
Atlas vuln lets crims inject malicious prompts ChatGPT won't forget between sessions
它能做的不仅仅是每天玩“虎之眼”。LayerX 的研究人员在 OpenAI 的 Atlas 中发现了一个漏洞,该漏洞允许攻击者使用跨站点请求伪造将恶意指令注入 ChatGPT 的内存中,这再次提醒人们警惕 AI 浏览器。
Chemical networks can mimic nervous systems to power movement in soft materials
如果一种软材料可以自行移动,不是由电子设备或电机引导,而是由为最简单的生物体提供动力的基本化学信号引导,结果会怎样?匹兹堡大学斯旺森工程学院的研究人员对此进行了建模——一个合成系统,可以直接将化学反应转化为机械运动,而不需要我们体内存在的复杂生化机械。
ChatGPT får ny automatisk minnesfunktion
OpenAI 为 ChatGPT 引入了自动内存管理功能,允许用户保存和组织内存,而无需担心容量限制。该功能可以对保存的记忆进行搜索、排序和重新排序,现在全球的 Plus 和 Pro 用户都可以使用。然而,该更新引起了用户对透明度、控制力和可能丢失的严重担忧。ChatGPT 获得新的自动记忆功能后首次出现在人工智能新闻上。
Building smarter AI agents: AgentCore long-term memory deep dive
在这篇文章中,我们将探讨 Amazon Bedrock AgentCore Memory 如何通过反映人类认知过程的复杂提取、整合和检索机制将原始会话数据转换为持久的、可操作的知识。该系统解决了构建人工智能代理的复杂挑战,这些代理不仅存储对话,还提取有意义的见解、跨时间合并相关信息,并维护连贯的内存存储,从而实现真正的上下文感知交互。
Learning Triton One Kernel at a Time: Matrix Multiplication
平铺 GEMM、GPU 内存、合并等等!学习 Triton 一次一个内核:矩阵乘法一文首先出现在《走向数据科学》上。
We Benchmarked DuckDB, SQLite, and Pandas on 1M Rows: Here’s What Happened
查看 DuckDB、SQLite 和 Pandas 在百万行数据集上的速度和内存效率比较结果。
Accelerate development with the Amazon Bedrock AgentCore MCP server
今天,我们很高兴宣布推出 Amazon Bedrock AgentCore 模型上下文协议 (MCP) 服务器。 AgentCore MCP 服务器内置对运行时、网关集成、身份管理和代理内存的支持,专为加快创建与 Bedrock AgentCore 兼容的组件而设计。您可以使用 AgentCore MCP 服务器进行快速原型设计、生产 AI 解决方案、[...]
孟加拉国不同栖息地眼镜蛇和眼镜蛇 (Naja kaouthia) 种群毒液成分的种间和种内变异摘要眼镜蛇 (Naja naja) 和单眼镜蛇 (Naja kaouthia) 是南亚和东南亚广泛分布的毒蛇,其栖息地和原因各不相同 神经毒性中毒。尽管据报道这两种眼镜蛇的毒液在其分布范围内存在差异,但尚未对孟加拉国相互关联但又不同的栖息地进行比较研究。利用毒液组学和抗毒液组学,我们分别分析了来自孟加拉国不同年龄组和地点的 26 个考西亚猪笼草和 17 个眼镜蛇的毒液样本。观察到显着的种间和种内毒液变异性,地理上相连的种群显示出最小的差异,而孤立的种群(被河流障碍或不同的生态系统分隔开)则表现出明显的