The Technological Revolution of Cloud Computing in Healthcare
准确记录诊断、治疗历史和个人健康信息对于提供优质护理和确保患者安全都至关重要。在当今快节奏的医疗保健领域，医生和其他医务人员需要强大而安全的技术来有效管理患者记录。数据存储技术革命（如异地服务器）就是这样一种解决方案，[…] 医疗保健领域云计算技术革命一文首先出现在 AiiotTalk - 人工智能 | 机器人技术 | 技术上。
Reducing the Size of AI Models
在边缘设备上运行大型 AI 模型使用 Pixlr 创建的图像AI 模型，尤其是大型语言模型 (LLM)，需要大量的 GPU 内存。例如，对于 2024 年 7 月发布的 LLaMA 3.1 模型，内存要求如下：80 亿参数模型需要 16 GB 内存（16 位浮点权重）更大的 4050 亿参数模型需要 810 GB（使用 16 位浮点数）在全尺寸机器学习模型中，权重表示为 32 位浮点数。现代模型具有数亿到数百亿（甚至数千亿）的权重。训练和运行如此大的模型非常耗费资源：它需要大量的计算（处理能力）。它需要大量的 GPU 内存。它会消耗大量的能源，特别是，造成这种能源消耗的最大因素是：- 使用 3
Boost Auto-Trading Efficiency: Running MetaTrader on a VPS – a Complete Guide
在快节奏的交易世界中，每一毫秒都至关重要。在虚拟专用服务器 (VPS) 上运行 MetaTrader 可确保您的交易策略以闪电般的速度和精度执行。通过在外汇 VPS 上托管您的 MetaTrader 平台，您将获得一个稳定、低延迟的环境，让您的自动化策略全天候运行而不会中断。此设置是 […]
Running Large Language Models Privately
框架、模型和成本的比较 Robert Corwin，Austin Artificial Intelligence 首席执行官 David Davalos，Austin Artificial Intelligence ML 工程师 2024 年 10 月 24 日大型语言模型 (LLM) 迅速改变了技术格局，但安全问题仍然存在，尤其是在将私人数据发送给外部第三方方面。在这篇博文中，我们深入探讨了在本地和私下（即在自己的计算机上）部署 Llama 模型的选项。我们让 Llama 3.1 在本地运行，并调查了速度、功耗和不同版本和框架中的整体性能等关键方面。无论您是技术专家还是只是对所涉及的内容感到
On Device Llama 3.1 with Core ML
许多应用程序开发人员都对在集成功能日益强大的大型语言模型 (LLM) 的设备体验上进行构建感兴趣。在 Apple 芯片上本地运行这些模型使开发人员能够利用用户设备的功能进行经济高效的推理，而无需向第三方服务器发送数据和从第三方服务器接收数据，这也有助于保护用户隐私。为了做到这一点，必须仔细优化模型以有效利用可用的系统资源，因为 LLM 通常对内存和处理能力都有很高的要求。这篇技术文章详细介绍了如何……
Satellites making up China's 'Thousand Sails' found to be exceeding brightness limits
国际天文学联合会保护暗夜静空免受卫星星座干扰中心的一组太空研究人员与比利时卫星工作组的一位同事合作，发现中国“千帆”项目的卫星亮度超过了天文学团体提出的亮度限制，这些团体希望防止卫星阻挡太空视野。描述他们发现的论文已发布到 arXiv 预印本服务器。
Observations explore the properties of giant spiral galaxy UGC 2885
天文学家利用加拿大-法国-夏威夷望远镜 (CFHT) 对一个名为 UGC 2885 的大型螺旋星系进行了全面的多波长观测。观测活动的结果于 10 月 21 日在预印本服务器 arXiv 上发表，为该星系的属性提供了更多见解。
Dutch cops pwn the Redline and Meta infostealers, leak 'VIP' aliases
法律诉讼正在进行中，更多细节敬请关注。荷兰警方 (Politie) 表示，他们已经拆除了 Redline 和 Meta 信息窃取程序的服务器 - 这是现代网络犯罪分子武器库中的两个关键工具。
AI People: Update 0.2.0a - The Sitting Pretty Update
我们的第二个内容添加更新名为“The Sitting Pretty Update”，将于 2024 年 10 月 24 日登陆 AI People 服务器。此更新带来了全新的互动功能、大量新游戏角色以及其他一些功能和变化。 新角色我们对游戏中可玩角色列表进行了大量更改。目前，AI People 中有 10 个不同的角色，每个角色都有特殊的配音。可以将其中任何一个设置为可玩角色。此外，我们想提醒您，他们的名字和特征始终可以根据玩家的意愿和喜好进行更改和定义。在 0.2.0a 版本中，我们在这些地图上有以下角色： 农场地图：Maddie Sin、Paul Bright、Leo Reed、Ari S
Combining Machine Learning and Homomorphic Encryption in the Apple Ecosystem
在 Apple，我们认为隐私是一项基本人权。我们保护用户隐私的工作遵循一系列隐私原则，其中一项原则是优先使用设备上的处理。通过在用户设备上本地执行计算，我们有助于最大限度地减少与 Apple 或其他实体共享的数据量。当然，用户可以请求由机器学习 (ML) 提供支持的设备体验，这些体验可以通过查找服务器上托管的全局知识来丰富。为了在提供这些体验的同时坚持我们对隐私的承诺，我们实施了…
你们中的许多人都注意到 Angry Bear 发生了不必要的事件。我们发生过四次停机。我不确定为什么会发生这种情况。每次，乔尔和我都会提醒我们现在的服务器工作人员，而不会要求或讨厌。后者毫无用处。我们需要他们的帮助，同时我们过渡到 […] 文章《Angry Bear 的变化》首先出现在 Angry Bear 上。
You shall not pass! Voting in Georgia and Alabama
最近我很累。一直在与我们的老服务器合作伙伴合作，并准备换一个新的服务器合作伙伴。新合作伙伴似乎更精明。还与我们的广告合作伙伴合作以获得更好的广告。下周与 VA 开会讨论我的两个 […]帖子你不能通过！佐治亚州和阿拉巴马州的投票首先出现在 Angry Bear 上。
"Superhuman": Nvidia CEO Blown Away After Musk Sets Up 100,000 GPUs In 19 Days
“超人”：马斯克在 19 天内设置了 100,000 个 GPU，Nvidia 首席执行官大吃一惊Nvidia 首席执行官黄仁勋表示，埃隆·马斯克在短短 19 天内设置了 100,000 个 H200 Blackwell GPU 的超级集群，实现了“超人”壮举 - 他说这个过程其他人需要“一年才能完成”。插图由 Kristen Radtke / The Verge；Getty Images 提供根据 Tom's Hardware 的说法，xAI 团队据称在不到三周的时间内从“概念”发展到与 Nvidia 的“设备”完全兼容 - 包括运行 xAI 的首次 AI 训练运行。从开始到结束，这个过程涉
Scalable Private Search with Wally
本文介绍了 Wally，这是一个支持对大型数据库进行高效语义和关键字搜索查询的隐私搜索系统。当有足够多的客户端进行查询时，Wally 的性能明显优于以前的系统。在以前的隐私搜索系统中，对于每个客户端查询，服务器必须对每个数据库条目执行至少一次昂贵的加密操作。因此，性能会随着数据库中条目的数量而成比例下降。在 Wally 中，我们消除了这一限制。具体来说，对于每个查询，服务器都会执行加密……
Представлены новые флагманы линеек AMD Instinct и AMD Epyc
该公司将其新产品与人工智能加速器领域的英伟达产品和服务器处理器领域的英特尔产品进行了对比。
AMD представила новинки сразу для трех разных рыночных сегментов
服务器处理器、人工智能加速器和一系列强大的移动芯片已经发布。
CAMPHOR: Collaborative Agents for Multi-Input Planning and High-Order Reasoning On Device
虽然服务器端大型语言模型 (LLM) 在工具集成和复杂推理方面表现出色，但直接在设备上部署小型语言模型 (SLM) 带来了改善延迟和隐私的机会，但也带来了准确性和内存方面的独特挑战。我们推出了 CAMPHOR，这是一种创新的设备 SLM 多代理框架，旨在处理多个用户输入并在本地推理个人背景，确保隐私得到维护。 CAMPHOR 采用分层架构，其中高阶推理代理分解复杂任务并协调专家……
