Scaling Laws for Mixture Pretraining Under Data Constraints
随着语言模型的扩展,它们所需的数据量也在增长,但许多目标数据源(例如低资源语言或专业领域)本质上在大小上受到限制。一种常见的策略是将这种稀缺但有价值的目标数据与丰富的通用数据混合在一起,这提出了一个基本的权衡:混合物中的目标数据太少会使模型在目标域中暴露不足,而太多的目标数据会过度重复相同的示例,从而产生收益递减并最终导致过度拟合。我们在 2,000 多次语言模型训练中研究了这种权衡……
Campbell Law 50th Spotlight: Kristen Beightol ‘01
Kristen L. Beightol ‘01 是 Edwards Beightol LLC 的创始合伙人,她在该公司担任诉讼律师,专注于……更多关于此文章的文章坎贝尔法第 50 届聚焦:Kristen Beightol ‘01 首先出现在博客上。
Physicists Made Particles Defy Newton's 3rd Law for an Hour
Gayoung Lee, Giz 有些物理定律是如此基础,以至于几个世纪以来它们一直是科学的基线。但随着技术的进步,物理学家可以——尽管……
リフレ(瀬)とプール(淵)のバランス-にぎやかで豊かだが汚染に弱い
■概要 河床上,水流湍急的礁石和幽静的水潭交替出现。这个简单模式的背后是一个物理定律,其中石头的大小和水流的强度相互作用。河流地形的这些差异与鱼类种类组成有关,也可能导致对水污染的反应差异。虽然水池在正常情况下可以养活多种鱼类,但当污染物积累时,它们可能会变得脆弱。在过去的河流修复工作中,曾有报道称,人造建筑物的设计与河流的泥沙、流量、坡度等条件不匹配,石头太重或太轻,导致其失去功能。本文从河流地形、鱼类群落、水污染和河流恢复四个角度探讨了通货再膨胀和池化现象的深度。 ■目录 1 - 简介 2 - 珊瑚礁和水池的形成 1 - 为什么河流不断交替产生两种类型的断面 2 - 源于沉积物和流量之间的
Soft Computing, Volume 30, Issue 7, July 2026
1) 基于拉格朗日插值的优化算法,用于数值优化和航天器轨迹问题作者:Apu Kumar Saha, Sanjoy Chakraborty, Sushmita Sharma 页数:4569 - 46022) Generalizations of k-generications 作者:Jing Jing Yue,Xue-ping Wang 页数:4603 - 46123) Lifting Filters in residuationlaties and它们在多值决策中的应用作者:Saeed Rasouli 页数:4613 - 46334) 模糊参数期权定价模型的守恒定律和精确解作者:Mohamma
Weekly Climate and Energy News Roundup #701
本周引述:“我们将[理论]的计算结果与自然进行比较,……直接与观察结果进行比较,看看它是否有效。如果它与实验不一致,那么它就是错误的。在这个简单的陈述中,就是科学的关键。” — 理查德·费曼《物理定律的特征》(1965) p. 11 150 [H/t Richard Lindzen 和 William Happer]《每周气候与能源新闻综述》#701 文章首先出现在 Watts Up With That? 上。
The once-impossible black holes that could break thermodynamics
物理定律似乎禁止各种奇怪的黑洞温度为零。专栏作家 Jacklin Kwan 探索的研究表明这些奇怪的庞然大物确实存在 - 以及它们如何测试热力学的极限
The Physics of Now: The Function of Subjective Awareness
几十年来,科学家和哲学家一直在努力解决一个基本问题:意识体验如何符合物理定律?虽然神经科学已经揭示了感知和行为背后的许多机制,但意识到的主观感觉,即体验连续的“现在”的感觉,仍然难以解释。一项新的理论研究提出,这 [...]
This Star Is Racing Around the Milky Way’s Black Hole at 8% the Speed of Light
银河系中心黑洞附近的一颗快速移动的恒星可以在异常极端的条件下测试重力。广义相对论对引力提供了非常精确的描述,但大多数日常计算并不需要它。牛顿万有引力定律足够精确,可以引导航天器穿越太阳系并描述大多数[...]
Closing the data loop in AI-driven drug discovery
药物发现是一项高成本、高风险的工作,它面临着越来越大的来自先发优势所定义的市场的压力。自 20 世纪 50 年代以来,开发新药物的成本大约每九年翻一番,这种现象被称为“埃鲁姆定律”。如今,将一种新药推向市场平均需要 10-15 年的时间,而且成本……
Terzi 和 Nicoli 发表了一篇引人入胜的新论文,分析了 1960 年以来的 4,400 多次轨道发射,以估算“赖特定律”。该定律规定,新技术的单位成本与累积经验成比例下降。本质上,它是边做边学的表现。他们表明:...将一公斤送入轨道的平均成本已从 1960 年的 87,023 美元下降到 2025 年的 3,868 美元。使用赖特定律框架,我们估计,送入轨道的累积有效载荷每增加一倍,将一公斤送入轨道的平均成本就会下降 21.2%...这比许多过去的技术(例如 19 世纪的蒸汽机和最近的太阳能光伏发电)要快。这是一个积极的反馈循环,因为随着发射成本的下降,会发射更多的东西。他们预测,到