Ask Ethan: Does nature need to obey laws at all?
无论我们考虑什么物理系统,大自然始终遵循相同的基本定律。一定是这样吗?如果是这样,为什么?继续阅读《爆炸开始!》 »
Modularity — a questionable assumption
经济学中的实验很难进行,经济学家构建的理论“模拟”模型以及他们进行“思想实验”的模型所建立的假设与自然科学家进行实验的理想化条件相去甚远。自然科学家已经能够构建的“法则机器”[...]
Revisiting the Scaling Properties of Downstream Metrics in Large Language Model Training
虽然大型语言模型 (LLM) 的缩放法则传统上关注预训练损失等代理指标,但预测下游任务性能被认为是不可靠的。本文提出了一个直接框架来对培训预算中的基准性能扩展进行建模,从而挑战了这一观点。我们发现,对于固定的令牌与参数比,简单的幂律可以准确地描述多个流行下游任务的日志精度的缩放行为。我们的结果表明,直接方法比之前提出的两阶段程序更好地推断......
Prepare for a major shock in March and April CPI
- 作者:新政民主党 准备好在 4 月底 CPI 上涨超过 1.5%,甚至可能上涨 2.5%。这就是本月迄今为止由于与伊朗的战争而导致的天然气价格大幅上涨所传达的信息。让我从这张引人注目的图表开始。这是自数据发布以来加油站汽油价格的月度变化百分比,由 E.I.A 每周进行测量:截至 3 月 16 日,汽油价格已从 2 月底的 2.94 美元/加仑上涨至 3.72 美元,涨幅为 26.7%,是有记录以来的最大月度涨幅。只有另外两个月接近 20%:2009 年 5 月为 18.9%,2002 年 3 月为 20.3%。在这两种情况下,价格都从经济衰退结束时的极低水平反弹。请记住,距离 3 月份还有
Why fashion keeps coming back: Scientists find a 20-year style cycle
你有没有注意到旧的时尚潮流似乎又卷土重来了?喇叭裤、迷你裙和复古款式往往会在消失多年后卷土重来。时尚界的许多人长期以来一直相信“20年法则”,这表明趋势大约每二十年就会重复一次。现在,科学家们表示,这个想法不仅仅是……《为什么时尚不断回归:科学家发现 20 年风格周期》一文首先出现在 Knowridge Science Report 上。