Regression Discontinuity Design: How It Works and When to Use It
从核心思想到现实世界分析 - RDD因果推理的工作方式，如何运行以及如何正确获取它。后回归不连续性设计：它的工作原理以及何时使用它首先出现在数据科学上。
Step-by-Step Diffusion: An Elementary Tutorial
我们提供了一门关于扩散模型数学和机器学习流程匹配的可访问的第一门课程。我们的目标是尽可能简单地教授扩散，以最少的数学和机器学习先决条件，但足够的技术细节来理解其正确性。与大多数有关该主题的教程不同，我们既不采用变异自动编码器（VAE），也不采用随机微分方程（SDE）方法。实际上，对于核心思想，我们将不需要任何SDE，基于证据的降低器（ELBOS），Langevin Dynamics，甚至分数的概念。读者只需要…
Restoring America With Common Sense
用常识恢复美国作者：Robert Curry，来自 RealClearPolicy，由于常识是理解美国各个层面的原始设计的关键，美国长期以来被称为“常识国家”。现在，特朗普总统和他的“常识革命”可能会成功让美国再次成为常识国家。不可剥夺的权利和不言而喻的真理是美国建国的核心思想。这些思想也是“常识现实主义”哲学流派的核心思想，该流派受到亚当·斯密、托马斯·里德和苏格兰启蒙运动的其他代表的启发。用亚瑟·赫尔曼的话来说，“常识现实主义实际上是美国共和国的官方信条……”正如历史学家艾伦·盖尔佐在他不可或缺的大学讲座系列“美国思想”中所解释的那样，“在内战之前，每一位主要的大学知识分子都是苏格兰常识现
Cosmic Inflation: The Paradigm Without a Theory
Adam Koberinski，iai 宇宙膨胀最初是作为早期宇宙平坦性问题的解决方案而提出的，后来成为现代宇宙学的核心思想。其力量的关键...
Study: State Report Cards Need Big Improvements in Tracking COVID Learning Loss
大多数认识我的人可能会说我是数据和问责制的倡导者。我是数据质量运动的董事会成员，我写过大量（并给予好评）关于问责制在促进教育改进方面的作用的文章。但我也对问责制持批评态度，尤其是所谓的公共问责制，其核心思想是父母 […]
Jeffrey Sachs: The NATO Declaration & The Deadly Strategy Of Neoconservatism
杰弗里·萨克斯：《北约宣言》与新保守主义的致命战略作者：杰弗里·萨克斯 1992 年，美国外交政策例外主义进入了高潮。美国一直将自己视为注定要成为领导者的例外国家，而 1991 年 12 月苏联的解体让一群坚定的理论家（后来被称为新保守主义者）相信，美国现在应该成为世界无可争议的唯一超级大国。尽管新保守主义者造成了无数外交政策灾难，但《2024 年北约宣言》仍在继续推动新保守主义者的议程，将世界推向核战争的边缘。新保守主义者最初由 1992 年的国防部长理查德·切尼领导。此后的每一位总统——克林顿、布什、奥巴马、特朗普和拜登——都奉行美国霸权的新保守主义者议程，导致美国陷入永无休止的战争，包括
Towards Monosemanticity: A Step Towards Understanding Large Language Models
理解机械可解释性研究问题并对这些大型语言模型进行逆向工程上下文人工智能研究人员的主要问题之一是了解这些大型语言模型的工作原理。从数学上讲，我们对不同神经网络权重如何相互作用并产生最终答案有一个很好的答案。但是，直观地理解它们是人工智能研究人员旨在回答的核心问题之一。这很重要，因为除非我们了解这些 LLM 的工作原理，否则很难解决 LLM 对齐和人工智能安全等问题，也很难对 LLM 进行建模以解决特定问题。理解大型语言模型如何工作的问题被定义为机械可解释性研究问题，核心思想是我们如何对这些大型语言模型进行逆向工程。Anthropic 是在理解这些大型模型方面取得巨大进步的公司之一。主要问题是这些
Understanding Deep Learning Algorithms that Leverage Unlabeled Data, Part 1: Self-training
深度模型需要大量的训练样本，但标记数据很难获得。这激发了利用未标记数据的重要研究方向，而未标记数据通常更容易获得。例如，可以通过爬取网络获取大量未标记的图像数据，而 ImageNet 等标记数据集则需要昂贵的标记程序。在最近的实证发展中，使用未标记数据训练的模型已开始接近全监督性能（例如 Chen 等人，2020 年，Sohn 等人，2020 年）。本系列博客文章将讨论我们的理论工作，该工作旨在分析使用未标记数据的最新实证方法。在第一篇文章中，我们将分析自我训练，这是一种非常有影响力的半监督学习和领域自适应算法范式。在第 2 部分中，我们将使用相关理论思想来分析自监督对比学习算法，这种算法对于
Understanding Deep Learning Algorithms that Leverage Unlabeled Data, Part 1: Self-training
深度模型需要大量的训练样本，但标记数据很难获得。这激发了利用未标记数据的重要研究方向，而未标记数据通常更容易获得。例如，可以通过爬取网络获取大量未标记的图像数据，而 ImageNet 等标记数据集则需要昂贵的标记程序。在最近的实证发展中，使用未标记数据训练的模型已开始接近全监督性能（例如 Chen 等人，2020 年，Sohn 等人，2020 年）。本系列博客文章将讨论我们的理论工作，该工作旨在分析使用未标记数据的最新实证方法。在第一篇文章中，我们将分析自我训练，这是一种非常有影响力的半监督学习和领域自适应算法范式。在第 2 部分中，我们将使用相关理论思想来分析自监督对比学习算法，这种算法对于
I used GAN and a 330 BC sculpture to find out what Alexander the Great looked like
看吧世界——我给你亚历山大大帝——用 GAN 来解释背景：我使用 GAN 或（生成对抗网络）、Leochares 于公元前 330 年制作的亚历山大大帝半身像以及艺术家 Jude Maris 绘制的亚历山大面部照片，创作了一幅栩栩如生的亚历山大大帝肖像。最终产品：用 GANA 解释亚历山大大帝生成对抗网络 (GAN) 是由 Ian Goodfellow 设计的机器学习框架。该概念最初发表在 2014 年的论文《生成对抗网络》中。核心思想是创建一个系统，其中两个神经网络在游戏中相互竞争，生成具有与训练集相同统计数据的新数据。例如，用照片训练的 GAN 可以生成至少在表面上看起来对人类观察者来说真
A New Paper on the Fed's Floor System
正如本博客的读者所知，我对美联储的操作系统很感兴趣。这种兴趣最终促成了一篇新论文，我在论文中探讨了美联储在 2008 年从走廊系统转向下限系统所带来的后果。特别是，该论文探讨了这一变化对银行投资组合以及银行提供的金融中介服务的影响。论文最后提出了一些政策建议。我还想指出，乔治·塞尔金刚刚出版了一本关于这个主题的新书。我希望这些项目将有助于讨论美联储在继续正常化货币政策时想要什么样的操作系统。论文提纲那么我的论文要说什么呢？它首先列出了下限系统的标准论点：这一举措背后的核心思想是通过向银行提供等于或高于短期市场利率的美联储存款利率（IOER 利率），消除银行持有超额准备金的机会成本。这种有利的回
