Output Shaping: A New Way to Think About the Ethics and Use of AI for Content Creation
我们创造的东西比如何创造更重要 一位图书馆员最近问了我一个完美地反映了我们现在处境的问题：“我们如何才能确保我们不会购买由人工智能编写的书籍？”我认为我的回答让她感到惊讶：“如果书的内容确实有价值，你会在乎吗？”她的问题反映了我们如何相信创作过程决定了所创造内容的价值。但这已经不再是我们实际体验大多数事情的方式了。我想建议我们可能是时候承认这种转变了。摄影标准在上一篇文章中，我谈到了自动和数字摄影如何使视觉叙事民主化。摄影曾经依赖于摄影师对曝光和显影技巧的掌握。但我们实际上是根据输出来判断照片的。大多数人并不关心一张令人惊叹的照片是用胶片相机、数码单反相机还是 iPhone 拍摄的。我们真的不
Unit-free theorem pinpoints key variables for AI and physics models
机器学习模型旨在接收数据，查找这些数据中的模式或关系，并使用所学知识进行预测或创建新内容。这些输出的质量不仅取决于模型内部工作的细节，而且最重要的是取决于输入模型的信息。
RL for Reasoning by Adaptively Revealing Rationales
我们提出，来自部分专家演示的强化学习（RL）不仅仅是一种训练启发式方法，而且是解决复杂序列生成任务的一个有前景的框架。监督微调（SFT）依赖于密集的真实标签，随着序列长度的增长，其成本也越来越高。另一方面，强化学习则面临着稀疏奖励和组合大输出空间的问题。我们通过引入自适应回溯（AdaBack）来解决这个问题，这是一种按样本课程学习算法，在训练期间仅显示目标输出的部分前缀。该...
