详细内容或原文请订阅后点击阅览
代理经济缺失的机制
在过去的两年里，我一直与经济学家伊兰·施特劳斯 (Ilan Strauss) 一起在人工智能披露项目 (AI Disclosures Project) 中工作。我们首先询问监管机构需要了解哪些信息，以确保影响数亿人的人工智能产品的安全。我们现在正在探索启用 [...]
来源:O'Reilly Media _AI & ML在过去的两年里，我一直与经济学家伊兰·施特劳斯 (Ilan Strauss) 一起在人工智能披露项目 (AI Disclosures Project) 中工作。我们首先询问监管机构需要了解哪些信息，以确保影响数亿人的人工智能产品的安全。我们现在正在探索实现代理经济所需的缺失机制。
本文追溯了我们从协议披露到市场和机制设计的路径。我不是简单地陈述我们的结论，而是分享我们的思维过程以及塑造它的一些对话和历史例子。
在接下来的几个月里，我们将举行多次重点会议来探讨这些想法，我希望共享的背景能够使人们更有效地参与正在进行的工作。
披露问题
Ilan Strauss 和我于 2024 年初启动了人工智能披露项目，我们坚信大多数监管机构对人工智能如何运作或将走向何方知之甚少。该领域是如此年轻，以至于许多早期的监管提案都被误导了。我们认为监管机构和行业应该首先就披露标准达成一致，这样我们就可以随着技术的发展共同学习。你无法规范你不理解的东西。
我们的第一个见解是，仅仅关注模型安全是一个错误，就像监管机构在工厂检查汽车但完全忽视它们在道路上的使用一样。我们相信（现在仍然如此）重点应该放在部署的人工智能上。我们认为，披露不应只关注能力，而应关注人工智能公司用来塑造其产品运作方式的商业模式和运营指标。
作为功能披露的协议
协议塑造市场
这一见解重新构建了我们的整个项目。协议不仅仅是技术基础设施。它们是市场塑造机制。