详细内容或原文请订阅后点击阅览
白宫人工智能审查提案是糟糕的政策
美国政府对欧盟对科技监管的严厉态度的批评是正确的，这种做法推迟了产品发布，抑制了投资，并使欧洲消费者落后。美国转向这种人工智能模式将是一个错误。白宫人工智能审查提案是糟糕的政策后，首先出现在美国企业研究所 - AEI 上。
来源:美国进取研究所信息据报道，特朗普政府正在考虑一项行政命令，以加强政府对生成式人工智能的监督，其中可能包括对新人工智能模型的正式政府审批审查和批准程序。如果属实，这将是白宫的一个惊人逆转，白宫一直支持人工智能的发展，并批评欧盟和一些州有时制定的严厉法规。这也是一个错误。强制性的政府人工智能审查制度可能对增强安全没有什么作用，同时会对目前在美国经济中承担的稳定和增长超过其份额的行业的创新和竞争造成重大损害。
政府态度的转变似乎部分是由于对 Anthropic 新 Mythos 模式的担忧而引发的。上个月，Anthropic 宣布暂时不会向公众发布该模型，因为内部测试表明该模型有能力识别和利用整个数字经济中的网络安全漏洞，而这些能力如果落入坏人之手，可能会造成灾难性的后果。作为回应，政府中的一些人敦促建立类似于美国食品和药物管理局（FDA）药品审批流程的模式，通过政府监督的独立测试在产品到达消费者手中之前验证产品的安全性。
凡是经历过AI幻觉的人都明白这一点。开发人员努力减少幻觉，并且早期模型在每次迭代中都得到了改进。但幻觉仍然存在，一些研究表明，新模型产生的幻觉更多，而不是更少。如果能够完全访问自己模型的开发人员无法预测或消除这些故障，那么就不清楚政府计划如何证明模型是“安全的”。虽然它可以降低一些风险，但这样的认证最多只能提供一种错误的安全感。