详细内容或原文请订阅后点击阅览
数万亿美元之争：人工智能公司员工被迫保持沉默的事情
公开信：保密协议损害算法安全。
来源:安全实验室新闻频道公开信：保密协议损害算法安全。
ChatGPT 等产品的开发商 OpenAI 的一群前任和现任员工发表了一封公开信，批评人工智能行业。他们在信中对人工智能技术在缺乏国家和社会适当监管和监督的情况下快速发展表示担忧。
OpenAI 公开信“人工智能公司有强大的财务激励来避免有效的监督，我们不相信我们自己的内部公司治理措施足以改变这种情况，”信中说。
作者表示，OpenAI、谷歌、微软、Meta* 等科技巨头正在生成式 AI 领域展开一场名副其实的军备竞赛。预计该市场在未来十年内将产生超过一万亿美元的年收入。
谷歌 微软OpenAI 员工声称，这些公司持有“大量机密信息”，涉及其人工智能产品的实际功能、安全措施和潜在危害的风险级别。然而，实际上没有有效的法律强制开发商与政府和民间社会共享这些数据。
主要投诉之一是对人工智能行业举报人缺乏足够的保护。 “保密协议阻止我们向除公司本身之外的任何人公开表达对此的担忧，他们可能会忽视现有的问题，”这封信的作者抱怨道。
传统的举报人保护机制效率低下，因为它们的重点是打击非法活动。与此同时，与人工智能相关的许多风险尚未得到法律监管，形成了法律真空。
* Meta 公司及其产品被认为是极端分子，其活动在俄罗斯联邦被禁止。
元