详细内容或原文请订阅后点击阅览
AI 教学本身？这就是所谓的“递归自我完善”，它即将到来
人工智能可能能够自我学习这一日益增长的现实成为上周硅谷的热门话题。
来源:营销人工智能研究所人工智能可能能够自我学习这一日益增长的现实成为上周硅谷的热门话题。
一切始于谷歌前首席执行官埃里克·施密特 (Eric Schmidt) 在哈佛大学发表演讲时谈到人工智能行业如何迅速实现“递归自我改进”，即人工智能系统无需人类指导即可学习和改进的概念。施密特表示，这可能会在两到四年内发生，并警告需要限制这项技术。
大约在同一时间，OpenAI 推出了一个新的对齐研究博客，致力于解决这些自我改进系统的安全挑战。由前谷歌 DeepMind 研究人员组成的团队宣布成立一家新的初创公司 Ricursive Intelligence，其成立目的是在人工智能模型和芯片设计之间创建循环。
为了了解这项技术以及为什么它可能会引导我们走向通用人工智能 (AGI)，我在《人工智能秀》第 184 集中与 SmarterX 和 Marketing AI Institute 创始人兼首席执行官 Paul Roetzer 进行了交谈。
改变一切的自学
递归自我完善长期以来一直在科技界讨论，与记忆、推理和多模态一样，是人工智能进步的主要标志。
“如果人工智能系统足够好，可以有意义地帮助设计自己的下一个更好版本，那么这个循环就会继续下去，”Roetzer 说。
这个循环的工作方式如下：人工智能提出对其自身架构或训练数据的更改。这些变化产生了一个更强大的模型。这个新模型更擅长提出改进建议。如此等等，无穷无尽。
这可能会造成情报爆炸，但也有失去人类控制的风险。
“当我们开始减少对循环中的人的依赖时，危险就来了，”Roetzer 说。
为了说明这一点，Roetzer 将这个概念应用于一个熟悉的领域：营销。想象一下，一个自主人工智能代理正在为一项重大活动开展活动。它可以访问您的所有数据，包括电子邮件性能、广告购买、消息传递和预算。