详细内容或原文请订阅后点击阅览
AI的“教父”发出警报：超级智能可能只有数年之遥 - 有一个母亲的备份计划
Geoffrey Hinton—often hailed as the “Godfather of AI”—jolted the tech world in Las Vegas, suggesting that Artificial General Intelligence (AGI) could arrive within 5 to 20 years, a major shift from his previous timeframe of 30 to 50 years The Tiger Cub Metaphor: Grow Smart—and Safe Hinton likened advanced AI systems to a tiger cub: fierce and unpredictable if not raised with care.这就是为什么他建议使用“母性本能”编程AI的原因 - 因此，即使在更加聪明的情况下，这些系统也可以固有地将人类福利优先考虑。这个建议与通常的“从上于上下”的心态急剧不同。欣顿认为这是[…]
来源:AI 2 People杰弗里·欣顿（Geoffrey Hinton）通常被誉为“ AI的教父” - 在拉斯维加斯（Las Vegas）的科技界犹豫不决，这表明人工通用情报（AGI）可以在5到20年内到达，这是从他以前的30年代到50年的重大转变
5至20年老虎幼崽的隐喻：聪明 - 安全
Hinton将先进的AI系统比作老虎幼崽：凶猛而不可预测的话。这就是为什么他建议使用“母性本能”编程AI的原因 - 因此，即使在更加聪明的情况下，这些系统也可以固有地将人类福利优先考虑。
老虎幼崽 “母性本能”这个建议与通常的“从上到下”心态急剧不同。欣顿认为，最好养育我们将我们视为保护者而不是俯卧撑的人工智能。他警告说：“如果不给我父母，那将取代我。”
带领“ heart-first” AI策略的声音
META的首席AI科学家Yann Lecun迅速回应了Hinton关于AI设计中同理心和顺从的重要性的信息。他将它们框起来是必不可少的人类一致的护栏，类似于社交动物中发现的本能。
Yann Lecun 人类对准护栏对于Lecun来说，使AI具有情感上的智能（以我们的价值观为基础）与技术规格本身一样重要。
高赌注，短时间轴
在存在性风险和快速的技术飞跃之间，欣顿警告说，Agi可能构成灭绝级别的威胁的可能性达到20％，这比我们可以说的“图灵测试”。
20％机会同时，来自Demis Hassabis和Jensen Huang等技术有远见的窃窃私语正在指向相同的近期视野 - 阿吉可能比我们想象的要近，而不是遥远的科幻版本。
为什么感觉不同
这不是偏执狂，而是情感结盟的恳求。将同情心纳入人工智学不是情感主义。这可能是技术有助于人类的未来和它重塑的未来之间的区别。考虑到AI的潜力超过了法规，欣顿的紧迫性绝对是合理的。