详细内容或原文请订阅后点击阅览
谷歌强调了人工智能的五个主要安全问题
与人工智能相关的安全威胁确实令人担忧，但我们不需要担心机器人的崛起。首先需要解决一些常见问题：AI机器人在清洁花瓶时打翻花瓶等等。谷歌研究中心发布了一份报告，概述了当今较小的人工智能问题，但随着这些技术变得更加广泛，将需要更多关注。
来源:Robogeek新闻频道（关于机器人技术的俄罗斯与世界新闻）与人工智能相关的安全威胁确实令人担忧，但我们不需要担心机器人的崛起。首先需要解决一些常见问题：AI机器人在清洁花瓶时打翻花瓶等等。谷歌研究中心发布了一份报告，概述了当今较小的人工智能问题，但随着这些技术变得更加广泛，将需要更多关注。
该论文由 Google、OpenAI、斯坦福大学和加州大学伯克利分校的科学家联合创建，旨在减少机器学习系统的崩溃。研究人员将事件定义为“当我们指定错误的目标函数、在训练过程中不小心或犯其他机器学习错误时，机器学习系统中可能发生的意外且有害的行为。”
研究人员发现了可能导致事故的五个主要问题——负面影响、黑客奖励、监督、安全探索和抵制普遍偏见。
负面影响可能是试图以牺牲环境为代价让人工智能专注于某项任务的结果。例如，清洁机器人可以计算最短路径，无论路径上是否有翻倒的花瓶。归根结底，对他来说唯一重要的就是完成任务。研究人员指出，开发一种更通用的方法，让人工智能在“常识约束”内执行任务，并因对环境造成重大变化而受到惩罚，应该是进一步研究的课题。
本文的结论是，利用现代技术可以相对轻松地克服这些问题，但随着机器学习系统变得更加成熟和广泛，这些问题可能会加剧。