详细内容或原文请订阅后点击阅览
将 AI 与人类价值观相结合
“我们既需要确保人类获得 AI 的好处，又需要确保我们不会失去对技术的控制，”高级 Audrey Lorvo 说。
来源:MIT新闻 - 人工智能大四学生 Audrey Lorvo 正在研究人工智能安全，旨在确保日益智能的人工智能模型可靠并造福人类。这个不断发展的领域专注于技术挑战，如稳健性和人工智能与人类价值观的一致性，以及社会问题，如透明度和问责制。从业者还担心日益强大的人工智能工具可能带来的生存风险。
“随着我们接近通用人工智能 (AGI)，确保人工智能不被滥用或违背我们的意图变得越来越重要，”计算机科学、经济学和数据科学专业的 Lorvo 说。AGI 描述了人工智能匹配或超越人类认知能力的潜力。
计算机科学、经济学和数据科学作为麻省理工学院施瓦茨曼计算机学院社会和道德责任 (SERC) 学者，Lorvo 密切关注人工智能如何自动化人工智能研究和开发流程和实践。作为大数据研究小组的成员，她正在研究人工智能加速自身研究的潜力所带来的社会和经济影响，以及如何有效地将这些想法和潜在影响传达给包括立法者、战略顾问等在内的普通受众。
计算社会和道德责任 (SERC) 学者 大数据研究小组Lorvo 强调需要批判性地评估人工智能的快速发展及其影响，确保组织有适当的框架和策略来应对风险。“我们既需要确保人类获得人工智能的好处，又需要确保我们不会失去对技术的控制，”她说。“我们需要尽一切努力安全地开发它。”
AI 安全技术奖学金人类参与的价值
人类参与的价值“有很多方法可以帮助提高个人和社区的生活质量，”她说，“麻省理工学院提供了许多不同的研究途径。”
Joshua Angrist 的 麻省理工学院大厅