人工智能 (AI) 是一门研究领域,涉及创建可以模仿人类大脑的高级算法。AI 通常被称为一项技术,但它实际上是一系列技术的推动者。AI 的独特之处在于它有可能集成到各种应用程序中。AI 几乎在每个领域都具有广泛的适用性,无缝渗透到我们的生活 - 从服务业(我们使用语音助手,如 Alexa、Siri、社交媒体平台、电子商务网站和 Over-the-Top [OTT] 平台),到医疗保健、农业、气候变化和金融部门。在国防领域,AI 在情报、监视和侦察 (ISR)、网络安全、军事物流、自动驾驶汽车和致命自主武器系统 (LAWS) 等应用方面具有巨大潜力。
自动驾驶汽车、社交和工业机器人、基于图像的医疗诊断、基于语音的知识和控制系统(例如 Alexa、Siri)以及推荐系统是一些应用领域,其中 AI/ML 辅助数字工件已经支持日常惯例和活动。可解释人工智能 (XAI) 和可解释机器学习 (IML) 都是关注用户为应对自动化系统渗透社会、经济、工业和科学环境的激增而创造的术语。例如,当自动驾驶汽车发生碰撞时,有什么好的解释?当 Alexa 被要求解释为什么英国的通货膨胀率如此之高,而通常的回答却非常不合适时,有什么好的解释?当社交媒体巨头为粉丝提出建议并向普通用户投放广告时,有什么好的解释?这些问题,特别是在任务关键型或影响生命的系统中,是由此类系统日益复杂的情况所引发的,在解释和解释其决策、结果或行为时,这些系统不可避免地会变成“黑匣子”。尽管已经采取了一些有趣的算法方法和实现(例如 LIME、IBM Protodash 和 SHAP(SHapley Additive exPlanations))来应对这一挑战,以看透“黑匣子”并理解其行为,但这些方法和实现主要由 ML 开发人员推动,旨在改进 ML 模型,而不是为系统消费者提供结果的某种解释或解释。在更广泛的多学科背景下,“什么是对外行用户的良好解释”这个问题的答案变得更具挑战性,正如我们呼吁的那样,从哲学到社会学、经济学和计算机科学。在此背景下,XAI 应该涉及需要解决的另一个层次的讨论:我们作为人类与 AI 系统的关系。尽管如此,“解释”一词源自拉丁语动词“explanare”,字面意思是“使水平”。因此,讨论和科学
2022 年 11 月底,大型语言模型 (LLM) 的世界发生了变化。GPT-3 中的核心模型经过各种幕后微调和提示,创造出可以直观地作为完全自然语言聊天机器人工作的东西,而不需要用户提供必要的提示和说明性示例来引出所需的响应。2023 年初,大型语言机器 (LLM) 聊天机器人(如 Open AI ChatGPT 1 、BING(微软) 2 和 BARD(谷歌) 3)推出,旨在改变广泛主题的信息知识共享。他们各自使用自然语言处理技术以对话方式生成问题的答案。2023 年 4 月,亚马逊宣布正在开发改进的 LLM 来为 Alexa 4 提供支持。
新兴的技术和创新变化为敏捷,生产力发展带来了新的挑战和机遇,反过来又为发展科学的内容和进步而令人担忧。人工智能(AI)已迅速融入我们的生活中,我们也许没有意识到它在日常生活的不同领域的应用。我们的技术设备及其助手,包括Siri,Alexa和其他人的常见例子,对我们做出回应,认识并促进无数日,个人,学术,工作和科学研究功能。技术应用将人工智能元素与多种生产力功能相结合,例如翻译,数据分析和建议等。这种类型的人工智能使我们能够协助用户,包括具有视觉或听力需求的用户。
人工智能 (AI) 领域最近人气大幅提升,这主要得益于深度神经网络 (深度学习,DL) 的成功训练,这些网络在各种问题中都取得了最先进的性能。这些成功不仅限于学术基准,还开始以 Google Lens、Amazon Alexa 和 Tesla Autopilot 等产品的形式影响我们的日常生活。此类 AI 系统要想取得成功,有几个方面至关重要:1) 对日常生活的影响,2) 底层机器学习算法的能力,以及 3) 人机交互的有效性。最近公路运输和航空业发生的灾难性事件极大地凸显了所有这些组成部分之间和谐相互作用的重要性。在这个基于项目的课程中,您将以 3-5 名学生的团队形式工作,
很快有一天,您也许可以要求Siri从支票帐户中的资金支付手机账单。或要求Alexa推荐针对您的风险资料量身定制的投资。或告诉双子座管理您的投资组合,以便您可以退休。由于生成的人工智能或生成的AI,这种功能将有可能。生成的AI代理是计算机系统,具有解释和执行请求的能力,例如这些示例,而无需其他人类互动,并被描述为“生成AI的下一个前沿”(Yee等人。2024)。他们有可能改变个人和企业与银行和其他金融服务提供商互动的方式,为效率和经济增长打开了大门,但也为消费者,投资者以及金融体系的安全性和健全性带来了新的风险。
我们想感谢参与创建和制作本报告的团队。在哈佛人道主义倡议组织,这包括作者 John Crowley 和 Jennifer Chan;研究人员 Vincenzo Bollettino、Mark Foran、Gregg Greenough 和 Gisli Olafsson;助理 Margeaux Fischer、Tara Suri 和 Alexa Walls;以及抄写员 Ciara Jevon。在 OCHA,这包括 Oliver Lacey-Hall、Andrew Alspach、Mark Dalton、Brendan McDonald、Nigel Snoad 和 Andrej Verity。在联合国基金会和沃达丰基金会技术伙伴关系组织,这包括 Adele Waugaman、Trinh Dang 和 Sarah Hiller。最后,我们要感谢 Active Voice, LLC 的文字编辑 Kate Sparks、Eighty2degrees LLC 的设计师 Ambica Prakash 以及 Linemark Printing 的 Hal Kowenski 和 Andre Temoney。
狭义人工智能(也称为弱人工智能或人工智能) 52 可以在已经定义的特定领域中执行一项或多项任务。 53 这种类型的人工智能无法进行超出其编程能力的学习。 54 相反,它建立在这样一种理念之上:技术在处理大量数据和根据合理和定义的规则完成任务方面具有卓越的能力,而人类更有能力应对更“模糊的情况或需要直觉、创造力、情感、判断力和同理心的情况”。 55 现有的人工智能,包括语音识别、语言翻译和文本分析、面部和图像识别以及数字个人助理,如亚马逊的 Alexa 和苹果的 Siri,都是狭义人工智能的例子。 56
您可能每天都在使用人工智能 (AI),但可能没有意识到!当您使用面部识别解锁手机或要求 Siri 或 Alexa 搜索某些内容或启动计时器时,这就是人工智能。在文字处理应用程序中帮助您写作的拼写和语法编辑器以及在网站上查找信息时与您交互的聊天机器人也是如此。生成式人工智能 (GenAI) 包括 ChatGPT、BingChat 或 GrammerlyGo 等工具,是人工智能的一个分支,它广义上定义了能够根据书面或口头提示生成文本、图像或其他类型内容的计算机应用程序。它被编程(或训练)为从它检索的数据中学习模式和上下文,以便每次使用时表现更好并生成更具体的响应。