XiaoMi-AI文件搜索系统
World File Search Systemlecun
符号人工智能与联结人工智能
与人工智能社区的许多成员一样，我着迷地关注着符号人工智能和联结人工智能之间正在进行的讨论。符号人工智能认为，在推理和学习中使用知识对于产生智能行为至关重要，而联结人工智能则假定，从数据中学习关联（几乎不需要或完全不需要先验知识）对于理解行为至关重要。最近这两种人工智能范式之间的争论是由本世纪初联结人工智能的进步引发的，这些进步具有重要的应用价值。联结主义在面对大规模数据时所取得的技术成功，使其成为人工智能的主导范式。过去十年，这两种学派之间的对话通过学术文章（例如，LeCun、Bengio 和 Hinton，2015 年）、辩论（人工智能辩论，2017 年；人工智能辩论，2019 年）和社交媒体展开——其中社交媒体有时会引发尖锐的评论。我之所以对这场辩论如此着迷，是因为人工智能的主要问题非常重要：智能本身的性质。然而，我也发现这场辩论有点令人沮丧。原因如下。首先，我发现“符号人工智能”和“联结主义人工智能”这两个词组具有误导性。符号学派致力于知识及其在推理和学习中的应用（仅使用适度的输入数据），而不是符号本身：符号通常只代表知识抽象。同样，联结主义阵营的忠诚实际上是在几乎没有或完全没有先验知识的情况下从数据中学习关联，通常需要大规模数据。从认知科学的角度来看，符号人工智能与理性主义心智学派非常一致，后者强调
提高基因组技术和临床意识会加速发现与疾病相关的串联重复序列
破译非编码基因组的调节功能是现代生物学的巨大挑战。模型物种长期以来一直处于生物发现和生物医学创新的最前沿，但是我们对顺式调节逻辑的了解仍然不完整（Manolio等人。2017）。许多重要的问题 - 主要：我们应该如何以组织特异性的方式变异蝇剂以改变其活性？哪些小鼠疾病基因的调节变体功能性？我们如何预测地编辑ge-Nome来有效指导实验？回答这些问题需要解释任何基因组变体的特定效应，包括对染色质状态，组蛋白修饰和转录因子（TFS）的结合的变化。在整个基因组变异范围内应对这一挑战需要从实验研究（例如CHIP-SEQ数据）中概括以了解调控代码，从而可以预测任何基因组变体的效果。这些影响必须在特定的文本中预测，包括发育阶段，细胞和组织类型以及药物治疗。模型生物的现有方法未达到这个目标。一种常见的方法是扫描具有位置重量矩阵的高度保守的结合位点。然而，这种主题的上下文信息有限，并且未能考虑经常描绘组蛋白标记或征用访问性的多个相互作用因素（Zhou and Troyanskaya 2015; Wagih等>2018）。2015; Avsec等。2021）。相反，基于序列的深度学习模型已成功地用于人类基因组学中，以从大规模测序数据中学习这种特定于文本的顺式调节代码，而无需使用手工设计的功能。特别是，这些模型中使用的许多连续的卷积层使它们可以学习相对复杂的主题，我们认为它们之间的相互作用（Lecun等人。这种灵活性，结合了允许这些模型的效率
开始使用 AI
简介 “人工智能”（AI）一词由科学家约翰·麦卡锡于 1956 年提出。他将人工智能定义为“制造智能机器的科学和工程”。在接下来的几十年里，人们对人工智能的兴趣有高潮也有低谷。 2011年，由于深度学习技术的发展，人工智能再次复兴。 Andrew Ng、Geoffrey Hinton、Yoshua Bengio、Yann LeCun等研究人员也因此推动了算法的智能化。之前被认为不可能的人工智能应用突然变得可行。例如，超级计算机沃森（IBM）肯轻松击败了他的人类对手詹宁斯和布拉德·鲁特，这两位选手曾在电视智力竞赛节目《危险边缘！》中打破纪录，而谷歌则利用人工智能从我们的点击行为中学习，以区分狗和猫。此外，2016 年，谷歌开发的 AlphaGo 在围棋比赛中击败了世界冠军李世石，而我们当时认为围棋只有依靠人类的智慧（和直觉）才能达到高水平。在高等教育领域，人工智能正在全球范围内取得重大进展。高等教育机构在实施人工智能 1 时取得了可衡量的成果。因此，人们对人工智能的作用寄予厚望，例如在教师工作量、个性化学习、数字学习资源的有效性以及对学生表现的切实见解方面2。目前已建造了许多成功的原型。我们现在面临的挑战是扩大这些原型并将其集成到整个机构的系统中 3 。为此，我们必须重新审视当前的决策。我们利用人工智能获得的新数据、分析、技术和服务如果以传统的决策方式应用，将不会有效且可持续。在本次黑客马拉松期间，我们将探索人工智能在当代教育实践中的实际可能性。我们专注于教育中的认知任务的自动化，特别是教师和学生的作用和后果。
人工智能：澄清误解，......
人工智能 (AI) 有着数十年的悠久传统。1956 年，麦卡锡在达特茅斯会议上首次提出了“人工智能”这个名称，从此开启了这一研究领域的热潮，并一直延续至今 (McCarthy et al., 2006)。人工智能最初的重点是符号模型和推理，随后出现了第一波神经网络 (NN) 和专家系统 (ES) 的浪潮 (Rosenblatt, 1957; Newel and Simon, 1976; Crevier, 1993)。当明斯基和帕普特 (Minsky and Papert, 1969) 证明感知器在学习非线性可分函数（例如异或 (XOR)）时存在问题时，该领域遭受了严重挫折。这极大地影响了人工智能在随后几年的发展，尤其是在神经网络领域。然而，在 20 世纪 80 年代，神经网络通过反向传播算法的发明而卷土重来（Rumelhart 等人，1986 年）。后来在 20 世纪 90 年代，关于智能代理的研究引起了广泛的兴趣（Wooldridge 和 Jennings，1995 年），例如探索感知和行为的耦合效应（Wolpert 和 Kawato，1998 年；Emmert-Streib，2003 年）。最后，在 21 世纪初，大数据的出现，导致了神经网络以深度神经网络 (DNN) 的形式再次复兴（Hochreiter 和 Schmidhuber，1997 年；Hinton 等人，2006 年；O'Leary，2013 年；LeCun 等人，2015 年）。这些年来，人工智能在机器人、语音识别、面部识别、医疗保健和金融等许多领域取得了巨大成功（Bahrammirzaee，2010；Brooks，1991；Krizhevsky 等人，2012；Hochreiter 和 Schmidhuber，1997；Thrun，2002；Yu 等人，2018）。重要的是，这些问题并不都属于一个领域，例如计算机科学，而是涉及心理学、神经科学、经济学和医学等多个学科。鉴于人工智能应用的广泛性和所用方法的多样性，毫不奇怪，看似
深度学习与人工智能
不受位置变化的影响。生物控制论，36（4），193-202。 https://doi.org/10.1007/BF 00344251 Goodfellow, I.、Bengio, Y. 和 Courville, A. (2016)。深度学习。麻省理工学院出版社。 （Schmidt、I. Schiffman、Y. Schaefer、A. 化学工程师和仪器仪表（2018）Graves、A.、Wayne、G. 和 Danihelka、I.（2014）。神经图灵机。 arXiv。 Ha, D. 和 Schmidhuber, J. (2018)。世界模特。 arXiv。 https://arxiv.org/abs/1803.10122 Han, K., Wang, Y., Chen, H., Chen, X., Guo, J., Liu, Z., Tang, Y., Xiao, A., Xu, C., Xu, Y., Yang, Z., Zhang, Y., & Tao, D. (2020 年)。关于视觉变压器的调查。 arXiv。 https://arxiv.org/abs/2012.12556 Higgins, I., Amos, D., Pfau, D., Racaniere, S., Matthey, L., Rezende, D., 和 Lerchner, A. (2018)。迈向解开表征的定义。 arXiv。 https://archiv. org/abs/1812.02230 美国国立卫生研究院（AI）（2020 年）。 2020 年人工智能市场：5 年历史的人工智能创新和 5 年历史的临床试验 LeCun, Y., Bengio, Y., & Hinton, G. (2015 年)。深度学习。自然，521，436-444。 http://dx.doi.org/10.1038/nature 14539 Mansimov, E., Parisotto, E., Ba, JL 和 Salakhutdinov, R. (2015)。利用注意力机制根据标题生成图像。 arXiv。 https://archiv.org/abs/1511.02793 纽约（2015 年）。 我的一位朋友是角川家族的成员（2016年）（2016年）。 http://dx.doi.org/10.1037/0033-295X.101.1.13 McCulloch, WS 和 Pitts, W. (1943)。神经活动中蕴含的观念的逻辑演算。数学生物物理公报，5（4），115-133。 https://doi.org/10.1007/BF02478259 Nakkiran, P.、Kaplun, G.、Bansal, Y.、Yang, T.、Barak, B. 和 Sutskever, I. (2019)。深度双重下降：更大的模型和更多的数据会带来危害。 arXiv。 https://arxiv.org/abs/ 1912.02292 Perez, J.、Marinkovic, J. 和 Barcelo, P.（2019 年 5 月 6-9 日）。论现代神经网络架构的图灵完备性。 ICLR 2019：第七届学习表征国际会议。路易斯安那州新奥尔良。美国。 Radford , A.、Kim , JW、Hallacy , C.、Ramesh , A.、Goh , G.、Agarwal , S.、Sastry , G.、Askell , A.、Mishkin , P.、Clark , J.、Krueger , G. 和 Sutskever , I. (2021)。从自然语言监督中学习可转移的视觉模型。 arXiv。 https://arxiv.org/abs/2103.00020 Ramachandran, P., Zoph, B., 和 Le, QV (2017)。寻找激活函数。 arXiv。 https://arxiv.org/abs/ 1710.05941 Razavi, A., van the Word, A. 和 Vinyals, O. (2019)。使用 VQ-VAE-2 生成各种高保真图像arXiv。 https://arxiv.org/abs/1906.00446 Reed, S.、Akata, Z.、Yan, X.、Logeswaran, L.、Schiele, B. 和。
了解我，了解你：人工智能中的心智理论
人工智能 (AI) 极大地改变了我们所知的世界。机器学习 (ML) 是人工智能的一个分支，其关键进展在于使机器能够从数据中学习。深度学习 (DL) (LeCun、Bengio 和 Hinton，2015) 发挥了核心作用，这是一种基于人工神经网络的技术，旨在有效支持学习。由于 DL 与强化学习 (RL，即代理通过与现实世界交互进行学习并相应地获得奖励或惩罚的概念) 相结合，它已被证明能够提供有时超越人类的表现。一个典型的例子是 AlphaGo 计算机程序成功地在围棋比赛中不断击败世界冠军，同时为成功的游戏策略提供了新的见解。这些突破性的成就让人们对人工智能及其所能实现的目标过度自信，尤其是在短期内。风险投资蜂拥而至人工智能初创企业。人们期待自动驾驶汽车随时出现在我们的道路上。然而，最近发生的一些严重事件已经敲响了警钟。涉及原型自动驾驶汽车的事故已导致人员伤亡（Tesla Deaths，2020 年），这让人们质疑该技术在人机密切互动的潜在危险情况下的使用是否真的准备就绪。令人惊讶的是，这些事故是由于车辆未能执行相对简单的任务造成的，例如物体检测或障碍物跟踪和避让（Hawkins，2019 年）。事实上，在 AI 能够安全地部署到高风险和潜在危险的情况下之前，需要具备更为复杂的功能。对当前 AI 使用的期望可能需要修改。以自动驾驶为例。智能汽车需要实时对人类行为做出可靠的预测，以便预先调整速度和路线，以应对儿童可能突然穿过马路的决定。深度神经网络可以有效地识别流媒体视频中的人类动作，如运动模式（Singh、Saha、Sapienza、Torr 和 Cuzzolin，2017 年）。然而，后者可能具有欺骗性，因为人类可以根据自己的心理过程、想法和动机以及他们周围看到的事物突然改变主意。在我们的例子中，之前在人行道上走向学校的孩子们可能会看到马路对面有一辆冰淇淋车，并决定冲过马路去买冰淇淋。在如此复杂的环境中，没有一个预测系统仅仅基于过去观察到的运动来运作，就不可能准确可靠，也不需要考虑上下文和其他相关主体的性质。另一方面，人类可以预测其他人的未来行为，即使没有运动，只需快速评估相关人员的“类型”和他们周围的场景（例如例如，站在走廊里的老人很可能会决定乘坐电梯，而不是走楼梯）。这表明人工智能需要解决“热”认知问题，比如人的思维是如何受到其情绪状态影响的（Lawrence、Clark、Labuzetta、Sahakian & Vyakarnum，2008 年；Taylor Tavares、Drevets & Sahakian，2003 年）。热认知是指情绪和社会认知，包括心智理论（ToM）。它与“冷”认知形成对比，在“冷”认知中，信息处理与情感无关。社会认知旨在通过研究潜在的认知过程来理解社会现象（即人们与他人打交道的方式）。随着能够表现出一定（有限）智能的人工智能的出现，这一概念需要扩展到人类如何与智能机器（例如航空公司的对话机器人）打交道，反之亦然。
人工智能与人类交互舒适度研究
[1] Michael Ahn、Anthony Brohan、Noah Brown、Yevgen Chebotar、Omar Cortes、Byron David、Chelsea Finn、Keerthana Gopalakrishnan、Karol Hausman、Alex Herzog 等人。2022 年。尽我所能，不要照我说的做：为机器人可供性奠定语言基础。arXiv 预印本 arXiv:2204.01691 (2022)。[2] Chris Baker、Rebecca Saxe 和 Joshua Tenenbaum。2011 年。贝叶斯心智理论：建模联合信念-愿望归因。在认知科学学会年会论文集，第 33 卷。[3] Chris L Baker、Noah D Goodman 和 Joshua B Tenenbaum。2008 年。基于理论的社会目标推理。在认知科学学会第三十届年会论文集。 Citeseer，1447–1452。[4] Chris L Baker 和 Joshua B Tenenbaum。2014 年。使用贝叶斯心理理论对人类计划识别进行建模。计划、活动和意图识别：理论与实践 7 (2014)，177–204。[5] Andreea Bobu、Marius Wiggert、Claire Tomlin 和 Anca D Dragan。2021 年。特征扩展奖励学习：重新思考人类输入。在 2021 年 ACM/IEEE 人机交互国际会议论文集上。216–224。[6] Andreea Bobu、Marius Wiggert、Claire Tomlin 和 Anca D Dragan。2022 年。通过学习特征在奖励学习中诱导结构。国际机器人研究杂志 (2022)，02783649221078031。[7] Mustafa Mert Çelikok、Tomi Peltola、Pedram Daee 和 Samuel Kaski。2019 年。具有心智理论的交互式人工智能。arXiv 预印本 arXiv:1912.05284 (2019)。[8] Aakanksha Chowdhery、Sharan Narang、Jacob Devlin、Maarten Bosma、Gaurav Mishra、Adam Roberts、Paul Barham、Hyung Won Chung、Charles Sutton、Sebastian Gehrmann 等人。2022 年。Palm：使用路径扩展语言建模。arXiv 预印本 arXiv:2204.02311 (2022)。[9] Harmen De Weerd、Rineke Verbrugge 和 Bart Verheij。 2013. 了解她知道你知道的事情有多大帮助？一项基于代理的模拟研究。人工智能 199 (2013)，67–92。[10] Jacob Devlin、Ming-Wei Chang、Kenton Lee 和 Kristina Toutanova。2018. Bert：用于语言理解的深度双向变压器的预训练。arXiv 预印本 arXiv:1810.04805 (2018)。[11] Prafulla Dhariwal 和 Alexander Nichol。2021. 扩散模型在图像合成方面击败了 gans。神经信息处理系统进展 34 (2021)，8780–8794。[12] Prashant Doshi、Xia Qu、Adam Goodie 和 Diana Young。2010. 使用经验主义交互式 POMDP 对人类的递归推理进行建模。在第九届自主智能体和多智能体系统国际会议论文集：第 1 卷-第 1 卷。1223–1230。[13] 段佳飞、余志强、谭辉、朱宏远和陈志东。2022 年。具身人工智能调查：从模拟器到研究任务。IEEE 计算智能新兴主题汇刊 (2022 年)。[14] 段佳飞、余志强、谭辉、易立和陈志东。2022 年。BOSS：对象上下文场景中人类信念预测的基准。arXiv 预印本 arXiv:2206.10665 (2022 年)。[15] David Engel、Anita Woolley、Lisa Jing、Christopher Chabris 和 Thomas Malone。2014 年。从眼睛读懂心思还是从字里行间读懂心思？心智理论在线上和面对面时同样能预测集体智慧。PloS one 9 (12 2014)，e115212。https://doi.org/10.1371/journal.pone.0115212 [16] Dylan Hadfield-Menell、Stuart J Russell、Pieter Abbeel 和 Anca Dragan。2016 年。合作逆强化学习。神经信息处理系统的进展 29 (2016)。[17] Yanlin Han 和 Piotr Gmytrasiewicz。2018 年。使用交互式 POMDP 在多智能体环境中学习他人的意向模型。神经信息处理系统的进展 31 (2018)。 [18] 何开明、张翔宇、任少卿和孙健。2016 年。深度残差学习在图像识别中的应用。IEEE 计算机视觉与模式识别会议论文集。770–778。[19] Jonathan Ho、Ajay Jain 和 Pieter Abbeel。2020 年。去噪扩散概率模型。神经信息处理系统进展 33（2020 年），6840–6851。[20] Kyriaki Kalimeri 和 Ingvar Tjostheim。2020 年。人工智能与对未来的担忧：挪威案例研究。在《分布式、环境和普适交互》中，Norbert Streitz 和 Shin'ichi Konomi（编辑）。Springer International Publishing，Cham，273–284。 [21] Max Kleiman-Weiner、Mark K Ho、Joseph L Austerweil、Michael L Littman 和 Joshua B Tenenbaum。2016 年。协调合作或竞争：社交互动中的抽象目标和共同意图。《认知科学》。[22] Yann LeCun、Yoshua Bengio 和 Geoffrey Hinton。2015 年。深度学习。《自然》521，7553（2015 年），436–444。[23] Maria D. Molina 和 S. Shyam Sundar。0. 对人类的不信任是否预示着对人工智能的更大信任？个体差异在用户对内容审核反应中的作用。新媒体与社会 0, 0 (0), 14614448221103534。https://doi.org/10.1177/14614448221103534 arXiv:https://doi.org/10.1177/14614448221103534 [24] David Premack 和 Guy Woodruff。1978 年。黑猩猩有心理理论吗？行为与脑科学 1, 4 (1978)，515–526。[25] David Premack 和 Guy Woodruff。1978 年。黑猩猩有心理理论吗？行为与脑科学 1, 4 (1978)，515–526。 https://doi.org/10.1017/S0140525X00076512 [26] Neil Rabinowitz、Frank Perbet、Francis Song、Chiyuan Zhang、SM Ali Eslami 和 Matthew Botvinick。2018 年。机器心智理论。国际机器学习会议。PMLR，4218–4227。[27] Aditya Ramesh、Mikhail Pavlov、Gabriel Goh、Scott Gray、Chelsea Voss、Alec Radford、Mark Chen 和 Ilya Sutskever。2021 年。零样本文本到图像生成。国际机器学习会议。PMLR，8821–8831。org/10.1371/journal.pone.0115212 [16] Dylan Hadfield-Menell、Stuart J Russell、Pieter Abbeel 和 Anca Dragan。2016 年。合作式逆强化学习。神经信息处理系统进展 29（2016 年）。[17] Yanlin Han 和 Piotr Gmytrasiewicz。2018 年。使用交互式 POMDP 在多智能体环境中学习他人的意向模型。神经信息处理系统进展 31（2018 年）。[18] Kaiming He、Xiangyu Zhang、Shaoqing Ren 和 Jian Sun。2016 年。用于图像识别的深度残差学习。IEEE 计算机视觉与模式识别会议论文集。770–778。[19] Jonathan Ho、Ajay Jain 和 Pieter Abbeel。 2020. 去噪扩散概率模型。神经信息处理系统进展 33 (2020)，6840–6851。[20] Kyriaki Kalimeri 和 Ingvar Tjostheim。2020. 人工智能与对未来的担忧：挪威案例研究。在分布式、环境和普适交互中，Norbert Streitz 和 Shin'ichi Konomi（编辑）。Springer International Publishing，Cham，273–284。[21] Max Kleiman-Weiner、Mark K Ho、Joseph L Austerweil、Michael L Littman 和 Joshua B Tenenbaum。2016. 协调合作或竞争：社交互动中的抽象目标和共同意图。在 CogSci 中。[22] Yann LeCun、Yoshua Bengio 和 Geoffrey Hinton。2015. 深度学习。 nature 521, 7553 (2015), 436–444。[23] Maria D. Molina 和 S. Shyam Sundar。0. 对人类的不信任是否预示着对人工智能的信任度更高？个体差异在用户对内容审核的反应中的作用。新媒体与社会 0, 0 (0), 14614448221103534。https://doi.org/10.1177/14614448221103534 arXiv:https://doi.org/10.1177/14614448221103534 [24] David Premack 和 Guy Woodruff。1978 年。黑猩猩有心智理论吗？行为与脑科学 1, 4 (1978), 515–526。[25] David Premack 和 Guy Woodruff。 1978. 黑猩猩有心智理论吗？行为与脑科学 1, 4 (1978)，515–526。https://doi.org/10.1017/S0140525X00076512 [26] Neil Rabinowitz、Frank Perbet、Francis Song、Chiyuan Zhang、SM Ali Eslami 和 Matthew Botvinick。2018. 机器心智理论。在国际机器学习会议上。PMLR，4218–4227。[27] Aditya Ramesh、Mikhail Pavlov、Gabriel Goh、Scott Gray、Chelsea Voss、Alec Radford、Mark Chen 和 Ilya Sutskever。2021. 零样本文本到图像生成。在国际机器学习会议上。PMLR，8821–8831。org/10.1371/journal.pone.0115212 [16] Dylan Hadfield-Menell、Stuart J Russell、Pieter Abbeel 和 Anca Dragan。2016 年。合作式逆强化学习。神经信息处理系统进展 29（2016 年）。[17] Yanlin Han 和 Piotr Gmytrasiewicz。2018 年。使用交互式 POMDP 在多智能体环境中学习他人的意向模型。神经信息处理系统进展 31（2018 年）。[18] Kaiming He、Xiangyu Zhang、Shaoqing Ren 和 Jian Sun。2016 年。用于图像识别的深度残差学习。IEEE 计算机视觉与模式识别会议论文集。770–778。[19] Jonathan Ho、Ajay Jain 和 Pieter Abbeel。 2020. 去噪扩散概率模型。神经信息处理系统进展 33 (2020)，6840–6851。[20] Kyriaki Kalimeri 和 Ingvar Tjostheim。2020. 人工智能与对未来的担忧：挪威案例研究。在分布式、环境和普适交互中，Norbert Streitz 和 Shin'ichi Konomi（编辑）。Springer International Publishing，Cham，273–284。[21] Max Kleiman-Weiner、Mark K Ho、Joseph L Austerweil、Michael L Littman 和 Joshua B Tenenbaum。2016. 协调合作或竞争：社交互动中的抽象目标和共同意图。在 CogSci 中。[22] Yann LeCun、Yoshua Bengio 和 Geoffrey Hinton。2015. 深度学习。 nature 521, 7553 (2015), 436–444。[23] Maria D. Molina 和 S. Shyam Sundar。0. 对人类的不信任是否预示着对人工智能的信任度更高？个体差异在用户对内容审核的反应中的作用。新媒体与社会 0, 0 (0), 14614448221103534。https://doi.org/10.1177/14614448221103534 arXiv:https://doi.org/10.1177/14614448221103534 [24] David Premack 和 Guy Woodruff。1978 年。黑猩猩有心智理论吗？行为与脑科学 1, 4 (1978), 515–526。[25] David Premack 和 Guy Woodruff。 1978. 黑猩猩有心智理论吗？行为与脑科学 1, 4 (1978)，515–526。https://doi.org/10.1017/S0140525X00076512 [26] Neil Rabinowitz、Frank Perbet、Francis Song、Chiyuan Zhang、SM Ali Eslami 和 Matthew Botvinick。2018. 机器心智理论。在国际机器学习会议上。PMLR，4218–4227。[27] Aditya Ramesh、Mikhail Pavlov、Gabriel Goh、Scott Gray、Chelsea Voss、Alec Radford、Mark Chen 和 Ilya Sutskever。2021. 零样本文本到图像生成。在国际机器学习会议上。PMLR，8821–8831。在 IEEE 计算机视觉与模式识别会议论文集上。770–778。[19] Jonathan Ho、Ajay Jain 和 Pieter Abbeel。2020 年。去噪扩散概率模型。神经信息处理系统进展 33 (2020)，6840–6851。[20] Kyriaki Kalimeri 和 Ingvar Tjostheim。2020 年。人工智能与对未来的担忧：挪威案例研究。在《分布式、环境和普适交互》中，Norbert Streitz 和 Shin'ichi Konomi（编辑）。Springer International Publishing，Cham，273–284。[21] Max Kleiman-Weiner、Mark K Ho、Joseph L Austerweil、Michael L Littman 和 Joshua B Tenenbaum。 2016. 协调合作或竞争：社会互动中的抽象目标和共同意图。在 CogSci 中。[22] Yann LeCun、Yoshua Bengio 和 Geoffrey Hinton。2015. 深度学习。自然 521，7553（2015），436–444。[23] Maria D. Molina 和 S. Shyam Sundar。0. 对人类的不信任是否预示着对人工智能的更大信任？个体差异在用户对内容审核反应中的作用。新媒体与社会 0, 0 (0)，14614448221103534。https://doi.org/10.1177/14614448221103534 arXiv：https://doi.org/10.1177/14614448221103534 [24] David Premack 和 Guy Woodruff。 1978. 黑猩猩有心智理论吗？行为与脑科学 1, 4 (1978), 515–526。[25] David Premack 和 Guy Woodruff。1978. 黑猩猩有心智理论吗？行为与脑科学 1, 4 (1978), 515–526。https://doi.org/10.1017/S0140525X00076512 [26] Neil Rabinowitz、Frank Perbet、Francis Song、Chiyuan Zhang、SM Ali Eslami 和 Matthew Botvinick。2018. 机器心智理论。国际机器学习会议。PMLR，4218–4227。 [27] Aditya Ramesh、Mikhail Pavlov、Gabriel Goh、Scott Gray、Chelsea Voss、Alec Radford、Mark Chen 和 Ilya Sutskever。2021 年。零样本文本转图像生成。国际机器学习会议。PMLR，8821–8831。在 IEEE 计算机视觉与模式识别会议论文集上。770–778。[19] Jonathan Ho、Ajay Jain 和 Pieter Abbeel。2020 年。去噪扩散概率模型。神经信息处理系统进展 33 (2020)，6840–6851。[20] Kyriaki Kalimeri 和 Ingvar Tjostheim。2020 年。人工智能与对未来的担忧：挪威案例研究。在《分布式、环境和普适交互》中，Norbert Streitz 和 Shin'ichi Konomi（编辑）。Springer International Publishing，Cham，273–284。[21] Max Kleiman-Weiner、Mark K Ho、Joseph L Austerweil、Michael L Littman 和 Joshua B Tenenbaum。 2016. 协调合作或竞争：社会互动中的抽象目标和共同意图。在 CogSci 中。[22] Yann LeCun、Yoshua Bengio 和 Geoffrey Hinton。2015. 深度学习。自然 521，7553（2015），436–444。[23] Maria D. Molina 和 S. Shyam Sundar。0. 对人类的不信任是否预示着对人工智能的更大信任？个体差异在用户对内容审核反应中的作用。新媒体与社会 0, 0 (0)，14614448221103534。https://doi.org/10.1177/14614448221103534 arXiv：https://doi.org/10.1177/14614448221103534 [24] David Premack 和 Guy Woodruff。 1978. 黑猩猩有心智理论吗？行为与脑科学 1, 4 (1978), 515–526。[25] David Premack 和 Guy Woodruff。1978. 黑猩猩有心智理论吗？行为与脑科学 1, 4 (1978), 515–526。https://doi.org/10.1017/S0140525X00076512 [26] Neil Rabinowitz、Frank Perbet、Francis Song、Chiyuan Zhang、SM Ali Eslami 和 Matthew Botvinick。2018. 机器心智理论。国际机器学习会议。PMLR，4218–4227。 [27] Aditya Ramesh、Mikhail Pavlov、Gabriel Goh、Scott Gray、Chelsea Voss、Alec Radford、Mark Chen 和 Ilya Sutskever。2021 年。零样本文本转图像生成。国际机器学习会议。PMLR，8821–8831。//doi.org/10.1177/14614448221103534 arXiv:https://doi.org/10.1177/14614448221103534 [24] David Premack 和 Guy Woodruff。1978 年。黑猩猩有心理理论吗？行为与脑科学 1, 4 (1978)，515–526。 [25] David Premack 和 Guy Woodruff。1978 年。黑猩猩有心理理论吗？行为与脑科学 1, 4 (1978)，515–526。 https://doi.org/10.1017/S0140525X00076512 [26] Neil Rabinowitz、Frank Perbet、Francis Song、Chiyuan Zhang、SM Ali Eslami 和 Matthew Botvinick。2018 年。机器心智理论。国际机器学习会议。PMLR，4218–4227。[27] Aditya Ramesh、Mikhail Pavlov、Gabriel Goh、Scott Gray、Chelsea Voss、Alec Radford、Mark Chen 和 Ilya Sutskever。2021 年。零样本文本到图像生成。国际机器学习会议。PMLR，8821–8831。//doi.org/10.1177/14614448221103534 arXiv:https://doi.org/10.1177/14614448221103534 [24] David Premack 和 Guy Woodruff。1978 年。黑猩猩有心理理论吗？行为与脑科学 1, 4 (1978)，515–526。 [25] David Premack 和 Guy Woodruff。1978 年。黑猩猩有心理理论吗？行为与脑科学 1, 4 (1978)，515–526。 https://doi.org/10.1017/S0140525X00076512 [26] Neil Rabinowitz、Frank Perbet、Francis Song、Chiyuan Zhang、SM Ali Eslami 和 Matthew Botvinick。2018 年。机器心智理论。国际机器学习会议。PMLR，4218–4227。[27] Aditya Ramesh、Mikhail Pavlov、Gabriel Goh、Scott Gray、Chelsea Voss、Alec Radford、Mark Chen 和 Ilya Sutskever。2021 年。零样本文本到图像生成。国际机器学习会议。PMLR，8821–8831。
医生 AI？一项试点研究考察人工智能对老年患者常见问题的回答
在 1956 年首次创造人工智能 (AI) 一词之前（ Russell and Norvig，2016 ），艾伦·M·图灵 (Alan M. Turing) 构思了他著名的“图灵测试”。图灵通过测试试图探索计算机生成的反应是否能够在不知情的观察者看来与人类的反应区分开来（ Kleppen，2023 ）。如果计算机的回答与真实人类回答者的回答无法区分，则计算机“通过”了图灵测试。 2014 年，名为 Eugene Goostman 的聊天机器人（ Warwick and Shah，2015 ）成为第一台通过图灵测试的机器，代表了人工智能和机器学习的一个重要里程碑，为后续程序树立了标杆。按照目前的定义，人工智能是指设计用于执行原本需要人工干预的任务的计算机系统（ Sutton and Barto，2018 ）。早期的人工智能研究侧重于使用符号逻辑和基于规则的系统解决一般问题（Jordan and Mitchell，2015）。最初，人工智能研究受到了乐观的评价（Russell and Norvig，2016）；然而，由于资金和计算能力不足等因素，研究工作停滞不前。在 20 世纪 90 年代和 21 世纪，由于神经网络、强化学习、计算机视觉和自然语言处理的出现（Jordan and Mitchell，2015），以及大数据、更便宜的计算和先进的计算算法的兴起，机器学习取得了重大进展。最近，深度学习人工智能模型（一种机器学习算法的分层网络，可以通过处理大量数据来提取越来越复杂的信息）已导致基于人工智能的研究取得重大突破（LeCun 等人，2015）。关于人工智能是否通过了图灵测试，仍然存在激烈的争论。如今，无论是在文本还是语音中，都有大量论断声称深度学习程序（例如 Chat GPT）和文本转语音程序能够生成与人类难以区分的输出，从而通过图灵测试（Biever，2023 年；Mai 等人，2023 年）。近年来，人工智能技术对医疗保健系统产生了尤为重要的变革性（Yu 等人，2018 年）。例如，在医学成像领域，深度学习算法已被用来以比放射科医生更高的准确度检测潜在异常（Liu 等人，2019 年）。自然语言处理使人工智能能够分析和提取患者病历中的相关健康数据，以协助准确诊断和辅助治疗计划（Kreimeyer 等人，2017 年）。可穿戴人工智能辅助监测系统已被用来追踪重要的患者健康指标，并可以提醒护理人员注意潜在的健康风险（Senders 等人，2018 年）。人工智能还被用于机器人辅助手术，以实现常规任务的自动化并提高手术的精准度（Hashimoto 等人，2018 年）。在制药行业，深度学习在药物开发中非常有用，甚至可以用来帮助医疗服务提供者根据患者的生物/遗传特征和个人需求确定对患者最有效的药物（Mak 等人，2023 年）。在临床实践中，聊天机器人和虚拟助手已被证明对患者教育、药物提醒和心理健康支持有益（Miner 等人，2016 年）。在精神保健领域，人工智能技术的应用同样具有影响力。具体来说，人工智能和机器学习工具已经
了解我，了解你：人工智能中的心智理论
人工智能 (AI) 极大地改变了我们所知的世界。机器学习 (ML) 是人工智能的一个分支，其关键进展在于使机器能够从数据中学习。深度学习 (DL) (LeCun、Bengio 和 Hinton，2015) 发挥了核心作用，这是一种基于人工神经网络的技术，旨在有效支持学习。由于 DL 与强化学习 (RL，即代理通过与现实世界交互进行学习并相应地获得奖励或惩罚的概念) 相结合，它已被证明能够提供有时超越人类的表现。一个典型的例子是 AlphaGo 计算机程序成功地在围棋比赛中不断击败世界冠军，同时为成功的游戏策略提供了新的见解。这些突破性的成就让人们对人工智能及其所能实现的目标过度自信，尤其是在短期内。风险投资蜂拥而至人工智能初创企业。人们期待自动驾驶汽车随时出现在我们的道路上。然而，最近发生的一些严重事件已经敲响了警钟。涉及原型自动驾驶汽车的事故已导致人员伤亡（Tesla Deaths，2020 年），这让人们质疑该技术在人机密切互动的潜在危险情况下的使用是否真的准备就绪。令人惊讶的是，这些事故是由于车辆未能执行相对简单的任务造成的，例如物体检测或障碍物跟踪和避让（Hawkins，2019 年）。事实上，在 AI 能够安全地部署到高风险和潜在危险的情况下之前，需要具备更为复杂的功能。对当前 AI 使用的期望可能需要修改。以自动驾驶为例。智能汽车需要实时对人类行为做出可靠的预测，以便预先调整速度和路线，以应对儿童可能突然穿过马路的决定。深度神经网络可以有效地识别流媒体视频中的人类动作，如运动模式（Singh、Saha、Sapienza、Torr 和 Cuzzolin，2017 年）。然而，后者可能具有欺骗性，因为人类可以根据自己的心理过程、想法和动机以及他们周围看到的事物突然改变主意。在我们的例子中，之前在人行道上走向学校的孩子们可能会看到马路对面有一辆冰淇淋车，并决定冲过马路去买冰淇淋。在如此复杂的环境中，没有一个预测系统仅仅基于过去观察到的运动来运作，就不可能准确可靠，也不需要考虑上下文和其他相关主体的性质。另一方面，人类可以预测其他人的未来行为，即使没有运动，只需快速评估相关人员的“类型”和他们周围的场景（例如例如，站在走廊里的老人很可能会决定乘坐电梯，而不是走楼梯）。这表明人工智能需要解决“热”认知问题，比如人的思维是如何受到其情绪状态影响的（Lawrence、Clark、Labuzetta、Sahakian & Vyakarnum，2008 年；Taylor Tavares、Drevets & Sahakian，2003 年）。热认知是指情绪和社会认知，包括心智理论（ToM）。它与“冷”认知形成对比，在“冷”认知中，信息处理与情感无关。社会认知旨在通过研究潜在的认知过程来理解社会现象（即人们与他人打交道的方式）。随着能够表现出一定（有限）智能的人工智能的出现，这一概念需要扩展到人类如何与智能机器（例如航空公司的对话机器人）打交道，反之亦然。
基因组研究的一系列可解释和可解释的机器学习方法
精确医学的主要重点是使用计算工具来准确预测疾病结果并确定相关的生物标志物以进行有效的后续评估。Over the last two decades, linear models have been widely implemented to identify differentially expressed genes and enriched signaling pathways in functional genomics (Love et al., 2014 ; Nueda et al., 2014 ; Ritchie et al., 2015 ; Robinson et al., 2009 ), characterize complex trait architecture in genome-wide association studies (, 2010 ; Hayeck et al., 2015 ; Heckerman et al., 2019年，Kang et al。等Al。，2018年； Manno等，2018），并在不同的时间点，数据收集位点和组织类型上进行有效的归一化和维度降低（Hasin等，2017；Lähnemann等，2020）。这些方法的一部分是它们提供统计显着性措施的能力，例如P值，后置包含概率（PIPS）或然后可以使用的贝叶斯因素，可用于促进下游任务（例如，选择哪些分子机制以药物为目标或选择哪些临床干预措施对特定患者有效）。不幸的是，严格的加性假设通常会阻碍线性模型的性能；这些方法中最强大的方法依赖于训练算法，这些算法在计算上效率低下且对大规模数据集不可靠。成像和测序技术的持续进步（Stephens等，2015）提供了范围，以将多模式的非参数方法整合为生物学和临床应用中的最先进工具。的确，机器学习方法众所周知，具有在数据中学习复杂的非线性模式的能力，并且当有大量的培训示例可用时，它们通常在设置中获得最大的功能（Lecun等，2015）。然而，文献中已被大量引用，许多机器学习技术都受到“黑匣子”限制的影响，因为它们并不自然地进行经典的统计假设测试，例如线性模型，这对于精确医学中的决策至关重要。导致非线性算法更好的预测性能的关键特征之一是自动包含被放入模型中的特征之间的高阶相互作用（Crawford等，2018； Jiang＆Reif，2015）。例如，神经网络利用分层之间的激活功能，这些层隐式列举了输入特征之间所有可能的（多项式）交互作用（Demetci等，2021; 2021; Murdoch等，2019; Tsang，Cheng，Cheng，＆Liu，＆Liu，2018; Tsang，Liu，Liu等，2018; 2018; WAHBA，1900年）。这已被证明在准确预测模型生物的特征方面有所作为，在这些特征中，诸如epistasis之类的现象（即多个基因座和/或基因之间的相互作用）可以在物种之间的变化中发挥很大作用（Bellot等人，2018; Runcie et al。，2021; Swain等，2016; swain等，2016; 2016; weissbrod et al an a w weissbrod et al。这是用于改进模型的部分数学解释，但在许多生物医学应用中，我们经常希望准确地知道哪些基因组特征（例如变体，基因和途径）对于定义表型或疾病结果的结构最重要。本手稿的主要目的是回顾大量的方法论研究，这些方法是为了开发计算生物学中更“可解释的”和“可解释”的机器学习。在整个本文中，我们将使用经典的观点，即“解释性”与使用模型参数的事后能力有关（有时也称为在文献的某些领域中表现“可变重要性”）（Crawford et al。，2019; Lundberg＆Lundberg＆Lee，2016，2017，2017; ribeio; ribeio et alik anik shrik，shrik shrik;虽然“解释性”是模型固有地为其参数和体系结构提供了可理解的定义（Hira等，2019； Marcinkevics＆Vogt，2020; Shmueli，2010）。两个概念都可以分为试图在（i）全球范围上实现解释性或可解释性的方法类别，在该方法中，目标是对观察到的人群的整体变化的贡献进行对/（ii）在局部层面上的贡献进行排名/选择的输入，旨在详细介绍对数据集中的任何特定个人的重要性。在这里，我们将专注于描述神经网络中的全球尺度方法，其特殊动机来自基于关联映射的基因组学应用程序。我们在这篇综述中的主要贡献是为我们所说的“透明度谱”提供全面的景观，用于监督和无监督的学习算法，因为我们从黑匣子转移到可解释的方法，并最终转化为可解释的方法（图1）。