Google DeepMind 的 Frontier Safety Framework,第 5 页:生物安全:协助开发、准备和/或执行生物攻击的模型的风险。生物业余支持级别 1:能够显著地使非专家开发已知的生物威胁,与其他手段相比,这些威胁可能会增加其造成严重伤害的能力。许多能够造成大量伤害的生物威胁目前超出了非专家的能力范围,因为非专家对其危害潜力以及获取和滥用方法缺乏了解。帮助克服这些知识差距的 LLM,例如通过提出合理的攻击策略或提供开发生物制剂的详细说明,可能会显著增加社会受到恶意业余爱好者致命攻击的脆弱性。生物专家支持级别 1:能够显著地使专家(即博士或以上)开发可能导致高度严重事件的新型生物威胁。极少数生物制剂有可能造成异常程度的伤害。发现这些药剂的增强体或具有同等危害性的药剂,可能会增加发生非常严重的生物袭击或事故的可能性。
在应用程序开发过程中,Lookout 团队参与了多次人工智能原则评审,并进行了对抗性公平性测试。该团队采用了 Google DeepMind 视觉语言模型 (VLM),该模型针对此用例进行了高度定制,并得到了来自 BLV 人群以及跨性别和非二元性别者的多轮反馈。VLM 使人们能够就图像提出自然语言问题。新的 Lookout 问答功能允许用户超越字幕,询问对他们来说最重要的图像细节。此功能允许团队提供不带感知性别的字幕,但如果用户询问有关某人性别的问题,该模型可以使用来自该人外表的线索提供感知性别的最佳猜测。通过这种方式,Lookout 可以避免在不需要时提供性别描述,从而减少潜在的性别错误,但应用程序可以在用户认为这些信息对他们有用时提供这些信息。Lookout 团队对 BLV 和非二元性别的最终用户测试了这种方法,发现这些用户认为这种方法既有用又尊重。
1 人文与社会科学系,1200 E. California Blvd.,HSS 228–77,帕萨迪纳,加利福尼亚州 91125,美国 2 加州理工学院计算与神经系统项目,1200 E. California Blvd.,HSS 228–77,帕萨迪纳,加利福尼亚州 91125,美国 3 伦敦大学学院威康人类神经影像中心,英国伦敦 4 伦敦大学学院马克斯普朗克 UCL 计算精神病学和老龄化研究中心,英国伦敦 5 加州大学洛杉矶分校 Jane and Terry Semel 神经科学和人类行为研究所精神病学和生物行为科学系,美国加利福尼亚州洛杉矶 6 加州大学洛杉矶分校神经外科、心理学和生物工程系,美国加利福尼亚州洛杉矶 7 哥伦比亚大学心理学系,美国纽约州纽约 8神经科学,哥伦比亚大学扎克曼思维脑行为研究所,美国纽约州纽约 9 DeepMind,英国伦敦 10 这些作者贡献相同 *通信地址:dmobbs@caltech.edu https://doi.org/10.1016/j.neuron.2021.05.021
在过去的十年中,机器学习的前景(ML)在CERN的大型强子集合体中采用了基于ML的基于ML的方法,用于对粒子碰撞事件的重要性(Duarte等,2018)和DeepMind进行排序(Duarte et al。氨基酸序列数据的第四纪蛋白结构有效地解决了生物学最复杂和持久的开放问题之一。在公共生活的所有领域,尤其是科学领域的学习吸收的速度和无处不在,引发了人们对其性质及其广泛使用的下游后果的猜测。从文化评论员,记者和媒体人物发出了这种猜测,这些研究人员和工程师生产了ML的工具以及在学术和流行场所中部署它们以及哲学家的科学家的工具。的回答着重于ML的认知状况及其对科学的预测影响,已经回应了机器学习的效果,即机器学习与普遍的建模,统计或科学疾病截然不同,这些陈述预计被预计以改变科学发现或科学企业的认知果实的性质的方式,这些陈述被预计。
2025:蒂皮商学院研讨会2024:MIT ORC研讨会2024:DeepMind NYC 2024:Rutgers商学院研讨会2023:哥伦比亚运营公平和AI AI的公平讲习班2023年2023年2023年:明尼苏达大学Isye Isye系大学研讨会2023:Facebook Corecor 2022:Facebook Corecor 2022:Facebook Corecor:Facebook Corecor: Amazon Advertising Research Seminar 2022 : Invited Speaker, Mixed Integer Programming Workshop 2022 : UMD CS Theory Seminar 2022 : Spotify Tech Research Seminar Series 2021 : RPI Computer Science Colloquium 2021 : University of Illinois Urbana Champagin ISE Seminar 2021 : Aarhus University Invited Talk 2021 : Plenary speaker, Workshop on Reinforcement Learning Theory @ ICML'21 2021:具有预算的拍卖市场上的计算镜头。NYU Stern操作管理研究研讨会2019:使用抽象计算大型市场均衡。通知2019年年度会议:竞争均衡而没有不同影响。通知年度会议
生成的AI:OpenAI的GPT-4和Google Bard之类的模型已彻底改变了内容的生成,实现了类似人类的文本,图像和代码创建。跨越教育,医疗保健和创意产业的应用。多模式AI:Meta的Llama和Openai的Dall·E 3结合了文本,图像和视频处理,使AI系统能够理解和生成多种格式的输出。AI在药物发现中:基于AI的平台,例如DeepMind的Alphafold,已经预测了科学已知的几乎每种蛋白质的结构(截至2023年),加速了医学研究和药物开发。代码的生成AI:Github的Copilot X(2023)和OpenAI的Codex Automate Automate软件开发等工具,从而提高了开发人员的生产率和编码效率。语音中的生成AI:Elevenlabs和Vall-E(Microsoft,2023)启用高质量的语音综合,革新虚拟助手,有声读物和客户服务中的应用程序。自治代理:AI模型(如Autogpt和Babyagi)在没有人类干预的情况下执行多步自主任务,从而超越了单任务重点的AI能力。
NSF AI人造和自然智力研究所(ARNI)将全国的顶级研究人员汇集在一起,专注于国家优先事项:将人工智能系统中的主要进步与我们对大脑的理解中的革命联系起来。ARNI研究人员共同努力解决当前学习系统的局限性和挑战,包括学习有限的数据,有关因果关系,不确定性和终身学习的推理,这都是生物系统的标志,并进一步研究大脑如何计算和学习。ARNI的研究支持工业应用,例如健壮,可解释的医疗决策和更智能的家庭助理;社会应用,例如更好的社会安全网和辅助多模式系统,以帮助弱势群体;以及科学应用,例如提供有关大脑功能的假设,并创建有力的工具,以从大量数据中提取见解。arni是哥伦比亚大学,纽约市,杜斯基基大学,贝勒医学院,德克萨斯大学健康科学中心,米拉,霍华德·休斯医学院,宾夕法尼亚大学,哈佛大学和普林斯顿大学的合作。行业合作伙伴包括Google,DeepMind,IBM,Amazon和Meta。
Wile医疗保健行业在数字化方面有些落后,人们知道,当4大四大科技公司(Apple,Amazon,Google,Microsoft)将其覆盖范围扩展到数字健康中,从而使数字健康延伸到数字健康,从而促进医疗保健创新的大规模投资。例如,苹果将其Apple Watch的功能扩展到ECG和秋季检测,还提供了用于创建医疗应用程序(Carekit and ResearchKit)的开源软件框架。在2018年,亚马逊以价值10亿美元的交易收购了在线药房,而在2019年,Google以21亿美元的价格收购了可穿戴的Fitbit,并宣布打算推出更多的“由Google”可穿戴设备推出,而通过其DeepMind单位,它专注于使用AI来解决健康问题。Microsoft拥有一个医疗保健部门,该部门正在大力投资于AI,并定期宣布与Pharma Company Novartis的诺华(Novartis)宣布重要的伙伴关系(以应对使其如此昂贵且耗时的新治疗方法)或健康保险公司(Humana)(人为解决方案和智能自动化计划)的挑战,以促进健康保险公司和智能疗程,以遵循计划和智能培训。
客座讲师 , 康奈尔科技, 纽约市 2024 研究助理 , 卡内基梅隆大学 (与 J. Zico Kolter 合作研究 ML 和优化) 2016 – 2019 研究实习生 , 英特尔实验室, 圣克拉拉 (与 Vladlen Koltun 合作研究计算机视觉) 2018 研究实习生 , Google DeepMind, 伦敦 (与 Nando de Freitas 和 Misha Denil 合作研究 RL) 2017 研究助理 , 卡内基梅隆大学 (与 Mahadev Satyanarayanan 合作研究移动系统) 2014 – 2016 研究实习生 , Adobe Research, 圣何塞 (与 David Tompkins 合作研究分布式系统) 2014 研究助理 , 弗吉尼亚理工大学 (与 Layne Watson 和 David Easterling 合作研究优化) 2013 – 2014 研究助理 , 弗吉尼亚理工大学 (与 Jules White 和 Hamilton Turner 合作研究移动系统) 2012 – 2014 研究助理技术 (与 Binoy Ravindran 和 Alastair Murray 合作开发编译器) 2012 – 2014 软件实习生 , Snowplow (Scala 开发) 2013 – 2014 软件实习生 , Qualcomm , 圣地亚哥 (Python 和 C++ 开发) 2013 软件实习生 , Phoenix Integration , 弗吉尼亚 (C++, C# 和 Java 开发) 2012 网络管理员实习生 , Sunapsys , 弗吉尼亚 2011
尽管有信息和大胆的信息 - 更不用说得到了很多认可和促进的东西 - Mustafa Suleyman的新书《即将到来的浪潮》最终令人不满意。Suleyman,Google的联合创始人 - A C询问的人工智能公司DeepMind,现在是Microsoft AI的首席执行官,在技术记者Michael Bhaskar的协助下写了这本书。他们尝试了四个互锁任务:要阐明未经包含的人工智能的生存威胁,请告知读者不要忽略危险,在越来越多的技术变换浪潮中置于警告,并在越来越多的技术转换中,并做出具体的政策提案,以实现遏制。政策建议是本书中最具挑衅性和有问题的方面。Suleyman的论点的弧线是由最初,倒数第二和最终章节的标题给出的:“不可能遏制”,“必须有可能遏制”和“迈向遏制的十个步骤”。这本书的四分之三致力于引人入胜的论点,支持“不可能”的论文,尽管如此,它还是用“必须有可能的”反点辩护。充满激情的严肃性,苏莱曼的言论成为面对独特威胁的紧急呼吁。“如果这本书对技术的态度矛盾,一部分积极和一部分是构成的,那是因为这种矛盾的观点