摘要 价值敏感设计 (VSD) 是一种将价值观融入技术设计的成熟方法。它已应用于不同的技术,最近又应用于人工智能 (AI)。我们认为,AI 提出了许多特定于 VSD 的挑战,需要对 VSD 方法进行一些修改。机器学习 (ML) 尤其带来了两大挑战。首先,人类可能无法理解 AI 系统如何学习某些事物。这需要关注透明度、可解释性和可问责性等价值观。其次,ML 可能导致 AI 系统以“分离”其中嵌入的价值观的方式进行适应。为了解决这个问题,我们提出了一种三重修改的 VSD 方法:(1) 将一组已知的 VSD 原则 (AI4SG) 整合为设计规范,从中可以得出更具体的设计要求; (2) 区分设计所提倡和尊重的价值观,以确保结果不仅不会造成伤害,而且还会带来好处;(3) 扩展 VSD 流程以涵盖 AI 技术的整个生命周期,以监控意外的价值后果并根据需要进行重新设计。我们以 SARS-CoV-2 接触者追踪应用为例,说明了我们的 VSD for AI 方法。
Cancer Precision Medicine Co.,Ltd。(以下称为“ CPM”)是我们公司的合并子公司,现已在公共场合
*1:“大学等”是指大学、技术学院或大学间研究机构。 *2:“公共研究机构”是指独立行政机构(包括国家研究开发机构)、特殊法人以及地方独立行政机构。 *3:“企业等”是指以研究为主要目的的私营企业、公益财团法人、公益财团法人、一般社团法人、一般财团法人等。
人工智能 (AI) 用于社会公益的研究需要对社会公益做出某种定义,但潜在的定义很少被提出,也从未达成一致。人工智能用于社会公益研究应该“为了”什么这一规范性问题并没有经过深思熟虑的阐述,或者经常以一种功利主义的观点来处理,这种观点优先考虑大多数人的需求,而不是那些历史上被边缘化的人,无视不公正和不公平的现实。我们认为,人工智能用于社会公益应该由人工智能系统将影响的社区来评估,以能力方法为指导,这是一种衡量不同政策改善人类福利公平能力的框架。此外,我们阐述了人工智能研究如何通过扩展和均衡能力来促进社会进步。我们展示了能力方法如何与参与式方法相结合,以设计和实施我们引入的称为 PACT 的框架中的人工智能用于社会公益研究,其中受影响的社区成员应作为合作伙伴参与其中,并在整个项目中优先考虑他们的意见。最后,我们提供了一套不完整的指导问题,以便以引出并尊重社区自身对社会利益的定义的方式开展此类参与式人工智能研究。
[联系信息] <关于这项研究>日本癌症研究基金会癌症生物学系的Noriko Saito 3-8-31 Ariake,Koto-ku,东京135-8550电话:03-3570-0471电子邮件:03-3570-0471电子邮件: :ganken-pr@jfcr.or.jp <关于库马托大学>公共关系策略办公室,库马托大学总事务部2-39-1 kulokami,chuo-ku,kumamoto 860-8555电话:096-342-342-3269科学技术>国家研究与发展局,美国国立量子和放射科学与技术〒263-8555 千叶县千叶市稻毛区穴川 4-9-1 电话:043-206-3026(直拨) 电子邮件:info@qst.go.jp <关于 PhytoMol-Tech Inc> PhytoMol-Tech Inc. 熊本实验室 〒860-0812 熊本市中央区南熊本 3-14-3 熊本大学合作孵化器代表董事 Atsuko Yoshimura 电子邮件:pr@phytomoltech.com
[联系信息] <关于这项研究>日本癌症研究基金会癌症生物学系的Noriko Saito 3-8-31 Ariake,Koto-ku,东京135-8550电话:03-3570-0471电子邮件:03-3570-0471电子邮件: :ganken-pr@jfcr.or.jp <关于库马托大学>公共关系策略办公室,库马托大学总事务部2-39-1 kulokami,chuo-ku,kumamoto 860-8555电话:096-342-342-3269科学技术>国家研究与发展局,国立量子和放射科学与技术〒263-8555 千叶县千叶市稻毛区穴川 4-9-1 电话:043-206-3026(直拨) 电子邮件:info@qst.go.jp <关于 PhytoMol-Tech Inc> PhytoMol-Tech Inc. 熊本实验室 〒860-0812 熊本市中央区南熊本 3-14-3 熊本大学合作孵化器代表董事 Atsuko Yoshimura 电子邮件:pr@phytomoltech.com
出版者:公益财团法人激光技术研究所 主编:谷口诚二 邮编:550-0004 大阪市西区靱本町 1-8-4 大阪科学技术中心大楼 4 楼 电话:(06) 6443-6311 传真:(06) 6443-6313 http://www.ilt.or.jp
科学探索奖和新基石计划长期资助基础科学研究领域的科学家,在科学界获得高度认可,迄今已有300多位杰出科学家获得资助,研究课题多样、差异化。我们还资助致力于探索创新路径应对社会挑战的社会项目,包括腾讯科技公益创投、CarbonX计划和活力计划等孵化器项目,支持公益慈善、碳相关技术、欠发达地区医疗服务等领域的创新发展。此外,腾讯与中国农村发展基金会联合发起乡村振兴活水计划,为中国151个欠发达县的草根公益组织提供项目设计、运营和财务管理方面的培训,并于2023年被世界银行和联合国粮农组织评选为“全球最佳减贫实践”。
社会面临着相互关联的生态可持续性威胁。其中包括通过全球贸易引入的破坏性外来病原体和昆虫对森林的破坏,导致关键生态系统服务的丧失和全球森林健康危机。我们认为森林健康危机是一个公共利益社会困境,并提出了一个包含集体行动原则的应对框架。该框架使科学家能够更好地与政策制定者接触,并赋予公众倡导主动生物安全和森林健康管理的权力。森林健康方面的集体行动包括广泛包容的利益相关者参与,以建立信任和设定目标;对破坏性害虫引入负责;为最薄弱环节的合作伙伴提供集中支持;并将森林生态系统的内在价值和非市场价值纳入风险评估。我们提供短期和长期措施,结合上述原则,将社会和生态森林健康模式转变为更具弹性的状态。