XiaoMi-AI文件搜索系统
World File Search Systemirrational
人工智能系统中的行为和偏好操纵问题
简介现代社会中数据收集可能性的增加意味着统计人工智能 (AI) 或机器学习 (ML) 通常用于了解用户的偏好，以便更好地（有时是为了用户，有时是为了系统所有者）为他们提供某些服务。偏好可以通过直接询问受试者（陈述偏好）来直接了解，也可以通过称为显示偏好理论 (RPT) (Varian 2006) 的过程推断出来。这两种方法都存在一系列局限性，这些局限性已被实验经济学家和心理学家随着时间的推移所证明。一组限制大致属于“非理性”行为或信念的范畴。例如，Gui、Shanahan 和 Tsay-Vogel (2021) 讨论了用户在平衡相互冲突的短期和长期偏好时行为不一致的现象。偏好在不同情境之间可能不是静态的；群体内人士的社会规范（Cialdini 和 Trost 1998）可能与他们通过数字行为显露的个人偏好相悖。不同情况下的多种偏好的存在提出了一个问题：决策者应该选择行为中“显露”的哪种偏好作为“真实”偏好或“规范”偏好（Beshears 等人 2008）。决策者也可能会犯错误（Nishimura 2018），容易受到各种环境影响，如框架（Tversky 和
二人：从人类反馈中学习的多样，不确定的，不确定的，上的查询产生和选择，用于增强
定义奖励功能通常是系统设计师在增强学习中的一项具有挑战性但至关重要的任务，尤其是在指定复杂行为时。从人类反馈（RLHF）中学习的强化是一种承诺的方法来规避这一点。在RLHF中，代理通常通过使用轨迹段的成对比较来查询人类老师来学习奖励功能。这个领域中的一个关键问题是如何减少需要学习内容丰富的奖励功能的查询数量，因为要求人类老师太多的查询是不切实际且昂贵的。为了解决这个问题，大多数现有的方法主要集中于改进探索，引入数据增强或为RLHF设计复杂的培训目标，而查询生成和选择方案的潜力尚未得到充分利用。在本文中，我们提出了二人组，这是一种新颖的方法，用于RLHF中的多种，不确定的，上的查询生成和选择。我们的方法会产生（1）与政策培训更相关的查询（通过政策标准），（2）更有用的信息（通过认知不确定性的原则衡量）和（3）多样化（通过基于聚类的过滤器）。对各种运动和机器人操纵任务的实验结果表明，我们的方法可以超越最先进的RLHF方法，并给出相同的查询预算，同时对可能的非理性教师有力。
地面偏见：对太空探索持怀疑态度的驱动因素
本文介绍并发展了“ 地面偏见 ” 的概念。所讨论的偏见涉及对太空对于理解陆地过程的重要性的背景低估。低估随后成为各种对太空探索怀疑论的驱动因素。地面偏见比对太空探索的怀疑论更为普遍，并且本身并不导致对太空探索的怀疑论。在太空怀疑论被接受之前，可能还需要一些进一步的因素（例如民粹主义的政治批评、对技术的恐惧或对人类未来的普遍悲观情绪）。尽管如此，在面对关于太空计划对人类的负面影响的连续失败预测时，对地面偏见的诉求有助于解释对太空探索的怀疑论的顽固持续。本文从对太空怀疑论的概述转向对地面偏见概念的澄清。本文的正式论证（即这种偏见有助于解释人们对太空探索的怀疑态度持续存在）在很大程度上是对建立地面偏见概念的衬托。最后一部分通过与其他类型的人类偏见（包括非理性偏见）进行比较，探讨了地面偏见的立场。地面偏见与这些偏见有显著不同，更接近人类对时间的偏见（例如，认为未来比过去更重要，认为近期事件比远期事件更重要）。然而，它也比对时间的偏见更新得多，并且不太植根于我们的人类本性。
人工生殖技术的道德含义...
本文旨在探讨人工生殖技术的哲学和道德含义。在过去的几十年中，辅助生殖技术的进步使个人，尤其是不育夫妇以日益复杂的方式生育孩子，从而导致一系列道德问题。从功利主义的角度来看，作品将人工生殖技术程序视为人工生殖技术。功利主义是一种后果主义的一种形式，认为行为本身永远不是对与错，而是因为它们的后果。因此，它避免了带入生命的良好数量必须是最大数量的人。鉴于辅助生殖技术的功利主义姿势，一个人想知道辅助生殖技术的程序是否认识到人类尊严的尊严，不应将其视为最终的手段，而是本身的目的。在收集和分析辅助生殖的非数字数据方面采用了定性方法。本文发现，辅助生殖技术对其功利主义倾向的趋势带来了最大的好处，但它们的非理性使用威胁着脱衣服的人，并将他当作机器。研究表明，辅助生殖带来了构想与性交的分离，从而引起了婚姻价值和纽带的迷失方向，并扭曲了身份和父母身份。本文得出结论，应拒绝艺术，因为它充满了道德问题。它建议使用自然生殖技术（Naprotechnology），以有效解决人工生殖技术所带来的道德困境，以保护所有涉及各方的权利。
更有效的靶向抗癌药的谈判价格更高
摘要背景：在中国，卫生技术评估 (HTA) 近期已被用于国家医保药品目录药品定价谈判。目前，如何应用 HTA 来指导决策过程仍未得到充分报道。鉴于谈判过程的保密性质，为了探索如何将 HTA 的采用转化为上市和价格谈判结果，本研究旨在比较 2019 年谈判中涉及的选定靶向抗癌药物 (TAM) 的谈判价格和临床益处。正文：在成功谈判的 16 个 TAM 中，只有代表四组适应症的四个 TAM 有合适的参考药物进行比较，因此被纳入分析。将这四个 TAM 的价格和临床益处与一到两个具有相同初始适应症的参考药物进行了比较。从集中药品采购系统中提取了谈判前后九个 TAM 的销售价格。根据已发表文章和临床指南的证据评估临床益处。结果表明，尽管采用了 HTA，但在 2019 年谈判中，针对 TAM 的报销做出了理性和非理性的决定，值得进一步调查。结论：虽然 HTA 在中国的发展和采用取得了重大进展，但仍需采取行动确保 HTA 的采用在药品报销决策中得到有效应用。关键词：卫生技术评估、靶向抗癌药物、定价谈判
香港大学
有表面证据表明存在欺骗意图，且可能援引 (1) 中以外的制裁。 课程大纲： 阅读清单 1. 经济学方法论 Milton Friedman，“实证经济学方法论”，《实证经济学论文集》，（芝加哥：芝加哥大学出版社，1966 年），第 3-16、30-43 页。 Gary S Becker，“非理性行为与经济理论”，《政治经济学杂志》，第 70 卷，第 1 期，1962 年，第 1-13 页。 Frank Knight，“风险、不确定性和利润”，芝加哥大学出版社，1971 年，第 9-10 章，第 264-312 页。 Friedrich A. von Hayek，“知识在社会中的运用”，美国经济评论，1945，35(4)，第519-530页。 2.公共物品和外部性 Dennis Mueller，“公共选择III”，剑桥大学出版社，2003年，第2-3章。 Ronald Coase，“社会成本问题”，法律与经济学杂志，1960年，3期，第1-44页。 3.法律起源与法律推理 Edward H. Levi，“法律推理导论”，芝加哥大学出版社，第1-8页和第102-104页。 Edward Glaeser和Andrei Shleifer，“法律起源”，季刊经济学，第117卷，第4期，2002年，第1193-1229页。 Rafael La Porta, Florencio Lopez-De-Silanes 和 Andrei Schleifer. “法律起源的经济后果,” Journal of Economic Literature , 46:2, 2008, pp. 285-332. 4. 法律的经济分析 A Mitchell Polinsky, An Introduction to Law and Economics , 第五版, Little Brown, 2020. James Buchanan, “法律作为公共资本,” The Limits of Liberty: Between Anarchy and Leviathan , University of Chicago Press, 1975, pp. 107-129.
第三届人工智能夏季活动：AAAI Robert S. Engelmore 纪念讲座
本文总结了作者在 2020 年 2 月 10 日第三十四届 AAAI 人工智能大会上的 Robert S. Englemore 纪念演讲。它探讨了人工智能历史上反复出现的主题、人工智能带来的现实和想象的危险以及该领域的未来。我们现在正处于人工智能的第三个夏天，这是一个科学进步迅速、商业化广泛发展和对我们解开通用智能秘密的潜力感到兴奋（也许是非理性兴奋）的时期。人工智能领域之前经历过两次这样的时期，每次之后都是商业化的崩溃和政府对研究的投资大幅削减的冬天。在本文中，我将论证尽管历史有这样的周期性，但每个夏天都会出现持久的见解。冬天可以被看作是沉思和整合的时期，通过新旧思想的综合而前进。我还将论证我们可能正处于周期性模式的末期；尽管进步和繁荣可能会放缓，但有科学和实际原因认为第三个冬天不太可能发生。每年夏天，为非专家撰写的有关人工智能的文章和书籍都会找到广泛的读者。在写这篇文章之前不久，我读了四本新书：Domingos 的《大师算法》（2015 年）；Lee 的《人工智能超级大国》（2018 年）；Russell 的《与人类兼容》（2019 年）；以及 Marcus 和 Davis 的《重启人工智能》（2019 年）。第一本书客观地介绍了机器学习的历史，和本文一样，强调了该领域的持续发展。第二本书描绘了中国人工智能研发的急剧增长，并指出了未来的道路
病例报告：生酮饮食缓解胰岛素依赖型糖尿病管理相关的焦虑和抑郁
区分对低血糖的非理性恐惧和理性恐惧对治疗有重要意义，对面对 1 型糖尿病患者的临床医生来说也是一项重大挑战，本案例就是一个例证。一名 39 岁的女性患有自身免疫阳性的胰岛素依赖型糖尿病，她寻求帮助以缓解严重的糖尿病困扰以及与不可预测的急剧血糖下降相关的抑郁和焦虑症状。在用尽常规方法后，她采用了生酮饮食 (KD)。在最初几天，她的血糖值从约 20 mmol/L 降至 12 mmol/L（360 mg/dL 至 216 mg/dL）。然后，通过将 KD 与胰岛素泵相结合，她在最佳血糖范围内的时间在 2 个月后从 8% 增加到 51%，将她的 HbA1c 降低了 25 mmol/mol（2.2%）。这减轻了生物和心理压力，立即改善了她的心理健康并重燃了她对未来的希望。对于患有 1 型糖尿病的患者，KD 的主要担忧是假定的酮症酸中毒风险增加、理论上糖原储备耗尽以及饱和脂肪对心血管风险因素的潜在不利影响。根据现有的经验证据评估了这些担忧，结果表明 KD 可以预防酸中毒、低血糖和心血管风险。本案例以及现有数据表明，应告知患有 1 型糖尿病且承受高水平生物和心理压力的患者 KD 的预期益处和可能风险，以确保他们有权就糖尿病管理做出明智的决定。
“电力市场的设计：经济分析”
当天然气供应不足时，为什么法国的电价很高，而天然气仅占法国电力发电中使用的主要能源的一小部分，而法国电力的平均价格平均廉价？要了解这种现象，应注意的是，气体通常是“边缘”的能源来源，这意味着，如果需要欧洲消费需要1个额外的MWH，则这种额外的MWH很可能是由燃气轮机生产的，因为脱碳化植物（可再生能源和核）已经以容量的运行运行。但是，当会计成本3的现有核车队的3次成本3时，法国为什么要“进口”欧洲价格为150欧元/兆瓦的价格（这是从天然气2产量的可变成本），大约是60欧元/mwh？要回答这个问题，让我们假设法国的价格在行政上维持在60欧元/MWH。一家愿意支付70欧元的制造商来消费1 MWH会购买此MWH。但是，这种MWH的成本是社会的150欧元，因为它的消费本可以以更高的价格转售。法国的结果是90欧元的不足，这可能使工业客户避免消耗损失（70欧元至60欧元= 10欧元）的损失，为社区留下80欧元。因此，考虑到边际成本曲线和需求曲线的交汇处确定的价格没有什么不合理的，这揭示了电力的真实价值，在我们的示例中，€150/mwh。对法国价格对法国生产成本的一致性是误导的。
艺术之心：相关的认知功能和状态......
参与艺术涉及“理性”和“非理性”，涉及广泛的认知功能和状态。本备忘录旨在强调参与艺术的不同认知形式，这些认知形式补充并超越了通常理解的“理性推理”。认知科学和哲学的科学文献用于研究以下问题：参与艺术的非理性认知形式是什么，它们如何促进知识？确定了三个关键领域。第一个领域涉及艺术作为“感官”知识，并研究参与艺术所涉及的具体、情感和共情过程。第二个领域涉及“创造性思维”，并研究艺术如何鼓励非线性过程来获取信息、想法和解决方案，即通过直觉、发散思维、灵感和洞察力。第三个领域涉及艺术以非明确和非还原的方式帮助获得意义的不同方式，包括整体欣赏、隐性理解和讲故事。艺术参与超越了思想/感觉、理性/非理性之间的简单区分，涉及一系列整体的认知形式和理解方式。我们讨论注意力和意识对认知的核心作用，以及艺术参与如何涉及关注世界的不同互补方式。我们考虑艺术如何培养更广泛的工具来帮助理解和理解世界，以及重新平衡还原论的世界观和叙事。最后，我们探讨艺术所涉及的认知形式如何通过关系、语境、整体理解和超越线性近似的富有洞察力的创造性方法，为解决复杂、系统、多样的全球问题做出贡献。简介