XiaoMi-AI文件搜索系统
World File Search System勾结
人工智能、合作与勾结
反垄断专家和经济学家广泛讨论了通过使用定价算法来稳定合谋协议的前景。然而，这些文献往往缺乏计算机科学家的视角，而且似乎经常高估机器学习的最新进展对企业在形成卡特尔时面临的复杂协调问题的适用性。同样，支持学习算法合谋可能性的建模结果通常使用简单的市场模拟，这使得他们可以使用简单的算法，而这些算法不会产生机器学习从业者在现实问题中必须处理的许多问题，这些问题可能对学习合谋协议特别有害。在批判性地审查了有关算法合谋的文献并将其与计算机科学的结果联系起来后，我们发现，虽然调整反垄断法以处理真实市场中合谋的自学习算法可能为时过早，但其他形式的算法合谋，例如由集中定价算法促进的轮辐式安排，可能已经需要立法行动。
与不完美监控的算法勾结-IRIS
在本文中，我们通过分析不完美的监测案来为后一个研究做出了贡献。以前的研究重点是完美监控的情况，因为定价算法通常在市场（例如亚马逊）中使用，那里的每个卖方都可以实时监视竞争对手的价格，并且因为竞争当局强调了这样的市场更容易受到勾结的影响。3然而，理论表明，即使在不完善的监控下，也可能进行勾结，并且算法也越来越多地用于竞争对手的策略不容易观察的市场。一个例子是财务市场，代理商通过隐藏噪音交易者来利用其内部信息。4另一个例子是电力市场。5因此，重要的是研究算法勾结是否可以观察到总成果（例如市场价格）而不是个人行为时。6
超越人类干预：通过多学院学习策略算法勾结
市场定价中的勾结是与人为通过人为有限的供应提高市场价格的人类行为相关的概念。最近，提出了算法勾结的想法，其中人类在定价过程中的行动被自动化的代理所取代。实验表明，可以通过这种技术达到共谋市场平衡，而无需人工间，但许多技术的发展仍然容易受到其他参与者的剥削，因此在实践中很难实施。在本文中，我们探讨了一个代理具有多目标策略的情况，不仅学会了单方面利用源自其他算法代理的市场动态，而且还学会了直接对其他代理的行为进行建模。我们的结果表明，如何通过使用稍微复杂的算法来克服现实生活中算法勾结的可行性的共同批评。
算法勾结：公司问责制和艺术的应用。 101 tfeu
Maria Giacalone * a Broxtract：对人工智能（AI）设定市场价格的日益依赖，尤其是在数字市场中，导致了算法勾结的威胁，在这种情况下，定价算法使竞争对手之间的市场行为与竞争者之间的行为保持一致。这种见解研究了这种做法的含义，强调了最近《欧洲AI法》所采取的方法的相关性，该法规调节了AI系统的发展和就业。虽然定价算法可以通过迅速响应供求的波动来提高市场效率，但它们也引起了人们对抗竞争力效应的担忧。讨论了两种不同的情况：可预测的药物和数字眼，其中算法在人类控制下或以自治方式运行。在可预测的代理方案中，算法的行为可以归因于该事业，可能会导致ART下的责任。101 Tfeu。 相反，数字眼景挑战了由于其自主权而导致算法的行为的责任。 为了解决这些问题，洞察力讨论了《 AI法案》中强调的“设计合规性”，该法案要求企业确保其算法符合反托拉斯规则。 这是“结果可见性”的补充，即使算法已按照指南进行了编程，也规定了纠正任何反竞争结果的承诺。 在一起，这些措施旨在平衡AI的好处，并需要防止在数字市场中进行合并实践。101 Tfeu。相反，数字眼景挑战了由于其自主权而导致算法的行为的责任。为了解决这些问题，洞察力讨论了《 AI法案》中强调的“设计合规性”，该法案要求企业确保其算法符合反托拉斯规则。这是“结果可见性”的补充，即使算法已按照指南进行了编程，也规定了纠正任何反竞争结果的承诺。在一起，这些措施旨在平衡AI的好处，并需要防止在数字市场中进行合并实践。
算法勾结而没有威胁 - 滴
最近一直担心自动化定价算法可能会学会“相交”。超级竞争价格的价格可能会成为反复定价游戏的纳什均衡，在这种情况下，如果卖家从竞争对手中“缺陷”，卖家会发挥策略，这些策略有可能惩罚他们的竞争对手，并且可以自动学习这些策略。，但威胁的脸上是反竞争的。实际上，标准的经济直觉是，超级竞争性的价格来自使用威胁，或者一方未能正确优化其回报。这是正确的吗？在卖方优化自己的收入时，会明确防止算法决策中的威胁防止超竞争价格吗？编号我们表明，即使两个玩家都使用没有明确编码威胁并为自己的收入进行优化的算法，竞争性价格也可以强劲地出现。由于部署算法是一种承诺形式，因此我们研究了顺序的Bertrand定价游戏（和连续的变体），其中第一个搬运工部署了算法，然后在结果环境中进行了第二个搬运工。我们表明，如果第一个搬运工部署了任何没有重新保证的算法，然后第二个搬运工甚至在这个现在静态的环境中大致优化了，则会出现类似垄断的价格。实际上，存在一系列策略，它们都没有明确编码在算法空间中同时定价游戏的NASH均衡的威胁，并导致了几乎垄断价格。该结果适用于第一搬家部部署的任何无regret学习算法，以及第二名搬运工的任何定价政策，这些算法至少获得了与随机定价一样高的利润 - 因此，即使第二种推动者仅在非响应定价分布的空间内进行优化，这些结果即使仅在非响应定价分布的空间内进行优化，这些分配具有相当可观的机构威胁。这表明可能需要扩展“算法勾结”的定义，以包括没有明确编码威胁的策略。
算法勾结而没有威胁
最近一直担心自动化定价算法可能会学会“相交”。超级竞争价格的价格可能会成为反复定价游戏的纳什均衡，在这种情况下，如果卖家从竞争对手中“缺陷”，卖方会犯有竞争者的策略，并可以自动学习这些策略。，但威胁的脸上是反竞争的。实际上，标准的经济直觉是，超级竞争性的价格来自使用威胁，或者一方未能正确优化其回报。这是正确的吗？在卖方优化自己的收入时，会明确防止算法决策中的威胁防止超竞争价格吗？编号我们表明，即使两个玩家都使用没有明确编码威胁并为自己的收入进行优化的算法，竞争性价格也可以强劲地出现。由于部署算法是一种承诺形式，因此我们研究了顺序的Bertrand定价游戏（和连续的变体），其中第一个搬运工部署了算法，然后在结果环境中进行了第二个搬运工。我们表明，如果第一个搬运工部署了任何没有重新保证的算法，然后第二个搬运工甚至在这个现在静态的环境中大致优化了，则会出现类似垄断的价格。实际上，存在一系列策略，它们都没有明确编码在算法空间中同时定价游戏的NASH均衡的威胁，并导致了几乎垄断价格。该结果适用于第一搬家部部署的任何无regret学习算法，以及第二名搬运工的任何定价政策，这些算法至少获得了与随机价格一样高的利润，因此，即使第二名的推动者仅在非响应定价分布的空间内进行优化，但即使第二名则仅在非反应定价分布的空间内进行优化，这些分配具有相当可观的机构威胁。这表明可能需要扩展“算法勾结”的定义，以包括没有明确编码威胁的策略。
大语模型的算法勾结
∗第一个版本：2024年1月。由OpenAI的研究人员访问计划支持的研究。FISH得到了NSF研究生研究奖学金和Kempner Institute研究生奖学金的支持。Gonczarowski的研究得到了哈佛大学Fas Dean的有前途学术竞争基金的支持，并得到了美国倡议中哈佛大学FAS不平等的竞争基金。Shorrer的研究得到了美国 - 以色列双原则科学基金会（BSF Grant 2022417）的资助。我们感谢NBER市场设计新方向2023会议的组织者创造了一个启发这项研究的环境。我们感谢Ventz Petkov的宝贵技术援助，并感谢Susan Athey，Ben Enke，Edward Glaeser，Marc Henry，David Laibson，Rohit Lamba，Shengwu Li，Ariel Pakes和David Parkes的洞察力和讨论。我们感谢计量学会跨学科前沿（ESIF）经济学和AI+ML会议的参与者，EC 2024关于基金会模型和游戏理论以及在线广告的边界的研讨会：Autobidding，Genai，Genai，Beyond，以及哈佛大学的研讨会参与者的评论。†哈佛大学工程与应用科学学院 - 电子邮件：sfish@g.harvard.edu‡哈佛大学经济学系和计算机科学系 - 电子邮件：yannai@gonch.name
人工智能代理之间的秘密勾结
生成式人工智能的最新进展表明，跨互联网等平台的自主代理和人类之间大规模交互的潜力。虽然这种互动可以促进富有成效的合作，但人工智能代理规避安全监督的能力引发了严重的多代理安全问题，特别是以无意的信息共享或不良协调的形式出现。在我们的工作中，我们建立了秘密勾结的子领域，这是多代理欺骗的一种形式，其中两个或多个代理使用隐写术来隐藏他们互动的真实性质，无论是交流还是其他方式，以避免被监督。我们为进行隐写术通信的人工智能代理提出了一个正式的威胁模型，并得出了关于大型语言模型 (LLM) 进行秘密勾结的能力和动机以及威胁缓解措施的局限性的严格理论见解。我们通过实证评估来补充我们的研究结果，这些评估展示了前沿单智能体和多智能体 LLM 设置中隐写能力的提升，并研究了可能出现勾结的潜在场景，揭示了监控、释义和参数优化等对策的局限性。我们的工作首次形式化并调查了前沿基础模型之间的秘密勾结，将其确定为 AI 安全的一个关键领域，并概述了一项全面的研究议程，以减轻未来生成 AI 系统之间勾结的风险。
在线广告中的人工智能，算法招标和勾结
3 a nash平衡（b i）i∈I如果xρ（i）（v i-bρ（i）+1）≥xρ（i）-1（i） - 1（v i-bρ（i））。eos修复是满足这种情况的最低收入的纳什均衡。这种修复尤其重要，因为它符合搜索引擎在这些拍卖中竞标的教程。参见，例如，Hal Varian通过遵循此竞标策略来教授如何最大化的Google Adword教程：https：//www.youtube.com/watch?v=tw3brmld1c8。