XiaoMi-AI文件搜索系统
World File Search System勾结
人工智能、合作与勾结
反垄断专家和经济学家广泛讨论了通过使用定价算法来稳定合谋协议的前景。然而，这些文献往往缺乏计算机科学家的视角，而且似乎经常高估机器学习的最新进展对企业在形成卡特尔时面临的复杂协调问题的适用性。同样，支持学习算法合谋可能性的建模结果通常使用简单的市场模拟，这使得他们可以使用简单的算法，而这些算法不会产生机器学习从业者在现实问题中必须处理的许多问题，这些问题可能对学习合谋协议特别有害。在批判性地审查了有关算法合谋的文献并将其与计算机科学的结果联系起来后，我们发现，虽然调整反垄断法以处理真实市场中合谋的自学习算法可能为时过早，但其他形式的算法合谋，例如由集中定价算法促进的轮辐式安排，可能已经需要立法行动。
算法勾结而没有威胁
最近一直担心自动化定价算法可能会学会“相交”。超级竞争价格的价格可能会成为反复定价游戏的纳什均衡，在这种情况下，如果卖家从竞争对手中“缺陷”，卖方会犯有竞争者的策略，并可以自动学习这些策略。，但威胁的脸上是反竞争的。实际上，标准的经济直觉是，超级竞争性的价格来自使用威胁，或者一方未能正确优化其回报。这是正确的吗？在卖方优化自己的收入时，会明确防止算法决策中的威胁防止超竞争价格吗？编号我们表明，即使两个玩家都使用没有明确编码威胁并为自己的收入进行优化的算法，竞争性价格也可以强劲地出现。由于部署算法是一种承诺形式，因此我们研究了顺序的Bertrand定价游戏（和连续的变体），其中第一个搬运工部署了算法，然后在结果环境中进行了第二个搬运工。我们表明，如果第一个搬运工部署了任何没有重新保证的算法，然后第二个搬运工甚至在这个现在静态的环境中大致优化了，则会出现类似垄断的价格。实际上，存在一系列策略，它们都没有明确编码在算法空间中同时定价游戏的NASH均衡的威胁，并导致了几乎垄断价格。该结果适用于第一搬家部部署的任何无regret学习算法，以及第二名搬运工的任何定价政策，这些算法至少获得了与随机价格一样高的利润，因此，即使第二名的推动者仅在非响应定价分布的空间内进行优化，但即使第二名则仅在非反应定价分布的空间内进行优化，这些分配具有相当可观的机构威胁。这表明可能需要扩展“算法勾结”的定义，以包括没有明确编码威胁的策略。
大语模型的算法勾结
∗第一个版本：2024年1月。由OpenAI的研究人员访问计划支持的研究。FISH得到了NSF研究生研究奖学金和Kempner Institute研究生奖学金的支持。Gonczarowski的研究得到了哈佛大学Fas Dean的有前途学术竞争基金的支持，并得到了美国倡议中哈佛大学FAS不平等的竞争基金。Shorrer的研究得到了美国 - 以色列双原则科学基金会（BSF Grant 2022417）的资助。我们感谢NBER市场设计新方向2023会议的组织者创造了一个启发这项研究的环境。我们感谢Ventz Petkov的宝贵技术援助，并感谢Susan Athey，Ben Enke，Edward Glaeser，Marc Henry，David Laibson，Rohit Lamba，Shengwu Li，Ariel Pakes和David Parkes的洞察力和讨论。我们感谢计量学会跨学科前沿（ESIF）经济学和AI+ML会议的参与者，EC 2024关于基金会模型和游戏理论以及在线广告的边界的研讨会：Autobidding，Genai，Genai，Beyond，以及哈佛大学的研讨会参与者的评论。†哈佛大学工程与应用科学学院 - 电子邮件：sfish@g.harvard.edu‡哈佛大学经济学系和计算机科学系 - 电子邮件：yannai@gonch.name
大语模型的算法勾结
*由OpenAI的研究人员访问计划支持的研究。FISH得到了NSF研究生研究奖学金的支持。Gonczarowski的研究得到了哈佛大学FAS院长有前途的奖学金和哈佛大学FAS不平等倡议的竞争基金的支持。Shorrer的研究得到了美国 - 以色列双原则科学基金会（BSF Grant 2022417）的资助。我们感谢NBER市场设计新方向2023会议的组织者创造了一个启发这项研究的环境。我们感谢Ventz Petkov的宝贵技术帮助，并感谢Marc Henry，David Laibson，Shengwu Li和Ariel Pakes的深刻意见和讨论。†哈佛大学工程与应用科学学院 - 电子邮件：电子邮件：sfish@g.harvard.edu‡哈佛大学经济学系和计算机科学系 - 电子邮件：yannai@gonch.name
人工智能交易、算法勾结和价格...
算法交易和强化学习的结合，即所谓的人工智能交易，对资本市场产生了重大影响。本研究利用信息不对称的知情投机者之间的不完全竞争模型，探讨人工智能交易策略对投机者的市场力量、信息租金、价格信息量、市场流动性和错误定价的影响。我们的结果表明，知情的人工智能投机者即使“不知道”串谋，也可以自主学习采用串谋交易策略。这些串谋策略使他们能够通过策略性地对信息反应不足来实现超竞争交易利润，即使没有任何形式的协议或沟通，更不用说可能违反传统反垄断法规的互动了。算法串谋来自两种不同的机制。第一种机制是通过采用价格触发策略（“人工智能”），而第二种机制源于同质化的学习偏差（“人工愚蠢”）。前一种机制仅在价格效率有限和噪音交易风险的情况下才会显现。相反，后者即使在价格效率高或噪音交易风险大的情况下也会持续存在。因此，在人工智能交易盛行的市场中，价格信息量和市场流动性都会受到影响，反映了人工智能和愚蠢的影响。
制定兼容性标准：合作还是勾结？
berkeley.edu › shapiro › sta... PDF Katz，《反垄断法和知识产权法对兼容性和创新的影响》，《反垄断公报》。（1998 年）；Joseph Farrell 和 Garth Saloner，......
与不完美监控的算法勾结-IRIS
在本文中，我们通过分析不完美的监测案来为后一个研究做出了贡献。以前的研究重点是完美监控的情况，因为定价算法通常在市场（例如亚马逊）中使用，那里的每个卖方都可以实时监视竞争对手的价格，并且因为竞争当局强调了这样的市场更容易受到勾结的影响。3然而，理论表明，即使在不完善的监控下，也可能进行勾结，并且算法也越来越多地用于竞争对手的策略不容易观察的市场。一个例子是财务市场，代理商通过隐藏噪音交易者来利用其内部信息。4另一个例子是电力市场。5因此，重要的是研究算法勾结是否可以观察到总成果（例如市场价格）而不是个人行为时。6
人工智能代理之间的秘密勾结
生成式人工智能的最新进展表明，跨互联网等平台的自主代理和人类之间大规模交互的潜力。虽然这种互动可以促进富有成效的合作，但人工智能代理规避安全监督的能力引发了严重的多代理安全问题，特别是以无意的信息共享或不良协调的形式出现。在我们的工作中，我们建立了秘密勾结的子领域，这是多代理欺骗的一种形式，其中两个或多个代理使用隐写术来隐藏他们互动的真实性质，无论是交流还是其他方式，以避免被监督。我们为进行隐写术通信的人工智能代理提出了一个正式的威胁模型，并得出了关于大型语言模型 (LLM) 进行秘密勾结的能力和动机以及威胁缓解措施的局限性的严格理论见解。我们通过实证评估来补充我们的研究结果，这些评估展示了前沿单智能体和多智能体 LLM 设置中隐写能力的提升，并研究了可能出现勾结的潜在场景，揭示了监控、释义和参数优化等对策的局限性。我们的工作首次形式化并调查了前沿基础模型之间的秘密勾结，将其确定为 AI 安全的一个关键领域，并概述了一项全面的研究议程，以减轻未来生成 AI 系统之间勾结的风险。
制定兼容性标准：合作还是勾结？
berkeley.edu › shapiro › sta... PDF Katz，《反垄断法和知识产权法对兼容性和创新的影响》，《反垄断公报》。（1998 年）；Joseph Farrell 和 Garth Saloner，......