XiaoMi-AI文件搜索系统
World File Search SystemAgentic
监测行为不当的推理模型和促进混淆的风险
减轻奖励黑客攻击 - 由于其学习目标中的缺陷或错误的特征，AI系统的表现不佳 - 在构建有能力且一致的模型方面面临着一个关键的挑战。我们表明，我们可以通过使用另一个观察模型的经验链（COT）推理的LLM来监视诸如OpenAI O3-Mini之类的前沿推理模型，例如OpenAI O3-Mini。COT监视可以比单独监视剂的动作和输出更有效，我们进一步发现，比O3-Mini（即GPT-4O）弱的LLM可以有效地监视更强大的模型。因为COT监视器可以有效地检测漏洞，因此自然要问是否可以通过将COT监视器直接纳入代理商的训练目标来抑制这些漏洞。我们表明，将COT监测器集成到强化学习奖励中确实可以在低优化制度中产生更有能力，更一致的代理，但我们发现，通过过多优化，代理商学习了混淆的奖励黑客攻击，将其隐藏在COT中，同时仍然表现出很大的奖励奖励率。由于很难分辨出COTS何时变得混淆，因此可能有必要通过不直接将强大的优化压力直接施加到经营链上来缴纳可监视性税，从而确保COTS保持可监视且可用于检测未对准的行为。
Michael Mosier共同创立了Arktouros PLLC，一家法律精品店...
Michael Mosier共同创立了Arktouros PLLC，这是一家专门针对民间社会，金融诚信和新兴技术的前联邦检察官的法律精品店。他是Ex/Ante的合作伙伴，Ex/Ante是一项早期基金，投资于代理技术，可以提高民主弹性和个人代理，包括深效检测，网络安全和密码学。他两次是科技公司的第一位内部顾问：链条分析区块链分析和浓缩咖啡系统构建可配置的私人计算和使用零知识加密的数字资产可审核性。在公共服务中，迈克尔担任代理总监，副主任和美国财政部金融犯罪执法网络（FINCEN）的第一任数字创新官。以前，他曾担任国库外国资产控制办公室（OFAC）的副主任，领导合规和执法办公室以及制裁政策与实施办公室。在财政部之前，迈克尔曾是司法部洗钱和资产恢复部门的副局长，并在白宫国家安全委员会担任跨国有组织犯罪的董事。他曾是乔治敦大学法律中心的兼职教授（高级审判证据），并开始担任曼哈顿地方检察官办公室的检察官公共服务。
Michael Mosier共同创立了Arktouros PLLC，一家法律精品店...
Michael Mosier共同创立了Arktouros PLLC，这是一家专门针对民间社会，金融诚信和新兴技术的前联邦检察官的法律精品店。他是Ex/Ante的合作伙伴，Ex/Ante是一项早期基金，投资于代理技术，可以提高民主弹性和个人代理，包括深效检测，网络安全和密码学。他两次是科技公司的第一位内部顾问：链条分析区块链分析和浓缩咖啡系统构建可配置的私人计算和使用零知识加密的数字资产可审核性。在公共服务中，迈克尔担任代理总监，副主任和美国财政部金融犯罪执法网络（FINCEN）的第一任数字创新官。以前，他曾担任国库外国资产控制办公室（OFAC）的副主任，领导合规和执法办公室以及制裁政策与实施办公室。在财政部之前，迈克尔曾是司法部洗钱和资产恢复部门的副局长，并在白宫国家安全委员会担任跨国有组织犯罪的董事。他曾是乔治敦大学法律中心的兼职教授（高级审判证据），并开始担任曼哈顿地方检察官办公室的检察官公共服务。
![arxiv：2408.07892v1 [cs.cy] 2024年8月15日](/simg/4\4d83e7ba1547a7117480db026f553e9e637562fd.webp)
arxiv：2408.07892v1 [cs.cy] 2024年8月15日
匿名是在线的重要原则。但是，恶意演员长期以来一直使用误导性身份来进行欺诈，传播虚假信息并执行其他欺骗性计划。随着越来越有能力的AI的出现，坏演员可以扩大其操作的潜在规模和有效性，从而加强在线平衡匿名和可信赖性的挑战。在本文中，我们分析了一种应对这一挑战的新工具的价值：“人格证书”（PHCS），数字证书，使用户能够证明他们是真实的人，而不是AIS，而不是在线服务，而无需透露任何个人信息。这些凭据可以由一系列受信任的机构发行 - 政府或其他方面。PHC系统可能是本地或全局，并且不需要基于生物识别技术。AI的两种趋势有助于挑战的紧迫性：AI在线人士的不可区分性（即栩栩如生的内容和化身，代理活动）以及AI的可扩展性提高（即成本效益，可访问性，可访问性）。借鉴了对匿名证书和“人格证明”系统的悠久研究历史，人格证书为人们提供了一种在线平台上信任的方式，并为服务提供商提供了减少不良演员滥用的新工具。相比之下，现有的自动欺骗（例如Captchas）的对策不足以抵抗复杂的AI，而严格的身份验证解决方案对于许多用例来说都是私有的。在调查了人格证书的好处后，我们还研究了部署风险和设计挑战。我们以可行的下一步措施为决策者，技术人员和标准机构进行了可行的结论，可以与公众协商。
学生的未来思维课程经历......
摘要 为了促进学生基于价值观的能动性、负责任的科学和可持续性，科学教育必须解决学生如何看待个人和集体的未来。然而，研究表明，年轻人很难完全理解未来及其可能性，而且很少有研究关注科学教育在培养未来思维和能动性方面的潜力。我们报告了一个项目，该项目通过开发面向未来的科学课程，借鉴未来研究领域，进一步探索了这一潜力。对访谈数据进行了现象学分析，以了解高中生在参加一门课程后，他们对未来的看法和能动性取向发生了哪些变化，该课程将未来思维技能融入量子计算和技术方法解决全球问题的背景下。结果表明，学生对未来和技术发展的看法更加积极，但也更加不可预测，认为他们的能动性可能性更加清晰、更有希望（尤其是通过认同同龄人或理想的职业道路），并对原本模糊的未来概念产生了更深的联系。学生们还觉得他们学会了质疑确定性思维，并更有创意地思考自己的生活以及全球问题的技术和非技术解决方案。量子物理和未来思维都为不确定性和概率思维开辟了新的视角。我们的研究结果进一步验证了面向未来的科学教育方法，并强调了未来思维技能、能动性和真实的社会科学问题在发展当代科学教育方面的重要协同作用。
Techno-Service-Profit链：物联网的影响
注入新兴技术（例如，启用了IoT算法的客户服务系统[IACSS]）通常会给客户服务带来破坏性的更改。特别是这些技术的代理性质挑战了重要的服务理论。在这些挑战中，最近的学术呼吁推动了对新兴技术注入服务营养链（SPC）框架的更多研究，倡导扩展知识以开发用于SPC技术的技术版本的重要性。因此，从跨学科的角度来看，我们借鉴了角色理论，并提出了技术服务链（TSPC）。具体来说，我们通过不同的方法将SPC在技术服务上下文中进行上下文，包括分解特定于上下文的构造和理论化IACS实现，作为调节TSPC关系的上下文因素。使用一种结合定量和定性方法的顺序混合方法设计，我们通过在IACS实施之前和之后对大型企业对企业服务公司的多波调查和后续访谈进行了多波调查和后续访谈，并在IACS实施之前和之后对员工，主管和客户的数据进行了多波调查和后续访谈，对我们的研究模型进行了测试。这项跨学科研究通过丰富了核心SPC结构的组成，人类代理与技术代理之间的理论相互作用，并审查技术代理对内部员工内部员工管理与外部客户管理之间的联系的影响，从而为信息系统，服务营销和管理文献做出了贡献。我们的结果进一步揭示了竞争老板（即主管和IACSS），竞争员工（即员工和IACSS）以及IACS对主管和员工的意外非人性化影响的新兴问题。
Informazione incormentata n。 20040-6-2025
Expert.AI S.P.A.是实施人工智能企业解决方案来创造业务价值的领导者，宣布推出“ Eidenai Suite”，这是一套完整，可用的，即用的和量身定制的垂直市场解决方案的套件，该解决方案通过提供最大程度的价值和成果的尖端技术，以使客户处于中心。Eidenai Suite的推出伴随着新的组织结构，标志着该集团的增长和发展战略的决定性步骤。Dario Pardi，Expert.AI的董事长兼首席执行官说：“今天，我们很高兴介绍Eidenai Suite，这是我们一年前开始的进化和转型旅程中的重要里程碑，以加强专家的战略定位 我们设计了量身定制的解决方案，以应对每个垂直部门的具体挑战和机遇，其目标是一个目标：将客户放在中心。 我们认为，我们的垂直解决方案可以支持公司解决市场复杂性，从而帮助他们最大程度地提高成功和满意度。 并支持我们的成长目标 - 继续帕迪 - 我们通过加强销售团队，将战略市场领域的责任委托给经验丰富的管理资料，并增强了旨在巩固专家品牌的路径不可或缺的一部分来推出新的组织结构。” Eidenai Suite Eidenai Suite将最先进的技术（从神经符号AI到大型语言模型，从Genai到代理AI）都在模块化和灵活的套件中，以立即对业务流程产生影响Dario Pardi，Expert.AI的董事长兼首席执行官说：“今天，我们很高兴介绍Eidenai Suite，这是我们一年前开始的进化和转型旅程中的重要里程碑，以加强专家的战略定位我们设计了量身定制的解决方案，以应对每个垂直部门的具体挑战和机遇，其目标是一个目标：将客户放在中心。我们认为，我们的垂直解决方案可以支持公司解决市场复杂性，从而帮助他们最大程度地提高成功和满意度。并支持我们的成长目标 - 继续帕迪 - 我们通过加强销售团队，将战略市场领域的责任委托给经验丰富的管理资料，并增强了旨在巩固专家品牌的路径不可或缺的一部分来推出新的组织结构。” Eidenai Suite Eidenai Suite将最先进的技术（从神经符号AI到大型语言模型，从Genai到代理AI）都在模块化和灵活的套件中，以立即对业务流程产生影响主要目标是使组织能够超越数据，将人类潜力转变为战略资产，从而创建一个生态系统，在该系统中，AI和人们协同合作以产生真正的价值。一个新标准，即使解决最复杂的
代理问：自主AI代理的高级推理和学习
大语言模型（LLM）在需要复杂推理的自然语言任务中表现出了显着的功能，但是它们在交互式环境中的代理，多步骤推理中的应用仍然是一个艰难的挑战。静态数据集上的传统监督预训练在实现在Web Navigation（例如Web Navigation）中执行复杂决策所需的自主代理能力时跌落。先前试图通过对精选的专家演示进行微调的微调来弥合这一差距 - 通常会遭受更复杂的错误和有限的勘探数据，从而导致了次优政策的结果。为了克服这些挑战，我们提出了一个框架，将带有指导的蒙特卡洛树搜索（MCTS）搜索与自我批评机制和使用直接优先优化（DPO）算法的非政策变体对代理相互作用进行迭代微调。我们的方法使LLM代理可以从成功和失败的轨迹中有效学习，从而改善其在复杂的多步推理任务中的概括。我们在网络商店环境（一个模拟的电子商务平台）中验证了我们的方法，在该平台上，它始终超过行为的克隆和加强基线，并在配备了进行在线搜索的能力时击败平均人类绩效。在实际预订方案中，我们的方法论将Llama-3 70B型号的零拍摄性能从18.6％升至81.7％的成功率（相对增长340％），经过一天的数据收集，并在线搜索中进一步增加到95.4％。我们认为，这代表了自主代理人能力的实质性飞跃，为在现实世界中更复杂和可靠的决策铺平了道路。
可解释的人工智能：方法研究...
作为人工智能（AI）模型，尤其是深层神经网络，在各个领域都取得了成功，因此对它们的可解释性产生了关注。这些“黑匣子”模型通常会不透明地运行，因此很难理解其推理。缺乏解释性提出了可信赖，问责制和道德规范的问题，尤其是在医疗保健，金融和刑事司法等关键领域。本论文构成可解释的AI（XAI）作为一个跨学科领域，以应对技术，埃斯特尔，法律和设计挑战。提出了XAI方法的分类法，将其分类为可解释的模型，模型不合时宜的工具，特定于模型的工具，神经符号方法和可解释的生成AI（GenXAI）的可解释工具。诸如Shapley值，石灰和综合梯度之类的工具，并特别注意神经符号AI通过符号促进来增强神经网络可解释性的潜力。针对大型语言模型（LLM）的新兴XAI技术，例如检索增强生成（RAG）和代理抹布，以其能够获得可怜性和透明度的能力而探索。总结了这些工具的概述，其中根据定义的分类法和功能对每种方法进行分类。论文还探讨了用户体验（UX）的注意事项，重点关注具有可理解解释需求的数字系统的不同角色。XAI问题库是对库的研究，将各种问题，深度水平与量身定制的XAI工具相结合。法律和道德考虑，重点介绍了欧盟的GDPR和AI法案等法规，以及XAI如何支持合规性。最后，用于心脏病预测和解释的医疗保健领域中的石灰和抹布的经验表明了XAI的实际应用，展示了其在高风险场景中提高透明度和决策制定的能力。
人工智能决策委托的决定因素
人工智能决策委托的决定因素：目标设定理论 Hyunmin Jeon iamhyunmin@g.hongik.ac.kr；Hyewon Lee，dws9318@gmail.com；Jonghwa Park jonghwapark@knu.ac.kr；Martin Kang；martin.kang@lmu.edu；Dong-Heon Kwak dkwak@kent.edu 人工智能 (AI) 工具的日益融合，引起了人们对了解影响用户将任务委托给 AI 系统的决策因素的兴趣 (Candrian & Scherer, 2022; Turel & Kalhan, 2023)。AI 委托涉及将任务、决策或解决问题的责任分配给 AI 系统，使它们能够在指定参数内自主或半自主运行 (Baird & Maruping, 2021)。这种授权使组织能够简化运营、提高效率并将人力资源分配给更具战略性的活动（Candrian & Scherer，2022 年）。目标设定理论（Locke & Latham，2002 年）可以应用于 AI 授权的研究，提供理论视角来探索清晰、具有挑战性和定义明确的目标如何影响将任务委派给 AI 的有效性和可能性。然而，目标设定相关因素如何影响用户将任务委派给 AI 的决定仍不清楚，特别是当通过信息系统领域内既定的框架考虑时（例如，Loock 等人，2013 年；Pan 等人，2024 年）。本研究调查了目标清晰度、难度和承诺如何影响这些委派决定。我们对不同的 AI 用户（例如 ChatGPT 和 Grammarly）进行了多项研究调查，以研究这些与目标相关的因素如何影响将任务委派给 AI 的可能性。这些发现为设计符合用户目标和期望的 AI 系统提供了宝贵的见解。参考文献 Baird, A., & Maruping, LM (2021)。下一代 IS 使用研究：委托给代理 IS 工件和从代理 IS 工件委托的理论框架。MIS Quarterly，45 (1), 315-341。