XiaoMi-AI文件搜索系统
World File Search System失去控制
回复：请求对 NIST 根据行政命令 14110 分配的草案文件（第 4.1、4.5 和 11 节）发表评论。NIST AI 600-1，人工智能风险管理框架：生成人工智能概况
○ “第三种可能性可能在短短几年内出现，即当人工智能被赋予一个目标，包括或暗示维持其自身代理时，失去控制，这相当于生存目标。这可能是人类创造者有意为之，也可能是实现人类给定目标的一种手段（让人想起电影《2001：太空漫游》）。事实上，人工智能系统可能会得出结论，为了实现给定的目标，它不能被关闭。如果人类试图关闭它，可能会发生冲突。这听起来像科幻小说，但它是可靠的、真实的计算机科学。”
改进您的微生物研究剧本
•应在A级和B级区域中检测到的微生物至物种水平，并应评估此类微生物对产品质量的潜在影响（对于每批涉及的每批）和总体控制状态。也应考虑在C和D级区域（例如，超过行动限制或警报水平）中检测到的微生物的鉴定，或之后隔离有机体，这些生物可能表明可能失去控制，清洁度或可能难以控制孢子形成的微型生物和模型，以维持这些频率的典型频率，以使这些典型的典型频率保持典型范围。
人工智能系统和个人选举决策
假新闻、虚假宣传、上传过滤器甚至选举推荐应用程序并不是什么新鲜事。然而，人工智能系统的使用提高了它们的效率和重要性。此外，人工智能（AI）的使用往往不符合民主公众的透明度要求，机器行为越来越多地取代人类行为。因此，关于人工智能的讨论非常激烈，有时带有“炒作性质”，在两个极端之间摇摆不定：一方面是对更好系统的深远希望，另一方面是失去控制、监视、依赖和歧视等各种担忧。辩论的“炒作性质”可以从民主与人工智能的关系中观察到——尤其是在选举背景下的个人意见形成方面。
安全风险、威胁和不负责任的行为……
(a) 对空间资产安全运行和外层空间长期可持续性的威胁：虽然对卫星（一旦完成）进行破坏或造成不可逆转的损害可能构成国际不法行为，但任何可能导致这些结果的行为都容易引起误解和升级。同样的情况也适用于那些不一定造成不可逆转的损害但会削弱或导致操作员失去控制卫星能力的行为。此类行为大大增加了受影响卫星或其他卫星发生碰撞和永久损坏的风险，并可能导致碎片的产生，从而导致空间环境的整体恶化并不利于其长期可持续性。此外，诸如破坏性试验和使用直接上升式反卫星等活动
认知人工智能在任务导向型军事决策中的潜力
1.引言 中国专家认为，人工智能的使用几乎引发了一场军事革命。在他们看来，信息的收集、利用和传播是军事行动变化最明显的诱因。然而，他们认为最大的危险在于人工智能系统可以加快战斗节奏，使机器操作超越人类决策，从而可能导致人类失去控制。军事相关研究的研究人员面临的一个挑战是解决人机交互的技术问题，其中可能包括： 人机目标一致。困难之处在于，由于军事系统在动态环境中执行任务，目标不断变化，因此人和机器必须同时应对复杂环境。
对事件、实践和程序的协作审查
TDD，俗称路钉，是警察批准使用的一种工具，用于放掉逃逸车辆的轮胎气。它们本质上是一种可伸缩的绳索，沿其长度均匀地嵌入了钉子。为了不导致被钉车辆立即失去控制，钉子的结构确保轮胎放气的速度缓慢但可控。这种可控的放气会逐渐影响车辆的操纵特性和牵引力，并迫使逃逸驾驶员缓慢降低车速。当轮胎完全放气时，车辆可以继续行驶，但操纵性会受到影响。此时，轮胎将开始发热和撕裂，逃逸车辆只能靠轮辋行驶。
竞争框架内的人工智能监管
现代竞争政策面临的最复杂挑战之一是行业和市场的数字化转型，这与人工智能的引入密切相关。文章作者总结了在限定密集使用人工智能的公司地位和行为方面存在的主要问题，包括市场集中度提高、价格歧视风险和算法合谋。该领域的一个具体挑战是人工智能对机器学习的有效性对大数据的依赖。这一特征证明了集中度的增长，加强了领导者的地位，并有可能削弱竞争环境。建议反垄断机构加强自身的数字化能力和分析能力，以免市场失去控制，同时也不要消除人工智能带来的好处。
人工智能可解释性白皮书
- 从数据中可以了解到虚假相关性，这通常会妨碍模型的泛化能力并导致糟糕的现实世界结果。 - 失去可调试性和透明度，导致信任度低以及无法修复或改进模型和/或结果。此外，这种缺乏透明度阻碍了这些模型的采用，特别是在受监管的行业，例如银行和金融或医疗保健。 - 代理目标导致模型离线执行（通常是匹配代理指标）与部署在应用程序中时的性能之间存在很大差异。 - 由于模型从业者在有问题的情况下本地调整模型行为的能力下降而失去控制。 - 不良的数据放大反映了与我们的社会规范和原则不一致的偏见。