XiaoMi-AI文件搜索系统
World File Search System语义
摘要 研究：AI 社会认知评估与建模。评估 LLM 中的心智理论及其在心理学中的应用 NLP：LLM IFT、表征学习（对比和三重态损失）、语义聚类、总结 DL：Transformers、MoE、EncDec、RNNs、DPO、LoRA 工具：Python、Pytorch、Deepspeed、AWS Sagemaker、hydra、SQL 管理：建立 ML 团队、职能、策略和 OKR、招募和指导科学家和实习生以及建立数据和注释伙伴关系。
摘要 研究：AI 社会认知评估与建模。评估 LLM 中的心智理论及其在心理学中的应用 NLP：LLM IFT、表征学习（对比和三重态损失）、语义聚类、总结 DL：Transformers、MoE、EncDec、RNNs、DPO、LoRA 工具：Python、Pytorch、Deepspeed、AWS Sagemaker、hydra、SQL 管理：建立 ML 团队、职能、策略和 OKR、招聘和指导科学家和实习生以及建立数据和注释合作伙伴关系。
语义信息理论概述
与当前的通信理论不同，该理论将信息量视为消息统计稀缺性的度量，概述了语义信息理论，其中给定语言系统中句子所携带的信息概念被视为与该句子的内容同义，以某种方式规范化，语义信息量的概念通过该内容的各种度量来阐明，所有度量均基于涵盖内容的逻辑概率函数。绝对度量和相对度量是有区别的，因此 D 函数适用于仅与演绎推理相关的环境，而 I 函数适用于归纳推理足够的环境。在研究的两种主要信息量类型中，一种是 cont，对于内容排他性的句子是加性的，另一种是 inf，对于归纳独立的句子是加性的。后者在形式上类似于传统的信息度量函数。研究了各种信息量估计函数，从而得到了当前传播理论中概念和定理的广义语义相关性。初步定义了语义噪声的概念，以及语言系统概念框架的效率和冗余性。建议语义信息是一个比其传播对应概念更容易应用于心理学和其他研究的概念。
Gallagher, Maria, Torok, Agoston, Klaas, Johanna 和 Ferrè, Elisa Raffaella (2020) 人类行为中的重力先验：一种感知或语义现象
摘要 人类在感知方面表现出重力优势：我们能更精确地判断向下移动物体的速度，而不是向上移动物体的速度，这表明重力加速度是一种内在化的先验。然而，尚不清楚这种重力先验是完全基于感知线索，还是可以结合语义知识。先前的研究仅使用了已知服从重力的物体，可能混淆了语义和感知线索。在这里，我们通过要求参与者判断通常与重力（球）或逆重力（火箭）相干移动的物体的速度来解决这个问题。我们的结果显示，无论物体身份如何，下落刺激都具有感知优势，这表明重力先验是基于感知线索的。
用于指导建筑设计课程构思的语义 AI 模型 Emmanouil Vermisso 建筑学院 佛罗里达大西洋大学 111 East Las Olas Boulevard 劳德代尔堡，佛罗里达州 33301，美国 evermiss@fau.edu
摘要 本文讨论了可用的人工智能 (AI) 模型的组合，即神经语言模型 (NLM) 与经过训练的 GAN 和人类解释，以促进架构构思。工作流程使用语义提示识别推测设计的概念场景。结果成为视觉参考，以补充修订的语义描述，以指导 VQGAN+CLIP 模型，利用对结果的控制，然后使用降维对结果进行排序，并进一步策划以训练其他模型 (GAN)。NLM 对文本输入的解释增加了跨越更大语义距离的可能性，以实现创造性的视觉结果，而 AI-人类步骤的嵌套工作流程可以自动查询更大的解决方案空间。此外，它还考虑了基于语言 (NLM) 的处理模型 (LeCun, 2021) 导致的视觉数据 (Hadamard, 1945) 的低带宽、还原编码问题，这可能会限制设计机构。
开放世界的语义细分包括类相似性
解释摄像机数据是自主行动系统（例如自动驾驶汽车）的关键。在现实世界环境中运行的视觉系统必须能够解释其周围环境，并需要能够处理新型情况。本文解决了开放世界的分段，即解释训练过程中未见对象的图像数据的变体。我们提出了一种新的方法，该方法可以执行确定性封闭世界的语义分割，同时可以识别新类别，而无需任何适当的培训数据。我们的方法1另外，为图像中的每个新发现的类与已知类别提供了相似性度量，这在下游任务（例如计划或映射）中可能是有用的信息。通过广泛的实验，我们表明我们的模型在已知的训练数据以及异常分割的类别上实现了最新的结果，并且可以区分不同的未知类别。
开发基于精细语言模型的瑞典法律判断的语义搜索工具
大型语言模型（LLMS）是非常大的深度学习模型，可根据大量数据进行重新训练。是句子的双向编码器表示，来自变形金刚（SBERT）的句子是基于变压器的DeNoising AutoCoder（TSDAE），生成查询网络（GENQ）和生成假伪标记（GPL）的改编。本论文项目旨在为瑞典法律判断开发语义搜索工具，以克服法律文件检索中传统关键字搜索的局限性。为此，使用高级培训方法（例如TSDAE，GENQ和GPL的改编），通过利用自然语言处理（NLP）（NLP）（NLP）（NLP）和精细的LLM来开发一种善于理解法律语言的语义细微差别的模型。要从未标记的数据中生成标记的数据，对其进行微调后使用了GPT3.5模型。使用生成模型的使用标记数据的生成对于该项目有效训练Sbert至关重要。已经评估了搜索工具。评估表明，搜索工具可以根据语义查询准确检索相关文档，并同样提高法律研究的效率和准确性。genq已被证明是此用例的最有效的训练方法。
用大语言模型在语言刺激下解码语义表示
大脑解码技术为解释神经活动的解释以重现思想，情感和运动的方式铺平了道路。Tang等。 （2023）引入了一种新颖的方法，该方法将语言模型用作基于功能磁共振成像（fMRI）数据的大脑解码的生成模型。 在他们的工作中构建，这项研究探讨了使用三种其他语言模型的使用以及先前研究中使用的GPT模型，以改善解码功能。 此外，我们使用嵌入模型添加了一个评估度量，提供了比BertScore更高水平的语义相似性。 通过比较解码的表现并确定导致良好性能的因素，我们发现高解码精度并不仅仅取决于准确预测大脑活动的能力。 相反，该模型倾向于生成更精确的句子重新构造的文本类型（例如Web文本，博客，新闻文章和书籍），它倾向于生成更重要的作用。Tang等。（2023）引入了一种新颖的方法，该方法将语言模型用作基于功能磁共振成像（fMRI）数据的大脑解码的生成模型。在他们的工作中构建，这项研究探讨了使用三种其他语言模型的使用以及先前研究中使用的GPT模型，以改善解码功能。此外，我们使用嵌入模型添加了一个评估度量，提供了比BertScore更高水平的语义相似性。通过比较解码的表现并确定导致良好性能的因素，我们发现高解码精度并不仅仅取决于准确预测大脑活动的能力。相反，该模型倾向于生成更精确的句子重新构造的文本类型（例如Web文本，博客，新闻文章和书籍），它倾向于生成更重要的作用。
视觉增强的动态语义原型，用于生成零拍学习
生成的零拍学习（ZSL）学习了一个生成器来合成看不见类的视觉样本，这是推进ZSL的有效方法。然而，现有的发电方法依赖于高斯噪声和预定义的语义原型的条件，这限制了仅在特定的看到类中优化的发电机，而不是对每个视觉实例进行特征，从而导致概括不良（例如，过度适用于可见的类）。为了解决这个问题，我们提出了一种新颖的视觉启动动态语义原型方法（称为VADS），以增强发电机来学习准确的语义 - 视觉映射，以充分利用视觉效果的知识为语义条件。详细说明，VADS由两个模块组成：（1）视觉吸引域知识学习模块（VDKL）了解视觉特征的偏见和全局先验（称为域的视觉知识），这些偏见取代了纯净的高斯噪声，以提供更丰富的先验噪声信息； （2）以视觉为导向的语义更新模块（VOSU）根据样本的视觉表示更新语义原型。最终，我们将它们的输出作为动态语义原型串联，作为发电机的条件。广泛的实验表明，我们的VAD在三个突出的数据集上实现了上升的CZSL和GZSL prounperces，并且在Sun，Cub和Awa2上分别胜过其他最先进的方法，其平均分别增加了6.4％，5.9％，5.9％和4.2％。
拆开气候变化话语中风险语义的包装
摘要。气候变化评估社区依赖于广泛接受的风险及其组成部分的定义，例如危害，暴露和脆弱性，由著名的国际组织气候变化小组（IPCC）提供。这些年来，这些风险的定义一直在发生变化，并以一种一般和“常识”的形式提出，因为公共社会需要理解它们，并容纳了不同研究流所接受的风险概念。但是，这些定义在操作气候风险评估程序中已证明无效，这暴露了歧义的关键需求。本文通过解开IPCC最新定义和词汇表的基于的关于价值和风险（掩盖）的共同本体的定义和词汇表，以解决气候变化评估中的风险和同源概念的语义清晰度。这项研究为气候变化研究中的风险提供了更精确，更精致的本体论基础，可以更好地与场景和评估的复杂性保持一致，并通过支持更有效的沟通和对气候相关风险的更有效沟通和评估，从而有助于气候变化研究，并对其进行缓解和适应。
对话式人工智能的增量式基于图的语义和推理
下一代对话式 AI 系统需要：（1）逐步处理语言，逐个标记，以提高响应速度，并能够处理对话现象，例如暂停、重新开始和自我更正；（2）逐步推理，允许建立超出所说内容的意义；（3）透明且可控，允许设计人员和系统本身轻松确定特定行为的原因并针对特定用户组或领域进行定制。在这篇短文中，我们介绍了正在进行的初步工作，将动态语法（DS） - 一种增量语义语法框架 - 与资源描述框架（RDF）相结合。这为创建增量语义解析器铺平了道路，该解析器在话语展开时逐步输出语义 RDF 图。我们还概述了如何通过 RDF 将解析器与增量推理引擎集成。我们认为，这种 DS - RDF 混合体满足了上面列出的要求，产生了可用于构建响应式、实时、可解释的会话式 AI 的语义基础设施，可以针对特定用户群体（例如痴呆症患者）快速定制。