XiaoMi-AI文件搜索系统
World File Search System实体识别
人工智能可能的风险及缓解措施 - 命名实体识别
NER 如何工作？命名实体识别技术基于三种主要方法：词典、规则和机器学习 2 ：• 基于词典或基于字典的方法依赖于来自不同来源（例如预先存在的标记数据集和在线资源）的预定义术语列表。在这种方法中，输入文本与词典中的条目匹配以识别命名实体。此方法可能难以对新命名实体和含义模糊或拼写变化的实体进行分类。• 基于规则的系统包含手动或自动构建的规则 3 ，旨在根据文本中的特定模式或标准检测实体。• 基于监督机器学习的方法可以通过从带注释的数据中学习，自动识别和分类新文本中的命名实体。此方法需要大量 4 带注释的训练数据来估计和微调模型的参数。虽然早期的 NER 系统主要依赖于词典和手工制定的基于规则的方法，但现代技术主要采用机器学习，因为它们能够很好地适应和推广到各种环境和领域。一些 NER 系统结合了多种方法来提高其性能和准确性。5 采用无监督机器学习的新兴 NER 系统（大型语言模型，如 BERT 6 、GPT-4、LlaMA 和 Mistral）可以提供一种替代方法，有助于减少通常耗时且昂贵的使用标记命名实体注释训练数据的过程。虽然这仍然是一种新颖的方法，但与传统的监督方法相比，它有潜力处理更复杂的任务。
设想为美国提供全面的实体识别...
“跨数据集匹配雇主数据的最大障碍是缺乏通用或通用的企业标识符。通过开发联邦系统来创建和管理通用标识符可以消除这一障碍，从而节省匹配成本，但需要投入大量时间和联邦资源来创建和维护这样的基础设施。假设可以创建标识符，那么强制所有雇主在国内和国际上一致使用这种标识符将是一个挑战。该标识符需要捕捉各种公司/行业级别并随时间变化（换句话说，它应该随着公司的成立、死亡、合并、收购等而变化），并且没有一个联邦实体拥有收集和管理此类信息的权力、人员或资源……鉴于创建和使用通用标识符符合企业和纳税人的利益，值得探索是否可以通过自愿方式采用通用标识符。” 6
通过大型语言模型的指令调整生物医学中的实体识别
结果：我们开发了一种基于指导的学习范式，该范式将生物医学NER从序列标记任务转换为一代任务。此范式是端到端的，并通过自动重新利用先前存在的生物医学NER数据集来简化培训和评估过程。，我们使用拟议的范式将llama-7b作为基础LLM进一步开发了Bioner-lalama。我们对三个公认的生物医学数据集进行了对Bioner-lalama的广泛测试，该数据集由与疾病，化学物质和基因有关的实体组成。结果表明，与具有不同生物医学实体的数据集中的GPT-4相比，Bioner-lalama始终达到的F1得分范围从5％到30％。我们表明，通用域LLM可以与严格微调的PubMedbert模型和PMC-llama（生物医学特异性语言模型）相匹配。我们的发现强调了我们提出的范式在开发一般域LLM中的范式，这些范式可以与生物医学和健康应用中的多任务，多域中的SOTA表现相媲美。
基于对比度学习的基于跨度的统一命名实体识别框架
传统命名实体识别（NER）模型通常是为特定于域的数据集而设计的，并且仅限于固定的预定义类型，这是难以推广到新域的困难。最近，基于及时的生成方法可以通过在不同的数据集上共同培训模式，并通过及时说明提取指定的实体，以减轻这种约束。但是，由于自回旋结构，这些方法无法直接建模实体跨度，并且会遭受缓慢的分解。为了解决这些问题，我们通过对比度学习（SUNER）提出了一个基于新颖的S基础的Unified Ner框架，该框架将文本跨度和实体类型表示在共享的语义空间中保持一致，以并行提取实体。具体来说，我们首先提取跨度，而无需考虑实体类型以更好地概括跨数据集。然后，通过利用构图的学习和精心设计的实体标记结构的力量，我们将候选人跨度及其textual类型描述映射到相同的矢量代表空间中，将其映射到跨多个方面的区分实体。对监督和零/少数拍摄设置进行了广泛的实验表明，与以前的最先进的统一NER模型相比，实现的Suner模型可实现更好的性能和更高的效率。
聚合物生物降解性信息的零射击实体识别：polybd上的gpt-4O
分类，并为政策和工业实践提供信息。开发用于提取聚商生物降解性数据的自动化工具可以大大提高现有研究的效率，可访问性和适用性，从而加速科学的进步和实践实施。与物质领域专家合作进行的这项研究旨在促进知识整合以增强材料循环。为了支持准确的，特异性模型的开发，我们提出了PolyBD，这是一种在聚合物生物降解性上进行的进行进行的数据集。数据集由100篇研究文章组成，记录了微生物或酶和聚合物之间的相互作用。每篇文章都被手动分割成句子并在实体级别注释，捕获聚合物，细菌，真菌和酶（见图1）。为了改善域专家注释的效用，在多个层次级别注释实体。，例如，如图1所示，“粘膜杆菌”（物种）和“铬细菌”（属）均被注释。未来的注释效果将这些细菌实体与其相应的本体论条目联系起来。在关系注释过程中，聚合物“聚合物聚合物”将与属和物种水平的注释相结合，从而使对聚合物 - 细菌相互作用有全面的了解。polybd包含大量嵌套的象征 - 图1中包含的实体，例如“ Chro-mobacterium”和“ Rhizopus” - 在提取方面面临着相当大的挑战。能够解决嵌套命名实体识别（NER）的方法很少，尤其是在专用域中[5]。鉴于此任务的知识密集型性质 - 区分
韩国生物医学语料库（KBMC）用于医学命名实体识别
特定于领域的命名实体识别（NER）的意义，尤其是在法律和医学等领域，要求进行更深入的研究和实现。NER在医疗NLP中的作用如下：首先，NER有助于处理医学术语。医学ner使语言模型能够识别和处理医疗术语和行话。接下来，它有助于从非结构化数据中提取信息。实际上，Pearson等。（2021）已经执行了NER来重新移动或从非结构化医疗数据集中编码信息。此外，NER有助于敏感的患者特定信息的匿名性（Catelli等人，2021）。但是，医疗数据集不足是有问题的。这个问题变得更加具有挑战性，因为特定领域的NER任务需要广泛的标签，尤其是对于疾病，身体和治疗等特定实体类别。由于需要专家级知识，因此难以进一步放大。数据稀缺问题在诸如韩文等相对低资源的语言中会恶化。没有开源医疗数据集的韩国人证明了问题的严重性。为了解决数据稀缺问题，我们介绍了KBMC（韩国生物医生），这是第一个针对韩国的开源医疗数据集。我们利用chatgpt 1进行有效的句子创建。随后，我们注释了与生物格式下的疾病名称，身体部位和治疗相对应的实体。增加数据集并检查一般文本中的性能，
从零到英雄：在零和几射击上下文中利用生物医学命名实体识别的变压器
在生物医学领域中监督的命名实体识别（NER）取决于带有命名实体的大量带注释的文本。创建此类数据集可能是耗时且昂贵的，而新实体的提取需要其他注释任务并重新训练模型。本文提出了一种在生物医学领域中零和少量NER解决这些挑战的方法。该方法基于将多类令牌分类的任务转换为二进制令牌分类，并在大量数据集和生物医学实体上进行预训练，这使该模型可以学习给定和潜在的新颖命名实体标签之间的语义关系。，我们的零拍摄NER的平均F1得分为35.44％，单发NER为50.10％，10-Shot NER的平均F1得分为69.94％，在9种不同的具有基于微调PubMedbert模型的生物医学实体上，100-SHOT NER的平均F1得分为79.51％。结果证明了所提出的方法在识别没有或有限示例的新生物医学实体，优于先前的变压器方法，并且使用少于1000倍的参数的模型与基于GPT3的模型相媲美。我们公开制作模型并开发了代码。
polynere：一种新颖的本体论和语料库，用于聚合物科学领域中指定的实体识别和关系提取
抽象聚合物被广泛用于不同的领域，并且对提取和组织信息的有效方法的需求正在增加。使用机器学习的自动化方法可以准确地从科学论文中提取相关信息，从而为使用带注释的培训数据提供了一种有希望的解决方案，以自动化信息提取。在本文中，我们引入了一个与聚合物相关的本体论，该本体论具有至关重要的实体和关系，以增强聚合物科学领域的信息提取。我们的本体论是可以自定义的，以适应特定的研究需求。我们提出了Polynere，一种高品质的命名实体识别（NER）和关系提取（RE）语料库，其中包括使用我们的本体学注释的750个聚合物摘要。Polynere的独特特征包括多种实体类型，关系类别，对各种NER设置的支持以及在不同层面上主张实体和关系的能力。Polynere还通过支持证据来促进RE任务中的推理。我们的最新高级方法实验取得了令人有希望的结果，但挑战持续将NER和RE从摘要调整为全文段落。这强调了在聚合物域中需要强大的信息提取系统的需求，这使我们的语料库成为未来发展的宝贵基准。
超越边界：在跨数据集和语言中学习通用实体分类法，以获取命名实体识别
开放命名实体识别（NER）涉及从任意域中识别任意类型的实体，对于大语言模型（LLMS）仍然具有挑战性。最近的研究表明，对数据数据的微调LLM可以提高其性能。但是，直接对现有数据集进行培训会忽略其不一致的实体定义和冗余数据，从而将LLMS限制为数据集 - 特定的学习和阻碍域外适应性。为了解决这个问题，我们提出了B 2 NERD，这是一个紧凑的数据集，旨在指导LLMS在通用实体分类学下的开放NER中的概括。b 2书呆子使用两个步骤的过程从54个Ex-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is-Is。首先，我们检测到跨数据集的不一致的实体定义，并通过可区分的标签名称来澄清它们，以构建400多种实体类型的Uni-Glesal分类学。第二，我们使用数据修剪策略来解决冗余，该策略选择了更少的类别和语义多样性的样本。综合评估表明，B 2 NERD显着增强了LLMS的开放式NER功能。我们的B 2 NER模型，在B 2 NERD上训练，超过6.8-12.0 f1点，并超过15个数据集和6种语言的3个室外基准标记中的先前方法。数据，模型和代码可在https://github.com/umeannever/b2ner上公开获取。