XiaoMi-AI文件搜索系统
World File Search Systemword2vec
SPVec: A Word2vec-Inspired Feature Representation Method for Drug-Target Interaction Prediction
Drug discovery is an academical and commercial process of global importance. Accurate identification of drug-target interactions (DTIs) can significantly facilitate the drug discovery process. Compared to the costly, labor-intensive and time-consuming experimental methods, machine learning (ML) plays an ever-increasingly important role in effective, efficient and high-throughput identification of DTIs. However, upstream feature extraction methods require tremendous human resources and expert insights, which limits the application of ML approaches. Inspired by the unsupervised representation learning methods like Word2vec, we here proposed SPVec, a novel way to automatically represent raw data such as SMILES strings and protein sequences into continuous, information-rich and lower-dimensional vectors, so as to avoid the sparseness and bit collisions from the cumbersomely manually extracted features. Visualization of SPVec nicely illustrated that the similar compounds or proteins occupy similar vector space, which indicated that SPVec not only encodes compound substructures or protein sequences efficiently, but also implicitly reveals some important biophysical and biochemical patterns. Compared with manually-designed features like MACCS fingerprints and amino acid composition (AAC), SPVec showed better performance with several state-of-art machine learning classifiers such as Gradient Boosting Decision Tree, Random Forest and Deep Neural Network on BindingDB. The performance and robustness of SPVec were also confirmed on independent test sets obtained from DrugBank database. Also, based on the whole DrugBank dataset, we predicted the possibilities of all unlabeled DTIs, where two of the top five predicted novel DTIs were supported by external evidences. These results indicated that SPVec can provide an effective and efficient way to discover reliable DTIs, which would be beneficial for drug reprofiling.
量子自然语言处理中的密度矩阵方法
尽管向量是计算编码单词含义最常用的结构，但它们无法表示对潜在含义的不确定性。模糊词可以通过其各种可能含义的概率分布来最好地描述。将它们放在上下文中应该可以消除其含义的歧义。同样，词汇蕴涵关系也可以使用概率分布来表征。然后，将层次顺序中较高位置的单词建模为其所包含单词含义的概率分布。DisCoCat 模型受到量子理论数学结构的启发，提出密度矩阵作为能够捕捉这种结构的词嵌入。在量子力学中，它们描述的是状态仅以不确定性已知的系统。初步实验已经证明了它们能够捕捉单词相似性、单词歧义性和词汇蕴涵结构。Word2Vec 模型的改编版 Word2DM 可以学习这种密度矩阵词嵌入。为了确保学习到的矩阵具有密度矩阵的属性，该模型学习中间矩阵并从中导出密度矩阵。这种策略导致参数更新不是最优的。本论文提出了一种用于学习密度矩阵词嵌入的混合量子-经典算法来解决这个问题。利用密度矩阵自然描述量子系统的事实，不需要中间矩阵，理论上可以规避经典 Word2DM 模型的缺点。变分量子电路的参数经过优化，使得量子比特的状态与单词的含义相对应。然后提取状态的密度矩阵描述并将其用作词嵌入。为词汇表中每个单词学习一组与其密度矩阵嵌入相对应的单独参数。在本论文中，已经在量子模拟器上执行了第一次实现。所利用的目标函数减少了同时出现的单词之间的距离，并增加了不同时出现的单词之间的距离。因此，可以通过评估学习到的词向量的相似性来衡量训练的成功程度。该模型是在词汇量较小的文本语料库上进行训练的。学习到的词向量显示了文本中单词之间的预期相似性。我们还将讨论在真实量子硬件上的实现问题，例如提取完整的状态表示和计算该模型的梯度。
语言获取为未来的核心
在迅速发展的人工智能领域（AI）中的摘要，自然语言处理中大型语言模型（LLM）的前所未有的进步（NLP）提供了一个机会，可以重新审视形式和内容的机器智能传统指标的整个方法。由于机器认知评估的领域已经达到了模仿，因此下一步是有效的语言获取和理解。我们的论文提出了从既定的图灵测试转变为借助语言获取的全构图框架的范式转变，并从LLMS最近的进步中汲取了灵感。目前的贡献是对各个学科的出色工作的深刻贡献，指出需要保持跨学科的桥梁开放，并描述一种更健壮和可持续的方法。引言过去十年在人工智能的发展中见证了一个显着的加速，尤其是在自然语言处理领域。开创性的体系结构，例如Word2Vec（Mikolov等人2013）已经突破了我们以前认为可行的界限，诞生了可以用语言与人类无缝互动的先进的AI系统（Sejnowski，2023）。这些系统，包括从语音激活的虚拟助手到高度精确的翻译工具的应用程序，代表LLM的功率的收敛以及数据驱动和动态的系统理论的当前数字时代的景观（Brunton等人。2022）。2023）和未来职业（Tolan等人2021）。2012）。他们发掘和预测人类交流中错综复杂的模式的能力已经看到了我们与机器的互动的范式转移，因此必须将评估成为我们生活中必不可少的一部分（Sohail等人。自1950年艾伦·图灵（Alan Turing）于1950年成立以来，图灵测试一直是机器智能发展的标准（Turing，1950年）。然而，2014年勒布纳奖的公告声称该奖首次超过了图灵测试，这引发了有关该测试适当性的辩论（Shieber，2016年）。它引发了关于该测试是否确实评估机器智能还是仅仅是其模拟人类样子的能力的争议（Hoffmann，2022）。辩论的症结在于一个问题：机器是否能够理解人类语言，还是它的熟练程度仅反映了其模仿人类反应的程序能力？随着AI进步的当前轨迹，将这种对话从模仿转变为理解的时候已经成熟了（Cambria＆White，2014年）。本文的目的是根据当前的21世纪需求，为一般讨论提供了更新的多方面贡献，并解决了非常具体的范式转变。The AI roadmap requires an adequate assessment system of Efficient Language Acquisition and Understanding Capabilities in Intelligent Machines (Agüera y Arcas, 2022), because such instrument will allow to systematically retrieve evidence to better answer the next questions on the landscape (Adams et al.文章的其余结构如下：我们从该主题中的许多学术工作中揭示了一项选择，这是当前工作的基础，然后继续进行 - 毫无障碍但非常相关的提及最近的研究，该研究涉及从非凡的不同角度和范围中进行“新的图灵测试”的需求。在下一部分中说明了框架，定义了测试设计要求，并提出了构建良好指标的过程。列出了其他未来挑战，最后在讨论中，我们以综合和建筑设想得出结论。为了消除所使用的术语的操作含义，提供了词汇表和补充材料。
国际杂志 - 多学科研究
摘要：由于冠状病毒已经出现，因此，合法临床资源的无法访问达到顶峰，例如缺乏专家和医护人员，缺乏适当的设备和药品等。整个医疗兄弟会处于困境中，这导致了许多个人的灭亡。由于无法获得，个人开始独立服用药物而无需进行适当的咨询，这使健康状况比平时更糟。最近，机器学习在众多应用中都很有价值，并且自动化创新工作有所增加。本文打算提出一种可以大大减少专家堆的药物推荐系统。在这项研究中，我们构建了一个医学建议系统，该系统使用患者评论来使用弓，TF-IDF，Word2VEC和手动功能分析等各种矢量化过程来预测情绪，该过程可以通过不同的分类算法帮助推荐给定疾病的顶级药物。通过精确度，召回，F1SCORE，准确性和AUC分数评估预测的观点。结果表明，使用TF-IDF矢量化的分类器线性化优于所有其他模型，其精度为93％。关键字：情感分析，机器学习，药物评论，建议系统，自然语言处理I.介绍电晕病毒病例的数量成倍增长，各国面临医生的短缺，尤其是在与城市地区相比少的专家数量的农村地区。医生大约需要6到12年才能获得必要的资格。因此，可以在短时间内迅速扩大医生的数量。在这个困难时期，远程医疗框架应该尽可能地充满活力。临床失误如今非常常规。由于处方错误，中国超过20万人在美国每年受到影响。超过40％的药物，专家在开处方时会犯错误，因为专家构成了其知识所引用的解决方案，这是非常限制的。选择高级药物对于需要了解有关微观生物，抗菌药物和患者的广泛信息的患者很重要。每天都有一项新的研究随附更多的药物，测试，每天都有临床人员使用。相应地，事实证明，医生要根据过去的临床病史选择哪种治疗或药物给患者的治疗或药物逐渐挑战。这项研究工作分为五个部分：引言领域，提供了有关这项研究需求的简短见解，相关的工作部分对先前研究的研究领域进行了简洁的见解，方法论部分包括本研究中采用的方法，结果段评估了使用各种衡量标准的应用模型的局限性，该部分的限制了框架的限制，并结束了框架和最后一部分。目标情感分析：确定药物评论的情感（正，阴性，中性）。用户界面：开发一个直观界面供用户输入药物评论并收到建议。建议系统：根据用户偏好和审查观点提供个性化的药物建议。数据收集来源：从在线药物审查平台，医疗保健论坛或公共数据集中收集数据，例如Kaggle的药物评论数据集。属性：包括药物名称，经过治疗的状况，审查文本，评级和审查日期。
机器学习方法的类型
机器学习在研究和行业中正在迅速发展，新方法不断出现。这种速度甚至使专家要对新移民保持艰巨和艰巨。为了使机器学习神秘，本文将探讨十种关键方法，包括解释，可视化和示例，以提供对核心概念的基本理解。我曾经依靠多变量的线性回归来预测特定建筑物中的能源使用（以kWh），通过结合建筑年龄，故事数量，平方英尺和插入电器等因素。由于我有多个输入，因此我采用了多变量方法，而不是简单的一对一线性回归。该概念保持不变，但根据变量数量将其应用于多维空间。下图说明了该模型与建筑物中实际能耗匹配的程度。想象一下可以访问建筑物的特征（年龄，平方英尺等），但缺乏有关其能源使用的信息。在这种情况下，我可以利用拟合线来估计该特定建筑物的能源消耗。另外，线性回归使您能够衡量每个促成最终能量预测因素的重要性。例如，一旦建立了一个公式，就可以确定哪些因素（年龄，大小或身高）对能耗的影响最大。分类是一个基本的概念，然后再继续采用更复杂的技术，例如决策树，随机森林，支持向量机和神经网。1。2。随着机器学习的进展（ML），您将遇到非线性分类器，从而实现更复杂的模式识别。聚类方法属于无监督的ML类别，重点是将具有相似特征的观测值分组而无需使用输出信息进行培训。而不是预定义的输出，聚集算法根据数据相似性定义了自己的输出。一种流行的聚类方法是K-均值，其中“ K”代表用户为群集创建的数字。该过程工作如下：数据中的随机选择“ K”中心；将每个点分配到其最接近的中心；重新计算新的集群中心；并迭代直至达到收敛或最大迭代限制。例如，在建筑物的数据集中，应用K = 2的K均值，可以根据空调效率等因素将建筑物分为高效（绿色）和低效率（红色）组。聚类具有自己的一系列有用算法，例如DBSCAN和平均移位群集。降低性降低是另一种基本技术，用于管理具有许多与分析不相关的列或功能的数据集。主组件分析（PCA）是一种广泛使用的维度缩减方法，它通过找到最大化数据线性变化的新向量来降低特征空间，从而使其成为将大型数据集减少到可管理大小的有效工具。在具有较强线性相关性的数据集上应用维度降低技术时，可以通过选择适当的方法来最大程度地减少信息丢失。例如，T-Stochastic邻居嵌入（T-SNE）是一种流行的非线性方法，可用于数据可视化以及在机器学习任务中的特征空间降低和聚类。手写数字的MNIST数据库是分析高维数据的主要示例。此数据集包含数千个图像，每个图像都标记为0到9。使用T-SNE将这些复杂数据点投影到两个维度上，研究人员可以在原始784维空间中可视化复杂的模式。类似于通过选择最佳组件并将它们组装在一起以获得最佳性能，类似于构建自定义自行车，Ensemble方法结合了多个预测模型，以实现比单个模型本身所能实现的更高质量预测。诸如随机森林算法之类的技术（汇总在不同数据子集训练的决策树上）就是组合模型如何平衡差异和偏见的示例。在Kaggle比赛中表现最好的人经常利用集合方法，其中包括随机森林，Xgboost和LightGBM在内的流行算法。与线性模型（例如回归和逻辑回归）相比，神经网络旨在通过添加参数层来捕获非线性模式。这种灵活性允许在更复杂的神经网络体系结构中构建更简单的模型，例如线性和逻辑回归。深度学习，其特征是具有多个隐藏层的神经网络，包括广泛的架构，使得与其连续演变保持同步是一项挑战。深度学习在研究和行业社区中变得越来越普遍，每天引起新的方法论。为了实现最佳性能，深度学习技术需要大量数据和计算能力，因为它们的自我调整性质和大型体系结构。使用GPU对于从业者来说是必不可少的，因为它使该方法的许多参数能够在巨大的体系结构中进行优化。深度学习已在视觉，文本，音频和视频等各个领域中取得了非凡的成功。TensorFlow和Pytorch是该领域最常见的软件包之一。考虑一位从事零售工作的数据科学家，其任务是将衣服的图像分类为牛仔裤，货物，休闲或衣服裤。可以使用转移学习对训练衬衫进行分类的初始模型。这涉及重复一部分预训练的神经网络，并为新任务进行微调。转移学习的主要好处是，训练神经网络所需的数据较少，鉴于所需的大量计算资源以及获取足够标记的数据的困难，这一点尤为重要。在行动中的强化学习：最大化奖励和推动AI边界RL可以在设定的环境中最大化累积奖励，从而使其非常适合具有有限数据的复杂问题。在我们的示例中，一只鼠标会导航迷宫，从反复试验中学习并获得奶酪奖励。rl在游戏中具有完美的信息，例如国际象棋和GO，反馈快速有效。但是，必须确认RL的局限性。像Dota 2这样的游戏对传统的机器学习方法具有挑战性，但RL表现出了成功。OpenAI五支球队在2019年击败了世界冠军E-Sport球队，同时还开发了可以重新定位的机器人手。世界上绝大多数数据都是人类语言，计算机很难完全理解。NLP技术通过过滤错误并创建数值表示来准备用于机器学习的文本。一种常用方法是术语频率矩阵（TFM），其中每个单词频率均可在文档中计算和比较。此方法已被广泛使用，NLTK是用于处理文本的流行软件包。尽管取得了这些进步，但在将RL与自然语言理解相结合，确保AI可以真正理解人类文本并解锁其巨大潜力时仍将取得重大进展。TF-IDF通常优于机器学习任务的其他技术。TFM和TFIDF是仅考虑单词频率和权重的数值文本文档表示。单词嵌入，通过捕获文档中的单词上下文，将此步骤进一步。这可以用单词进行算术操作，从而使我们可以表示单词相似性。Word2Vec是一种基于神经网络的方法，它将大型语料库中的单词映射到数值向量。这些向量可用于各种任务，例如查找同义词或表示文本文档。单词嵌入还通过计算其向量表示之间的余弦相似性来启用单词之间的相似性计算。例如，如果我们有“国王”的向量，我们可以通过使用其他单词向量进行算术操作来计算“女人”的向量：vector（'queen''）= vector（'king''） + vector（'king'） + vector（'woman''） - vector（'男人'）。我们使用机器学习方法来计算这些嵌入，这些方法通常是应用更复杂的机器学习算法的预步骤。要预测Twitter用户是否会根据其推文和其他用户的购买历史来购买房屋，我们可以将Word2Vec与Logistic回归相结合。可以通过FastText获得157种语言的预训练词向量，使我们可以跳过自己的培训。本文涵盖了十种基本的机器学习方法，为进一步研究更高级算法提供了一个可靠的起点。但是，还有很多值得覆盖的地方，包括质量指标，交叉验证和避免模型过度拟合。此博客中的所有可视化均使用Watson Studio Desktop创建。机器学习是一个AI分支，算法在其中识别数据中的模式，在没有明确编程的情况下进行预测。这些算法是通过试验，错误和反馈进行了优化的，类似于人类的学习过程。机器学习及其算法可以分为四种主要类型：监督学习，无监督学习，半监督学习和增强学习。这是每种类型及其应用程序的细分。**监督学习**：此方法涉及使用人类指导的标记数据集的培训机器。无监督学习的两种主要类型是群集和降低性。它需要大量的人类干预才能在分类，回归或预测等任务中实现准确的预测。标记的数据分为特征（输入）和标签（输出），教机教学机构要识别哪些元素以及如何从原始数据中识别它们。监督学习的示例包括：***分类**：用于分类数据，算法，诸如K-Neartem邻居，天真的贝叶斯分类器，支持向量机，决策树，随机森林模型排序和隐藏数据。***回归**：经常用于预测趋势，线性回归，逻辑回归，山脊回归和LASSO回归等算法，以确定结果与自变量之间的关系，以做出准确的预测。**无监督的学习**：在这种方法中，机器在没有人类指导的情况下处理原始的，未标记的数据，减少工作量。无监督的学习算法在大型数据集中发现隐藏的模式或异常，这些模式可能未被人类发现，使其适用于聚类和降低任务。通过分析数据并分组相似的信息，无监督的学习可以在数据点之间建立关系。无监督学习的示例包括自动化客户细分，计算机视觉和违规检测。基于相似性的聚类算法组原始数据，为数据提供结构。这通常用于营销以获取见解或检测欺诈。一些流行的聚类算法包括层次结构和K-均值聚类。此迭代过程随着时间的推移增强了模型的准确性。维度降低在保留重要属性的同时减少数据集中的功能数量，使其可用于减少处理时间，存储空间，复杂性和过度拟合。特征选择和特征提取是使用两种主要方法，其中包括PCA，NMF，LDA和GDA在内的流行算法。半监督学习通过将少量标记的数据与较大的原始数据结合在一起，在受监督和无监督学习之间取得了平衡。与无监督学习相比，这种方法在识别模式和做出预测方面具有优势。半监督学习通常依赖于针对两种数据类型培训的修改后的无监督和监督算法。半监督学习的示例包括欺诈检测，语音识别和文本文档分类。半监督学习：通过伪标记和传播自训练算法增强模型的准确性：这种方法利用了称为伪标记的现有的，有监督的分类器模型来微调数据集中的较小的标记数据集。伪标记器然后在未标记的部分上生成预测，然后将其添加回数据集中，并具有准确的标签。标签传播算法：在标签传播中，未标记的观测值通过图神经网络中的动态分配机制接收其分配的标签。数据集通常以一个已经包含标签的子集开始，并标识数据点之间的连接以传播这些标签。概率：IB（增加爆发）-30％此方法可以快速识别社区，发现异常行为或加速营销活动。强化学习：强化学习使嵌入在AI驱动软件计划中的智能代理能力独立响应其环境，并做出旨在实现预期结果的决策。这些药物是通过反复试验的自我训练，获得了理想的行为和对不良行为的惩罚，最终通过积极的加强来达到最佳水平。强化学习算法的示例包括Q学习和深度强化学习，这些学习通常依赖大量的数据和高级计算功能。基于神经网络和深度学习模型领域内的基于变压器的体系结构，Chatgpt利用机器学习能力来掌握和制作模仿人类之间的对话互动。