摘要 使用人工智能 (AI) 来提高写作水平在文字处理软件和云端写作助手(如 Grammarly 和 Microsoft Word)中很常见。然而,越来越多的选择正在涌现,它们不仅限于语法、拼写和标点符号方面的帮助,还可用于完成论文生成。人工智能论文生成器的免费使用导致人们哀叹大学写作即将消亡。但人工智能在前面提到的例子中已经使用了几十年,却没有引起这样的反应。事实上,认为使用论文生成软件等同于学术不诚实的想法已经过时了,就像担心允许学生使用计算器或黑板一样。这两种工具的出现都为学生提供了一种不同于死记硬背的学习方式。
摘要 — 大型语言模型的最新进展引发了人们对人工智能 (AI) 看法的重新审视。这些模型在各种复杂任务中表现出类似人类的行为,导致人们声称它们具有意识或拥有自我。然而,由于缺乏可用的测量方法和工具,验证这种说法一直具有挑战性。在本文中,我们使用已建立的评估人类个性的方法对大型语言模型的个性进行了评估。个性被定义为个人对世界的看法、行为和基于这些观点的行动。我们认为,当前的大型语言模型已经从训练数据和过程中形成了自己的观点和意见,并在决策过程中使用这些观点和意见。为了检验我们的假设,我们对几个大型语言模型进行了各种性格测试,包括 ChatGPT、GPT3 和 LLAMA。我们的分析揭示了这些人工智能系统个性的迷人见解,这对我们如何训练和概念化人工智能具有重要意义。重要的是,我们发现每个大型语言模型的个性不仅在内部一致,而且在不同模型之间也一致。我们进一步发现,LLama 在神经质方面的得分往往高于其他模型,而 ChatGPT/GPT3 在尽责性和亲和性方面的得分往往更高。虽然所有模型都表现出严重的人格障碍,但它们都患有社交焦虑症。这些发现对人工智能的开发和使用具有重要意义,我们建议在这一领域进一步研究,以加深我们对这些系统的理解。索引术语 — 人工智能、大型语言模型、个性、自然语言处理
• OpenAI 运行 GPT3 上的 ChatGPT 每天花费 70 万美元。GPT4 可能更高。(建立盈利模式以对抗亏本定价的风险)• OpenAI Foundry 的专用实例成本高昂,数据隐私方法不明确,并且没有任何调整/实施。• 出于隐私考虑,意大利完全禁止 ChatGPT,在国家层面进行限制,随后解除了禁令 • 通过员工查询泄露三星源代码 - 代码将成为训练数据,未来可能通过基于提示的攻击被其他用户访问 • 摩根大通、Verizon 和其他公司禁止员工使用 ChatGPT(标准信息安全响应,很难防止“默默采用”)
当机器人对对话伙伴做出反应、理解他们的问题并做出回应时,有几种类型的软件在工作。第一种软件负责识别人脸并用目光追随他们。第二种软件让哥白尼能够理解人类的语言,识别人们所说的语言,并将听到的单词转换成文本。另一个程序使它能够解释文本并提供答案——这被称为对话式人工智能模型 (GPT3)。一个单独的人工智能负责机器人的声音和语调,努力使它们听起来尽可能自然。最后一个程序是人类行为模块,它使哥白尼能够移动——做出模仿呼吸的动作,轻轻地移动它的头、手和嘴。所有这些程序的同步使得机器人尼古拉斯·哥白尼与真人惊人地相似。
许多技术预测者预测,至少要到 2045 年,业界才能生产出可以与人脑相媲美的人工智能 (AI) 技术,以人脑突触数量或 AI 参数来衡量。请注意,我们这里不是在谈论终结者式的 AI,或“通用 AI”。我们谈论的是可以处理单个但复杂任务的 AI,例如自然语言处理。人类大脑皮层平均有大约 800 亿到 1000 亿个神经元和 120 万亿个突触。为了论证的目的,我们假设 AI 模型中的参数大致等于突触。有史以来训练的最大的 AI 是来自 OpenAI.org 的 GPT3 自然语言模型,有 1750 亿个参数,大约是大脑大小的 1/1000。因此,120 万亿是巨大的,大约是当今最先进技术的 1000 倍。
大型语言模型(LLM)的最新进展已改变了自然语言处理(NLP)的领域。从GPT-3到Palm,每个新的大型语言模型都在推动自然语言任务的最先进的表现。与自然语言能力一起,人们对理解这种模型的使用是否具有推理基准表现出推理能力。但是,即使结果似乎是积极的,这些基准也被证明是简单化的,而LLMS在这些基准测试中的性能不能用作支持的证据,很多时候很奇怪,对LLMS的推理能力提出了主张。此外,这些仅代表了非常有限的简单推理任务集,如果我们要衡量基于LLM的系统的真实限制,我们需要研究更复杂的推理问题。以此为动机,我们提出了一个可扩展的评估框架,以测试LLM在行动和变化推理的能力,这是人类智能的主要方面。我们提供的多个测试案例比任何先前建立的基准都更重要,并且每个测试用例都评估了有关动作和变化的推理的不同方面。在GPT-3(Davinci),指令-GPT3(Text-Davinci-002)和Bloom(176b)上的结果,在此类推理任务上显示了Subpar的表现。
控制语言模型生成的文本并定制内容一直是一个长期存在的挑战。现有的为提供控制而提出的提示技术都是针对特定任务的,缺乏通用性;这为非专家用户提供了太多选择,无法找到适合其任务的方法。与这些技术相关的工作(例如编写示例、解释、说明等)进一步限制了非专家用户的采用。在本文中,我们提出了一种简单的提示策略 H ELP ME T HINK,我们鼓励大型语言模型(如 GPT3 和 ChatGPT)通过提出一系列相关问题并利用用户答案来执行任务来帮助非专家用户。我们在各种任务上证明了我们的技术 H ELP ME T HINK 的有效性。具体来说,我们专注于那些对普通人来说很难、需要大量思考才能完成的任务。我们希望我们的工作能够鼓励开发非常规方法来利用大型语言模型的强大功能。
计算机技术的进步催生了一个有趣的论点:可以研究和理解人类大脑是如何按照数字计算机的原理运作的。这一说法后来成为一个更有实质内容的论点:心灵是一台计算机,因为心灵是在大脑中实现的。大型语言模型 (LLM) 的最新成功,例如 Bard(由谷歌制作)、GPT3、ChatGPT(也称为 GPT3.5,由 OpenAI-Microsoft 制作)和 LLaMA(由 Meta 制作),引起了人们对人类与机器智能的讨论的更多关注和关注。其结果是人们开始追求一种合理的心灵理论。功能主义被吹捧为心灵理论的基础,其中拥有心灵并不意味着拥有任何内在品质;相反,它是完成或实现特定任务或功能的能力。这种实现是通过计算程序操作表征结构来实现的。这些程序是规则或配方,称为算法,它们在数据中创建统计关系以产生推理。本文讨论了功能主义理论,展示了它如何为运行人工智能技术的算法奠定基础。通过分析大型语言模型的成功,本文展示了功能主义框架,尽管在实现通用人工智能方面仍有许多工作要做,但它却是人工智能进步的基础。
在生物医学领域中监督的命名实体识别(NER)取决于带有命名实体的大量带注释的文本。创建此类数据集可能是耗时且昂贵的,而新实体的提取需要其他注释任务并重新训练模型。本文提出了一种在生物医学领域中零和少量NER解决这些挑战的方法。该方法基于将多类令牌分类的任务转换为二进制令牌分类,并在大量数据集和生物医学实体上进行预训练,这使该模型可以学习给定和潜在的新颖命名实体标签之间的语义关系。,我们的零拍摄NER的平均F1得分为35.44%,单发NER为50.10%,10-Shot NER的平均F1得分为69.94%,在9种不同的具有基于微调PubMedbert模型的生物医学实体上,100-SHOT NER的平均F1得分为79.51%。结果证明了所提出的方法在识别没有或有限示例的新生物医学实体,优于先前的变压器方法,并且使用少于1000倍的参数的模型与基于GPT3的模型相媲美。我们公开制作模型并开发了代码。
生成技术是一种亚符号无监督的机器学习算法,由于它们令人印象深刻的能力,它们可以通过处理该信息来对其进行分类或解释,还可以生成适合给定任务的新数据,因此最近引起了很多关注。一般概念已经存在了几年,最初是由Google研究人员描述的[1]。最初是为文本机器翻译域而设计的,所谓的变压器模型遵循以源语言学习给定文本序列的上下文的想法,并将其映射到目标语言。由于模型接受了大量培训数据的培训,因此它们被称为大型语言模型或简称LLM。公司的研究人员Openai建立在最初的想法上。他们开发了生成验证的变压器(GPT)[2],最后,通过聊天界面的gpt3模型[3]发布将LLMS带入了广泛的用户社区的意识。从那时起,Evolutions导致了OpenAI的当前版本GPT-4。类似的模型用于其他数据类型,例如图像,视频和声音[4]。同时,几个应用程序将功能作为帮助将功能集成到现有工具中(例如搜索引擎,例如Microsoft Bing或照片编辑软件,例如Adobe Firefly)。该方法的更高级应用已经出现,例如视觉语言 - 动作模型(VLA模型),它们使用聚合的变压器模型来链条提示并模拟复杂机器人的推理[5]。
