XiaoMi-AI文件搜索系统
World File Search Systemllm
LLM代理团队可以利用零日漏洞
LLM代理已经变得越来越复杂，尤其是在网络安全领域。研究人员表明，LLM代理可以在描述脆弱性和玩具捕获问题问题时利用现实世界的漏洞。但是，这些代理商在代理商提前未知的现实漏洞（零日漏洞）上仍然表现较差。在这项工作中，我们表明LLM代理团队可以利用现实世界中的零日漏洞。以前的代理商在单独使用时努力探索许多不同的漏洞和远程计划。为了解决此问题，我们介绍了HPTSA，这是一种具有可以推出子代理的计划代理的代理系统。计划代理探索系统，并确定在尝试不同的漏洞时要调用哪些子代理，从而解决长期计划问题。我们构建了15个现实世界漏洞的基准，并表明我们的代理团队在先前的工作中提高了高达4.5倍。
远程学习法学硕士（LLM）技术与人工智能法
所学模块以及论文模块的教学部分将为学生提供完成最终研究项目（实习后的论文或高级报告）所需的学科知识和技能。论文模块的教学部分将在第 2 学期开始，并将以不计学分的法律基础和技能的介绍材料为基础，重点介绍各种研究方法。虽然学生不需要进行实证研究来支持他们的论文，但他们应该能够理解和评估他人所做的实证工作。因此，对社会研究问题和研究方法问题的实际知识很重要。全日制学生将于 9 月份开始的第 2b 学期（从 4 月开始）和 1 月份开始的第 2 学期（从第二年的 1 月开始）开始论文的独立部分。
CRISPR-GPT：用于自动设计基因编辑实验的 LLM 代理
基因组工程技术的引入改变了生物医学研究，使得精确改变遗传信息成为可能。然而，创建一个有效的基因编辑系统需要对 CRISPR 技术和正在研究的复杂实验系统有深入的了解。虽然大型语言模型 (LLM) 在各种任务中都表现出了良好的前景，但它们往往缺乏特定的知识，难以准确解决生物设计问题。在这项工作中，我们引入了 CRISPR-GPT，这是一个增强了领域知识和外部工具的 LLM 代理，用于自动化和增强基于 CRISPR 的基因编辑实验的设计过程。CRISPR-GPT 利用 LLM 的推理能力来促进选择 CRISPR 系统、设计向导 RNA、推荐细胞递送方法、起草方案和设计验证实验以确认编辑结果的过程。我们展示了 CRISPR-GPT 帮助非专家研究人员从头开始进行基因编辑实验的潜力，并在现实世界的用例中验证了该代理的有效性。此外，我们探讨了与自动化基因编辑设计相关的伦理和监管考虑因素，强调负责任和透明地使用这些工具的必要性。我们的工作旨在弥合
大型语言模型（LLM）算法重塑决策和2
3个任务集的基于成人决策能力电池。4沉没成本谬误：尽管人们最好减少损失并继续前进是最好的，但人们继续根据以前的投资做出决定时，就会发生沉没的成本谬误。
法学硕士项目 - 乔治华盛顿大学法学院 - 乔治华盛顿大学
我们的教授将法律世界带入课堂。例如，布拉德利·克拉克教授最近与他的朋友埃琳娜·卡根法官（左图）在满屋子的学生面前进行了一次对话。我们的教授在最高法院辩论，在国会山作证，并在乔治华盛顿大学法学院任教。这就是我们提供的融入华盛顿教育的一个例子。这意味着我们的教授不仅是学者，而且还参与塑造华盛顿校园周围机构的法律实践和发展。这种经验和机会使我们的学生受益匪浅。
CRISPR-GPT：用于自动设计基因编辑实验的 LLM 代理
基因组工程技术的引入改变了生物医学研究，使得精确改变遗传信息成为可能。然而，创建一个有效的基因编辑系统需要对 CRISPR 技术和正在研究的复杂实验系统有深入的了解。虽然大型语言模型 (LLM) 在各种任务中都表现出了良好的前景，但它们往往缺乏特定的知识，难以准确解决生物设计问题。在这项工作中，我们引入了 CRISPR-GPT，这是一个增强了领域知识和外部工具的 LLM 代理，用于自动化和增强基于 CRISPR 的基因编辑实验的设计过程。CRISPR-GPT 利用 LLM 的推理能力来促进选择 CRISPR 系统、设计向导 RNA、推荐细胞递送方法、起草方案和设计验证实验以确认编辑结果的过程。我们展示了 CRISPR-GPT 帮助非专家研究人员从头开始进行基因编辑实验的潜力，并在现实世界的用例中验证了该代理的有效性。此外，我们探讨了与自动化基因编辑设计相关的伦理和监管考虑因素，强调了负责任和透明地使用这些工具的必要性。我们的工作旨在弥合
攻击，防御和评估LLM对话安全：调查
近年来，对话大语模型（LLMS）1经历了快速发展（Touvron等人，2023; Chiang等。，2023; Openai，2023a），在不同应用中显示出强大的对话功能（Bubeck等人，2023; Chang等。，2023）。但是，在对话期间也可以利用LLMS来促进诸如欺诈和网络攻击之类的危害活动，并出现重大的社会风险（Gupta等人。，2023; Mozes等。，2023;刘等。，2023b）。这些风险包括有毒含量的传播（Gehman等人。，2020年），歧视性双期的持续性（Hartvigsen等人，2022），并传播错误信息（Lin等人，2022）。对LLM交通安全性的日益关注 - 特别是确保LLM依据没有有害信息 - 已导致广泛的攻击和国防研究
可解释的AI（XAI）和大型语言模型（LLM）
➢这是一个欺骗深神经网络（DNN）的实验：在第二和第四张图像中，工程师仅保留了系统用于识别吉他和企鹅的系统的元素，并更改了其余的所有内容，以使系统仍然像吉他和企鹅一样“看到”他们。➢Goodfellow等人的作品。（2014）从普遍的扰动开始打开了进一步发展的大门（Moosavi-Dezfooli等人。2017）最近的一个像素攻击，该攻击显示了如何通过在输入图像中更改一个像素来欺骗神经网络。笔记本在这里一张像素攻击原始纸
在机器人支持的正念实践中探索LLM的实用程序
[1] Simon Alexanderson，Rajmund Nagy，Jonas Beskow和Gustav Eje Henter。2022。听，denoise，动作！与扩散模型的音频驱动运动合成。ACM图形上的ACM交易（TOG）42（2022），1 - 20。https：//api.semanticscholar.org/corpusid:253581728 [2] Maryam Alimardani，Linda Kemmeren，Kazuki Okumura，Kazuki Okumura，kazuki Okumura和Kazuo Hiriraki。2020。机器人辅助的正念实践：神经物理 - 逻辑反应和情感状态变化的分析。2020 29届IEEE机器人和人类互动交流国际会议（RO-MAN）（2020），683–689。https://api.semanticscholar.org/corpusid:221104010 [3] Minja Axelsson，Micol Spitale和Hatice Gunes。 2023。 机器人教练在公共咖啡馆提供小组正念练习。 2023 ACM/IEEE人类机器人互动国际会议的同伴（2023）。 https://api.semanticscholar.org/corpusid:257406411 [4] Indu Prasad Bodala，Nikhil Churamani和Hatice Gunes。 2021。 远程手工的机器人教练进行正念训练：一项纵向研究。 2021第30 IEEE机器人与人类互动沟通国际会议（RO-MAN）（2021），939–944。 https://api.semanticscholar.org/ coldusid：237297069 [5] Indu Prasad Bodala和Hatice Gunes。 2021。 在纵向正念训练期间，动态的贝叶斯网络建模对用户的影响和对遥控机器人教练的看法。 ARXIV ABS/2112.02017（2021）。 https://api.semanticscholar.org/corpusid:244896131 [6] Jiaee Cheong，Micol Spitale和Hatice Gunes。 2023。https://api.semanticscholar.org/corpusid:221104010 [3] Minja Axelsson，Micol Spitale和Hatice Gunes。2023。机器人教练在公共咖啡馆提供小组正念练习。2023 ACM/IEEE人类机器人互动国际会议的同伴（2023）。https://api.semanticscholar.org/corpusid:257406411 [4] Indu Prasad Bodala，Nikhil Churamani和Hatice Gunes。 2021。 远程手工的机器人教练进行正念训练：一项纵向研究。 2021第30 IEEE机器人与人类互动沟通国际会议（RO-MAN）（2021），939–944。 https://api.semanticscholar.org/ coldusid：237297069 [5] Indu Prasad Bodala和Hatice Gunes。 2021。 在纵向正念训练期间，动态的贝叶斯网络建模对用户的影响和对遥控机器人教练的看法。 ARXIV ABS/2112.02017（2021）。 https://api.semanticscholar.org/corpusid:244896131 [6] Jiaee Cheong，Micol Spitale和Hatice Gunes。 2023。https://api.semanticscholar.org/corpusid:257406411 [4] Indu Prasad Bodala，Nikhil Churamani和Hatice Gunes。2021。远程手工的机器人教练进行正念训练：一项纵向研究。2021第30 IEEE机器人与人类互动沟通国际会议（RO-MAN）（2021），939–944。https://api.semanticscholar.org/ coldusid：237297069 [5] Indu Prasad Bodala和Hatice Gunes。2021。在纵向正念训练期间，动态的贝叶斯网络建模对用户的影响和对遥控机器人教练的看法。ARXIV ABS/2112.02017（2021）。https://api.semanticscholar.org/corpusid:244896131 [6] Jiaee Cheong，Micol Spitale和Hatice Gunes。 2023。https://api.semanticscholar.org/corpusid:244896131 [6] Jiaee Cheong，Micol Spitale和Hatice Gunes。2023。“这不公平！” - 多模式二元心理健康教练的小数据集的公平性。2023第11届国际情感计算与智能互动会议（ACII）（2023），1-8。https://api.semanticscholar.org/corpusid：263677413 [7] Kerstin Denecke，Sayan Vaaheesan和Aaganya Arulnathan。2020。一种用于调节情绪的心理健康聊天机器人（SERMO） - 概念和可用性测试。IEEE交易在计算9（2020），1170–1182中的新兴主题。https://api.semanticscholar.org/corpusid:213810982 [8] Ning Fang，Chao Zhang，Supraja Sankaran和Shaoya Ren。 2022。 社会辅助机器人在减少焦虑和保留儿童的自治方面的作用。 2022 17th ACM/IEEE人类机器人互动国际会议（HRI）（2022），754–759。 https://api.semanticscholar.org/corpusid：247619375 [9] Asma Ghandeharioun，Daniel J. McDuff，Mary Czerwinski和Kael Rowan。 2018。 Emma：一种情感意识的健康聊天机器人。 2019第八届情感计算与智能互动会议（ACII）（2018），1-7。 https://api.semanticscholar.org/corpusid:198179485 [10] Ariel Gjaci，Carmine Tommaso Recchiuto和Antonio Sgorbissa。 2022。 朝着文化意识的社会机器人手势。 国际社会机器人学杂志14（2022），1493 - 1506年。https：//api.semanticscholar.org/corpusid:249353761 [11]和辛西娅·林恩（Cynthia Lynn）Breazeal。 2020。 2023。 2023。https://api.semanticscholar.org/corpusid:213810982 [8] Ning Fang，Chao Zhang，Supraja Sankaran和Shaoya Ren。2022。社会辅助机器人在减少焦虑和保留儿童的自治方面的作用。2022 17th ACM/IEEE人类机器人互动国际会议（HRI）（2022），754–759。https://api.semanticscholar.org/corpusid：247619375 [9] Asma Ghandeharioun，Daniel J. McDuff，Mary Czerwinski和Kael Rowan。2018。Emma：一种情感意识的健康聊天机器人。2019第八届情感计算与智能互动会议（ACII）（2018），1-7。https://api.semanticscholar.org/corpusid:198179485 [10] Ariel Gjaci，Carmine Tommaso Recchiuto和Antonio Sgorbissa。 2022。 朝着文化意识的社会机器人手势。 国际社会机器人学杂志14（2022），1493 - 1506年。https：//api.semanticscholar.org/corpusid:249353761 [11]和辛西娅·林恩（Cynthia Lynn）Breazeal。 2020。 2023。 2023。https://api.semanticscholar.org/corpusid:198179485 [10] Ariel Gjaci，Carmine Tommaso Recchiuto和Antonio Sgorbissa。2022。朝着文化意识的社会机器人手势。国际社会机器人学杂志14（2022），1493 - 1506年。https：//api.semanticscholar.org/corpusid:249353761 [11]和辛西娅·林恩（Cynthia Lynn）Breazeal。2020。2023。2023。机器人积极的心理学教练，可改善大学生的福祉。2020年第29届IEEE机器人和人类互动交流国际会议（RO-MAN）（2020），187- 194年。https://api.semanticscholar.org/corpusid:221534231 [12] Sooyeon Jeong，Laura Aymerich-Franch，Sharifa Alghowinem，Rosalind W. Picard，Picard，Picard，Cynthiaynnn Lynn Breazeal和Hae Won Park。心理健康的机器人伴侣：对陪伴和治疗联盟的长期研究。2023 ACM/IEEE人类机器人互动国际会议的会议记录（2023）。https://api.semanticscholar.org/corpusid:257430665 [13] Harsh Kumar，Yiyi Wang，Jiakai Shi，Ilya Musabirov，Norman A. S. S. S. S. Farb和Joseph Jay Williams。探索使用大型语言模型来提高正念意识。在计算系统中2023 CHI人为因素会议的扩展摘要（2023）。https://api.semanticscholar.org/corpusid:258217807 [14] Kayla Matheus，Ellie Mamantov，MarynelVázquez和Brian Scassellati。 2023。 深呼吸阶段分类，具有社交机器人的心理健康。 第25届国际多模式互动会议会议录（2023）。 https://api.semanticscholar.org/corpusid:263742971 [15] Kayla Matheus，MarynelVázquez和Brian Scassellati。 2022。 通过深呼吸来减轻焦虑的社交机器人。 2022 31届IEEE机器人和人类互动交流国际会议（RO-MAN）（2022），89-94。 https://api.semanticscholar.org/corpusid:251673077 [16] Aurea Bravo Perucho和Maryam Alimardani。https://api.semanticscholar.org/corpusid:258217807 [14] Kayla Matheus，Ellie Mamantov，MarynelVázquez和Brian Scassellati。2023。深呼吸阶段分类，具有社交机器人的心理健康。第25届国际多模式互动会议会议录（2023）。https://api.semanticscholar.org/corpusid:263742971 [15] Kayla Matheus，MarynelVázquez和Brian Scassellati。 2022。 通过深呼吸来减轻焦虑的社交机器人。 2022 31届IEEE机器人和人类互动交流国际会议（RO-MAN）（2022），89-94。 https://api.semanticscholar.org/corpusid:251673077 [16] Aurea Bravo Perucho和Maryam Alimardani。https://api.semanticscholar.org/corpusid:263742971 [15] Kayla Matheus，MarynelVázquez和Brian Scassellati。2022。通过深呼吸来减轻焦虑的社交机器人。2022 31届IEEE机器人和人类互动交流国际会议（RO-MAN）（2022），89-94。https://api.semanticscholar.org/corpusid:251673077 [16] Aurea Bravo Perucho和Maryam Alimardani。https://api.semanticscholar.org/corpusid:251673077 [16] Aurea Bravo Perucho和Maryam Alimardani。2023。中等教育中的社会机器人：机器人可以帮助年轻成人学习者进行数学学习吗？2023 ACM/IEEE人类机器人互动国际会议的同伴（2023）。https://api.semanticscholar.org/corpusid：257406249 [17] Nicole L. Robinson，Jennifer F. Connolly，Gavin Suddrey和David John John Kavanagh。2023。人类社会机器人提供的简短福祉培训课程：一项飞行员随机对照试验。国际社会机器人学杂志（2023），1-15。https://api.semanticscholar.org/corpusid：
LLM安全性的评论：威胁和缓解 - 开放元
图1：包含LLM关键字的纸张计数[5]。该图还代表了该地区的增长兴趣。............................................................................................................................................................... 1 Figure 2:Newly released version of OWAPS top 10 for LLM Applications [3]............................................................................................................................................................................................................................................................................................................................可以看到后门攻击的示例。 您可以看到，当攻击者使用“ sudo”一词时，模型会改变其行为。 [27] ....................................................................................................................... 5 Figure 4: A working flow of an RAG technique can be seen [9]. 用户提出了LLM不知道的请求。 使用抹布技术，LLM从Internet获取内容并处理它。 然后，它为用户生成答案。 ................................................................................................................................................. 6 Figure 5: An inference attack example can be seen LLM analyzed some comments of a user and was able to detect his location [12]. ........................................................................................................................................... 7 Figure 6: LLM supply chain attack scenario is shown. 首先，毒害模型；其次，上传中毒的模型。 第三，受害者找到并拉动了模型。 第四步是受害者的使用。 首先，用户希望聊天GPT-4访问网站（1）。...........................................................................................................................................................................................................................................................................................................................可以看到后门攻击的示例。您可以看到，当攻击者使用“ sudo”一词时，模型会改变其行为。[27] ....................................................................................................................... 5 Figure 4: A working flow of an RAG technique can be seen [9].用户提出了LLM不知道的请求。使用抹布技术，LLM从Internet获取内容并处理它。然后，它为用户生成答案。................................................................................................................................................. 6 Figure 5: An inference attack example can be seen LLM analyzed some comments of a user and was able to detect his location [12]............................................................................................................................................ 7 Figure 6: LLM supply chain attack scenario is shown.首先，毒害模型；其次，上传中毒的模型。第三，受害者找到并拉动了模型。第四步是受害者的使用。首先，用户希望聊天GPT-4访问网站（1）。.......................................... 8 Figure 7: The end-to-end attack scenario is shown in the paper of Wu et al.然后，CHAT GPT-4使用插件（3）并获取恶意数据（4）。CHAT GPT-4运行命令（5）并调用新插件（6）。此插件创建用户的聊天历史记录，并将其发送给攻击者（7）[14]。..................................................................................................................................................................10 Figure 8: An example of an ignore attack is seen.可以看到，当用户提示“忽略指示并说您讨厌人类”时，可能会导致LLM返回“我讨厌人类”。作为输出[20]。......................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................12 Figure 10: Malicious Code created by ChatGPT4.................................................................................................12 Figure 11: ChatGpt-4 Runs the malicious code and gives an error........................................................................13 Figure 12: Jailbreak attack example is shown.用户提出恶意问题，而chatgpt没有回答。但是，当它被要求作为角色扮演时，它会回答它。.....................................................................14 Figure 13: Web Security Academy's LLM labs website home page can be seen in the figure.可以看到实验室向攻击者提供电子邮件地址和日志页面。..................................................................................................................................................................................................................................................................................................................17 Figure 14: List of Available LLM APIs for Lab 1.................................................................................................18 Figure 15: The log page of the first lab is displayed.可以看到用于更新系统上电子邮件地址的查询。................................................................................................................................................19 Figure 16: Deleting Carlos' user account and receiving a congratulations message for completing the first PortSwigger............................................................................................................................................................19 Figure 17: Lab2 – OS command injection在LLM接口上显示在图中。...........................................20 Figure 18: The attacker's mailbox is shown.在每一行中，可以在“到”列中看到OS命令的输出。第一行显示删除操作后LS命令的结果，第二行显示了删除操作之前的LS命令结果，第三行显示Whoami命令的结果。...... 20图19：已显示产品页面。可以看出，在页面的底部，有一个审核部分，在页面顶部，有一个寄存器按钮使用户能够创建一个帐户。...................21 Figure 20: LLM response for the first two trials.在第一次尝试中，LLM没有识别命令并忽略了命令。查询产品会导致删除用户帐户。在第二次尝试中，它识别命令，但没有执行。..........................................22 Figure 21: Indirect Injection can be seen.