llm关键词检索结果

LLMS的隐藏安全风险

The Hidden Security Risks of LLMs

以及为什么自我托管可能会更安全地赌注,而LLM的隐藏安全风险首先出现在数据科学上。

META揭幕S3:Smarter AI搜索

Meta Unveils S3: Smarter AI Search

它是什么重要的:Meta揭示S3:Smarter AI搜索,这是一个新框架,可以通过弱监督和抹布提高LLM准确性。

META揭幕S3:Smarter AI搜索

Meta Unveils S3: Smarter AI Search

它是什么重要的:Meta揭示S3:Smarter AI搜索,这是一个新框架,可以通过弱监督和抹布提高LLM准确性。

思想树提示:教LLMS慢慢思考

Tree of Thought Prompting: Teaching LLMs to Think Slowly

用增强推理的邮政思想树促使人们进行扫雷者:教LLMS慢慢地出现在数据科学方面。

为您的业务需求量身定制基础模型:布格,微调和混合方法的综合指南

Tailoring foundation models for your business needs: A comprehensive guide to RAG, fine-tuning, and hybrid approaches

Rufus依靠许多组件来提供其客户体验,包括Foundation LLM(响应生成)和查询计划者(QP)模型,以进行查询分类和检索增强。这篇文章的重点是QP模型如何使用以平行解码为中心的投机解码(SD)(SD)以及AWS AI芯片来满足Prime Day的需求。通过将平行解码与AWS Trainium和推理芯片相结合,Rufus的响应时间更快,推理成本降低了50%,并且在高峰流量期间无缝可扩展性。

rufus如何使用AWS AI芯片和平行解码

How Rufus doubled their inference speed and handled Prime Day traffic with AWS AI chips and parallel decoding

AI驱动的购物助理 Rufus依靠许多组件来提供其客户体验,包括Foundation LLM(响应生成)和查询计划者(QP)模型,以进行查询分类和检索增强。这篇文章的重点是QP模型如何使用以平行解码为中心的投机解码(SD)(SD)以及AWS AI芯片来满足Prime Day的需求。通过将平行解码与AWS Trainium和推理芯片相结合,Rufus的响应时间更快,推理成本降低了50%,并且在高峰流量期间无缝可扩展性。 在这篇文章中,我们向您展示了如何实施和评估三种强大的技术,以根据您的业务需求来量身定制FMS:抹布,微调和混合方法,结合了这两种方法。我们提供现成的代码,以帮助您尝试这些方法,

32 MCP服务器您需要立即查看

32 MCP Servers You Need To Check Out Now

探索顶级MCP服务器列表,该列表可以通过数据库,API,通信平台等工具无缝集成LLM的无缝集成,从而帮助您自动化工作流并增强AI应用程序。

改变LLM的性能:AWS的自动化评估框架如何引导

Transforming LLM Performance: How AWS’s Automated Evaluation Framework Leads the Way

大语言模型(LLMS)正在迅速改变人工智能(AI)的领域,从客户服务聊天机器人到高级内容生成工具。随着这些模型的规模和复杂性的增长,确保其产出始终是准确,公平和相关的变得更具挑战性的。为了解决此问题,AWS的自动评估框架提供了[…]转换LLM绩效的帖子:AWS的自动化评估框架如何首先出现在Unite.ai上。

请不要使用AI作为您的专家证人

Please Don’t Use AI as Your Expert Witness

我真诚地喜欢大型语言模型,用于集思广益和研究。但是我们需要真正清楚某些事情:大型语言模型无法权衡人类所做的证据或原因,因此您不应将AI响应作为一个合理的结论来加强您的论点。Large语言模型根据语言模式的频率和意见的普遍性来计算响应,而意见的普遍性 - 尤其是关于有意义的话题,与实际真理无关。如果您喂养支持特定职位的LLM文章,并要求它基于它们来制作回应,它将反映出该输入,从本质上回荡您策划的叙述。这种选择性的喂养可以创建一种回声室,在该室中,输出感觉具有权威性,但只是所提供的数据的快照,而不是更广泛的事实。毫无疑问,LLMS在研究和迅速浏览信息方面表现出色,例如综合了有关数字素养的讨论趋势或

通过加强学习的大语模型的交错推理

Interleaved Reasoning for Large Language Models via Reinforcement Learning

长期思考链(COT)显着增强了大型语言模型(LLM)的推理能力。但是,广泛的推理痕迹导致效率低下和增加时间(TTFT)的增加。我们提出了一种新颖的培训范式,该训练范式使用加固学习(RL)指导推理LLMS以交织和回答多跳的问题。我们观察到,模型本质上具有执行交织的推理的能力,可以通过RL进一步增强。我们引入了一个简单而有效的基于规则的奖励,以激励正确的中间步骤……

让学生绘画可以帮助归属和心理健康

Getting students drawing can help belonging and mental health

发展绘画和创造力的影响超出了视觉文字。 ZoëAllman和Chris Wright探索如何将其嵌入大学生活

LLM的新手?从这里开始

New to LLMs? Start Here

代理商,LLM,抹布,微调,Langchain指南,并带有实际示例,以开始构建LLM的新帖子?在这里开始,首先出现在数据科学方面。

如何评估LLM和算法 - 正确的方式

How to Evaluate LLMs and Algorithms — The Right Way

永远不要错过我们每周的新闻新闻,这是我们每周的新闻通讯,其中包括一流的编辑选择,深度潜水,社区新闻等。立即订阅!如果您看到的输出不符合期望,那么将大型语言模型和强大的算法集成到工作流程中所需的所有艰苦工作都可能浪费。 […]如何评估LLM和算法的帖子 - 正确的方法首先出现在数据科学方面。

LLM Evolution的3范围

The 3 Horizons of LLM Evolution

从本机LLM(2018)到LLM代理(2025)的转变使AI能够超越静态知识,整合检索,推理和现实世界中的相互作用,以解决自动问题解决。

披露AI使用会导致信任下降。因此,不公开它

Disclosing AI Use Leads To A Drop In Trust. So Does Not Disclosing It

芝加哥太阳时代的作家Marco Buscaglia使用了受欢迎的LLM Chatgpt创建了他们想要的订户想要的2025年“夏季阅读清单”,并对他没有检查工作充满信心。问题在于,尽管公司声称出售这些物品,但LLM并不是真正的AI。他们当然不聪明。因此,尽管列表有真正的作者,但一半的书不存在。阅读更多

Mistral的新Devstral LLM设计用于编码代理

Mistrals nya Devstral LLM är designad för kodningsagenter

Mistral AI刚刚推出了其最新的LLM Devstral是一种专门为软件开发开发的开源模型,Mistral AI和All Hands AI之间的合作是编码助手开发的重要一步。 Devstral是一种被称为“代理LLM”,它通过管理复杂的能力[…] Mistral的新Devstral LLM的能力与传统的编码模型不同,这是为编码代理而设计的,首先出现在AI新闻中。

使用AI代理进行浏览的隐藏危险

De dolda farorna med att använda AI-agenter för surfning

波兰 - 日本信息技术学院的研究人员已在LLM驱动的浏览代理商中绘制了安全风险。该研究提出了一个全面的威胁模型,并确定了几个严重的安全问题,例如迅速注入,规避域验证和数据恢复。通过对流行的开源项目浏览器的深入分析,他们证明了未受保护的Web内容如何削减代理的行为并导致严重的安全性不足。 […]帖子首先出现在AI新闻中,使用AI代理进行浏览的隐藏危险。

spd:高语言模型的有效张量并行性的同步点下降

SPD: Sync-Point Drop for Efficient Tensor Parallelism of Large Language Models

随着Largelanguage模型(LLM)规模的快速扩展,使跨多个计算单元的有效分布推理变得越来越重要。但是,来自流行的分布式促进技术(例如张量并行主义)的沟通开销构成了实现可伸缩性和低潜伏期的重大挑战。因此,我们引入了一种新颖的技术,同步点降(SPD),以通过选择性地降低注意力输出的同步性来减少张量并行性中的通信开销。详细说明,我们首先提出了一个……