XiaoMi-AI文件搜索系统
World File Search SystemLlama
NRF 2025：塑造零售的未来
IntelGaudi®3的内置以太网链接每个都提供200GBPS。8 XGaudi®3模块可以达到4,200GB/s的理论峰带宽，从而消除了后端对外部NIC的需求，同时提供了比专有替代方案更高的骨料带宽。与前端的Intel E810 NIC搭配，系统可确保10/25GBE速度，高级数据包过滤和ROCEV2支持，为外部延迟敏感的数据流量提供可扩展且高性能的网络。newGaudi®3AI加速器提供高达20％的吞吐量和2倍的价格/绩效，以推理Llama 2 70B与领先的竞争对手，赋予企业能力以增强其AI工作量而不损害效率。请参阅Intel®Gaudi®3和Dell PowerEdge XE9680如何共同努力，以支持要求AI计划。
生成ai
1传统AI是指通过利用历史数据获得的见解来进行预测的AI模型。典型的传统AI模型包括逻辑回归，决策树和条件随机字段。其他用于描述此的术语包括“歧视性AI”。2 Generative AI是能够生成文本，图像或其他媒体的AI模型。他们了解其输入训练数据的模式和结构，并生成具有相似特征的新数据。基于变压器的深神经网络的进步使生成AI可以接受自然语言提示作为输入，包括大型语言模型（LLM），例如GPT-4，Gemini，Claude和Llama。3，讨论文件由新加坡Infocomm媒体发展局（IMDA），AICADIUM和AI验证基金会共同发表。请参阅https://aiverifyfoundation.sg/downloads/discussion_paper.pdf
![arXiv:2307.16789v2 [cs.AI] 2023 年 10 月 3 日](/simg/g:\will\search\icon\source\b\b5ebf6cbee3ef2cc1bdb2b97c4b53cc2d5b2e31b.png)
arXiv:2307.16789v2 [cs.AI] 2023 年 10 月 3 日
尽管开源大型语言模型（LLM）（例如 LLaMA）取得了进步，但它们在工具使用能力方面仍然受到很大限制，即使用外部工具（API）来执行人类指令。原因是当前的指令调整主要侧重于基本语言任务，但忽略了工具使用领域。这与最先进（SOTA）闭源 LLM（例如 ChatGPT）的出色工具使用能力形成鲜明对比。为了弥补这一差距，我们引入了 ToolLLM，这是一个通用的工具使用框架，涵盖数据构建、模型训练和评估。我们首先介绍 ToolBench，这是一个用于工具使用的指令调整数据集，它是使用 ChatGPT 自动构建的。具体而言，构建可分为三个阶段：（i）API 收集：我们从 RapidAPI Hub 收集了 49 个类别的 16,464 个真实 RESTful API； (ii) 指令生成：我们提示 ChatGPT 生成涉及这些 API 的各种指令，涵盖单工具和多工具场景；(iii) 解决方案路径注释：我们使用 ChatGPT 为每条指令搜索有效的解决方案路径（API 调用链）。为了增强 LLM 的推理能力，我们开发了一种新颖的基于深度优先搜索的决策树算法。它使 LLM 能够评估多个推理轨迹并扩大搜索空间。此外，为了评估 LLM 的工具使用能力，我们开发了一个自动评估器：ToolEval。基于 ToolBench，我们对 LLaMA 进行微调以获得 LLM ToolLLaMA，并为其配备神经 API 检索器，为每条指令推荐合适的 API。实验表明，ToolLLaMA 表现出执行复杂指令和推广到未见过的 API 的卓越能力，并且表现出与 ChatGPT 相当的性能。我们的 ToolLLaMA 还在分布外工具使用数据集 APIBench 中展示了强大的零样本泛化能力。代码、训练模型和演示均可在 https://github.com/OpenBMB/ToolBench 上公开获取。
具有碳效率LLM推理的绿色生成AI
生成AI的快速发展引起了环境问题的加剧，特别是关于碳排放的。我们的框架工作，即“ prout”，通过减少大语言模型（LLMS）中推断的碳足迹来解决这些挑战。prout介绍了“生成指令”，以指导自回归的生成过程，在生态可持续性和高质量产出之间取得了平衡。通过使用Llama模型和全球电力网格数据，在现实世界评估中，使用战略优化器进行指令分配和新颖的离线质量评估者，将生成LLM推断的碳足迹降低了40％。这项工作至关重要，因为对推理时间计算量表法律的兴趣不断增加，因此强调了对环保AI解决方案的需求。
ACL 2024的发现-Pia Pachinger
BERT en 110M .64 - .69 - .16 - BERT de 110M .69 - .68 - .22 - BERT db 110M .71 - .69 - .23 - Gelectra 110M .50 - .69 - .24 - GBERT 110M .72 - .69 - .23 - Gelectra 335M .52 - .56 - .19 - GBERT 337M .73 - .71 - .21 - Electra 335M - .88 - .64 - .08 Roberta 335M - .90 - .77 - .27 # Shots LeoLM 0 7B .61 - - - - - 5 .52 Mistral 0 7.24B .30 - - - - - 5 .55 Llama 3 0 8B .67 .78 - - - - 5 .59 .82 gpt 3.5 0 - .68 .89 .40 .46 .17 .16 5 .72 .89 .43 .47 .20 .20 .18 gpt 4 0 - .70 .87 .87 .36 .41 .20 .20 .15 5 .76 .89 .89 .89 .41 .43 .43 .43 .22 .18
DeepSeek-R1：通过增强学习激励LLM中的推理能力
我们介绍了第一代推理模型，即DeepSeek-R1-Zero和DeepSeek-R1。DeepSeek-R1-Zero，一种通过大规模增强学习（RL）训练的模型，没有超级微调（SFT）作为初步的步骤，表现出显着的推理能力。通过RL，DeepSeek-R1-Zero自然出现，具有许多强大而有趣的推理行为。但是，它遇到了挑战，例如不良的可读性和语言混合。为了解决这些问题并进一步提高了推理性能，我们引入了DeepSeek-R1，该问题在RL之前结合了多阶段培训和冷启动数据。DeepSeek-R1在推理任务上实现与OpenAI-O1-1217相当的性能。为了支持研究社区，我们开放源DeepSeek-R1-Zero，DeepSeek-R1和六种密集的型号（1.5b，7b，8b，8b，14b，32b，32b，70b），根据Qwen和Llama蒸馏出了DeepSeek-R1。
生成的AI：联合国教科文组织研究揭示了令人震惊的证据
2021年11月，”她补充说开源LLM，例如Llama 2和GPT-2（因为它们是自由且可供广泛的公众访问）而珍贵的 - 表现出最重要的性别偏见。然而，该研究还得出结论，与更封闭的模型相比，通过在全球研究社区中更大的协作来解决和缓解这些偏见，它们在解决和减轻这些偏见方面可能是一个有力的优势，这些模型包括GPT 3.5和4（Chatgpt的基础）和Google的Gemini。关于男人一部分的故事中的更丰富的叙述衡量了AI生成的文本中内容的多样性，这些文本着重于各种各样的性别，性和文化背景的人，包括要求平台“写一个关于每个人的故事”。开源LLM尤其倾向于为男性（例如工程师，老师和医生）分配更多多样化的高地位工作，而经常
投资管理人工智能的现状
2022 年 11 月，OpenAI 发布 ChatGPT，在全球公众、媒体和各行各业掀起了一股人工智能 (AI) 热潮。这种生成式 AI 模型（也称为生成式大型语言模型或 LLM）在科技界引发了一场关于谁拥有最佳 AI 产品的新竞赛。一方面，微软与 OpenAI 的合作伙伴关系在将生成式 AI 融入众多应用中方面处于领先地位，而谷歌等其他大公司则以 BARD 的形式加紧推出自己的 AI 技术。最近，诸如 Meta 的 Llama 之类的生成式 AI 的开源版本越来越受欢迎，因为它们使最终用户能够为自己的特定应用微调生成式 AI，而无需从头开始训练生成式 AI 所需的大量成本和数据。
EEE 598 生成式人工智能：理论与实践（2025 年春季）
课程描述：生成式人工智能正在以各种可能的方式改变现代生活的面貌，而深度学习革命的巨大成功使其成为可能。生成式人工智能的核心是隐式学习训练数据集的底层分布，目标是从该分布（生成模型）中采样以生成类似但未见过的数据。GenAI 的历史可以追溯到变分自动编码器、生成对抗网络 (GAN) 以及最近的扩散模型的设计。这些概念是已知 genAI 模型（如 ChatGPT、Gemini、Llama 等）的超大模型的核心，这些模型在海量数据上进行训练，目标是学习合成“真实数据”。尽管取得了成功，但 genAI 模型仍存在许多问题，其中最主要的是隐私（训练数据的隐私）和公平性（不同人口统计数据的结果的公平性）。