For artificial intelligence to be mission-critical, it must hallucinate less
[赞助] 通过大型语言模型的新验证过程对人工智能进行事实核查，可以将幻觉从 5-10% 降低到 0.1%。
Stop The ‘Green Hallucinationists’ Plan to Close All 200 Coal Power Plants.
无论采取何种立场，富裕的发达国家正在通过补贴风能和太阳能来迅速减少对燃煤电厂的依赖，而中国和其他发展中国家则在相反的方向上走得更快，大幅增加对煤炭的依赖，而煤炭资源丰富且经济适用。
Stanford misinformation expert admits to ChatGPT ‘hallucinations’ in court statement
两门替代性的入门 STEM 课程，PHYSICS 41E 和 CHEM 11，为学生的成功奠定了基础。斯坦福大学入门课程扩大了 STEM 的访问权限一文首先出现在《斯坦福日报》上。
这篇文章演示了如何使用 Amazon Bedrock Agents、Amazon Knowledge Bases 和 RAGAS 评估指标来构建自定义幻觉检测器并使用人机交互对其进行修复。代理工作流可以通过不同的幻觉补救技术扩展到自定义用例，并提供使用自定义操作检测和缓解幻觉的灵活性。
现有的人工智能可能有知觉吗？如果没有，那还缺少什么？当今的大型语言模型 (LLM) 已经非常擅长生成听起来深思熟虑且聪明的类似人类的响应。许多人都认为 LLM 已经达到了艾伦·图灵著名测试的门槛，该测试的目标是在对话中表现得与人无异。这些 LLM 能够生成听起来深思熟虑且聪明的文本，并且可以令人信服地模仿情绪的表现。智能的幻觉尽管它们能够令人信服地模仿人类的对话，但当前的 LLM 不具备思考或情感的能力。它们产生的每个单词都是基于从大量文本数据中学习到的统计模式的预测。随着每个单词一次生成，此预测过程会重复发生。与人类不同，LLM 无法记忆或自我反思。它们只是按顺序输出下一个单词。预测下一个单
Central bank independence — a convenient illusion
来自 Lars Syll 今天的授权模式有很多值得推荐的地方。但它不应该被委婉地掩盖。这是出于务实原因而废除民主主权，一方面受到根深蒂固的、不利于选举政治的假设的制约，另一方面受到对私人权力的无条件接受的制约。
Disney Research Offers Improved AI-Based Image Compression – But It May Hallucinate Details
迪士尼的研究部门正在提供一种新的图像压缩方法，利用开源稳定扩散 V1.2 模型以比竞争方法更低的比特率生成更逼真的图像。新方法（尽管与 JPEG 和 AV1 等传统编解码器相比，其复杂性有所增加，但仍被定义为“编解码器”）可以在任何 […] 上操作。文章迪士尼研究提供改进的基于 AI 的图像压缩——但它可能会产生幻觉细节首先出现在 Unite.AI 上。
This 19th-Century 'Toy Book' Used Science to Prove That Ghosts Were Simply an Illusion
“Spectropia”揭开了声称可以与死者对话的灵媒所使用的技术的神秘面纱，揭示了“唯灵论的荒谬愚蠢”
От стартапа до банкрота: Perplexity AI на грани из-за галлюцинаций ИИ
通过忽视人工智能的道德规范，该公司正在冒着生存的风险。
The Nobel Illusion: Why the Nobel Prize in Economics Needs to be Abolished
每年，诺贝尔奖都会颁发给不同的学科，包括经济学。每年都会掀起一波狂热和炒作。但与文学和自然科学不同，经济学是唯一获得诺贝尔奖的社会科学。即使是该学科内部的批评声音也会被诺贝尔的炒作所左右。尽管 […]
Avoiding Hallucinations: Using Confidence Scores to Trust Your LLM
在本综合指南中，了解导致 LLM 产生幻觉的原因、测量这些幻觉的方法以及克服幻觉的有效策略。
PrimerAI introduces ‘near-zero hallucination’ update to AI platform
一家人工智能公司表示，它已经找到了一种方法，让其平台在评估数据时几乎不会出错。
The 8 Types of Illusions Explained – ICEFLAGS
这篇文章可能会挽救您的生命。今天，我们将深入探讨您作为飞行员可能会遇到的八种幻觉，缩写为 ICEFLAGS。文章《8 种幻觉解释 – ICEFLAGS》首先出现在 Pilot Institute 上。
Azure AI научилась обнаруживать галлюцинации генеративного ИИ
新的 Azure AI 内容安全平台功能不仅有助于识别聊天机器人响应中未经证实的声明，还可以纠正它们。
Lloyd Kaufman, Who Saw Answers Behind the ‘Moon Illusion,’ Dies at 97
他推动了千年之谜的研究：为什么月亮在地平线上看起来比在夜空中更大。
Using AI in lesson planning? Beware hallucinations
人工智能将不正确或误导性的回答当作事实的可能性仍然是这些工具的一个不幸的副作用。
Benchmarking Hallucination Detection Methods in RAG
评估增强 LLM 生成响应可靠性的方法。未经检查的幻觉仍然是当今检索增强生成应用中的一个大问题。本研究评估了 4 个公共 RAG 数据集中流行的幻觉检测器。使用 AUROC 和精确度/召回率，我们报告了 G-eval、Ragas 和可信语言模型等方法自动标记不正确的 LLM 响应的能力。使用各种幻觉检测方法识别 RAG 系统中的 LLM 错误。我目前在 Cleanlab 担任机器学习工程师，我为本文讨论的可信语言模型的开发做出了贡献。我很高兴介绍这种方法并在以下基准测试中与其他方法一起对其进行评估。问题：RAG 系统中的幻觉和错误众所周知，当被问到训练数据中没有很好支持的问题时，大型语言模型
