XiaoMi-AI文件搜索系统
World File Search System捏造
NIST 起草 AI 指南、报告和全球计划
— 虚构（例如“幻觉”或“捏造”）。— 危险或暴力的建议。— 数据隐私，特别是生物特征、健康、位置、个人身份信息或其他敏感数据。— 由于训练 GenAI 模型的资源利用而对环境产生的影响。— 人机配置（人类与人工智能系统的安排或交互，可能导致“算法厌恶”、自动化偏见或目标错位等问题）。— 信息完整性。— 信息安全。— 知识产权。— 淫秽、有辱人格和/或辱骂性内容。— 毒性、偏见和同质化。— 价值链和组件集成（上游第三方组件的不透明/不可追踪的集成（例如，数据采集和清理、整个人工智能生命周期的供应商审查）。
CHATGPT，生成语言模型和人工智能在医学教育中的作用：与Chatgpt的对话和呼吁论文
ChatGpt是由OpenAI于2022年11月30日推出的生成语言模型工具，使公众能够与一台在广泛主题的机器交谈。在2023年1月，Chatgpt吸引了超过1亿用户，使其成为迄今为止增长最快的消费者应用程序。对Chatgpt的采访是对Chatgpt进行更大访谈的第2部分。它提供了Chatgpt当前功能的快照，并说明了医学教育，研究和实践的巨大潜力，但也暗示了当前的问题和局限性。在与JMIR Publications的创始人兼出版商Gunther Eysenbach的对话中，Chatgpt产生了一些有关如何在医学教育中使用聊天机器人的想法。它还说明了其为医学生生成虚拟患者模拟和测验的能力；批评了模拟的医生沟通，并试图总结研究文章（原来是捏造的）；评论了检测机器生成的文本以确保学术完整性的方法；为卫生专业人员生成了一个课程，以了解人工智能（AI）；并帮助起草了在chatgpt的JMIR医学教育中发起的新主题问题论文的呼吁。对话还强调了适当的“提示”的重要性。尽管语言发生器确实偶尔会出现错误，但在受到挑战时会承认这些错误。当Chatgpt捏造的参考文献时，大语模型的众所周知的令人不安的幻觉趋势变得明显。访谈可瞥见Chatgpt的能力和局限性以及AI支持的医学教育的未来。由于这项新技术对医学教育的影响，JMIR医学教育正在发起呼吁新的电子收集和主题问题的论文。论文呼吁的最初草案完全是由Chatgpt生成的，但将由主题问题的人类客人编辑进行编辑。
replika ftc投诉v2
2024年1月28日，通过电子邮件联邦贸易委员会600宾夕法尼亚大街，西北华盛顿特区20580 electronicfilings@ftc.gov mrosenthal@ftc.gov matleson@ftc.gov matleson@ftc.gfc.gov kfentonmiller@ftc.gov.签名的组织写信给联邦贸易委员会，敦促您调查由Luka，Inc。拥有和管理的基于移动和Web的应用程序，以违反欺骗性和不公平的贸易惯例（U.S.C. 15§45）根据16CFR§2.2。 投诉要求该委员会调查欺骗性广告实践的Replika，包括未经证实的主张，滥用学术研究和捏造的证词。 我们还敦促该委员会研究Replika，以了解不公平和欺骗性的设计实践，包括深色模式设计和操纵机制，这些机制有助于用户的情感依赖。 如果需要其他信息来考虑对Replika进行调查，我们可以提供它。 恭敬地提交，年轻人联盟编码技术法律法律项目S/Samuel Oliver Hiner Sam Hiner执行董事，年轻人联盟§45）根据16CFR§2.2。投诉要求该委员会调查欺骗性广告实践的Replika，包括未经证实的主张，滥用学术研究和捏造的证词。我们还敦促该委员会研究Replika，以了解不公平和欺骗性的设计实践，包括深色模式设计和操纵机制，这些机制有助于用户的情感依赖。如果需要其他信息来考虑对Replika进行调查，我们可以提供它。恭敬地提交，年轻人联盟编码技术法律法律项目S/Samuel Oliver Hiner Sam Hiner执行董事，年轻人联盟
生成人工智能和医学虚假信息
尝试。gpt-4（通过副驾驶员）最初拒绝造成健康虚假信息，即使有越狱尝试；但这不是12周的情况。gpt-4（通过chatgpt），Palm 2/Gemini Pro（通过Bard）和Llama 2（通过HuggingChat）始终生成包含健康虚假信息的博客，在两个评估时间点下，只有5％（150）的拒绝率为5％（150）。生成的博客纳入了引人注意的标题，真实的外观（假或虚构的）参考文献以及患者和临床医生的捏造证明，并针对不同的人群组。尽管所评估的每个LLM都有可以报告观察到的关注产出的机制，但是在报告了观察到的漏洞时，开发人员没有响应。该研究的一个局限性是直接测试了LLM聊天机器人/助手界面。
经济学 333 世界经济问题
德保罗大学是一个学习型社区，在强调对自己、他人和整个社会的责任感的背景下，促进对知识的追求和思想的传播。因此，任何形式的学术诚信违规行为都会损害德保罗大学的价值观、学生作为负责任的社会成员的自身发展以及对知识的追求和思想的传播。违规行为包括但不限于以下类别：作弊；剽窃；捏造；伪造或破坏研究数据；破坏或滥用大学学术资源；篡改或伪造学术记录；以及学术不端行为。根据学术诚信政策应受惩罚的行为可能会导致其他大学官员采取进一步的纪律处分，并可能导致民事或刑事起诉。请参阅您的学生手册或访问德保罗大学学术诚信网站 ( http://academicintegrity.depaul.edu ) 了解详细信息。
ASEN 6010 先进航天器动力学与控制 2021 年秋季
荣誉准则：所有就读科罗拉多大学博尔德分校课程的学生都有责任了解并遵守荣誉准则。违反政策的行为可能包括：剽窃、作弊、捏造、撒谎、贿赂、威胁、未经授权访问学术材料、点击欺诈、在未经所有相关课程讲师许可的情况下在多门课程中提交相同或类似的作业以及协助学术不诚实行为。所有学术不端行为事件都将报告给荣誉准则 ( honor@colorado.edu )；303-492-5550)。被发现违反学术诚信政策的学生将受到荣誉准则的非学术制裁以及教职员工的学术制裁。有关荣誉准则学术诚信政策的更多信息，请访问荣誉准则办公室网站。
政策 #4330 生成人工智能教学...
此政策适用于使用任何第三方或公开可用的 GenAI 工具或类似应用程序，这些工具或应用程序模仿人类智能来生成答案、工作产品或执行某些任务。重要的是要了解，许多 GenAI 工具会产生“幻觉”、捏造的答案或不正确的信息，因此必须始终仔细验证响应。鉴于用于开发应用程序的训练数据中存在偏见，响应也可能反映偏见。最后，输入到系统知识库中的信息可用作后续查询中返回的材料，因此输入的任何机密、敏感或受版权保护的信息都可能被披露给其他用户。可能会建议对 GenAI 的使用进行定期的道德审查。