图 1 ： 大模型输出内容容易存在较大风险 ........................................................................................... 5 图 2 ： 通过提示词绕过限制生成钓鱼邮件 ........................................................................................... 6 图 3 ： AI 生成图片显示五角大楼附近地区发生爆炸 ......................................................................... 6 图 4 ： 潜在的数据泄露风险可能更高（ 2023 年 2 月和 2023 年 4 月，单位：人 /10 万人） ......... 7 图 5 ： OpenAI 调整 ChatGPT 数据管理措施 ........................................................................................ 8 图 6 ： 《人工智能法案》将 AI 应用分为不同风险级别进行监管，形成风险金字塔 .................... 9 图 7 ： OpenAI 主动发布《 Governance of superintelligence 》 ........................................................... 13 图 8 ： AIGC 内容安全合规解决方案框架 .......................................................................................... 14 图 9 ： AIGC-X 测试案例 ...................................................................................................................... 14 图 10 ： AIGC 的生成瑕疵 .................................................................................................................... 15 图 11 ： AIGC 的生成瑕疵 .................................................................................................................... 15 图 12 ： 事实核查机器人的亮点 ........................................................................................................... 15 图 13 ： 事实核查机器人识别暴恐内容 ............................................................................................... 15 图 14 ： 行业基础大模型框架 ............................................................................................................... 17 图 15 ： 蚂蚁集团与清华大学联合推出的 “ 蚁鉴 AI 安全检测平台 2.0” ........................................... 17 图 16 ： 人民网产品体系及旗下网站平台 ........................................................................................... 19 图 17 ： 人民网 2020-2023Q1 营收及同比增速 .................................................................................. 19 图 18 ： 人民网 2020-2022 年营收结构（亿元） ............................................................................... 19 图 19 ： 新华网 2020-2023Q1 营收及同比增速 .................................................................................. 21 图 20 ： 新华网 2020-2022 年营收结构（亿元） ............................................................................... 21 图 21 ： 事实核查机器人识别暴恐及色情内容 ................................................................................... 21 图 22 ： 美亚柏科主营业务 ................................................................................................................... 22 图 23 ： 美亚柏科 2020-2023Q1 营收及同比增速 .............................................................................. 23 图 24 ： 美亚柏科 2022 年营收结构 ..................................................................................................... 23 图 25 ： 美亚柏科： AI-3300" 慧眼 " 视频图像鉴真工作站 .................................................................. 23 图 26 ： 博汇科技：智能视听全站解决方案 ....................................................................................... 24 图 27 ： 博汇科技 2020-2023Q1 营收及同比增速 .............................................................................. 25 图 28 ： 博汇科技 2022 年营收结构 ..................................................................................................... 25 图 29 ： 系统运行界面 ........................................................................................................................... 26 图 30 ： 系统运行界面 ........................................................................................................................... 26 图 31 ： 东方通 2020-2023Q1 营收及同比增速 .................................................................................. 27 图 32 ： 东方通 2020-2022 年营收结构 ............................................................................................... 27 图 33 ： 拓尔思 2020-2023Q1 营收及同比增速 .................................................................................. 29 图 34 ： 拓尔思 2020-2022 年营收结构 ............................................................................................... 29 图 35 ： TRS 自动校对云服务 .............................................................................................................. 30 表 1 ： 数据泄露事件引发担忧， ChatGPT 遭禁用 .............................................................................. 6 表 2 ： 欧洲国家数据监管趋严， OpenAI 调整数据管理措施积极配合政府监管 ............................. 8 表 3 ： 欧盟《人工智能法案》具有域外效力 ..................................................................................... 10 表 4 ： 美国人工智能治理的重要文件与事件 ..................................................................................... 10 表 5 ： 政策文件中与内容安全有关的表述 ......................................................................................... 11