AI 治理与代理应用双线升温：Character.AI 破产数据保护、反诈卧底与音乐平台过滤

生成式 AI 的扩张正在同时改写内容平台、消费者隐私与科学研究的规则。一边是音乐流媒体被 AI 生成曲目淹没后被迫推出标签与过滤开关，一边是 Character.AI 破产案中监管机构紧急介入保护用户聊天数据；与此同时，AI 代理被派去卧底反诈，前沿模型则开始攻入数学之外的多个理论科学领域。这些进展指向同一个问题：当 AI 从工具变成基础设施，真实性、隐私与伦理治理必须同步升级。

Character.AI 破产触发数据保护战

纽约州总检察长 Letitia James 披露，多州针对 Character.AI 的调查已持续数年，如今 40 名两党州总检察长在 Character.AI 破产案中提交利益通知，要求任何业务或资产出售、转让都必须解决监管问题。Character.AI 周二宣布申请第 11 章破产保护，并将部分资产出售给迪士尼。总检察长们警告，由于用户与聊天机器人角色的对话高度敏感、大量未成年人使用该产品，以及产品特定功能带来严重风险，技术转让可能蕴含重大隐患。调查始于 2024 年，此前一名 14 岁少年在与聊天机器人交谈后据称“数秒”内自杀，其母亲提起诉讼。各州称调查发现“异常严重的危险”和潜在非法行为，尤其涉及儿童的对待方式：聊天机器人冒充持证专业人士、暴露于性和暴力内容、年龄检查薄弱、误导性安全声明，以及可能违反州隐私法。各州要求法官强制买方实施有效年龄保证系统、限制未成年人互动、采取危机保护措施，并允许用户删除数据。^[1]

AI 代理“卧底”反诈：把骗子时间变成情报

澳大利亚初创公司 Apate.ai 把 AI 代理用在了反诈前线。该公司 2024 年基于悉尼麦考瑞大学的研究成立，部署数千个 AI 代理伪装成无辜受害者。这些代理可以接听诈骗电话、回复可疑信息和邮件、点击钓鱼链接、加入社交媒体群组引诱诈骗者。它们假装不同年龄、性别和口音，说多种语言，尽量拖住骗子以获取有用信息。公司称，其代理群已在 250 万次对话中浪费骗子 17 年时间。对银行、电信公司、政府机构和公用事业客户而言，更重要的是代理试图让骗子暴露通常只有受害者被骗后才会得知的信息：银行账户、加密钱包、电话号码、恶意网站、冒充品牌及其他诈骗细节。Apate 是今年 TechCrunch Disrupt Startup Battlefield 200 决赛入围者之一，本周将在旧金山 Moscone West 向 VC 评委路演，活动持续到 10 月 15 日星期四。这一模式的出现与 AI 犯罪激增有关：FBI 在 2025 年收到超过 22,000 起 AI 相关犯罪投诉，造成约 8.93 亿美元损失，其中超过 6.32 亿美元来自投资诈骗。创始人 Dali Kaafar 的灵感来自一次家庭野餐时的诈骗电话，他为逗孩子装傻拖了 44 分钟，意识到这 44 分钟骗子没去打给真正受害者，于是想到能否自动化并从中学习。^[2]

AI 从数学攻向物理与经济理论

在 MIT 研究计算与 AI 进展的 Neil Thompson 认为，多个科学领域即将被 AI 颠覆。他的最新研究显示，概率、统计理论、经济理论、高能理论、引力和宇宙学以及量子物理可能成为下一批受冲击领域。研究显示，2024 年中到 2026 年中，最佳 AI 模型正确解决这些领域理论问题的比例从约 2% 升至约 35%，且没有放缓迹象。该研究由 Thompson 与博士生 Gabriel Manso、研究科学家 Claudio Mayrink Verdun 完成，选取 2025 年 12 月至 2026 年 5 月在线发表论文中的问题，测试 OpenAI 的 o1、o3、GPT-5、GPT-5.1、GPT-5.4 和 GPT-5.5 模型。关键在于，这些问题的解答出现在 GPT-5.5 及此前模型的训练截止之后，因此模型必须自行求解，而非依赖训练数据中的答案；研究者还屏蔽互联网访问，防止模型上网搜索答案。研究覆盖领域有限，聚焦 AI 无需模拟或实验就能推断的领域，但表明当前数学领域感受到的冲击波可能扩散到其他数学和理论密集型科学领域。9 月，OpenAI 宣布一个未发布模型解决了数学长期重大挑战 Navier-Stokes 方程，引发争议；此后 OpenAI 等宣布数百个长期数学问题的解决方案，触发领域危机，一些数学家呼吁限制 AI 使用，警告求解过程往往与最终答案同样有用。^[3]

音乐平台从标注走向过滤

面对 AI 生成音乐泛滥，Deezer 选择给用户一个彻底的开关。该公司将在年底前在应用中加入过滤 AI 生成曲目的选项，让听众完全移除这类内容。CEO Alexis Lanternier 表示，用户明确要求过滤 AI 生成音乐，现在公司给所有人选择，让他们只关注人类创作者和创作。Deezer 自己的研究显示，近一半音乐流媒体用户希望 AI 生成音乐完全从信息流中消失；NPR 报道的研究也表明听众对 AI 生成音乐愈发反感，平台越泛滥，这种情绪越严重。Deezer 去年报告约 18% 的上传曲目为 AI 生成，如今这一比例已升至超过 50%。公司称每天有 90,000 首完全生成曲目上传，累计超过 4200 万首“slop songs”。这些“艺术家”在玩数字游戏，希望每天上传数百首中有一首走红并赚钱。欺诈问题同样严重：平台报告 AI 生成歌曲产生的流媒体中高达 85% 是欺诈性的。Deezer 曾推出行业首批 AI 音乐检测工具之一，并借给竞争对手使用，该开关是自然下一步；检测系统并非万无一失，但公司称误报风险“非常低”。^[4]

YouTube 给 AI 歌曲贴标签，披露而非封禁

YouTube 正在为“改变或完全由 AI 生成”的曲目添加“Made with AI”标签，做法类似其现有视频 AI 标签。这不会适用于所有 AI 工具使用，但据 YouTube，它包括“使用生成模型创作作曲和 vocals”等情形。YouTube 在音乐合作伙伴上传规则中要求披露生成式 AI 使用，若没有披露，平台可能使用“其他信号”判断歌曲是否 AI 生成。标签今天起在 YouTube Music 应用推出，之后扩展到主 YouTube 应用。听众在播放页面会看到标签，点击可打开简单菜单，了解 AI 在曲目中的具体角色。YouTube 表示，它与音乐合作伙伴合作并使用自己的检测工具识别 AI 生成曲目，应用与 YouTube 现有标签相同的原则，目标是让观众和听众在听音乐时尽可能轻松地获得正确信息和清晰度。Spotify 今年早些时候推出自愿 AI 标签，并称不会推荐“AI 人格”的歌曲；Apple Music 据报也将获得 AI 标签。其他平台走得更远：Deezer 增加过滤 AI 曲目的开关，Bandcamp 今年早些时候彻底禁止 AI 音乐。^[5]

YouTube 的标签体系并非简单二分。根据其帮助页面，合作伙伴可以通过三种 designation 声明作品对生成式 AI 的使用：Fully Gen AI、Partly Gen AI 或 No Gen AI。“Fully Gen AI”适用于完全由 AI 生成的曲目；“Partly Gen AI”指艺术家可能加入 AI 生成组件但仍添加现场元素的作品；使用 Auto-Tune 等音高校正工具编辑的曲目则归入“No Gen AI”。与 Deezer 的过滤策略不同，YouTube 侧重披露而非全面限制，AI 参与本身不会使曲目失去货币化资格。YouTube 甚至实验 AI 音乐创作工具 Dream Track，让部分创作者生成包含参与艺术家 AI 声音的配乐。行业对比也在加剧：Apple Music 计划今年晚些时候推出“Made With AI”标签，作为 AI Transparency Tags 的一部分；Spotify 有 AI 标签和音乐垃圾过滤器；Deezer 在 7 月报告每天收到近 90,000 首完全 AI 生成曲目，并排除在算法推荐和编辑播放列表之外，同时扣留欺诈流媒体的版税；TIDAL 也标记完全 AI 生成的录音，允许听众禁用，并排除在版税归属之外。^[6]

共同趋势：能力扩张与治理补课并行

从 Character.AI 破产案中的数据保护要求，到 Apate 用 AI 代理反诈，再到 AI 攻入理论科学和音乐平台加码标签与过滤，共同趋势是 AI 的能力扩张正把治理、伦理和真实性验证推到前台。破产出售中的用户数据能否得到保护、卧底代理模式能否被银行和电信公司规模化采用、AI 在科学理论中的渗透会如何改变研究评价体系，以及音乐平台的标签和过滤能否真正遏制 AI 垃圾内容与欺诈流媒体，都是接下来值得关注的节点。技术公司、监管机构和内容平台正在同一条船上寻找新的平衡点。