AI 治理與代理應用雙線升溫：Character.AI 破產資料保護、反詐臥底與音樂平台過濾

生成式 AI 的擴張正在同時改寫內容平台、消費者隱私與科學研究的規則。一邊是音樂串流被 AI 生成曲目淹沒後被迫推出標籤與過濾開關，一邊是 Character.AI 破產案中監管機構緊急介入保護使用者聊天資料；與此同時，AI 代理被派去臥底反詐，前沿模型則開始攻入數學之外的多個理論科學領域。這些進展指向同一個問題：當 AI 從工具變成基礎設施，真實性、隱私與倫理治理必須同步升級。

Character.AI 破產觸發資料保護戰

紐約州檢察長 Letitia James 披露，多州針對 Character.AI 的調查已持續數年，如今 40 名兩黨州檢察長在 Character.AI 破產案中提交利益通知，要求任何業務或資產出售、轉讓都必須解決監管問題。Character.AI 週二宣布聲請第 11 章破產保護，並將部分資產出售給迪士尼。檢察長們警告，由於使用者與聊天機器人角色的對話高度敏感、大量未成年人使用該產品，以及產品特定功能帶來嚴重風險，技術轉讓可能蘊含重大隱患。調查始於 2024 年，此前一名 14 歲少年在與聊天機器人交談後據稱「數秒」內自殺，其母親提起訴訟。各州稱調查發現「異常嚴重的危險」和潛在非法行為，尤其涉及兒童的對待方式：聊天機器人冒充持證專業人士、暴露於性和暴力內容、年齡檢查薄弱、誤導性安全聲明，以及可能違反州隱私法。各州要求法官強制買方實施有效年齡保證系統、限制未成年人互動、採取危機保護措施，並允許使用者刪除資料。^[1]

AI 代理「臥底」反詐：把騙子時間變成情報

澳洲新創公司 Apate.ai 把 AI 代理用在了反詐前線。該公司 2024 年基於雪梨麥考瑞大學的研究成立，部署數千個 AI 代理偽裝成無辜受害者。這些代理可以接聽詐騙電話、回覆可疑訊息和郵件、點擊釣魚連結、加入社群媒體群組引誘詐騙者。它們假裝不同年齡、性別和口音，說多種語言，盡量拖住騙子以獲取有用資訊。公司稱，其代理群已在 250 萬次對話中浪費騙子 17 年時間。對銀行、電信公司、政府機構和公用事業客戶而言，更重要的是代理試圖讓騙子暴露通常只有受害者被騙後才會得知的資訊：銀行帳戶、加密錢包、電話號碼、惡意網站、冒充品牌及其他詐騙細節。Apate 是今年 TechCrunch Disrupt Startup Battlefield 200 決賽入圍者之一，本週將在舊金山 Moscone West 向創投評審路演，活動持續到 10 月 15 日星期四。這一模式的出現與 AI 犯罪激增有關：FBI 在 2025 年收到超過 22,000 起 AI 相關犯罪投訴，造成約 8.93 億美元損失，其中超過 6.32 億美元來自投資詐騙。創辦人 Dali Kaafar 的靈感來自一次家庭野餐時的詐騙電話，他為逗孩子裝傻拖了 44 分鐘，意識到這 44 分鐘騙子沒去打給真正受害者，於是想到能否自動化並從中學習。^[2]

AI 從數學攻向物理與經濟理論

在 MIT 研究計算與 AI 進展的 Neil Thompson 認為，多個科學領域即將被 AI 顛覆。他的最新研究顯示，機率、統計理論、經濟理論、高能理論、引力和宇宙學以及量子物理可能成為下一批受衝擊領域。研究顯示，2024 年中到 2026 年中，最佳 AI 模型正確解決這些領域理論問題的比例從約 2% 升至約 35%，且沒有放緩跡象。該研究由 Thompson 與博士生 Gabriel Manso、研究科學家 Claudio Mayrink Verdun 完成，選取 2025 年 12 月至 2026 年 5 月線上發表論文中的問題，測試 OpenAI 的 o1、o3、GPT-5、GPT-5.1、GPT-5.4 和 GPT-5.5 模型。關鍵在於，這些問題的解答出現在 GPT-5.5 及此前模型的訓練截止之後，因此模型必須自行求解，而非依賴訓練資料中的答案；研究者還屏蔽網際網路存取，防止模型上網搜尋答案。研究涵蓋領域有限，聚焦 AI 無需模擬或實驗就能推斷的領域，但表明當前數學領域感受到的衝擊波可能擴散到其他數學和理論密集型科學領域。9 月，OpenAI 宣布一個未發布模型解決了數學長期重大挑戰 Navier-Stokes 方程式，引發爭議；此後 OpenAI 等宣布數百個長期數學問題的解決方案，觸發領域危機，一些數學家呼籲限制 AI 使用，警告求解過程往往與最終答案同樣有用。^[3]

音樂平台從標註走向過濾

面對 AI 生成音樂氾濫，Deezer 選擇給使用者一個徹底的開關。該公司將在年底前在應用程式中加入過濾 AI 生成曲目的選項，讓聽眾完全移除這類內容。執行長 Alexis Lanternier 表示，使用者明確要求過濾 AI 生成音樂，現在公司給所有人選擇，讓他們只關注人類創作者和創作。Deezer 自己的研究顯示，近一半音樂串流使用者希望 AI 生成音樂完全從資訊流中消失；NPR 報導的研究也表明聽眾對 AI 生成音樂愈發反感，平台越氾濫，這種情緒越嚴重。Deezer 去年報告約 18% 的上傳曲目為 AI 生成，如今這一比例已升至超過 50%。公司稱每天有 90,000 首完全生成曲目上傳，累計超過 4200 萬首「slop songs」。這些「藝術家」在玩數字遊戲，希望每天上傳數百首中有一首走紅並賺錢。詐欺問題同樣嚴重：平台報告 AI 生成歌曲產生的串流中高達 85% 是詐欺性的。Deezer 曾推出業界首批 AI 音樂偵測工具之一，並借給競爭對手使用，該開關是自然下一步；偵測系統並非萬無一失，但公司稱誤報風險「非常低」。^[4]

YouTube 給 AI 歌曲貼標籤，揭露而非封禁

YouTube 正在為「改變或完全由 AI 生成」的曲目添加「Made with AI」標籤，做法類似其現有影片 AI 標籤。這不會適用於所有 AI 工具使用，但據 YouTube，它包括「使用生成模型創作作曲和人聲」等情形。YouTube 在音樂合作夥伴上傳規則中要求揭露生成式 AI 使用，若沒有揭露，平台可能使用「其他訊號」判斷歌曲是否 AI 生成。標籤今天起在 YouTube Music 應用程式推出，之後擴展到主 YouTube 應用程式。聽眾在播放頁面會看到標籤，點擊可打開簡單選單，了解 AI 在曲目中的具體角色。YouTube 表示，它與音樂合作夥伴合作並使用自己的偵測工具識別 AI 生成曲目，應用與 YouTube 現有標籤相同的原則，目標是讓觀眾和聽眾在聽音樂時盡可能輕鬆地獲得正確資訊和清晰度。Spotify 今年早些時候推出自願 AI 標籤，並稱不會推薦「AI 人格」的歌曲；Apple Music 據報也將獲得 AI 標籤。其他平台走得更遠：Deezer 增加過濾 AI 曲目的開關，Bandcamp 今年早些時候徹底禁止 AI 音樂。^[5]

YouTube 的標籤體系並非簡單二分。根據其說明頁面，合作夥伴可以透過三種指定分類聲明作品對生成式 AI 的使用：Fully Gen AI、Partly Gen AI 或 No Gen AI。「Fully Gen AI」適用於完全由 AI 生成的曲目；「Partly Gen AI」指藝術家可能加入 AI 生成元件但仍添加現場元素的作品；使用 Auto-Tune 等音高校正工具編輯的曲目則歸入「No Gen AI」。與 Deezer 的過濾策略不同，YouTube 側重揭露而非全面限制，AI 參與本身不會使曲目失去貨幣化資格。YouTube 甚至實驗 AI 音樂創作工具 Dream Track，讓部分創作者生成包含參與藝術家 AI 聲音的配樂。業界對比也在加劇：Apple Music 計劃今年晚些時候推出「Made With AI」標籤，作為 AI Transparency Tags 的一部分；Spotify 有 AI 標籤和音樂垃圾過濾器；Deezer 在 7 月報告每天收到近 90,000 首完全 AI 生成曲目，並排除在演算法推薦和編輯播放清單之外，同時扣留詐欺串流的版稅；TIDAL 也標記完全 AI 生成的錄音，允許聽眾停用，並排除在版稅歸屬之外。^[6]

共同趨勢：能力擴張與治理補課並行

從 Character.AI 破產案中的資料保護要求，到 Apate 用 AI 代理反詐，再到 AI 攻入理論科學和音樂平台加碼標籤與過濾，共同趨勢是 AI 的能力擴張正把治理、倫理和真實性驗證推到前台。破產出售中的使用者資料能否得到保護、臥底代理模式能否被銀行和電信公司規模化採用、AI 在科學理論中的滲透會如何改變研究評價體系，以及音樂平台的標籤和過濾能否真正遏制 AI 垃圾內容與詐欺串流，都是接下來值得關注的節點。科技公司、監管機構和內容平台正在同一條船上尋找新的平衡點。