快消息！精準識別AI生成內(nèi)容：讓AI“識破”AI
近日，南開大學計算機學院媒體計算實驗室取得最新研究成果，不僅從評估的角度揭示了現(xiàn)有AI檢測方法的性能不足，還創(chuàng)新性地提出了“直接差異學習”優(yōu)化策略，教會AI用“火眼金睛”辨別人機不同，實現(xiàn)AI檢測性能的突破。相關(guān)成果論文已被計算機多媒體領(lǐng)域國際頂級會議ACM MM2025接收。
目前AI生成內(nèi)容檢測主要有兩種路線：一種是“基于訓練的檢測方法”，使用特定數(shù)據(jù)訓練一個專用的分類模型；另一種是“零樣本檢測方法”，直接使用一個預訓練的語言模型并設(shè)計某種標準進行分類。
多項研究表明，現(xiàn)有檢測方法在應(yīng)對復雜的現(xiàn)實場景時常顯不足。此前曾有媒體報道，《荷塘月色》《流浪地球》等作品被某常用論文AI率檢測系統(tǒng)檢出高AI率。
(資料圖)
為何現(xiàn)有的AI檢測工具會“誤判”？論文第一作者、南開大學計算機學院計算機科學卓越班2023級本科生付嘉晨解釋：“如果把AI文本檢測比作一場考試，檢測器的訓練數(shù)據(jù)等同于日常練習題，現(xiàn)有檢測方法是機械刷題、死記硬背答題的固定套路，難以學會答題邏輯，一旦遇到全新難題，準確率就會顯著下降。”
“要想實現(xiàn)通用檢測，理論上需收集所有大模型的數(shù)據(jù)進行訓練，但在大模型迭代飛速的今天幾乎不可能。”付嘉晨說，讓檢測器真正學會舉一反三，即提升檢測器的泛化性能，是提升AI文本檢測性能的關(guān)鍵。
為此，研究團隊另辟蹊徑，通過直接優(yōu)化模型預測的文本條件概率差異與人為設(shè)定的目標值之間的差距，幫助模型學習AI文本檢測的內(nèi)在知識，可以精準捕捉人機文本間的深層語義差異，從而大幅提升檢測器的泛化能力與魯棒性。
“我們的檢測器如同有了‘火眼金睛’，即便只‘學習’過DeepSeek-R1的文本，也能精準識別像GPT-5這樣最新大模型生成的內(nèi)容。”付嘉晨說。
團隊還提出了一個全面的測試基準數(shù)據(jù)集MIRAGE，使用13種主流的商用大模型(如豆包、DeepSeek、Kimi等)以及4種先進的開源大模型(如Qwen等)，從AI生成、潤色、重寫三個角度構(gòu)造了接近10萬條人類-AI文本對。
“MIRAGE是目前唯一聚焦于對商用大語言模型檢測的基準數(shù)據(jù)集。直觀地說，之前的基準數(shù)據(jù)集是由少而且能力簡單的大模型命題出卷，而MIRAGE是17個能力強大的大模型聯(lián)合命題，形成一套高難度又有代表性的檢測試卷。”論文通訊作者、南開大學計算機學院副教授郭春樂說。
MIRAGE的測試結(jié)果顯示，現(xiàn)有檢測器的準確率從在簡單數(shù)據(jù)集上的90%驟降至約60%；而使用團隊的檢測器仍保持85%以上的準確率。與斯坦福大學提出的DetectGPT相比，性能相對提升71.62%；與馬里蘭大學、卡內(nèi)基梅隆大學等共同提出的Binoculars方法相比，性能相對提升68.03%。
“AIGC發(fā)展日新月異，我們將持續(xù)迭代升級評估基準和技術(shù)，致力于實現(xiàn)更快、更準、更低成本的AI生成文本檢測，以AI之力，讓每一篇成果更出彩。”研究團隊負責人、南開大學計算機學院教授李重儀說。
標簽：
搶先讀
- 快消息！精準識別AI生成內(nèi)容：讓AI“識破”AI
- 今日看點:西北華北等地多降雨和對流天氣 黃淮江淮等地有持續(xù)性高溫
- 【獨家焦點】水利部維持針對北京、四川等6省區(qū)市洪水防御Ⅳ級應(yīng)急響應(yīng)
- 暑期入境游持續(xù)紅火 各地打造特色旅游產(chǎn)品 將入境流量轉(zhuǎn)化為消費增量-每日消息
- 文化“加碼” 旅游“升溫”
- 只有初中學歷卻破解了世界級難題，他為什么能？|今日精選
- 每日動態(tài)!秦皇島：農(nóng)村公路總里程已達7485公里
- 快消息！文化“加碼” 旅游“升溫”
- 蔚縣：多業(yè)態(tài)深度融合推動文旅產(chǎn)業(yè)高速發(fā)展_焦點關(guān)注
- 山洪+積水內(nèi)澇雙預警 北京這些地區(qū)需注意防范 精彩看點
- 載人登月，要過幾道關(guān) 當前看點
- 每日消息!300分也能上“本科”？警惕社交媒體精準“釣魚”
- 哈爾濱工業(yè)大學，太寶藏了吧！
- 房主任回應(yīng)：這么好的“清?！?，你也享受一下呢？ 要聞速遞
- 財政部擬發(fā)行2025年記賬式附息（十六期）國債|今日熱聞
- 房主任回應(yīng)：這么好的“清福”，你也享受一下呢？-獨家焦點
- 今日看點:財政部擬發(fā)行2025年記賬式附息（十六期）國債
- 參賽隊談機器人運動會：檢驗自身、學習交流、共同進步_看熱訊
- 8月18日人民幣對美元中間價報7.1322元 上調(diào)49個基點
- “絲路主播”電商實訓營在固原市涇源縣開營|要聞
- 鄭州機場一天兩破紀錄 觀點
- 中國全面打通人工硐室儲氣技術(shù)路線
- 今日熱搜:廈門港再添“金磚航線” 總數(shù)增至24條
- 當前看點!“金融+”特色服務(wù)激活暑期文旅市場 多重優(yōu)惠發(fā)力“點燃”消費熱潮
- 每日信息：廈門港再添“金磚航線” 總數(shù)增至24條
- 市場規(guī)模持續(xù)擴大 我國冷鏈物流運行上半年數(shù)據(jù)出爐
- 業(yè)界人士話中國零售業(yè)創(chuàng)新發(fā)展：數(shù)字化、個性化、國際化
- 外國游客激增 暑期“中國游”有哪些新特點？
- 業(yè)界人士話中國零售業(yè)創(chuàng)新發(fā)展：數(shù)字化、個性化、國際化
- 業(yè)界人士話中國零售業(yè)創(chuàng)新發(fā)展：數(shù)字化、個性化、國際化 焦點報道
- 新消息丨首屆世界人形機器人運動會閉幕 明年8月擬舉辦第二屆
- 谷愛凌：因“人為事故”意外受傷
- 成都世運會｜高手云集 中國隊四人晉級霹靂舞八強
- 焦點速訊：成都世運會 | “迂回”還是“直給”，輪滑入奧路在何方？
- 成都世運會 | 中國輪滑隊再添一金|焦點訊息
- 每日時訊!成都世運會丨何志豪：盤不落地、永不放棄
- 成都世運會｜高手云集 中國隊四人晉級霹靂舞八強
- 成都世運會 | 體操大項收官 中國隊再獲一金一銅 每日觀察
- 成都世運會 | 德國包攬世運會皮艇球項目兩枚金牌 天天資訊
- 成都世運會｜無人機競速賽中國香港選手摘銀 每日熱議
- 成都世運會｜無人機競速賽中國香港選手摘銀
- 每日簡訊:成都世運會｜無人機競速賽中國香港選手摘銀
- 男籃隊長趙睿：越是危險的時候，越要向前走|觀速訊
- CBA夏季聯(lián)賽：新疆戰(zhàn)勝青島 山西不敵廣東 視訊
- 中超綜合：申花三輪不勝讓出榜首
- 十五運會羽毛球資格賽：石宇奇逆轉(zhuǎn)取勝 鄭思維復出告捷 熱門
- CBA夏季聯(lián)賽：新疆戰(zhàn)勝青島 山西不敵廣東 今日精選
- 快報:男籃非洲杯：安哥拉、埃及小組頭名晉級八強
- 英超綜合：哈蘭德“雙響” 曼城大勝狼隊
- 曼城主帥瓜迪奧拉：陣容臃腫 需要精簡 當前熱門
- 焦點觀察：沙特斯諾克大師賽：羅伯遜險勝奧沙利文 贏得冠軍
- 追光丨世運會啦啦操賽場，中國隊男生撐起“半邊天”！
- 每日熱議!杜絕球童助攻——“界外球自取”會成為足壇新趨勢嗎？
- 兩年一次！醫(yī)?！按虬顿M”將實行動態(tài)調(diào)整-即時
- 兩年一次！醫(yī)?！按虬顿M”將實行動態(tài)調(diào)整
- 每日時訊!3萬艘漁船出海 廣東海事部門全力護航南海開漁
- 中東部大范圍高溫悶熱天氣持續(xù)發(fā)力 華南部分地區(qū)累計雨量大_精彩看點
- 山西榆社：守好一個湖 潤澤一座城
- （尋味中華｜非遺）方寸間“顯山露水” 福州軟木畫簪起坊巷風雅
- 活力中國調(diào)研行|重慶地標建筑的“空調(diào)”竟然是長江水，年減碳6萬噸
- 沙漠里也能養(yǎng)海鮮、種水稻？看新疆如何“點沙成金”
- 受熱帶低壓影響，部分進出海南島列車運行秩序調(diào)整
- 受熱帶低壓影響，部分進出海南島列車運行秩序調(diào)整 快看
- （活力中國調(diào)研行）在綠水青山間感受三峽庫區(qū)“綠”動 播資訊
- 廣東陽江以西海域所有海上作業(yè)漁船需回港避風
- 臺灣青年嶺南行海上絲綢之路文化探尋營在湛江開營
- 跨越兩代的“中國情緣”：越南父女接力留學路|滾動
- 當前關(guān)注:水利部針對海南省啟動洪水防御Ⅳ級應(yīng)急響應(yīng)
- 體味青少年“勤”思妙想：第二十屆宋慶齡少年兒童發(fā)明獎優(yōu)秀作品展側(cè)記|每日熱訊
- 今日看點:1至7月全國鐵路完成固定資產(chǎn)投資4330億元 同比增5.6%
- 五個關(guān)鍵詞解碼七月經(jīng)濟 焦點速遞
- 當前關(guān)注:“兩山”理念提出二十周年：數(shù)覽綠意盎然的中國
- 長8792米！我國首條穿越賀蘭山鐵路隧道貫通|觀察
- 廈門物流通道海鐵聯(lián)運與中歐班列共促發(fā)展-熱門看點
- 每日速訊：青島機場單日旅客吞吐量突破10萬人次 創(chuàng)歷史新高
- 今年前7月中國鐵路固定資產(chǎn)投資同比增長5.6%
- 駐華外交官聚焦陜西低空經(jīng)濟新質(zhì)生產(chǎn)力 共話“空中絲路”新機遇
- 天天資訊:廈門物流通道海鐵聯(lián)運與中歐班列共促發(fā)展
- 沈陽市“養(yǎng)老服務(wù)消費季·銀齡好貨集”活動啟動 每日快播
- 2025第一堂HarmonyOS公開課：以青春之力共筑鴻蒙未來
- AI時代的領(lǐng)導力何在？專家創(chuàng)新提出“共生領(lǐng)導力”_快訊
- 挑戰(zhàn)世界屋脊 新藏鐵路構(gòu)筑西部邊疆新動脈-微資訊
- 2025第一堂HarmonyOS公開課：以青春之力共筑鴻蒙未來
- 每日熱點:黑龍江省18個邊境城市旅游市場持續(xù)火爆
- 2025“爽爽貴陽·世界風味嘉年華”暨“爽爽貴陽·咖啡飄香”系列活動啟幕 最資訊
- 筑牢經(jīng)濟底盤 夯實發(fā)展支撐 ——看中國經(jīng)濟之“重”
- 快訊:國家統(tǒng)計局：中國投資增長面臨的壓力是階段性的
- 專訪清華火神隊隊長：拿下機器人世界杯的火神隊，踢球有何特點
- 2025年上半年全國大學英語四、六級考試明天開始查分 今日播報
- 國家醫(yī)保局印發(fā)《醫(yī)療保障按病種付費管理暫行辦法》 每日觀點
- 2025年上半年全國大學英語四、六級考試明天開始查分
- 專訪清華火神隊隊長：拿下機器人世界杯的火神隊，踢球有何特點 今日觀點
- 國家醫(yī)保局印發(fā)《醫(yī)療保障按病種付費管理暫行辦法》
- 2025年上半年全國大學英語四、六級考試明天開始查分 當前看點
- 每日觀點:海南熱帶雨林旗艦物種：從“瀕?！钡健跋Ｍ?/a>
- 暴雨黃色預警：京津冀等17省區(qū)市部分地區(qū)將有大到暴雨-熱消息
- 前沿資訊!開館兩年仍用“樣片”遭質(zhì)疑，赤峰博物院等各方回應(yīng)：不存在“拖欠尾款”
- 快訊:南海熱帶低壓將于24小時內(nèi)生成 海南要求漁船暫緩出海
- 當前焦點!國家防總辦公室：預測北方地區(qū)多雨態(tài)勢仍將維持
- 要聞：（活力中國調(diào)研行）從維也納到重慶，垃圾焚燒廠的“逆襲美學”