“這段視頻明顯是AI合成的！視頻中人臉動(dòng)作軌跡和速度等信息都出現(xiàn)異常?！?/em>

“這條語音在某些頻率上過于‘干凈’，顯示出不自然的變化，AI生成概率在98%以上！”

11月20日，國內(nèi)首個(gè)AI大模型攻防賽在世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)收官?，F(xiàn)場，全球十強(qiáng)選手面對“眼見不為實(shí)、耳聽不為實(shí)”的場景，通過大模型技術(shù)辨別AI造假的音頻、證照及視頻，用AI對抗AI。

大賽自9月啟動(dòng)以來，來自全球18個(gè)國家和地區(qū)的2700多個(gè)賽隊(duì)、3200余名技術(shù)精英參與，選手來自清華大學(xué)、北京大學(xué)、交通大學(xué)、南洋理工大學(xué)、約翰霍普金斯大學(xué)、香港科技大學(xué)、悉尼大學(xué)等290多個(gè)國內(nèi)外高校，以及字節(jié)跳動(dòng)、理想汽車、騰訊、智譜AI、Shopee、網(wǎng)易等280多個(gè)互聯(lián)網(wǎng)、金融、汽車、大模型科技等行業(yè)企業(yè)。

通過攻、防雙向賽道競技，大賽最終角逐出全球十強(qiáng)，由來自字節(jié)跳動(dòng)、合合信息科技、濟(jì)南大學(xué)、浙江工業(yè)大學(xué)、安徽大學(xué)、上海交通大學(xué)等企業(yè)和高校的賽隊(duì)獲得。

據(jù)悉，賽事由中國圖象圖形學(xué)學(xué)會(huì)、螞蟻集團(tuán)、云安全聯(lián)盟（CSA）大中華區(qū)聯(lián)合主辦，聯(lián)合清華大學(xué)、上海交通大學(xué)、浙江大學(xué)、北京科技大學(xué)、湖南大學(xué)、華中科技大學(xué)、北京理工大學(xué)等高校及多家產(chǎn)學(xué)研組織共同發(fā)起，直面并解決大模型應(yīng)用中潛藏風(fēng)險(xiǎn)，助力全球AI產(chǎn)業(yè)健康可持續(xù)發(fā)展。

國內(nèi)首個(gè)AI大模型攻防賽全球十強(qiáng)烏鎮(zhèn)亮相

國內(nèi)首個(gè)攻防賽：聚焦AI反詐等大模型安全真實(shí)場景

近年來，人工智能技術(shù)特別是大模型及AIGC領(lǐng)域飛速發(fā)展，給我們生活帶來了前所未有的便利與可能性，也帶來了安全方面的挑戰(zhàn)。

只需10秒，大模型就能克隆聲音、復(fù)刻照片，甚至能生成“你”的視頻，從而引發(fā)deepfake欺詐、色情影像偽造、假新聞等社會(huì)事件；大模型“越獄”問題頻發(fā)，誘騙AI聽從不懷好意的指令，生成血腥、暴力、歧視、仇恨的圖片、視頻，危害網(wǎng)絡(luò)空間安全。

中國工程院院士、中國圖象圖形學(xué)學(xué)會(huì)理事長王耀南指出：“加強(qiáng)大模型安全保護(hù)，構(gòu)建完善的安全防護(hù)體系，是確保人工智能技術(shù)持續(xù)、穩(wěn)定、健康發(fā)展的關(guān)鍵所在，也是我們在這個(gè)充滿機(jī)遇與挑戰(zhàn)的時(shí)代必須肩負(fù)起的重要使命?！?/span>

據(jù)了解，在此背景下，全球AI大模型攻防挑戰(zhàn)賽聚焦大模型自身安全和大模型生成內(nèi)容的防偽檢測兩個(gè)賽道，賽題涉及信用成長、憑證審核、商家入駐、智能助理等多個(gè)業(yè)務(wù)場景，覆蓋機(jī)器學(xué)習(xí)、圖像處理與計(jì)算機(jī)視覺、數(shù)據(jù)處理等多個(gè)算法領(lǐng)域，通過創(chuàng)新的技術(shù)解決方案，進(jìn)一步保障大模型應(yīng)用安全和產(chǎn)業(yè)安全。

“通過攻防實(shí)戰(zhàn)演練，直面大模型應(yīng)用中的安全問題，促使大模型安全技術(shù)不斷進(jìn)步，從而攜手行業(yè)邁向更高的安全水平?！蔽浵伡瘓F(tuán)安全實(shí)驗(yàn)室首席科學(xué)家、全球AI大模型攻防挑戰(zhàn)賽評審委員會(huì)委員王維強(qiáng)表示。

全球AI大模型攻防挑戰(zhàn)賽十強(qiáng)選手現(xiàn)場對抗AI詐騙

AI反詐是當(dāng)前保護(hù)大模型安全最典型、真實(shí)的場景之一?！艾F(xiàn)在AI詐騙越來越隱秘，手法越來越多樣，可以模擬親人的聲音、朋友的視頻，甚至偽造各種文件，讓人們防不勝防。今天的比賽，作為一名人民警察，我感覺非常欣慰，這意味著我們在對抗AI詐騙的道路上，有了更多的力量和智慧?！笔展佻F(xiàn)場，來自桐鄉(xiāng)的反詐民警李湘臣向記者說道。

育人才、建標(biāo)準(zhǔn)：推動(dòng)大模型安全可持續(xù)發(fā)展

“大賽的舉行，匯聚了全球范圍內(nèi)數(shù)千位技術(shù)精英，為大家提供了技術(shù)交流與競技平臺(tái)；在這個(gè)舞臺(tái)上，許多優(yōu)秀的人才脫穎而出，發(fā)現(xiàn)和培養(yǎng)一批優(yōu)秀的安全人才，為行業(yè)的未來發(fā)展儲(chǔ)備智力資源，也是大賽的初衷之一?！敝袊鴪D象圖形學(xué)學(xué)會(huì)副理事長兼秘書長、北京科技大學(xué)教授馬惠敏表示說。

全球AI大模型攻防挑戰(zhàn)賽優(yōu)秀選手獲螞蟻集團(tuán)直通offer

據(jù)悉，除了十強(qiáng)選手之外，為了鼓勵(lì)比賽方案的算法創(chuàng)新性和資源綠色性，大賽還特別評選出“杰出方案獎(jiǎng)”，分別由西安交通大學(xué)、上海交通大學(xué)及理想汽車賽隊(duì)獲得。此外，螞蟻集團(tuán)在現(xiàn)場為優(yōu)秀選手頒發(fā)直通offer，優(yōu)秀技術(shù)人才秒入職。

中國科學(xué)院計(jì)算技術(shù)研究所副研究員敖翔在現(xiàn)場表示：“人工智能技術(shù)的飛速發(fā)展為人才提供了廣闊的發(fā)展空間和創(chuàng)新平臺(tái)，而AI領(lǐng)域的快速變化也對人才的知識(shí)結(jié)構(gòu)、技能水平和創(chuàng)新能力提出了更高的要求，AI時(shí)代人才的成長離不開產(chǎn)學(xué)研的密切合作。”

此外，活動(dòng)現(xiàn)場，中國信通院啟動(dòng)“護(hù)證計(jì)劃”，呼吁共建行業(yè)標(biāo)準(zhǔn)，守護(hù)用戶的身份安全。螞蟻集團(tuán)積極響應(yīng)加入該計(jì)劃，宣布其推出的憑證可信認(rèn)證平臺(tái)螞蟻光鑒將逐步升級，未來打造成為集合智能證照核身處理系統(tǒng)、智能聲音核身處理系統(tǒng)、智能視頻核身處理系統(tǒng)于一體的新一代AI核身系統(tǒng)。

中國信通院啟動(dòng)“護(hù)證計(jì)劃”，呼吁共建數(shù)字身份行業(yè)標(biāo)準(zhǔn)

IIFAA互聯(lián)網(wǎng)可信認(rèn)證聯(lián)盟也正式對外發(fā)布《IIFAA基于移動(dòng)智能終端的憑證文件驗(yàn)證服務(wù)檢測規(guī)范》，該規(guī)范對憑證文件驗(yàn)證服務(wù)的功能、性能要求以及評估方法做了詳細(xì)說明，以提升憑證文件驗(yàn)證服務(wù)的功能、性能要求以及評估方法做了詳細(xì)說明，以提升憑證文件驗(yàn)證的效率和安全性，推動(dòng)行業(yè)的標(biāo)準(zhǔn)化進(jìn)程。

“只有當(dāng)技術(shù)、規(guī)范和意識(shí)三者協(xié)同發(fā)力，加上持續(xù)的人才儲(chǔ)備，我們才能真正守護(hù)好大模型的安全，為其持續(xù)健康發(fā)展創(chuàng)造良好的條件?！蓖蹙S強(qiáng)表示說。