從傳統(tǒng)圖像編輯軟件到生成式大模型，AI讓圖像、視頻等內(nèi)容生成的手段愈發(fā)簡(jiǎn)單，也讓信息篡改的形式更隱蔽，載體更多樣，讓人防不勝防。網(wǎng)絡(luò)加速器供應(yīng)商Surfshark公布的數(shù)據(jù)顯示，2025 年上半年，深度偽造相關(guān)金融欺詐造成全球損失近9億美元，AI偽造能力的泛濫正在沖擊個(gè)人權(quán)益、經(jīng)濟(jì)秩序與社會(huì)信任體系。

當(dāng)技術(shù)偽造的能力逐漸超越肉眼識(shí)別的邊界，AI鑒偽技術(shù)的發(fā)展進(jìn)程牽動(dòng)著公眾的視線。2025世界人工智能大會(huì)上，合合信息展示了AI鑒偽技術(shù)在人臉視頻、AIGC生成圖像、證件票據(jù)等當(dāng)今AI偽造“重災(zāi)區(qū)”中的應(yīng)用體驗(yàn)，幫助參觀者了解AI如何通過(guò)視覺(jué)特征、圖像合理性判斷、多維度交叉驗(yàn)證，精準(zhǔn)洞察多模態(tài)信息中“看不見(jiàn)”的偽造痕跡，為大模型安全、可信發(fā)展筑起“凈化防線”。

人臉視頻篡改檢測(cè)技術(shù)“毫秒級(jí)”狙擊“數(shù)字假面”

在合合信息AI安全展臺(tái)互動(dòng)區(qū)，觀眾正在排隊(duì)體驗(yàn)一場(chǎng)“真假人臉”的科技較量。站在屏幕前掃描面部，系統(tǒng)就會(huì)實(shí)時(shí)生成一個(gè)“數(shù)字假面”，當(dāng)真假人臉同屏對(duì)比時(shí)，不少觀眾驚訝地發(fā)現(xiàn)，AI偽造面容近乎完美地復(fù)刻了真實(shí)人臉的表情紋路。據(jù)合合信息技術(shù)團(tuán)隊(duì)人員介紹，展會(huì)互動(dòng)裝置中實(shí)時(shí)生成的“假臉”由當(dāng)前主流偽造算法生成，在合合信息AI人臉鑒偽模型的解析下，一張張“假臉”被精準(zhǔn)挑出。

合合信息AI人臉鑒偽模型對(duì)“換臉”視頻進(jìn)行精準(zhǔn)檢測(cè)

當(dāng)前人臉偽造技術(shù)手段層出不窮，傳統(tǒng)檢測(cè)算法對(duì)新型“換臉攻擊”存在滯后性。在進(jìn)行模型訓(xùn)練時(shí)，合合信息技術(shù)團(tuán)隊(duì)針對(duì)主流人臉偽造算法進(jìn)行研究，采用持續(xù)增量學(xué)習(xí)策略，與最新偽造算法同步迭代。基于大規(guī)模數(shù)據(jù)訓(xùn)練，形成了多層次篡改檢測(cè)方案，實(shí)現(xiàn)毫秒級(jí)實(shí)時(shí)鑒定。

例如，應(yīng)對(duì)人臉圖像交換偽造，合合信息AI人臉鑒偽模型能夠錨定人眼不可見(jiàn)的高級(jí)視覺(jué)差異，給每一個(gè)像素打上真?zhèn)螛?biāo)簽并計(jì)算偽造像素占比，為圖像真?zhèn)胃怕省按蚍帧?。此外，面臨更復(fù)雜的偽造情況，例如由偽造算法直接生成的復(fù)雜圖像。團(tuán)隊(duì)采用了多種神經(jīng)網(wǎng)絡(luò)模型，聚焦于圖像特征，實(shí)現(xiàn)多維度交叉驗(yàn)證真?zhèn)危屌袛嘟Y(jié)果更精準(zhǔn)。

AI來(lái)“找茬”，AIGC圖像鑒別技術(shù)秒辨名畫(huà)真?zhèn)?/strong>

在合合信息AIGC圖像鑒別技術(shù)展區(qū)，一場(chǎng)別開(kāi)生面的“世界名畫(huà)版大家來(lái)找茬”活動(dòng)吸引了不少參觀者駐足體驗(yàn)。經(jīng)過(guò)大模型的處理，《蒙娜麗莎》《向日葵》等名畫(huà)或是添加了新元素，又或是微調(diào)色彩，讓人難辨真?zhèn)危@正是當(dāng)前AIGC圖像鑒偽面臨的挑戰(zhàn)。隨著技術(shù)迭代，肉眼可識(shí)別的“失真細(xì)節(jié)”正變得越來(lái)越少。

基于多模態(tài)大語(yǔ)言模型能力，合合信息AIGC圖像鑒別技術(shù)可通過(guò)不同角度和不同層級(jí)的prompt，分析AI生成圖像的視覺(jué)特征以及透視關(guān)系、光影角度等合理性因素，同時(shí)抽取圖像頻譜信息輔助模型進(jìn)行判斷，輸出推理結(jié)果，讓生成式假圖無(wú)所遁形。

合合信息AIGC圖像鑒別技術(shù)秒辨名畫(huà)真?zhèn)?/p>

據(jù)合合信息技術(shù)團(tuán)隊(duì)人員介紹，實(shí)際應(yīng)用場(chǎng)景中，AI生成圖像會(huì)經(jīng)歷壓縮、縮放、裁剪及社交媒體傳輸?shù)榷鄠€(gè)干擾因素，導(dǎo)致圖像質(zhì)量降低，增加檢測(cè)難度。合合信息AIGC圖像鑒別技術(shù)具備了抗攻擊能力強(qiáng)的獨(dú)特優(yōu)勢(shì)，即使面臨上述干擾也能精準(zhǔn)捕捉圖像異常特征。目前，該技術(shù)還可實(shí)現(xiàn)毫秒級(jí)鑒偽，測(cè)試樣本集鑒定準(zhǔn)確率超90%，有效識(shí)別MidJourney、 Stable Diffusion、StyleGAN和GPT 4O等主流模型生成圖片。

近年來(lái)，不法分子利用AI技術(shù)進(jìn)行詐騙的案件頻發(fā)。詐騙團(tuán)伙利用工具批量制作“假圖”，用“規(guī)模化攻擊”尋找“AI安全防御漏洞”，使得成千上萬(wàn)的偽造圖像、視頻如病毒般彌散在社交平臺(tái)、金融系統(tǒng)甚至公共安全領(lǐng)域。隨著AI技術(shù)的更新速度加快，數(shù)字安全形勢(shì)也將愈發(fā)嚴(yán)峻，合合信息將持續(xù)關(guān)注技術(shù)前沿動(dòng)態(tài)，用持續(xù)迭代的AI鑒偽技術(shù)拓寬防護(hù)邊界。