新華財(cái)經(jīng)上海1月15日電（記者 王淑娟）上海合合信息科技股份有限公司董事、董事會(huì)秘書劉忱15日接受記者采訪時(shí)表示，生成式人工智能技術(shù)（AIGC）迎來(lái)了爆發(fā)式增長(zhǎng)，這一技術(shù)革新在為人們生活、工作帶來(lái)極大便利的同時(shí)，由于缺乏科技倫理的規(guī)范與引導(dǎo)，滋生出諸多安全隱患，成為不法分子實(shí)施網(wǎng)絡(luò)犯罪的新工具。2025年上海地方兩會(huì)期間，他將聚焦“以科技倫理為導(dǎo)向，科技助力AIGC安全發(fā)展“建言獻(xiàn)策。

劉忱指出，AIGC短短兩年便實(shí)現(xiàn)從文生文、文生圖到深度偽造、文生視頻的跨越發(fā)展，但也滋生了諸多安全隱患。一是生成式造假導(dǎo)致虛假輿論問(wèn)題，數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐數(shù)量暴增3000%，這一數(shù)據(jù)凸顯出生成式造假問(wèn)題的嚴(yán)重性。

二是電信詐騙技術(shù)升級(jí)，根據(jù)專業(yè)安全技術(shù)公司對(duì)全球7個(gè)國(guó)家的7000多名被訪者的調(diào)查，四分之一的成年人受訪者經(jīng)歷過(guò)AI語(yǔ)音克隆騙局，70%的人難以分辨克隆聲音與真實(shí)人聲。

三是知識(shí)產(chǎn)權(quán)侵犯事件頻發(fā)。AIGC模型的形成和完善依賴大量數(shù)據(jù)訓(xùn)練，而這些數(shù)據(jù)往往包含受版權(quán)法保護(hù)的內(nèi)容。人工智能撰寫的文章等AIGC作品存在著作權(quán)歸屬不清的困境，根源在于訓(xùn)練數(shù)據(jù)可能包含版權(quán)保護(hù)內(nèi)容。這不僅可能導(dǎo)致使用AIGC技術(shù)創(chuàng)作的作品無(wú)法獲得著作權(quán)保護(hù)，阻礙技術(shù)發(fā)揮創(chuàng)作價(jià)值，還可能因海量摹寫行為稀釋既有作品權(quán)利人的獨(dú)創(chuàng)性，威脅他人合法權(quán)益，對(duì)知識(shí)產(chǎn)權(quán)保護(hù)構(gòu)成嚴(yán)峻挑戰(zhàn)。

針對(duì)諸多安全隱患，劉忱呼吁，科技助力生成式人工智能安全發(fā)展需多管齊下，從治理機(jī)制構(gòu)建、技術(shù)研究加強(qiáng)、倫理訓(xùn)練與數(shù)據(jù)集優(yōu)化，到知識(shí)產(chǎn)權(quán)保護(hù)強(qiáng)化等多方面入手，方能引導(dǎo)科技向善，有效應(yīng)對(duì)AIGC帶來(lái)的安全挑戰(zhàn)，推動(dòng)行業(yè)良性發(fā)展。

他建議，第一，多方聯(lián)合，共同協(xié)作打擊AIGC虛假新聞，構(gòu)建各方共同參與、技管結(jié)合、分工協(xié)作的治理機(jī)制。研究機(jī)構(gòu)應(yīng)落實(shí)行業(yè)標(biāo)準(zhǔn)；平臺(tái)機(jī)構(gòu)應(yīng)通過(guò)事前宣導(dǎo)，強(qiáng)化視頻制作者的責(zé)任感，并開展違規(guī)內(nèi)容檢測(cè)，防止傳播 AIGC 生成的違規(guī)信息。

第二，鼓勵(lì)企業(yè)研發(fā)AI防御與鑒偽技術(shù)。建議設(shè)立專項(xiàng)資金，鼓勵(lì)科技企業(yè)關(guān)注技術(shù)在AIGC虛假信息“主動(dòng)防御”“主動(dòng)檢測(cè)”中的應(yīng)用?！爸鲃?dòng)防御”方面，利用數(shù)字水印技術(shù)實(shí)現(xiàn)AIGC合成內(nèi)容追蹤溯源，文本、圖像、音頻、視頻等均可作為數(shù)字水印載體，驗(yàn)證者通過(guò)算法對(duì)文本中的數(shù)字水印進(jìn)行驗(yàn)證，快速識(shí)別機(jī)器生成文本內(nèi)容；“主動(dòng)檢測(cè)”方面，引入AI欺詐檢測(cè)與鑒偽技術(shù)，精準(zhǔn)識(shí)別偽造內(nèi)容，實(shí)時(shí)監(jiān)測(cè)并應(yīng)對(duì)AIGC欺詐行為，以技術(shù)防御和人工干預(yù)相結(jié)合的方式，筑牢安全防線。

第三，構(gòu)建倫理訓(xùn)練與數(shù)據(jù)集體系。目前 AIGC 的導(dǎo)向掌握在訓(xùn)練模型的人類手中，算法偏見(jiàn)的根源來(lái)自數(shù)據(jù)。因此，構(gòu)建更加公正的數(shù)據(jù)集是解決算法偏見(jiàn)的根本方法之一。同時(shí)，強(qiáng)化倫理訓(xùn)練，讓AIGC生成內(nèi)容更加符合社會(huì)倫理規(guī)范，避免因數(shù)據(jù)偏差或模型局限導(dǎo)致的虛假信息輸出。

第四，用科技強(qiáng)化知識(shí)產(chǎn)權(quán)保護(hù)法律“武器”。為進(jìn)一步規(guī)范AIGC領(lǐng)域的發(fā)展，對(duì)于發(fā)布內(nèi)容，可從性質(zhì)上區(qū)分營(yíng)利與非營(yíng)利。非營(yíng)利性質(zhì)需要聯(lián)合平臺(tái)，做好發(fā)布前的責(zé)任提示；如涉及營(yíng)利性質(zhì)，需進(jìn)一步明確AIGC知識(shí)產(chǎn)權(quán)歸屬，細(xì)化侵權(quán)責(zé)任認(rèn)定，加強(qiáng)數(shù)據(jù)知識(shí)產(chǎn)權(quán)保護(hù)，例如對(duì)模型訓(xùn)練的數(shù)據(jù)選擇、結(jié)果輸出等環(huán)節(jié)進(jìn)行細(xì)致定義，降低流程中的數(shù)據(jù)侵權(quán)風(fēng)險(xiǎn)。執(zhí)法過(guò)程中還可引入技術(shù)手段對(duì)AIGC生成的視頻、圖像進(jìn)行版權(quán)標(biāo)識(shí)和追蹤，為原創(chuàng)作品提供確權(quán)服務(wù)，維護(hù)創(chuàng)作者合法權(quán)益，促進(jìn)AIGC技術(shù)在尊重知識(shí)產(chǎn)權(quán)的前提下健康發(fā)展。

?

編輯：林鄭宏

聲明：新華財(cái)經(jīng)為新華社承建的國(guó)家金融信息平臺(tái)。任何情況下，本平臺(tái)所發(fā)布的信息均不構(gòu)成投資建議。如有問(wèn)題，請(qǐng)聯(lián)系客服：400-6123115