近日，一些短視頻平臺(tái)涌現(xiàn)了大量某知名企業(yè)家吐槽的視頻。在視頻中，該企業(yè)家對(duì)堵車、調(diào)休、游戲等熱門話題進(jìn)行調(diào)侃，甚至還有不雅詞匯穿插其間，引發(fā)熱議。事實(shí)上，這是由網(wǎng)友利用AI軟件采集該企業(yè)家原音生成的配音，但逼真的效果讓不少人信以為真。

　　AI生成信息從“一眼假”到“深度偽造”，僅僅過(guò)了幾年時(shí)間。幾年前，網(wǎng)絡(luò)上流行上傳個(gè)人照片生成各類主題海報(bào)或視頻的游戲，令人們對(duì)AI融入生活抱有了更多期待。比如，通過(guò)AI換臉實(shí)現(xiàn)的“螞蟻呀嘿”搞笑視頻，曾一度霸榜熱搜。同時(shí)，AI技術(shù)應(yīng)用于天氣預(yù)報(bào)、新聞播報(bào)、醫(yī)療、手機(jī)地圖等領(lǐng)域，讓生活更加便利。然而，也產(chǎn)生了一些新的問(wèn)題。有人用自己的照片與某女星素材合成親密視頻，引發(fā)爭(zhēng)議；某知名辦公軟件將用戶文檔用作AI訓(xùn)練文本，引發(fā)反對(duì)聲浪；還有一些人的聲音、人臉被AI學(xué)習(xí)，生成虛假信息用于電信詐騙、造謠……

　　AI為人們提供新體驗(yàn)的同時(shí)，伴隨的風(fēng)險(xiǎn)成本越來(lái)越高，不僅侵犯了一些人的合法權(quán)益，也擾亂了網(wǎng)絡(luò)空間秩序。比如，AI生成音頻技術(shù)的濫用可能侵犯?jìng)€(gè)人的人格權(quán)。自然人的聲音具有唯一性、獨(dú)特性，是自然人人格的重要組成部分。今年4月，北京互聯(lián)網(wǎng)法院宣判的全國(guó)首例AI生成聲音侵權(quán)案，判決侵權(quán)方賠償原告25萬(wàn)元。又如，AI生成的虛假音視頻很容易引發(fā)誤解，甚至造成惡劣影響，破壞網(wǎng)絡(luò)信息的可信度和網(wǎng)絡(luò)空間的秩序。今年9月，網(wǎng)上流傳某網(wǎng)絡(luò)平臺(tái)負(fù)責(zé)人的負(fù)面“酒后”音頻，給該平臺(tái)招致風(fēng)波，結(jié)果警方調(diào)查發(fā)現(xiàn)，音頻內(nèi)容系A(chǔ)I偽造。

　　規(guī)范AI技術(shù)發(fā)展是公眾的共同呼聲。為此，社會(huì)各界提出建議，如完善法律法規(guī)，明確AI生成技術(shù)的使用范圍，加大對(duì)濫用AI技術(shù)的打擊和處罰；技術(shù)研發(fā)應(yīng)用者要在識(shí)別和過(guò)濾虛假內(nèi)容上有所作為，建立有效的甄別、審核機(jī)制，防止技術(shù)被濫用，等等。

　　這些“追著AI跑”的規(guī)范手段必不可少，但從AI生成內(nèi)容的邏輯看，還需從前端發(fā)力，即在“投喂”素材訓(xùn)練AI大模型環(huán)節(jié)做好必要的規(guī)制。AI自主學(xué)習(xí)需要有大量的“學(xué)習(xí)對(duì)象”作為基礎(chǔ)，包括聲音、文字、語(yǔ)法、圖像、熱力分布等，這些素材越豐富，AI就“吃”得越飽，生成的內(nèi)容就越自然逼真。當(dāng)前，網(wǎng)友使用AI軟件上傳聲音、人臉等個(gè)人生物信息時(shí)，幾乎是不設(shè)防狀態(tài)。此外，AI在獲取訓(xùn)練素材時(shí)還缺乏一定的規(guī)范，比如用戶為一次娛樂(lè)活動(dòng)而上傳的素材能不能被儲(chǔ)存和多次利用？相關(guān)信息該如何使用？都應(yīng)有明確的說(shuō)法。

　　以手機(jī)APP過(guò)度索權(quán)為例，近年來(lái)，很多APP開(kāi)發(fā)運(yùn)營(yíng)者為了獲取更豐富的用戶數(shù)據(jù)，后臺(tái)過(guò)度索權(quán)問(wèn)題飽受詬病。2021年初，工信部出臺(tái)文件，明確了“知情同意”和“最小必要”兩項(xiàng)個(gè)人信息保護(hù)基本原則，要求從事APP個(gè)人信息處理活動(dòng)，應(yīng)當(dāng)由用戶作出自愿、明確的意思表示，同時(shí)不得從事超出用戶同意范圍或者與服務(wù)場(chǎng)景無(wú)關(guān)的個(gè)人信息處理活動(dòng)。同理，AI自主學(xué)習(xí)也應(yīng)被劃定明確、具體的邊界范圍。比如，用戶上傳的信息將被用于什么用途、如何儲(chǔ)存及使用，要有類似“知情同意”“最小必要”的規(guī)定。

　　簡(jiǎn)言之，從源頭“投喂”素材的環(huán)節(jié)做到丁是丁卯是卯，AI自主學(xué)習(xí)及應(yīng)用才會(huì)更加向上向善。眼下，AI技術(shù)發(fā)展如火如荼，未來(lái)充滿無(wú)限機(jī)遇和可能。正因如此，技術(shù)別被玩壞、信任別被玩丟，與技術(shù)本身的發(fā)展同等重要。