新聞背景:
“趙本山”用英文演小品、“郭德綱”用英文說相聲、“范明”用英文演戲……近日,多個明星開口說英語的視頻引發(fā)關(guān)注。仔細了解后才知道,原來是人工合成制作,不過這聲音與演員口型、身體語言的契合程度之高,乍看真讓人一時不知真假。
AI應(yīng)用有多方便,就可能有多少風(fēng)險
讓相聲演員飆英文、讓外國明星唱二人轉(zhuǎn),AI技術(shù)是“懂幽默”的,可幽默背后,風(fēng)險也不少。比如,從著作權(quán)、肖像權(quán)到聲音權(quán),“AI外語相聲”和“AI換臉”一樣,涉嫌多項侵權(quán)。再有,AI技術(shù)將音色、口型等模仿得如此逼真,改天拿來做廣告、發(fā)布“重要信息”,如何防范?【詳細】
再往深一步想,借用AI技術(shù)可以模擬明星,那自然可以模擬其他普通人。面對以假亂真的AI技術(shù),大多數(shù)普通人缺乏辨別能力,很大程度上只能被動接受。如此,就會埋下更為嚴重的網(wǎng)絡(luò)詐騙隱患!詳細】
守好“AI應(yīng)用”底線,引導(dǎo)科技向善而行
技術(shù)本身沒有對錯,使用者的應(yīng)用賦予技術(shù)以道德價值。AI技術(shù)用之為善可以造福社會,不當(dāng)濫用則會引發(fā)社會風(fēng)險。我們希望有合理的規(guī)范來指導(dǎo)技術(shù)應(yīng)用,從而讓AI技術(shù)帶來更多驚喜!詳細】
事實上,近幾年,國家網(wǎng)信辦等部門先后出臺了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策文件,陸續(xù)開展了“互聯(lián)網(wǎng)深度合成算法備案”“大語言模型算法備案”等有關(guān)工作,有效促進了生成式人工智能的健康發(fā)展和規(guī)范應(yīng)用。同時,一些頭部互聯(lián)網(wǎng)平臺也在通過算法檢測、軟件識別等來辨析人工智能生成產(chǎn)品,并向公眾標(biāo)注說明,以減少信息差,提升公眾的防范意識。【詳細】
堅持“包容審慎”,期待科技改變未來
對于新技術(shù)、新業(yè)態(tài)、新模式,我們常說要“包容審慎”。這是一種態(tài)度,也是一種行政監(jiān)管方式。所謂“包容”,就是對那些未知大于已知的事物,采取包容的姿態(tài);所謂“審慎”,其中一個要點就是別一上來就“管死”,而要給它一個“觀察期”。
創(chuàng)新是需要被呵護的。藝人或藝術(shù)作品的AI化,或許能助力文化藝術(shù)的海外傳播。外國人也能聽相聲,意味著傳統(tǒng)文化藝術(shù)在未來或?qū)碛写笈蠓劢z。再往大處說,這背后的技術(shù)突破,有益于進一步掃除語言障礙,進而在文化交流傳播、文化產(chǎn)品制作等很多領(lǐng)域打開一片新天地。當(dāng)然,包容絕不是縱容。AI作品標(biāo)識清楚,真假涇渭分明,當(dāng)成為行業(yè)共識、用戶守則!詳細】
(以上綜合工人日報、南方網(wǎng)、廣州日報、錢江晚報)
V視角:
@東方貓2010:太可怕了,嘴型都對上了,以后看視頻都不知道真假了。
@slowwalker-ssy:笑過之后是恐懼,AI對生活的滲透太快了。
@時間的仆人23:這種合成技術(shù),集合了外貌和聲音,若用在詐騙上,真是防不勝防。
@下午茶2599:眼見不為實,小心上當(dāng)受騙。
中國經(jīng)濟網(wǎng)編后語:
“AI換臉”“AI變聲”等新技術(shù)的應(yīng)用,讓人看到了科技改變生活的無限可能。但是,種種風(fēng)險不可忽視,規(guī)范引導(dǎo)結(jié)合有效監(jiān)管不可或缺。對新技術(shù),我們不能一棒子“打死”,需要以“包容審慎”的態(tài)度待之,支持創(chuàng)新、鼓勵試錯,從而不斷發(fā)現(xiàn)其不足,促使其越來越完善。同時,制定規(guī)范的步子要再快些,新技術(shù)安全、合規(guī)、可控,才能迎來更廣闊的發(fā)展空間。
回顧:往期“經(jīng)”點熱評