新一輪科技革命正在不斷突破認(rèn)知邊界，媒體行業(yè)如何運(yùn)用AIGC技術(shù)探索發(fā)展空間，又將如何應(yīng)對(duì)其可能帶來(lái)的倫理風(fēng)險(xiǎn)？

作為第29屆上海電視節(jié)“白玉蘭對(duì)話”電視論壇之一，6月27日，一場(chǎng)“聚焦媒體新質(zhì)生產(chǎn)力——AIGC使用與治理對(duì)話會(huì)”在上海廣播電視臺(tái)舉行。近百位國(guó)內(nèi)外業(yè)界、學(xué)界專家參與對(duì)話，探討媒體對(duì)AIGC的使用及治理方案，以及生成式人工智能在廣電行業(yè)的應(yīng)用和發(fā)展。論壇現(xiàn)場(chǎng)使用了AI同傳技術(shù)，中外嘉賓可以通過(guò)大屏實(shí)時(shí)看到中英兩種語(yǔ)言的翻譯。

會(huì)上，上海廣播電視臺(tái)與上海大學(xué)共建的“國(guó)際智能傳播治理與策略研究中心”正式揭牌?，F(xiàn)場(chǎng)同時(shí)發(fā)布了《全球人工智能媒體發(fā)展研究報(bào)告（2023-2024）》（搶先版）、《生成式人工智能可信度指標(biāo)體系報(bào)告》（搶先版）、第一財(cái)經(jīng)媒體大模型（預(yù)發(fā)布版）。

市委宣傳部副部長(zhǎng)、上海廣播電視臺(tái)黨委書(shū)記方世忠介紹，面對(duì)新科技帶來(lái)的機(jī)遇和挑戰(zhàn)，上海廣播電視臺(tái)加快推動(dòng)AIGC在媒體領(lǐng)域的應(yīng)用拓展，布局了“SMG in AI”的主攻方向，致力于用AI重塑媒體技術(shù)底座，推動(dòng)智能化、超清化、移動(dòng)化發(fā)展。

上海大學(xué)黨委副書(shū)記段勇認(rèn)為，AIGC帶來(lái)的技術(shù)革命為傳媒業(yè)發(fā)展新質(zhì)生產(chǎn)力創(chuàng)造了許多新機(jī)遇。與此同時(shí)，人工智能的結(jié)構(gòu)性缺陷和AIGC的算法偏見(jiàn)，也決定了新聞造假和傳播倫理無(wú)法通過(guò)純粹的技術(shù)問(wèn)題加以解決。

“AIGC的出現(xiàn)與進(jìn)化到底是阿拉丁神燈還是潘多拉魔盒，需要熱行動(dòng)更需要冷思考。”方世忠認(rèn)為，AIGC可能帶來(lái)的新聞?wù)鎸?shí)性、版權(quán)保護(hù)、數(shù)據(jù)安全、道德倫理等方面的問(wèn)題，同樣值得重視，希望借助此次論壇，媒體界和學(xué)術(shù)界能夠就媒體領(lǐng)域AIGC使用和治理達(dá)成廣泛共識(shí)。

科技與媒體相互賦能

圍繞AIGC在媒體行業(yè)的應(yīng)用現(xiàn)狀、挑戰(zhàn)與未來(lái)趨勢(shì)，來(lái)自廣電行業(yè)、科技公司等不同領(lǐng)域的嘉賓分享了他們的最新觀察和思考。

中央廣播電視總臺(tái)國(guó)家重點(diǎn)實(shí)驗(yàn)室應(yīng)用推廣平臺(tái)主任陳江疆現(xiàn)場(chǎng)詳解了《總臺(tái)人工智能發(fā)展白皮書(shū)》，介紹了新一代AIGC技術(shù)在媒體業(yè)務(wù)形態(tài)和場(chǎng)景當(dāng)中的探索。在他看來(lái)，媒體領(lǐng)域的AI應(yīng)用應(yīng)當(dāng)遵循共創(chuàng)、共享、共建的原則，倡導(dǎo)技術(shù)伙伴生態(tài)開(kāi)放，通過(guò)競(jìng)爭(zhēng)促進(jìn)技術(shù)產(chǎn)品服務(wù)和價(jià)格優(yōu)化，避免壟斷。他認(rèn)為，AI技術(shù)的使用需保持克制和理性，大模型具有雙刃劍的特點(diǎn)，在節(jié)目制作使用當(dāng)中，要嚴(yán)守新聞?wù)鎸?shí)性。

上海廣播電視臺(tái)、上海文化廣播影視集團(tuán)有限公司黨委副書(shū)記、臺(tái)長(zhǎng)、總裁宋炯明介紹了AIGC浪潮下，上海廣播電視臺(tái)的創(chuàng)新與責(zé)任。宋炯明介紹，早在2017年，上海廣播電視臺(tái)就已經(jīng)初步成立AI實(shí)驗(yàn)室，經(jīng)過(guò)多年發(fā)展，在高清視頻修復(fù)、虛擬數(shù)字人等應(yīng)用領(lǐng)域取得良好成效；今年，在全國(guó)廣電領(lǐng)域率先成立了生成式人工智能媒體融合創(chuàng)新工作室，確立了財(cái)經(jīng)媒體專屬AI大模型、新聞資訊類(lèi)大模型應(yīng)用等六個(gè)主攻方向，鼓勵(lì)跨部門(mén)和領(lǐng)域協(xié)作，不同工種深度融合。

據(jù)介紹，上海廣播電視臺(tái)在AIGC技術(shù)和集成工具的加持下，內(nèi)容生產(chǎn)的智能化水平不斷升級(jí)，截至目前發(fā)布了AIGC系列公益宣傳片；與上?？萍即髮W(xué)共同研發(fā)了基于手語(yǔ)大模型的交互式數(shù)字人手語(yǔ)翻譯公益項(xiàng)目，服務(wù)全國(guó)2700多萬(wàn)聽(tīng)障人士；今年還將結(jié)合AI算法匹配技術(shù)，推出一檔婚戀類(lèi)節(jié)目，探索AIGC與更多節(jié)目形式結(jié)合的可能。

針對(duì)AIGC使用風(fēng)險(xiǎn)和安全治理問(wèn)題，宋炯明認(rèn)為，對(duì)AIGC既要“善用”也要“善治”，明確人類(lèi)價(jià)值觀在技術(shù)系統(tǒng)中的原則和尺度，比如明確使用人工智能進(jìn)行內(nèi)容生產(chǎn)時(shí)，必須采用安全可信的工具，確保生成的內(nèi)容產(chǎn)品符合國(guó)家法律法規(guī)，行業(yè)標(biāo)準(zhǔn)及道德倫理要求。建立嚴(yán)格的管理措施，確保AIGC技術(shù)應(yīng)用所涉及的數(shù)據(jù)收集、存儲(chǔ)、處理、使用、共享等環(huán)節(jié)都符合法律法規(guī)的要求，嚴(yán)禁未經(jīng)授權(quán)的數(shù)據(jù)訪問(wèn)、泄露、篡改或?yàn)E用行為。

數(shù)位科技公司的管理者分享了目前在AI領(lǐng)域的探索和應(yīng)用。他們?cè)谘葜v中皆提到了相似的觀點(diǎn)，科技公司的技術(shù)創(chuàng)新與文化傳媒行業(yè)的內(nèi)容創(chuàng)造，在AI的加持下能夠?qū)崿F(xiàn)更高效的融合發(fā)展。

百度智能云媒體業(yè)務(wù)部總經(jīng)理葉航暉介紹，大模型時(shí)代，百度智能云將從創(chuàng)作力、觸達(dá)力、感染力、生產(chǎn)力四個(gè)維度為傳媒產(chǎn)業(yè)注入智能化新動(dòng)能。商湯科技數(shù)字文娛事業(yè)部副總裁李星冶介紹了商湯的大模型矩陣與虛擬數(shù)字人，此前已與上海廣播電視臺(tái)合作，在體育賽事轉(zhuǎn)播時(shí)通過(guò)AIGC技術(shù)識(shí)別運(yùn)動(dòng)軌跡，給觀眾帶來(lái)更好的觀賽體驗(yàn)，在今年的巴黎奧運(yùn)會(huì)上將與電視臺(tái)展開(kāi)更多合作，未來(lái)將更關(guān)注人機(jī)協(xié)同的創(chuàng)造類(lèi)工作。

騰訊云傳媒與新文創(chuàng)行業(yè)總經(jīng)理舒文琦分享了AIGC在騰訊會(huì)議、新聞、視頻、廣告及運(yùn)營(yíng)中的應(yīng)用，在他看來(lái)，面向傳媒行業(yè)，未來(lái)將結(jié)合人工智能技術(shù)在內(nèi)容生產(chǎn)與創(chuàng)作、廣告投放和分析等方面提供解決方案。

學(xué)界專家則分享了全球范圍內(nèi)人工智能治理的最新研究成果。瑞典查爾姆斯理工大學(xué)教授埃里克·波林介紹了《AIGC使用與治理：歐洲的案例和經(jīng)驗(yàn)》，并解讀了全球首創(chuàng)的AI法案——歐盟的《人工智能法案》，探討基于價(jià)值和倫理的風(fēng)險(xiǎn)評(píng)估方法，分析不同政策選擇和治理措施之間的權(quán)衡取舍。韓國(guó)高麗大學(xué)的金成鐵教授則通過(guò)豐富的案例詳細(xì)介紹了生成式人工智能在韓國(guó)創(chuàng)意產(chǎn)業(yè)生產(chǎn)環(huán)節(jié)的應(yīng)用，探討其在法律、倫理和社會(huì)經(jīng)濟(jì)層面存在的問(wèn)題，并反思未來(lái)人類(lèi)與AI的和諧共生之道。

最新成果發(fā)布

對(duì)話會(huì)上，來(lái)自行業(yè)、企業(yè)和學(xué)界的嘉賓，從不同角度聚焦人工智能生成內(nèi)容、媒體應(yīng)用和倫理問(wèn)題，結(jié)合AIGC對(duì)廣電行業(yè)的技術(shù)賦能，從內(nèi)容生產(chǎn)、媒體生態(tài)、商業(yè)應(yīng)用、安全挑戰(zhàn)、對(duì)高等教育和學(xué)術(shù)研究的影響等多重維度展開(kāi)討論。

上海大學(xué)新聞傳播學(xué)院掛職副院長(zhǎng)、教授王虎發(fā)布了《全球人工智能媒體發(fā)展研究報(bào)告（2023-2024）》（搶先版），分享了人工智能技術(shù)的全球發(fā)展與應(yīng)用狀況，包括加拿大立足產(chǎn)學(xué)研推動(dòng)研究資源與商業(yè)化的結(jié)合，英國(guó)加速向人工智能經(jīng)濟(jì)轉(zhuǎn)型，德國(guó)打造人工智能制造品牌，瑞典專注傳統(tǒng)優(yōu)勢(shì)產(chǎn)業(yè)，以色列關(guān)注智能交通、健康和智慧城市等。

王虎認(rèn)為，AIGC的發(fā)展存在高需求、低留存和低黏性的現(xiàn)狀：“AIGC缺的不是用戶場(chǎng)景和客戶需求，而是如何開(kāi)發(fā)更多的新場(chǎng)景和新服務(wù)，為用戶創(chuàng)造深度價(jià)值，讓他們留存下來(lái)，轉(zhuǎn)化為活躍用戶。”

上海交通大學(xué)媒體與傳播學(xué)院教授禹衛(wèi)華使用準(zhǔn)確性、完整性、時(shí)效性、無(wú)偏見(jiàn)等十個(gè)指標(biāo)，發(fā)布了《生成式人工智能內(nèi)容可信度評(píng)估指標(biāo)體系報(bào)告》（搶先版）。他提到，“可用”的人工智能和“可信”的人工智能是兩個(gè)概念，未來(lái)的AI世界一定是基于可信。在他看來(lái)，對(duì)生成式人工智能的治理要回歸科學(xué)傳播，而不是被營(yíng)銷(xiāo)所困惑：“生成式人工智能并不是想象中那樣美好，大模型也沒(méi)有想象中強(qiáng)大，數(shù)據(jù)來(lái)源依然還有很多風(fēng)險(xiǎn)，做評(píng)估不是限制發(fā)展，而是使得它在理性的科學(xué)的領(lǐng)域發(fā)展。”

上海廣播電視臺(tái)第一財(cái)經(jīng)總編輯楊宇東介紹了第一財(cái)經(jīng)在AIGC方面的探索和思考。在他看來(lái)，基于跨界屬性，AI時(shí)代的財(cái)經(jīng)媒體具有廣闊的市場(chǎng)前景和發(fā)展機(jī)遇，比如目前在財(cái)報(bào)專業(yè)分析的智能生成和智能解讀等方面的技術(shù)已經(jīng)趨于成熟。在7月6日舉辦的2024世界人工智能大會(huì)上，還將正式發(fā)布第一財(cái)經(jīng)媒體大模型。

據(jù)介紹，這一大模型是一個(gè)在基礎(chǔ)的通用語(yǔ)料之上，注入高質(zhì)量財(cái)經(jīng)媒體數(shù)據(jù)和專業(yè)領(lǐng)域知識(shí)，服務(wù)財(cái)經(jīng)融媒體內(nèi)容生產(chǎn)的AI智能體，它在未來(lái)將有望成為一位財(cái)經(jīng)智囊和助手，在全球資本市場(chǎng)瞬息萬(wàn)變的動(dòng)態(tài)過(guò)程中，為投資者提供一流的財(cái)經(jīng)信息服務(wù)。