近日，不少用戶發(fā)現(xiàn)在使用中國知網(wǎng)（CNKI）的過程中，最新版的知網(wǎng)首頁新添置了“AI智能寫作”功能，且已經(jīng)開始了試用。根據(jù)知網(wǎng)的介紹，用戶在使用時(shí)只需完成“輸入文檔名稱”“AI智能生成文檔大綱”“一鍵生成所有章節(jié)內(nèi)容”三個(gè)環(huán)節(jié)，便可以生成完整的文章。另外，該功能適合各類文檔寫作場(chǎng)景，其中包括調(diào)研報(bào)告、咨詢報(bào)告、研究報(bào)告甚至政府公文，以期能夠?yàn)槭褂谜咛峁┮粋€(gè)高效的生產(chǎn)力工具。

“AI智能寫作”功能實(shí)際上是對(duì)大模型AIGC技術(shù)的綜合應(yīng)用，AIGC即生成式人工智能技術(shù)，該技術(shù)廣為大眾熟知源于年初OpenAI公司旗下的ChatGPT-3的發(fā)布，使得人們對(duì)于人工智能技術(shù)的突破性發(fā)展眼前一亮。隨后，眾多國內(nèi)互聯(lián)網(wǎng)企業(yè)紛紛發(fā)布了自己的AIGC產(chǎn)品。知網(wǎng)此次發(fā)布的“AI智能寫作”功能也屬于AIGC技術(shù)產(chǎn)品。AIGC技術(shù)近些年來取得了突破性的進(jìn)步，其接近人類智慧的內(nèi)容生成讓人們對(duì)于人工智能再次寄予無限遐想。然而，在知網(wǎng)開放試用“AI智能寫作”讓公眾體驗(yàn)AI技術(shù)便捷性的同時(shí)，這一應(yīng)用功能也可能帶來一定風(fēng)險(xiǎn)，相應(yīng)的應(yīng)對(duì)措施需有效跟進(jìn)。

科技倫理風(fēng)險(xiǎn)

對(duì)于AIGC技術(shù)的使用目前飽受爭(zhēng)議，在學(xué)術(shù)界更是如此。開展科學(xué)研究、技術(shù)創(chuàng)新等科技活動(dòng)不能脫離科技倫理的規(guī)范，這是促進(jìn)科技事業(yè)健康發(fā)展的重要保障。但是隨著人工智能的飛速發(fā)展，現(xiàn)有的科技倫理體系難以完全適應(yīng)創(chuàng)新發(fā)展的現(xiàn)實(shí)需要，極容易產(chǎn)生違反倫理道德的風(fēng)險(xiǎn)。AIGC技術(shù)是使用大量文本數(shù)據(jù)訓(xùn)練的深度學(xué)習(xí)模型，其訓(xùn)練材料來自人們已有的作品，因此它也有可能將已有作品中包含的歧視因素繼承下來。其輸出的內(nèi)容可能存在與當(dāng)前主流價(jià)值觀不符的情況，可能會(huì)產(chǎn)生歧視、侮辱等內(nèi)容。Meta曾發(fā)布過一個(gè)名為Galactica的語言大模型，它由4800萬篇學(xué)術(shù)論文、著作煉成，號(hào)稱擅長生成學(xué)術(shù)方面內(nèi)容，更懂研究問題。不過因?yàn)橛脩粼谑褂眠^程中發(fā)現(xiàn)它帶有種族歧視，現(xiàn)在它的demo已經(jīng)不開放了（代碼還能用）。尤其是AIGC技術(shù)在新聞報(bào)道、論文撰寫等方面的能力極為突出，該技術(shù)的不當(dāng)應(yīng)用易成為部分造謠者以及偽造論文者的工具。

知網(wǎng)所承擔(dān)的已不單是企業(yè)責(zé)任，而是構(gòu)建健康良好學(xué)術(shù)生態(tài)這一更重的社會(huì)責(zé)任。值得注意的是，知網(wǎng)在9月13日也發(fā)表題為“讓AI代寫無處遁形！中國知網(wǎng)AIGC檢測(cè)助力大模型時(shí)代學(xué)術(shù)生態(tài)建設(shè)”的文章，稱全新推出AIGC檢測(cè)服務(wù)系統(tǒng)，以知網(wǎng)結(jié)構(gòu)化、碎片化和知識(shí)元化的高質(zhì)量文獻(xiàn)大數(shù)據(jù)資源為基礎(chǔ)，按照預(yù)訓(xùn)練大語言模型的算法邏輯，首次提出“知識(shí)增強(qiáng)AIGC檢測(cè)技術(shù)”和若干檢測(cè)算法，從語言模式和語義邏輯兩條鏈路，用AI對(duì)抗AIGC，最終準(zhǔn)確識(shí)別學(xué)術(shù)文本中的AI生成內(nèi)容。

AIGC技術(shù)需要發(fā)展這一點(diǎn)毋庸置疑，因?yàn)樵摷夹g(shù)確實(shí)能夠?yàn)槭褂谜咛峁└叩墓ぷ餍?。然而一方面，知網(wǎng)試圖運(yùn)用先進(jìn)AI技術(shù)甄別AICG技術(shù)生成的文本內(nèi)容；另一方面又要以自身數(shù)據(jù)優(yōu)勢(shì)開發(fā)AIGC技術(shù)，并在知網(wǎng)平臺(tái)進(jìn)行推廣試用。這樣的做法難免會(huì)使人產(chǎn)生“以己之矛攻己之盾”的猜疑。

知識(shí)產(chǎn)權(quán)挑戰(zhàn)

創(chuàng)新是引領(lǐng)發(fā)展的第一動(dòng)力，知識(shí)產(chǎn)權(quán)也是國家發(fā)展戰(zhàn)略國際競(jìng)爭(zhēng)的核心要素，AIGC技術(shù)存在潛在的侵權(quán)風(fēng)險(xiǎn)。目前，知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)主要集中在三方面，一是訓(xùn)練數(shù)據(jù)來源合法合規(guī)問題；二是AIGC技術(shù)生成內(nèi)容的知識(shí)產(chǎn)權(quán)權(quán)屬問題；三是生成內(nèi)容的知識(shí)產(chǎn)權(quán)侵權(quán)問題。

AIGC技術(shù)的運(yùn)用離不開海量的數(shù)據(jù)訓(xùn)練喂養(yǎng)，在知網(wǎng)提供的“AI智能寫作”功能中亮點(diǎn)便是能夠生成具有較深技術(shù)性、專業(yè)性的綜合型報(bào)告。此類報(bào)告的生成必然離不開相關(guān)領(lǐng)域高質(zhì)量數(shù)據(jù)的訓(xùn)練，而知網(wǎng)作為作用大量相關(guān)數(shù)據(jù)的平臺(tái)能否將這些數(shù)據(jù)用作商用的大模型訓(xùn)練存在爭(zhēng)議。

在美國已有繪畫者對(duì)人工智能生成作品的軟件公司提起了訴訟——“Stable Diffusion案”，三位藝術(shù)家認(rèn)為Stability AI在“未經(jīng)原始藝術(shù)家同意”的情況下，獲取與利用其版權(quán)作品作為Stable Diffusion的訓(xùn)練源，利用從網(wǎng)上抓取的50億張圖像對(duì)其AI工具進(jìn)行訓(xùn)練，侵犯了“數(shù)百萬藝術(shù)家”的作品版權(quán)。目前該案還在訴訟中，尚未有判決結(jié)果，但對(duì)于知網(wǎng)的數(shù)據(jù)來源合法性的思考具有一定的借鑒意義。

2023年7月，國家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》（下稱《辦法》），這是全球首部AIGC管理辦法，根據(jù)《辦法》第七條規(guī)定，知網(wǎng)將相關(guān)領(lǐng)域高質(zhì)量數(shù)據(jù)進(jìn)行訓(xùn)練這一行為是否取得了原作品作者的事前同意猶未可知，同時(shí)根據(jù)我國《著作權(quán)法》合理使用的相關(guān)規(guī)定可知，能適用于AIGC數(shù)據(jù)訓(xùn)練的三種情形為“個(gè)人使用”“適當(dāng)引用”“科學(xué)研究”，而知網(wǎng)若將數(shù)據(jù)進(jìn)行訓(xùn)練能否歸入這三種行為亦未可知。

在生成內(nèi)容權(quán)屬問題方面，根據(jù)知網(wǎng)《知網(wǎng)AI智能寫作用戶體驗(yàn)規(guī)則》（下稱“體驗(yàn)規(guī)則”）來看，使用者僅擁有依照本規(guī)則約定合法使用本服務(wù)及本服務(wù)相關(guān)的知識(shí)產(chǎn)權(quán)的權(quán)利，對(duì)于知網(wǎng)享有知識(shí)產(chǎn)權(quán)的內(nèi)容，未經(jīng)知網(wǎng)的同意，使用者不得以任何方式發(fā)布、播放、出于播放或發(fā)布目的而改寫或再發(fā)行，或者用于其他任何商業(yè)目的。綜上來看，該規(guī)定并沒有有效解決生成內(nèi)容的權(quán)屬爭(zhēng)議，可以明顯看出知網(wǎng)作為AIGC技術(shù)的服務(wù)提供者極力在保證不違反現(xiàn)行法律法規(guī)的前提下對(duì)公眾開放使用。

然而，使用者使用“AI智能寫作”進(jìn)行論文和其他文稿寫作后，難以避免會(huì)對(duì)其進(jìn)行改寫或者再發(fā)行，這樣會(huì)造成諸多AI生成內(nèi)容改版文稿“流落在外”，同時(shí)知網(wǎng)未有效規(guī)定生成內(nèi)容的權(quán)屬，導(dǎo)致其權(quán)屬不明，易產(chǎn)生較多糾紛。

在生成內(nèi)容侵權(quán)問題方面，侵權(quán)責(zé)任的歸屬是需要重點(diǎn)關(guān)注的問題，《體驗(yàn)規(guī)則》表述為：“您對(duì)自己使用本服務(wù)的一切行為及由此產(chǎn)生的一切結(jié)果負(fù)責(zé)，包括但不限于您所提供的任何服務(wù)、發(fā)表的任何內(nèi)容，以及由此產(chǎn)生的任何后果。”也就是說用戶作為服務(wù)的使用者需自行對(duì)使用服務(wù)的侵權(quán)責(zé)任進(jìn)行承擔(dān)。

根據(jù)《辦法》第九條規(guī)定：“提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)”。在某些情況下，若知網(wǎng)在AI智能寫作的技術(shù)或平臺(tái)設(shè)計(jì)上存在缺陷，導(dǎo)致生成的內(nèi)容侵權(quán)，那么知網(wǎng)也可能需要承擔(dān)一定的責(zé)任，而其卻規(guī)定用戶對(duì)一切侵權(quán)后果承擔(dān)責(zé)任。這種情況下侵權(quán)責(zé)任該如何劃分，知網(wǎng)對(duì)責(zé)任的相關(guān)規(guī)定又是否具有推卸責(zé)任的嫌疑？

個(gè)人信息泄露風(fēng)險(xiǎn)

近期知網(wǎng)再度被處罰是由于違法處理個(gè)人信息，知網(wǎng)掌握著海量的用戶信息，個(gè)人信息的保護(hù)是眾多互聯(lián)網(wǎng)平臺(tái)的重要責(zé)任之一。知網(wǎng)開放的“AI智能寫作”需要用戶注冊(cè)賬號(hào)并進(jìn)行概括授權(quán)，如果用戶沒有具體、仔細(xì)地關(guān)注知網(wǎng)所要求的授權(quán)，則會(huì)在智能AI寫作運(yùn)行過程中被無形爬取相關(guān)隱私資料，造成信息泄露風(fēng)險(xiǎn)。不僅如此，即便在用戶同意相關(guān)授權(quán)后，其爬取的數(shù)據(jù)信息如若超過授權(quán)范圍，也會(huì)產(chǎn)生信息泄露的風(fēng)險(xiǎn)。在進(jìn)行AI智能寫作這一過程中，智能AI不僅收集使用者的個(gè)人信息，也可以根據(jù)使用者所利用智能AI的頻次、方式等刻畫人物畫像，使用者原本與智能AI進(jìn)行私密交談的隱私信息也將會(huì)轉(zhuǎn)化成訓(xùn)練數(shù)據(jù)庫中的信息，而進(jìn)入數(shù)據(jù)庫的過程是否屬于侵犯隱私的性質(zhì)，具有相當(dāng)大的爭(zhēng)議，并且由于人工智能算法黑箱的存在，人工智能運(yùn)行的內(nèi)在過程難以被清晰洞察，具有較大的個(gè)人信息泄露風(fēng)險(xiǎn)。

此外，使用AI智能生成的論文及相關(guān)文稿的質(zhì)量和準(zhǔn)確性尚未得到驗(yàn)證，可能存在錯(cuò)誤或不準(zhǔn)確的信息，損害研究和相關(guān)報(bào)告的可信度。

結(jié)合國內(nèi)外對(duì)于AIGC技術(shù)在學(xué)術(shù)界的應(yīng)用現(xiàn)狀，支持與反對(duì)該技術(shù)在學(xué)術(shù)界使用的雙方勢(shì)均力敵。不可否認(rèn)，技術(shù)的進(jìn)步能夠顛覆傳統(tǒng)的業(yè)態(tài)模式，合理的使用能夠造福學(xué)術(shù)工作者。但是，由于技術(shù)的發(fā)展，傳統(tǒng)的倫理道德規(guī)范甚至法律法規(guī)規(guī)范并沒有與之匹配，這導(dǎo)致盲目的推廣極容易產(chǎn)生各類風(fēng)險(xiǎn)。知網(wǎng)在中國學(xué)術(shù)研0究領(lǐng)域發(fā)揮著極為重要的作用，在科技倫理風(fēng)險(xiǎn)、知識(shí)產(chǎn)權(quán)挑戰(zhàn)、權(quán)責(zé)劃分挑戰(zhàn)以及個(gè)人信息保護(hù)風(fēng)險(xiǎn)等眾多問題尚未解決，又使用AI對(duì)抗AIGC技術(shù)試圖規(guī)范學(xué)術(shù)行為的情況下，徑自推出“AI智能寫作”功能的行為值得深思。

（陳兵系南開大學(xué)競(jìng)爭(zhēng)法研究中心主任、法學(xué)院副院長、教授，南開大學(xué)數(shù)字經(jīng)濟(jì)交叉科學(xué)中心研究員；劉永集系南開大學(xué)競(jìng)爭(zhēng)法研究中心助理研究員、墨爾本大學(xué)法學(xué)碩士）