分享到微信打開微信,點(diǎn)擊底部的“發(fā)現(xiàn)”, |
第一財(cái)經(jīng) 2025-03-03 18:58:06 聽新聞
責(zé)編:羅懿
3月3日,國家網(wǎng)絡(luò)安全通報(bào)中心發(fā)布關(guān)于大模型工具Ollama存在安全風(fēng)險(xiǎn)的情況通報(bào)。
據(jù)清華大學(xué)網(wǎng)絡(luò)空間測繪聯(lián)合研究中心分析,開源跨平臺(tái)大模型工具Ollama默認(rèn)配置存在未授權(quán)訪問與模型竊取等安全隱患。鑒于目前DeepSeek等大模型的研究部署和應(yīng)用非常廣泛,多數(shù)用戶使用Ollama私有化部署且未修改默認(rèn)配置,存在數(shù)據(jù)泄露、算力盜取、服務(wù)中斷等安全風(fēng)險(xiǎn),極易引發(fā)網(wǎng)絡(luò)和數(shù)據(jù)安全事件。
一、風(fēng)險(xiǎn)隱患詳情
使用Ollma在本地部署DeepSeek等大模型時(shí),會(huì)在本地啟動(dòng)一個(gè)Web服務(wù),并默認(rèn)開放11434端口且無任何鑒權(quán)機(jī)制。該服務(wù)直接暴露在公網(wǎng)環(huán)境,存在以下風(fēng)險(xiǎn):
1、未授權(quán)訪問:未授權(quán)用戶能夠隨意訪問模型,并利用特定工具直接對(duì)模型及其數(shù)據(jù)進(jìn)行操作,攻擊者無需認(rèn)證即可調(diào)用模型服務(wù)、獲取模型信息,甚至通過惡意指令刪除模型文件或竊取數(shù)據(jù)。
2、數(shù)據(jù)泄露:通過特定接口可訪問并提取模型數(shù)據(jù),引發(fā)數(shù)據(jù)泄露風(fēng)險(xiǎn)。如:通過/api/show接口,攻擊者能夠獲取模型的license等敏感信息,以及其他接口獲取已部署模型的相關(guān)敏感數(shù)據(jù)信息。
3、攻擊者可利用Ollama框架歷史漏洞(CVE-2024-39720/39722/39719/39721),直接調(diào)用模型接口實(shí)施數(shù)據(jù)投毒、參數(shù)竊取、惡意文件上傳及關(guān)鍵組件刪除等操作,造成模型服務(wù)的核心數(shù)據(jù)、算法完整性和運(yùn)行穩(wěn)定性面臨安全風(fēng)險(xiǎn)。
二、安全加固建議
1、限制Ollama監(jiān)聽范圍:僅允許11434端口本地訪問,并驗(yàn)證端口狀態(tài)。
2、配置防火墻規(guī)則:對(duì)公網(wǎng)接口實(shí)施雙向端口過濾,阻斷11434端口的出入站流量。
3、實(shí)施多層認(rèn)證與訪問控制:啟用API密鑰管理,定期更換密鑰并限制調(diào)用頻率。部署IP白名單或零信任架構(gòu),僅授權(quán)可信設(shè)備訪問。
4、禁用危險(xiǎn)操作接口:如push/delete/pull等,并限制chat接口的調(diào)用頻率以防DDoS攻擊。
5、歷史漏洞修復(fù):及時(shí)更新Ollama至安全版本,修復(fù)已知安全漏洞。
國家網(wǎng)絡(luò)安全通報(bào)中心表示,目前,已有大量存在此類安全隱患的服務(wù)器暴露在互聯(lián)網(wǎng)上。建議廣大用戶加強(qiáng)隱患排查,及時(shí)進(jìn)行安全加固,發(fā)現(xiàn)遭網(wǎng)絡(luò)攻擊情況第一時(shí)間向當(dāng)?shù)毓簿W(wǎng)安部門報(bào)告,配合公安網(wǎng)安部門開展調(diào)查處置工作。國家網(wǎng)絡(luò)與信息安全信息通報(bào)中心將進(jìn)一步加強(qiáng)監(jiān)測并適時(shí)發(fā)布后續(xù)通報(bào)。
有專家認(rèn)為,網(wǎng)絡(luò)安全審查會(huì)影響很多中資和外資企業(yè),如果僅是用行政規(guī)章的形式去規(guī)定不夠合適,應(yīng)借《網(wǎng)絡(luò)安全法》修訂契機(jī),完善、優(yōu)化《辦法》,將行政部門監(jiān)管提升至國家法律高度。
扎實(shí)做好有關(guān)領(lǐng)域“十四五”規(guī)劃收官和“十五五”規(guī)劃編制工作,圍繞金融“五篇大文章”加大標(biāo)準(zhǔn)供給與實(shí)施力度,推動(dòng)金融標(biāo)準(zhǔn)國際化躍升。
夏皮羅認(rèn)為我們看到的結(jié)果,比如賬號(hào)被盜、電腦被病毒入侵等,都是下層代碼,真正需要考慮的是黑客群體的上層代碼——他們的行為模式與思想、他們進(jìn)行黑客行為的動(dòng)機(jī)等。
該機(jī)構(gòu)決定對(duì)Meta處以總額為2.51億歐元的行政罰款,該處罰與2018年Meta Platforms公司的數(shù)據(jù)泄露事件有關(guān)。
要以標(biāo)準(zhǔn)規(guī)范引領(lǐng)人工智能等新技術(shù)新應(yīng)用安全有序發(fā)展,加快推動(dòng)《人工智能生成合成內(nèi)容標(biāo)識(shí)方法》等標(biāo)準(zhǔn)的研制發(fā)布,強(qiáng)化智能網(wǎng)聯(lián)汽車、自動(dòng)駕駛等相關(guān)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)研究,有力護(hù)航新興未來產(chǎn)業(yè)安全發(fā)展。