數字化(hua)浪潮中，大模型作為(wei)新(xin)質生產力的代表成為(wei)新(xin)一輪工業革命的核心引擎(qing)。然而(er)，隨之(zhi)而(er)來的安(an)全(quan)挑戰(zhan)也日益凸顯，急需(xu)有效的大模型安(an)全(quan)防護實踐總結、體系化(hua)的安(an)全(quan)框架、解決方案以(yi)及能力支撐(cheng)。
在3月(yue)20日舉辦的360安(an)全(quan)(quan)(quan)大(da)模型3.0發(fa)布會上，360數字安(an)全(quan)(quan)(quan)集團重磅發(fa)布大(da)語言模型安(an)全(quan)(quan)(quan)防護方(fang)案，展示了360在該領域的最(zui)佳實(shi)踐、理(li)論創新、系統(tong)化(hua)框架方(fang)案和核心(xin)能力成(cheng)果。
一、解決大模型安全問題亟需全新戰法
在(zai)(zai)數(shu)(shu)(shu)字(zi)中國建設和(he)全(quan)球數(shu)(shu)(shu)字(zi)化(hua)(hua)轉型(xing)的(de)(de)(de)浪潮下(xia)，大(da)(da)模型(xing)技術由于其令人耳目一新(xin)(xin)的(de)(de)(de)強大(da)(da)智能(neng)化(hua)(hua)能(neng)力，正在(zai)(zai)被快速應用于千行百業，成(cheng)為新(xin)(xin)質生產力的(de)(de)(de)代表。然而(er)，大(da)(da)模型(xing)的(de)(de)(de)全(quan)新(xin)(xin)特性也帶來的(de)(de)(de)前所未(wei)有的(de)(de)(de)安(an)全(quan)挑戰，既存在(zai)(zai)傳統上(shang)的(de)(de)(de)網絡與數(shu)(shu)(shu)據安(an)全(quan)，又新(xin)(xin)出(chu)現(xian)了內容(rong)可信、模型(xing)失控和(he)和(he)合規向善(shan)等(deng)多(duo)方面的(de)(de)(de)安(an)全(quan)挑戰。
“這些安(an)(an)全(quan)挑(tiao)戰(zhan)，只有(you)傳統(tong)的(de)網絡安(an)(an)全(quan)與部(bu)分數據安(an)(an)全(quan)問題可以用傳統(tong)的(de)安(an)(an)全(quan)方法解(jie)決，其(qi)它以語料和內容為核心的(de)安(an)(an)全(quan)問題都源于大模(mo)(mo)(mo)型(xing)自身特(te)性。因(yin)此，不做大模(mo)(mo)(mo)型(xing)的(de)傳統(tong)安(an)(an)全(quan)企業，無(wu)法深刻洞(dong)察(cha)大模(mo)(mo)(mo)型(xing)自身安(an)(an)全(quan)特(te)性所帶(dai)來的(de)內容安(an)(an)全(quan)問題，也就無(wu)法構(gou)建大模(mo)(mo)(mo)型(xing)原生(sheng)安(an)(an)全(quan)能力(li)。”360數字安(an)(an)全(quan)集團副總裁李博(bo)表示。
解決大(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)問題首(shou)先需要頂層邏輯與方法(fa)論(lun)。360率先提(ti)出(chu)(chu)了大(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)的安(an)(an)(an)全(quan)四原則(ze)：可(ke)靠、可(ke)信、向善、可(ke)控，旨在從頂層設計(ji)上全(quan)面保(bao)障大(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)的安(an)(an)(an)全(quan)。為(wei)了實(shi)現這些(xie)原則(ze)，360又進一(yi)步提(ti)出(chu)(chu)了一(yi)套核心戰法(fa)，包括(kuo)建立“網絡與數(shu)據安(an)(an)(an)全(quan)與大(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)自身(shen)安(an)(an)(an)全(quan)”的雙(shuang)輪(lun)驅動體(ti)系，堅持(chi)以(yi)內(nei)容(rong)安(an)(an)(an)全(quan)為(wei)核心，在大(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)內(nei)部(bu)內(nei)置(zhi)原生安(an)(an)(an)全(quan)機(ji)制(zhi)，采用“小模(mo)(mo)(mo)型(xing)(xing)(xing)”的技術(shu)思路保(bao)障大(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)安(an)(an)(an)全(quan)的技術(shu)路線，同(tong)時構建大(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)安(an)(an)(an)全(quan)實(shi)戰對抗評(ping)(ping)估(gu)體(ti)系對打模(mo)(mo)(mo)型(xing)(xing)(xing)安(an)(an)(an)全(quan)實(shi)戰能力進行(xing)評(ping)(ping)估(gu)，并進一(yi)步構建以(yi)服務(wu)運營為(wei)核心的大(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)安(an)(an)(an)全(quan)持(chi)續(xu)治理體(ti)系等。
二、360提出大模型安全解決方案，構筑大模型安全底座
大(da)模(mo)型安全(quan)(quan)戰法的(de)落地需(xu)要(yao)足(zu)夠的(de)硬核安全(quan)(quan)能(neng)(neng)力(li)(li)支撐。360基(ji)于(yu)大(da)模(mo)型領域的(de)實踐，提出了大(da)模(mo)型安全(quan)(quan)能(neng)(neng)力(li)(li)體系框(kuang)架（AISF框(kuang)架）。這個框(kuang)架將(jiang)大(da)模(mo)型安全(quan)(quan)能(neng)(neng)力(li)(li)分為兩(liang)部分，一是傳統網絡(luo)與(yu)數據安全(quan)(quan)能(neng)(neng)力(li)(li)，二是需(xu)要(yao)嵌入到大(da)模(mo)型內部，以解決(jue)大(da)模(mo)型內容可信、合規向善為目(mu)標的(de)大(da)模(mo)型原生安全(quan)(quan)能(neng)(neng)力(li)(li)。
為(wei)了將(jiang)360大模型(xing)(xing)(xing)(xing)安(an)(an)(an)(an)全(quan)的核心能力(li)(li)輸(shu)出(chu)給(gei)千(qian)行百業，360提出(chu)了“雙輪驅動”的大模型(xing)(xing)(xing)(xing)安(an)(an)(an)(an)全(quan)解(jie)(jie)決方(fang)案框架。在框架中(zhong)，一方(fang)面(mian)，利(li)用360安(an)(an)(an)(an)全(quan)云圍繞(rao)“數據、探針、平臺、專(zhuan)家、AI”這(zhe)五(wu)個核心要素，在網絡與數據安(an)(an)(an)(an)全(quan)層(ceng)面(mian)對(dui)打(da)模型(xing)(xing)(xing)(xing)進(jin)行全(quan)面(mian)防護；另一方(fang)面(mian)，通(tong)過(guo)“360大模型(xing)(xing)(xing)(xing)原生安(an)(an)(an)(an)全(quan)能力(li)(li)增強包(bao)”解(jie)(jie)決大模型(xing)(xing)(xing)(xing)在內容可(ke)信、合規向善、模型(xing)(xing)(xing)(xing)可(ke)控上存在的安(an)(an)(an)(an)全(quan)問題，并(bing)利(li)用360獨(du)有的大模型(xing)(xing)(xing)(xing)安(an)(an)(an)(an)全(quan)評(ping)估(gu)系統，對(dui)大模型(xing)(xing)(xing)(xing)的安(an)(an)(an)(an)全(quan)能力(li)(li)進(jin)行實戰評(ping)估(gu)。
▲“雙輪(lun)驅動”的360大模型(xing)安全解(jie)決方(fang)案
這套360大(da)(da)模(mo)型安全解決方案可以平移、復制(zhi)給有需求的(de)行(xing)業客戶(hu)與合(he)作伙伴和，并以標準化(hua)的(de)能力(li)產品方式對(dui)其他大(da)(da)模(mo)型企業進行(xing)安全賦(fu)能，確保360的(de)大(da)(da)模(mo)型安全成(cheng)果與積累發揮最大(da)(da)價值。
三、360引領大模型安全實踐，助力企業“數轉智改”
只(zhi)有躬身入局才能攻(gong)克(ke)大模(mo)型安全難題。憑借(jie)安全和大模(mo)型雙(shuang)重能力，360的大模(mo)型創新能力不(bu)僅(jin)得到了(le)政府(fu)機構(gou)的認(ren)可與贊(zan)譽，更在多個行業中實現了(le)落地應用，展(zhan)示了(le)其(qi)實際應用價(jia)值。
在(zai)與某金融機構合(he)作中，360利用私有(you)大(da)模型(xing)(xing)為其(qi)部署了(le)(le)多套AI生產力工具(ju)，從企(qi)業入職培(pei)訓、合(he)規文(wen)檔編寫、電銷意向判斷(duan)，到催收分案(an)(an)、系統告警提示(shi)等(deng)，同時(shi)在(zai)大(da)模型(xing)(xing)內部集成了(le)(le)360大(da)模型(xing)(xing)安全解決(jue)方案(an)(an)，在(zai)幫(bang)助該企(qi)業降本增效的同時(shi)，確保了(le)(le)大(da)模型(xing)(xing)的安全。
此外，360大模(mo)型安(an)全解決方案還在政(zheng)務、稅務、醫療(liao)等(deng)多個(ge)重點(dian)行業完成了落地，為(wei)這些(xie)行業的(de)數字(zi)化(hua)轉型提供了堅實的(de)安(an)全保障。
隨(sui)著數字(zi)化(hua)時代(dai)的(de)快速推進，大模型(xing)技術的(de)安(an)全問題將變得愈發重要。360大模型(xing)安(an)全解決方案的(de)成功實踐，不僅為(wei)行業(ye)樹立了大模型(xing)安(an)全建設的(de)典范(fan)，更為(wei)整個(ge)行業(ye)的(de)安(an)全發展指明了方向。未來，360將繼續引領大模型(xing)安(an)全領域的(de)發展，為(wei)構建更加安(an)全、可(ke)靠的(de)數字(zi)化(hua)世界貢獻力量。
