齊向東：人工智能帶來(lái)新的安全問(wèn)題，需要人工智能技術(shù)化解

海峽網(wǎng)5月24日訊（海峽網(wǎng)記者 李牧晨）5月24日，以“釋放數(shù)據(jù)要素價(jià)值 發(fā)展新質(zhì)生產(chǎn)力”為主題的第七屆數(shù)字中國(guó)建設(shè)峰會(huì)在福州開(kāi)幕。在“數(shù)據(jù)資源與數(shù)字安全”分論壇結(jié)束后，全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東接受了媒體采訪，他表示：“人工智能帶來(lái)的新的安全問(wèn)題，還需要人工智能技術(shù)進(jìn)行化解。這次BCS大會(huì)我們將主題定為‘AI驅(qū)動(dòng)安全’，就是希望立足安全領(lǐng)域，以全局視角和大家共同探討人工智能與安全的未來(lái)。我們要用AI驅(qū)動(dòng)安全，跟數(shù)據(jù)投毒者、數(shù)據(jù)篡改者、數(shù)據(jù)竊取者進(jìn)行賽跑，借助大模型的開(kāi)發(fā)、應(yīng)用和創(chuàng)新，把他們遠(yuǎn)遠(yuǎn)甩在后面。”

奇安信集團(tuán)董事長(zhǎng)齊向東接受媒體采訪。海峽網(wǎng)記者 李牧晨 攝

齊向東說(shuō)，在數(shù)據(jù)、算力、算法“三駕馬車(chē)”的拉動(dòng)下，人工智能正從“智慧型工具”，進(jìn)化成人類(lèi)的“全能型伙伴”。它給我們帶來(lái)的影響是全方位、顛覆性的，除了在促發(fā)展上起到的提質(zhì)增效作用外，人工智能所帶來(lái)的安全問(wèn)題最受人關(guān)注。當(dāng)前，“飽和式”攻擊、深度偽造、數(shù)據(jù)投毒等等安全新風(fēng)險(xiǎn)，嚴(yán)重沖擊原有的網(wǎng)絡(luò)安全防線和安全體系，加劇了我們的不安全感，引人深思。

具體到數(shù)字安全方面，有三大新挑戰(zhàn)：

一是AI投毒安全隱患加重，攻擊者可以通過(guò)在訓(xùn)練數(shù)據(jù)中加入精心構(gòu)造的異常數(shù)據(jù)，破壞訓(xùn)練數(shù)據(jù)集的準(zhǔn)確性；

二是數(shù)據(jù)篡改隱患加重，AI的大規(guī)模內(nèi)容生產(chǎn)能力可能產(chǎn)生真假難辨的信息，控制社交軟件乃至媒體的輿論聲音，激化意識(shí)形態(tài)矛盾；

三是數(shù)據(jù)泄露隱患加重，在向人工智能投喂數(shù)據(jù)的過(guò)程中，也會(huì)產(chǎn)生商業(yè)機(jī)密泄露問(wèn)題，進(jìn)而導(dǎo)致企業(yè)喪失核心競(jìng)爭(zhēng)力。

安全是人們對(duì)美好生活最本質(zhì)的向往，網(wǎng)絡(luò)安全是人工智能發(fā)展過(guò)程中無(wú)法回避的挑戰(zhàn)。作為人工智能最快落地、最快見(jiàn)到實(shí)效的行業(yè)之一，網(wǎng)絡(luò)安全產(chǎn)業(yè)肩負(fù)重任。未來(lái)人工智能給人類(lèi)帶來(lái)的影響是正還是負(fù)，取決于當(dāng)下如何培養(yǎng)和訓(xùn)練它。如果培養(yǎng)得當(dāng)，人工智能將會(huì)帶給人類(lèi)應(yīng)對(duì)新時(shí)代、新挑戰(zhàn)的“最優(yōu)解”。做好“人工智能+安全”，關(guān)鍵要從提高防護(hù)效率入手。“去年，奇安信創(chuàng)新發(fā)布了QAX-GPT安全大模型，從開(kāi)始訓(xùn)練我們就制定了明確的目標(biāo)：生產(chǎn)力是硬道理，一定要讓客戶在使用奇安信的GPT產(chǎn)品時(shí)就像是雇請(qǐng)了一個(gè)高級(jí)安全專(zhuān)家隊(duì)伍，把產(chǎn)品領(lǐng)回去就能變成自己的力量。”齊向東說(shuō)。