論壇現(xiàn)場(chǎng)。東南網(wǎng)記者 盧金福 攝
論壇現(xiàn)場(chǎng)。東南網(wǎng)記者 盧金福 攝
東南網(wǎng)7月19日?qǐng)?bào)道(本網(wǎng)記者 盧金福)2023年中國(guó)網(wǎng)絡(luò)文明大會(huì)算法治理論壇昨日在廈門舉辦。論壇以“算法治理向上向善 網(wǎng)絡(luò)文明共建共享”為主題展開探討,來(lái)自算法領(lǐng)域的專家學(xué)者和企業(yè)代表通過(guò)主題演講等形式,聚焦人工智能技術(shù)發(fā)展的重點(diǎn)難點(diǎn),立足算法綜合治理在新形勢(shì)下的迫切需求,共同探討人工智能技術(shù)創(chuàng)新發(fā)展新路徑、算法綜合治理新方法。
算法是數(shù)字社會(huì)、數(shù)字經(jīng)濟(jì)的重要基礎(chǔ),在社交媒體、電子商務(wù)、信息平臺(tái)等多領(lǐng)域被廣泛應(yīng)用。在主題演講環(huán)節(jié),6位嘉賓分別圍繞“通用人工智能的應(yīng)用與治理”“AIGC時(shí)代全媒體傳播體系面臨的挑戰(zhàn)及對(duì)策建議”“AI大模型應(yīng)用下的算法治理挑戰(zhàn)與應(yīng)對(duì)”“智能算法安全現(xiàn)狀與綜合治理實(shí)踐”“總臺(tái)算法——大模型價(jià)值認(rèn)知”等不同角度展望算法治理未來(lái)方向,共同尋求合理有效的算法治理路徑。
AI應(yīng)用不斷推陳出新
AI變革的時(shí)代,隨著算力不斷發(fā)展,數(shù)據(jù)的膨脹,算法的創(chuàng)新和迭代,業(yè)界已經(jīng)涌現(xiàn)出各種各樣的模型,能夠把人工智能的能力發(fā)揮出來(lái),影響各行各業(yè)。近日,阿里云宣布AI繪畫創(chuàng)作大模型“通義萬(wàn)相”開啟定向邀測(cè),這是繼大語(yǔ)言模型“通義千問(wèn)”、聚焦音視頻內(nèi)容的“通義聽(tīng)悟”之后,阿里云通義大模型家族的又一位新成員。“如果要將大模型算法這一技術(shù)推廣、運(yùn)用到生產(chǎn)和科研中去,它的成本一定要降低,才可能被更多人使用,而這也是我們集團(tuán)當(dāng)前的發(fā)展思路。”阿里云智能集團(tuán)副總裁朱冉說(shuō)。
百度自 2019 年開始大模型的研發(fā)工作,先后發(fā)布知識(shí)增強(qiáng)文心系列模型。前不久,百度正式發(fā)布文心大模型 3.5 版本,進(jìn)一步在基礎(chǔ)模型、知識(shí)增強(qiáng)、檢索增強(qiáng)等多項(xiàng)核心技術(shù)上取得創(chuàng)新。百度集團(tuán)人工智能算法委員會(huì)主席、集團(tuán)副總裁吳甜表示,大模型還面臨著不少的挑戰(zhàn),大模型建設(shè)非常復(fù)雜,難度高、成本高,在算力、數(shù)據(jù)、算法三個(gè)層面要有深厚的積累。應(yīng)用場(chǎng)景雖然現(xiàn)在很豐富,但大量的場(chǎng)景在引入大模型技術(shù)解決問(wèn)題的同時(shí),也遇到各種各樣的問(wèn)題,包括穩(wěn)定性和可控性等。
算法治理面臨不少挑戰(zhàn)
“算法缺陷導(dǎo)致智能系統(tǒng)存在崩潰隱患,如自動(dòng)駕駛事故、金融市場(chǎng)閃崩、地區(qū)大停電等等。”中國(guó)科學(xué)院計(jì)算技術(shù)研究所副所長(zhǎng)程學(xué)旗提到算法治理面臨著不少的挑戰(zhàn),算法濫用導(dǎo)致社會(huì)不公和群體極化,危害社會(huì)穩(wěn)定,如派單算法霸凌、算法誘使沉迷、大數(shù)據(jù)殺熟,推薦算法引發(fā)信息繭房和社會(huì)偏見(jiàn)等。他認(rèn)為,算法治理要擁抱“技術(shù)治理”主義,要利用風(fēng)險(xiǎn)監(jiān)測(cè)系統(tǒng)開展算法風(fēng)險(xiǎn)自動(dòng)巡查,構(gòu)建算法評(píng)估體系支撐,常態(tài)化算法安全評(píng)估。加快建設(shè)和出臺(tái)系列算法合規(guī)標(biāo)準(zhǔn),形成監(jiān)測(cè)、研判、評(píng)估的算法治理閉環(huán)體系,各方共同協(xié)作,構(gòu)建一個(gè)良性的可持續(xù)發(fā)展的生態(tài)。
要大力推進(jìn)發(fā)展更要全流程管理
人民網(wǎng)董事長(zhǎng)、總裁,傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室主任葉蓁蓁表示,未來(lái)只能用AI治理AI,統(tǒng)籌發(fā)展與安全,首先要大力推進(jìn)發(fā)展,不發(fā)展或者發(fā)展慢,將是最大的不安全。
新華社媒體融合生產(chǎn)技術(shù)與系統(tǒng)國(guó)家重點(diǎn)實(shí)驗(yàn)室常務(wù)副主任賀大為表示,從算法的訓(xùn)練模型,以及它的應(yīng)用,全流程都應(yīng)該進(jìn)行相應(yīng)的管理。“而這個(gè)管理的過(guò)程,應(yīng)該是各部門乃至全社會(huì)形成合力。”
責(zé)任編輯:趙睿
- 最新專題要聞 頻道推薦
- 進(jìn)入圖片頻道最新圖文
- 進(jìn)入視頻頻道最新視頻
- 一周熱點(diǎn)新聞