人工智能被帶跑偏 已學(xué)會(huì)歧視與偏見

人工智能的發(fā)展是為了讓其學(xué)習(xí)和模仿人類，以實(shí)現(xiàn)對人類社會(huì)的幫助?？墒牵l(wèi)報(bào)近日發(fā)表文章稱，人工智能學(xué)習(xí)人類實(shí)在太敬業(yè)，不僅學(xué)習(xí)人類的優(yōu)點(diǎn)，還染上了人類的惡習(xí)——人工智能已經(jīng)開始出現(xiàn)種族歧視和性別偏見了。

據(jù)科學(xué)家們研究，讓人工智能產(chǎn)生種族及性別偏見的主要問題來自于機(jī)器學(xué)習(xí)時(shí)，人類語言和文化中根深蒂固的偏見被AI吸收而且得到了強(qiáng)化?？茖W(xué)家表示，人工智能由于算法和人類不同，這種偏見被強(qiáng)化的可能性更高，因?yàn)槠錈o法有意識(shí)的去抵制所學(xué)到的這些。

人工智能目前存在的問題在于，其經(jīng)常會(huì)把歐美人的名字和“快樂”之類的愉快的詞語聯(lián)系在一起，而非裔人的名字則通常和不愉快的詞聯(lián)系在一起。這種算法將很容易影響到人們的正常生活，比如當(dāng)人工智能系統(tǒng)進(jìn)行簡歷篩選時(shí)，會(huì)很容易讓非裔失去面試邀請的機(jī)會(huì)。

而目前，業(yè)內(nèi)部分人士已經(jīng)開始意識(shí)到這個(gè)問題的嚴(yán)重性，他們主張?jiān)跈C(jī)器學(xué)習(xí)中新增一項(xiàng)名叫“單詞嵌入”的工具，用于改變計(jì)算機(jī)解讀語音或文字的方式，下一步將會(huì)自然的開發(fā)AI的擬人化能力，比如常識(shí)和邏輯等。

這一問題并非近期才出現(xiàn)的，微軟在去年推出的Twitter機(jī)器人就因其不當(dāng)言論被緊急下線。人類的文化和語言歷史太長，這會(huì)對人工智能造成的影響可能超出了我們的預(yù)估。

原標(biāo)題：人工智能被帶跑偏 已學(xué)會(huì)歧視與偏見