新華社堪培拉6月30日電（記者白旭 姜晨怡）澳大利亞聯(lián)邦科學(xué)與工業(yè)研究組織（CSIRO）日前發(fā)布消息說(shuō)，該機(jī)構(gòu)的一個(gè)科研團(tuán)隊(duì)開發(fā)了一套人工智能新算法，可幫助抵御“機(jī)器學(xué)習(xí)”可能遇到的干擾。

　　“機(jī)器學(xué)習(xí)”可以在大數(shù)據(jù)訓(xùn)練中“學(xué)習(xí)”正確的工作方法，但它也容易受到惡意干擾。攻擊者一般通過(guò)輸入惡意數(shù)據(jù)來(lái)欺騙“機(jī)器學(xué)習(xí)”模型，導(dǎo)致其出現(xiàn)故障。開發(fā)新算法的Data61機(jī)器學(xué)習(xí)小組負(fù)責(zé)人理查德·諾克博士舉例說(shuō)，在進(jìn)行圖像識(shí)別時(shí)，攻擊者通過(guò)在圖像上添加一層“干擾波”，可以欺騙“機(jī)器學(xué)習(xí)”模型進(jìn)行錯(cuò)誤的圖像分類。

　　“我們的新算法通過(guò)一種類似疫苗接種的思路來(lái)抗干擾。”諾克博士說(shuō)，他們的新算法可對(duì)“機(jī)器學(xué)習(xí)”模型進(jìn)行防干擾訓(xùn)練，比如在圖片識(shí)別領(lǐng)域，對(duì)圖片集合進(jìn)行小的修改或使其失真，可激發(fā)出“機(jī)器學(xué)習(xí)”模型越來(lái)越強(qiáng)的抗干擾能力，并形成相關(guān)的自我抗干擾訓(xùn)練模型。當(dāng)經(jīng)過(guò)小規(guī)模的失真訓(xùn)練后，最終的抗干擾訓(xùn)練模型將更加強(qiáng)大，在干擾真的到來(lái)時(shí)，“機(jī)器學(xué)習(xí)”模型將具備“免疫”功能。

【糾錯(cuò)】

責(zé)任編輯： 焦鵬