(資料圖)

提出“平衡發(fā)展”人工智能倫理觀，明確“以人為本、技術(shù)可控、可持續(xù)發(fā)展”的倫理原則，發(fā)展“負(fù)責(zé)任且可評(píng)估”的人工智能……近日，滬上人工智能企業(yè)動(dòng)作頻頻，“平衡發(fā)展”的人工智能理念日漸成熟。

在商湯科技發(fā)布的《“平衡發(fā)展”的人工智能治理白皮書——商湯人工智能倫理與治理年度報(bào)告（2022年）》中，商湯科技提出發(fā)展“負(fù)責(zé)任且可評(píng)估”的人工智能理念，打造倫理治理閉環(huán)。

報(bào)告提出，從發(fā)展歷程看，人工智能治理至今已經(jīng)經(jīng)歷了以原則討論為主的1.0階段，以政策討論為主的2.0階段。進(jìn)入2022年，隨著全球人工智能治理進(jìn)程的持續(xù)推進(jìn)，以及可信、負(fù)責(zé)任人工智能等相關(guān)理念的持續(xù)滲透，有關(guān)驗(yàn)證人工智能治理如何落地實(shí)施的倡議日益增多。人工智能治理開始進(jìn)入以技術(shù)驗(yàn)證為主的3.0階段，即落地實(shí)踐階段。

而目前，人工智能治理的落地實(shí)踐仍面臨許多挑戰(zhàn)，各行各業(yè)需要重點(diǎn)處理“理念與行動(dòng)”“政策與實(shí)踐”“技術(shù)與用戶”三組關(guān)系，即將人工智能倫理的共同原則付諸實(shí)施；將政策要求轉(zhuǎn)化為技術(shù)和業(yè)務(wù)團(tuán)隊(duì)可執(zhí)行的實(shí)踐標(biāo)準(zhǔn)；處理好技術(shù)與用戶間的關(guān)系，推動(dòng)用戶對(duì)AI治理的認(rèn)知，最終才能深入推進(jìn)人工智能治理。

為有效地推進(jìn)人工智能治理，商湯科技基于對(duì)全球人工智能治理訴求的分析，結(jié)合自身對(duì)技術(shù)和市場(chǎng)的理解，在報(bào)告中提出，“人工智能治理應(yīng)當(dāng)是一個(gè)價(jià)值牽引、技術(shù)先行、多方參與、分層推進(jìn)的動(dòng)態(tài)進(jìn)程”，這為人工智能治理的落地實(shí)踐建立了有效路徑。

從治理效果看，人工智能治理的實(shí)現(xiàn)由低至高，可分為可用、可靠、可控、可信四個(gè)層次。其中，“可用”是指人工智能系統(tǒng)在功能、性能層面應(yīng)當(dāng)能夠滿足應(yīng)用場(chǎng)景需求；“可靠”是指人工智能系統(tǒng)在安全性、魯棒性層面應(yīng)當(dāng)能夠滿足部署環(huán)境和可持續(xù)運(yùn)營(yíng)要求；“可控”是指人工智能系統(tǒng)在功能層面應(yīng)當(dāng)能夠充分保護(hù)人類的自主意志和權(quán)利、保障人類對(duì)系統(tǒng)的控制權(quán)；“可信”是指人工智能系統(tǒng)的設(shè)計(jì)和應(yīng)用應(yīng)當(dāng)符合人類的價(jià)值理念和倫理道德。

因此，人工智能治理體系建構(gòu)的目標(biāo)，就是發(fā)展負(fù)責(zé)任的人工智能，需要做到有跡可循、有據(jù)可查。基于“平衡發(fā)展”的倫理觀，“以人為本、技術(shù)可控、可持續(xù)發(fā)展”的倫理原則，商湯科技此次于行業(yè)首次提出發(fā)展“負(fù)責(zé)任且可評(píng)估”的人工智能，并將其作為開展人工智能治理的愿景目標(biāo)。

標(biāo)簽： 人工智能 平衡發(fā)展 人工智能系統(tǒng)