全球各大企業(yè)在AI(人工智能)技術(shù)賽道上競(jìng)相追逐，博鰲亞洲論壇2025年年會(huì)于3月26日舉辦的一場(chǎng)AI主題分論壇，關(guān)注相關(guān)的深層次話題：在AI技術(shù)迅猛發(fā)展的時(shí)代，人類能否繼續(xù)穩(wěn)坐“駕駛艙”，確保自己是掌控方向的司機(jī)，而非被動(dòng)的乘客？

為何人類必須掌控AI“方向盤”

AI近年來(lái)的快速發(fā)展既令人振奮，又暗藏隱憂。上海科學(xué)智能研究院首席戰(zhàn)略官、復(fù)旦大學(xué)經(jīng)濟(jì)學(xué)教授楊燕青指出，AI可能是人類歷史上最強(qiáng)大的通用技術(shù)。“與蒸汽機(jī)、電力等增強(qiáng)人類體力的技術(shù)不同，AI直接賦能人類大腦，涉及計(jì)算與認(rèn)知的深度融合。”楊燕青將AI特性描述為“類人”，這使得AI既能帶來(lái)生產(chǎn)力提升，也可能引發(fā)威脅人類生存的風(fēng)險(xiǎn)。

中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤介紹，2025年人工智能發(fā)展呈現(xiàn)三大趨勢(shì)：從生成式大模型邁向智能體，從預(yù)訓(xùn)練走向推理，從信息智能走向物理智能和具身智能。

隨著AI的快速迭代，一個(gè)令人不安的場(chǎng)景或從科幻電影中走向現(xiàn)實(shí)：本應(yīng)協(xié)助人類的AI，可能因?yàn)樗惴ㄆ罨蛲獠坎倏v，做出違背倫理、危及人類利益的決策。

人類如何掌控AI“方向盤”

面對(duì)未知的AI風(fēng)險(xiǎn)，人類如何應(yīng)對(duì)？中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問機(jī)構(gòu)專家曾毅主張，將倫理安全融入AI開發(fā)的底層設(shè)計(jì)，視其為“第一性原則”，不可刪除、不可違背。他強(qiáng)調(diào)，AI的倫理安全應(yīng)成為技術(shù)發(fā)展的基因，確保其與人類價(jià)值觀保持一致。

張亞勤進(jìn)一步將AI風(fēng)險(xiǎn)分解為可信度與可控性兩個(gè)層面。可信度要求AI在執(zhí)行任務(wù)時(shí)遵循人類期望、倫理規(guī)范和社會(huì)法律，不產(chǎn)生誤導(dǎo)性、有害或不公平的結(jié)果；可控性則確保人類能有效監(jiān)控、干預(yù)和糾正AI行為，避免失控或不可預(yù)測(cè)的后果。他提出，設(shè)定技術(shù)紅線與邊界是關(guān)鍵，如限制智能體自我復(fù)制，以降低失控風(fēng)險(xiǎn)。

在具體實(shí)踐上，國(guó)際社會(huì)已采取行動(dòng)。歐盟《人工智能法案》于2024年實(shí)施，對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)設(shè)定了嚴(yán)格的透明度和問責(zé)要求；中國(guó)2023年發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》則明確要求企業(yè)對(duì)AI輸出內(nèi)容負(fù)責(zé)。這些技術(shù)與倫理并重的措施，旨在確保人類腳踩AI超速的“剎車片”，手握AI發(fā)展的“方向盤”。

平衡AI：發(fā)展與治理的共生之道

有人擔(dān)憂，給AI“裝上剎車片”會(huì)削弱其競(jìng)爭(zhēng)力。曾毅介紹，其所在的團(tuán)隊(duì)通過對(duì)大模型進(jìn)行微調(diào)，可以將安全能力提升20%至30%，對(duì)其性能幾乎沒有負(fù)面影響。這一發(fā)現(xiàn)證明，安全治理與技術(shù)發(fā)展可以并行不悖。

當(dāng)天在博鰲的討論最終匯聚成共識(shí)：AI治理需要構(gòu)建一個(gè)多元、立體的全方位治理體系。這一體系如同一個(gè)精密的生態(tài)系統(tǒng)，既有自上而下的宏觀規(guī)劃，也有自下而上的微觀參與，涵蓋技術(shù)、社會(huì)、經(jīng)濟(jì)等多元維度。

“我們?cè)趺春腿斯ぶ悄芄蔡帲咳绾巫屓斯ぶ悄苁沟谜麄€(gè)世界變得更好，人類應(yīng)有更大的責(zé)任。”楊燕青認(rèn)為，AI治理是每個(gè)人的使命。社會(huì)大眾應(yīng)保持自身的價(jià)值觀和創(chuàng)新力，在多元的理念中把握好自己的“方向盤”。

標(biāo)簽：