每經(jīng)記者｜趙景致    每經(jīng)編輯｜張益銘    

人工智能的采用率正在上升，但信任仍是一個關(guān)鍵挑戰(zhàn)。

全球四大會計(jì)師事務(wù)所之一的畢馬威（KPMG）發(fā)布的最新數(shù)據(jù)顯示，相較于2022年ChatGPT發(fā)布前，如今AI（人工智能）普及率已經(jīng)顯著提升，但憂慮情緒也隨之上升，全球僅46%受訪者愿意信任AI系統(tǒng)。

許多先進(jìn)的人工智能模型被視為“黑箱”，即便是開發(fā)者也難以完全理解其決策邏輯。面對這種透明度缺失的情況，人們應(yīng)如何建立對人工智能系統(tǒng)的信任？近日，《每日經(jīng)濟(jì)新聞》記者（以下簡稱NBD）專訪了香港金融科技周籌辦商Finoverse首席執(zhí)行官Anthony Sar。

NBD：許多先進(jìn)的人工智能模型被視為“黑箱”，面對這種透明度缺失的情況，人們應(yīng)如何建立對人工智能系統(tǒng)的信任？

Anthony Sar：大型語言模型的透明度仍未完全實(shí)現(xiàn)，即便對其創(chuàng)造者而言亦是如此。如今，人工智能不僅能預(yù)測文字，還能理解概念——這既賦予了它強(qiáng)大的能力，也帶來了相應(yīng)風(fēng)險。

建立信任需要強(qiáng)有力的人類監(jiān)督、透明的數(shù)據(jù)使用以及企業(yè)級的測試。負(fù)責(zé)任的人工智能是能夠部署在安全地提升人類成果的領(lǐng)域，而非取代人類的判斷。

NBD：當(dāng)人工智能系統(tǒng)出現(xiàn)嚴(yán)重錯誤（例如自動駕駛汽車引發(fā)事故、醫(yī)療人工智能給出誤診）時，該由誰為這一錯誤負(fù)責(zé)？

Anthony Sar：人工智能出現(xiàn)嚴(yán)重錯誤，其責(zé)任應(yīng)由多方共同承擔(dān)。就像交通安全依賴于司機(jī)、行人及監(jiān)管機(jī)構(gòu)共同遵守規(guī)則一樣，負(fù)責(zé)任的人工智能需要開發(fā)者、部署者和用戶各自承擔(dān)明確的角色。

我們已經(jīng)擁有監(jiān)管復(fù)雜系統(tǒng)的框架，通過標(biāo)準(zhǔn)制定、測試和執(zhí)行，這些框架同樣可以應(yīng)用于人工智能領(lǐng)域。

NBD：隨著人工智能能力的快速提升，人們對其被惡意使用的擔(dān)憂日益加劇，甚至有人擔(dān)心人工智能可能變得無法控制，超出人類的監(jiān)督范圍。您認(rèn)為，這些是迫在眉睫的現(xiàn)實(shí)威脅，還是遙遠(yuǎn)的科幻場景？人類社會應(yīng)如何為人工智能的發(fā)展和使用劃定“紅線”，以應(yīng)對其可能帶來的“災(zāi)難性”或“生存性”風(fēng)險？

Anthony Sar：與任何強(qiáng)大的技術(shù)一樣，人工智能既可用于造福人類，也可能被用于危害他人，就像核能一樣。人工智能可能在未來20年內(nèi)超越人類能力，因此治理至關(guān)重要，必須確保技術(shù)發(fā)展的方向始終服務(wù)于人類福祉。

我們認(rèn)為，靈活的、基于風(fēng)險的治理模式是關(guān)鍵。需要注意的是，并非所有應(yīng)用場景都存在相同程度的風(fēng)險，在金融、醫(yī)療或公共安全等敏感領(lǐng)域，監(jiān)管必須像對持證職業(yè)那樣嚴(yán)格，確保每一項(xiàng)決策都經(jīng)過測試、驗(yàn)證并明確問責(zé)。但在創(chuàng)意類或低風(fēng)險應(yīng)用場景中，應(yīng)允許人工智能在清晰的倫理準(zhǔn)則下更自由地發(fā)展。