中新經(jīng)緯客戶端8月18日電 (張燕征 實習生黃晨發(fā))由清華大學數(shù)據(jù)治理研究中心主辦的“人工智能倫理與治理”研討會在線上舉行。浙江大學公共管理學院長聘副教授、研究員吳超提出要用形式化數(shù)學方式將算法倫理模糊目標可實現(xiàn)化，強調技術問題最根本的解決方法是發(fā)展技術本身。

　　“人工智能并沒有我們想象當中的那么強，她很難對我們復雜的社會系統(tǒng)進行建模?！眳浅赋?，現(xiàn)在人工智能最強的深度學習方法，是用模式識別的方法去擬合泛化能力較強的函數(shù)，她對于不同個體的行為以及社會個體之間復雜交互的預測能力較弱。

　　對于人工智能的倫理和治理問題，吳超表示這是一個交叉領域，但并不是一個交叉應用的問題?！拔覀儜搹纳鐣茖W的視角向人工智能提出新的科學問題和優(yōu)化目標，驅動人工智能未來的發(fā)展和算法的創(chuàng)新?！?/p>

　　吳超強調，我們現(xiàn)在沒有辦法做到透明性，即模型可解釋性。因為現(xiàn)在還沒有一種可解釋的數(shù)學方法能夠讓一個有幾十億個參數(shù)的神經(jīng)網(wǎng)絡變得透明，所以更重要的是，我們能否從社會科學的角度去驅動這些可解釋性的研究。“這應該是比較基礎和漫長的過程，但我們不能因為對人工智能沒有一個很好的解釋就不使用她?！?/p>

　　吳超指出，這種學術思路涉及到一個很基本的問題，即對社會治理問題的形式化描述，比如如何把“向善”表達為一種機器學習可以理解的目標。“這也是我們一直想促成的學科交叉的對話內容，而不是各有各的詞匯集。我們能夠用一種形式化的數(shù)學方式把這些模糊目標轉化成為一個可實現(xiàn)的目標。根據(jù)這種學術思路，最近幾年我們一直在做‘分布式的智慧治理’的題目，即如何構建一種群體智慧作為未來智能社會基礎的智慧結構?！?/p>

　　吳超還提到該研究方向上幾個比較重要的科學問題：第一個是不以模型泛化能力為目標，更加重視人工智能當中的個異性，而不在于用一個整體模型對更多節(jié)點做廣泛性的適用。第二個是如何對動態(tài)性進行建模的支持。第三個是如何提高聚合模型的公平性。

　　“總而言之，我認為要解決技術帶來的問題，最根本的方法應該是發(fā)展技術本身。目前AI還處在一個技術非常不成熟的早期階段，從社會治理或者倫理角度來糾正她的方向，在相應的方向進行更加扎實的研究，這也是我們目前努力的方向?！眳浅f。(中新經(jīng)緯APP)

　　中新經(jīng)緯版權所有，未經(jīng)書面授權，任何單位及個人不得轉載、摘編或以其她方式使用。