“它（人工智能）可能會自信地犯錯。”當?shù)貢r間9日，在倫敦舉辦的中英人工智能協(xié)會（CBAIA）年度大會上，倫敦大學學院（UCL）機器學習教授阿瑟·格雷頓（Arthur Gretton）在接受第一財經(jīng)記者采訪時稱，當前人工智能領域，尤其是在因果人工智能（Causal AI）領域，最大的挑戰(zhàn)之一就是在于不確定性量化。

格雷頓解釋稱，人工智能目前可以就某事做出預測，比如某款藥物的療效，或者某項政策的效果，但人工智能往往無法準確衡量預測時的不確定性，因此它在預測時有較大概率會犯下錯誤。

“我認為，這是人工智能研究未來面臨的最大挑戰(zhàn)之一，也是我的研究小組正在探索的課題之一。”格雷頓教授說。

另一項挑戰(zhàn)是統(tǒng)計保障（Statistical Guarantees）。格雷頓教授稱，其團隊另一項研究課題是，隨著數(shù)據(jù)量的增加，模型會根據(jù)數(shù)據(jù)的哪些特征不斷改進，“這同樣是一個巨大的挑戰(zhàn)。”

本次CBAIA年會以“用數(shù)據(jù)為人工智能加冕”（Crowning AI with Data）為主題，來自學術(shù)界和金融界的多位嘉賓圍繞這一主題進行了分享。

醫(yī)學和金融案例

會上，格雷頓教授分享了一個疾病治療的案例：假設一種疾病有輕度和重度兩種形式，醫(yī)生根據(jù)疾病的嚴重程度來決定治療方式，輕度的用藥，重度的手術(shù)。根據(jù)觀察，用藥治療的治愈率為85%，手術(shù)治療的治愈率為72%。醫(yī)院管理層看到相關數(shù)字，便認為用藥治療效果更好，且藥物往往還比手術(shù)費用更低，因此決定所有患者都接受藥物治療。但是，這個決策忽視了治療與疾病嚴重程度之間的關系，即輕度患者適合藥物，重度患者需要手術(shù)。當所有患者都接受藥物治療時，治療的效果會大大降低，因為重度患者本應接受手術(shù)。

這個案例對于研究和使用人工智能的教訓在于，在分析數(shù)據(jù)時，如果沒有充分考慮各個因素之間的關系（例如治療方法與疾病嚴重程度之間的關系），就可能得出錯誤的結(jié)論。醫(yī)院管理層的干預打亂了治療和疾病嚴重度之間的聯(lián)系，導致錯誤決策和低效的治療方案。因此，必須仔細考慮不同變量、不同數(shù)據(jù)之間的關系，避免錯誤簡化復雜情況。

大數(shù)據(jù)公司DBdolphin首席運營官Yangchun Chu則分享了人工智能在金融領域的數(shù)據(jù)處理和應用案例。他表示，典型的量子對沖基金或量子交易柜臺需要處理海量數(shù)據(jù)，例如，交易指令、公司財務數(shù)據(jù)以及其他相關數(shù)據(jù)。通過這些數(shù)據(jù)，團隊會開發(fā)多種功能或因子，并將其應用于各種模型，用于預測投資回報；再根據(jù)模型的預測結(jié)果，生成交易信號。若其模型表現(xiàn)優(yōu)秀，能夠準確預測回報，則將賺取豐厚利潤。

人腦提供了一個很好的模板

本次年會舉辦場所位于倫敦大學學院蓋茨比計算神經(jīng)科學中心。據(jù)介紹，該中心成立于1998年，由圖靈獎和諾獎雙料得主、被稱作“AI教父”的杰弗里·辛頓（Geoffrey Hinton）教授參與創(chuàng)立。中心專注于了解大腦計算的神經(jīng)機制，通過結(jié)合神經(jīng)科學、數(shù)學和機器學習等不同學科，探索神經(jīng)回路如何處理信息、如何進行學習和決策，以及這些過程如何產(chǎn)生感知和行為。

在中心的會議室中，格雷頓教授告訴記者：“利用神經(jīng)科學來真正理解機器學習的研究還不夠成熟。我認為，要理解人類大腦，實在太難了。”

但他也認為，人類大腦為研究人員提供了一個很好的模板，因為它能夠在非常少的能量消耗下，處理極為復雜的任務，“所以，某種程度上，（人類大腦）為我們設定了一個目標，值得我們努力去追求”。