“柯林里奇困境”(Collingridge Dilemma)聽起來像是夏洛克?福爾摩斯(Sherlock Holmes)小說的標(biāo)題。事實(shí)上，這是對(duì)控制高風(fēng)險(xiǎn)技術(shù)有多困難的最好解釋之一。從本質(zhì)上講，它關(guān)注的是不完美的信息與建制之間的不平衡。

學(xué)者戴維?柯林里奇(David Collingridge)在他的著作《技術(shù)的社會(huì)控制》(the Social Control of Technology)中寫道：“很容易做出改變時(shí)，對(duì)改變的需求是無法預(yù)見的；對(duì)改變的需求很明顯時(shí)，做出改變就變得昂貴、困難且耗時(shí)。”

處理已知的未知問題時(shí)，我們?cè)撛趺醋觯咳缃瘢O(jiān)管機(jī)構(gòu)嘗試評(píng)估人工智能對(duì)金融行業(yè)的影響時(shí)就面臨這種困境。正如國際清算銀行(Bank for International Settlements)和經(jīng)合組織(OECD)最近的兩份報(bào)告表明的那樣，我們現(xiàn)在已經(jīng)到了一個(gè)關(guān)鍵時(shí)刻。雖然在提高效率和改善服務(wù)方面，人工智能的好處顯而易見，但其風(fēng)險(xiǎn)往往讓人看不清楚。