威廉姆斯(Robert Williams)住在底特律郊外，今年6月某天在家被警方逮捕，理由是臉部識別軟件認(rèn)為他涉嫌一起偷竊案——一名黑人闖入珠寶店，偷走了一些手表。閉路電視攝像頭只拍到一點(diǎn)點(diǎn)嫌犯，而且非常不清楚。雖然警方知道，他們所使用的臉部識別軟件有高達(dá)96%的錯誤率，而且軟件也顯示，對威廉姆斯只有六七成的把握，警方依舊去逮捕他，而且將之拘留了30個小時，直到他被證明無辜。這個事件曝露了AI的偏差，認(rèn)為大多數(shù)的嫌犯可能是寬鼻梁、低眉毛，從偏見出發(fā)，導(dǎo)致臉部識別軟件錯誤百出。

AI怎么可能有偏見？麥克阿瑟“天才獎”得主Trevor Paglen 今年9月在倫敦佩斯畫廊(Pace)的個展直接面對這個問題。從AI的訓(xùn)練過程出發(fā)，探討“受訓(xùn)過”的AI如何反映并延續(xù)了種族主義、父權(quán)制和階級分化等社會不平等。不論是治安單位，還是大型企業(yè)，利用AI做臉部識別以及監(jiān)控可能導(dǎo)致什么危險。

被Artnet 稱為“超級英雄式的實(shí)證主義藝術(shù)家”，Paglen的專長是透過看得見，來調(diào)查看不見的。他不但為了親眼看到埋在海底的網(wǎng)路電纜而去學(xué)潛水，還由于對美國公安局的“深入觀察”，參與斯諾登紀(jì)錄片《第四公民》（Citizenfour）的拍攝。 他在佩斯畫廊展覽的主題是《盛開》。“這是我在今年春天，當(dāng)世界充滿危機(jī)，充滿了恐懼悲傷時創(chuàng)作的。疫情不但揭露生命的脆弱，也揭露出制度的脆弱。”Paglen在越洋電話中解釋，他所住的紐約雖然像個空城，但春天的花朵壓倒性地綻放，呈現(xiàn)出大自然的爆發(fā)力。“在藝術(shù)史上，花朵代表了多層的意義，既可能象征脆弱，生命的短暫，也能夠代表生命的降臨。”然而，不像在公園所看到的，展覽中花朵看起來相當(dāng)不自然，尤其是它的顏色。Paglen 解釋，花朵的顏色是AI分析了不同的圖像之后所生成的，是AI眼中而不是現(xiàn)實(shí)生活中的顏色。