面部識(shí)別技術(shù)的反烏托邦潛力

您正在觀看：面部識(shí)別技術(shù)的反烏托邦潛力

由美國(guó)有線電視新聞網(wǎng)倫敦的Matthew Ponsford撰寫

第二次你進(jìn)入倫敦設(shè)計(jì)雙年展的美國(guó)館，你會(huì)覺得你正在被觀看。但是在倫敦富麗堂皇的薩默塞特宮(Somerset House)的這個(gè)房間花一點(diǎn)時(shí)間，它的創(chuàng)造者希望你能夠意識(shí)到你是 - 而且永遠(yuǎn)都是 - 在你無(wú)法控制的強(qiáng)大系統(tǒng)的眼睛下。

Fenty Beauty，SpaceX Falcon和Sony Aibo入圍Beazley Designs of the Year

這個(gè)名為“面值”的裝置由紐約史密森尼設(shè)計(jì)博物館的Cooper Hewitt策劃，匯集了令人不安的技術(shù)實(shí)例，這些技術(shù)旨在閱讀我們的面孔，了解我們的情感并直觀地了解我們的身份。

坐在兩把椅子中的任何一把，配備面部檢測(cè)技術(shù)的相機(jī)將掃描你的眉毛或鼻子皺紋的最輕微的曲線，以獲得情緒的跡象。捕獲的所有內(nèi)容都會(huì)返回各種可疑的反饋 - 例如對(duì)您年齡的不準(zhǔn)確評(píng)估或難以理解的“幸福”分?jǐn)?shù)。庫(kù)珀休伊特(Cooper Hewitt)的董事卡羅琳·鮑曼(Caroline Baumann)認(rèn)為這很有趣，但“充電”。

她在接受電話采訪時(shí)說(shuō)：“我認(rèn)為將這些數(shù)據(jù)或事實(shí)轉(zhuǎn)化為數(shù)據(jù)或事實(shí)可能令人心碎。但事實(shí)就是如此。”

該裝置是倫敦設(shè)計(jì)雙年展的40個(gè)展館之一，這是一個(gè)國(guó)際設(shè)計(jì)展示，主題為“情感狀態(tài)”。

“Face Values”的安裝視圖是美國(guó)倫敦設(shè)計(jì)雙年展館。圖片來(lái)源：David Levene提供的

“Face Values”獲得了該主題最具啟發(fā)性的詮釋獎(jiǎng)，是面對(duì)網(wǎng)絡(luò)數(shù)字技術(shù)入侵我們通常私密的內(nèi)心世界的一系列創(chuàng)意項(xiàng)目的最新成果。

大膽，挑釁，包容：游戲設(shè)計(jì)的新面貌

Cooper Hewitt當(dāng)代設(shè)計(jì)高級(jí)策展人Ellen Lupton表示，該展覽反映了公眾對(duì)設(shè)計(jì)和技術(shù)未來(lái)的信任正在崩潰的時(shí)期：“這一假設(shè)已經(jīng)發(fā)生了變化，這種假設(shè)認(rèn)為技術(shù)是一種解放力量。”

位于“Face Values”中心的兩把椅子坐在美國(guó)設(shè)計(jì)師Zachary Lieberman和R. Luke DuBois的裝置前面。Liberman揭示了面部檢測(cè)的工作方式，掃描訪客以顯示該技術(shù)如何將一個(gè)人的外觀變成一組數(shù)據(jù)點(diǎn)。然后它將從其他訪客捕獲的類似的身體部位有趣地疊加到你的臉上。結(jié)果是一種警察合成照片，在屏幕上模擬，當(dāng)你扭曲和扭曲你的臉。

在2018年倫敦設(shè)計(jì)雙年展上，一位訪客與Cooper Hewitt的“面值”裝置中的Zachary Lieberman的表鏡進(jìn)行了互動(dòng)。照片David Levene。圖片來(lái)源：David Levene提供的

但DuBois的展示更令人不安。參觀者被記錄下來(lái)，因?yàn)樗麄儽灰蟊憩F(xiàn)出特定的情感，如喜悅或平靜，并通過(guò)人工智能計(jì)劃評(píng)價(jià)他們的努力。與此同時(shí)，他們正在反饋它所收集的信息 - 其中大部分是不準(zhǔn)確的 - 關(guān)于這個(gè)人的年齡，性別和種族。

對(duì)于游客而言，令人不安的是坐在那里咧嘴笑著獲得最大的“歡樂(lè)”收視率，同時(shí)被告知你看起來(lái)很老。它體現(xiàn)了這些系統(tǒng)如何影響和制服我們。

“人們知道(這種技術(shù))存在，但他們并不知道收集這些信息的政府和營(yíng)銷公司的數(shù)量，”鮑曼說(shuō)，“我們確實(shí)希望人們不要意識(shí)到技術(shù)不是A +。”

R. Luke DuBois在Cooper Hewitt的“Face Values”裝置中拍攝了他的作品。圖片來(lái)源：David Levene提供的

全球斗篷

生物識(shí)別專家兼執(zhí)行董事世界隱私論壇的Pam Dixon預(yù)測(cè)，我們正面臨著面對(duì)日常生活的面部識(shí)別。

“我最好的猜測(cè)是，我們將在五年內(nèi)看到整個(gè)世界隱藏在面部識(shí)別技術(shù)和其他生物識(shí)別技術(shù)中，”Dixon在電話采訪中說(shuō)。“這很難錯(cuò)過(guò)。”

控制幻覺：為什么世界上充滿了不起作用的按鈕

面部識(shí)別技術(shù)的形式已經(jīng)在Apple的iPhone X上推出，用于解鎖屏幕，以及Facebook用戶上傳的相冊(cè)，以便在照片中識(shí)別您。

但警方和安全部隊(duì)長(zhǎng)期以來(lái)一直是該技術(shù)的最大支持者，盡管它的使用遠(yuǎn)非萬(wàn)無(wú)一失。今年，倫敦大都會(huì)警察局在諾丁山狂歡節(jié)結(jié)束了對(duì)面部識(shí)別軟件的使用，這是一個(gè)慶祝英國(guó) - 加勒比文化和該國(guó)最大的街頭藝術(shù)節(jié)。根據(jù)獨(dú)立法律觀察人士的說(shuō)法，在過(guò)去的兩年里，大都會(huì)人員已經(jīng)掃描了人群中的疑似犯罪分子，但他們一再被誤認(rèn)。

客戶在iPhone X上設(shè)置面部識(shí)別。信用：Bloomberg通過(guò)Getty Images

在雙年展的輕松環(huán)境中，游客對(duì)于被誤導(dǎo)的震驚做出了最大的反應(yīng)。在現(xiàn)實(shí)世界中，執(zhí)法的錯(cuò)誤讀數(shù)會(huì)帶來(lái)可怕的后果，面部識(shí)別技術(shù)在種族和性別平等方面的慘淡記錄是其最一致和潛在的災(zāi)難性失敗。

2月，麻省理工學(xué)院和斯坦福大學(xué)的研究人員發(fā)現(xiàn)，微軟，IBM和中國(guó)初創(chuàng)公司Megvii制作的面部識(shí)別應(yīng)用程序在確定淺膚色男性的性別方面準(zhǔn)確率超過(guò)99%。但對(duì)膚色較深的女性進(jìn)行相同的測(cè)試，識(shí)別錯(cuò)誤的比例高達(dá)35%。

在該技術(shù)的一個(gè)最近的測(cè)試由美國(guó)公民自由聯(lián)盟(ACLU)亞馬遜的面部識(shí)別系統(tǒng)，它已授權(quán)給執(zhí)法部門和私營(yíng)部門的公司，掃描美國(guó)國(guó)會(huì)的所有535名成員反對(duì)25000名警方嫌疑犯照片的面孔，并產(chǎn)生了28個(gè)錯(cuò)誤的匹配。該測(cè)試還發(fā)現(xiàn)，非裔美國(guó)人和拉美裔國(guó)會(huì)議員被錯(cuò)誤地誤認(rèn)為是罪犯。

迫害的歷史

“這不是一件全新的事情，”Lupton解釋道，他將算法與維多利亞時(shí)代聯(lián)系起來(lái)，用于測(cè)量從鼻子大小到眼睛之間距離的所有內(nèi)容，相信它可以解釋一個(gè)人的性格。

“它涉及現(xiàn)代警務(wù)和心理學(xué)的起源。第一個(gè)面部照片都是關(guān)于測(cè)量面部和尋找罪犯之間的統(tǒng)計(jì)相似性。”

NASA支持火星上3D打印房屋的設(shè)計(jì)

但現(xiàn)在是探索這些想法的“肥沃時(shí)期”，鐘聲鮑曼。大約在過(guò)去兩年中，自唐納德特朗普總統(tǒng)的震驚選舉和英國(guó)退出歐盟的公投決定以來(lái)，由于調(diào)查顯示劍橋分析公司在利用復(fù)雜數(shù)據(jù)影響投票方面的作用，對(duì)技術(shù)的信任度大幅下降，操縱情緒和傳播虛假信息。

相關(guān)視頻：中國(guó)的總體規(guī)劃是什么?

有關(guān)異常事物如何得到的例子，Lupton指向中國(guó)。在新疆地區(qū)，在中國(guó)最西邊，黑匣子系統(tǒng)向數(shù)以萬(wàn)計(jì)的監(jiān)控?cái)z像機(jī)提供數(shù)據(jù)，以及從“消費(fèi)者習(xí)慣到銀行活動(dòng)，健康狀況以及新疆每個(gè)居民的DNA特征”的數(shù)據(jù)。據(jù)德國(guó)新聞雜志Der Spiegel報(bào)道。

算法為任何不規(guī)則的活動(dòng)搜索這些數(shù)據(jù)，數(shù)千人被捕。類似的系統(tǒng)將在這個(gè)擁有14億人口的州內(nèi)推出，其形式是一個(gè)全能的系統(tǒng)，它將為每個(gè)人提供所謂的社會(huì)信用評(píng)分，該評(píng)分將決定從住房到約會(huì)應(yīng)用程序的所有內(nèi)容。

在所有這些恐懼中，鮑曼相信設(shè)計(jì)師和博物館可以在教育游客方面發(fā)揮作用，甚至可能促使一些人采取行動(dòng)。

“隨著越來(lái)越多的人意識(shí)到這一點(diǎn)，我認(rèn)為會(huì)有異議和變化