在線客服
企業(yè)微信
核心提示：以色列的面部識(shí)別技術(shù)正被用于美國(guó)的各大賭場(chǎng)里，這引起了人們對(duì)私營(yíng)機(jī)構(gòu)將如何使用強(qiáng)大監(jiān)控工具的擔(dān)憂。
以色列的面部識(shí)別技術(shù)正被用于美國(guó)的各大賭場(chǎng)里，這引起了人們對(duì)私營(yíng)機(jī)構(gòu)將如何使用強(qiáng)大監(jiān)控工具的擔(dān)憂。
每一天，俄克拉荷馬州塔爾薩市河靈賭場(chǎng) (River Spirit Casino) 保安室的一排排監(jiān)控屏幕上都會(huì)出現(xiàn)數(shù)千張面孔。
每一張出現(xiàn)的面孔都會(huì)與該賭場(chǎng)的禁止入內(nèi)人員監(jiān)控名單進(jìn)行比對(duì)，而這份名單里包含了騙子、已知罪犯，以及可能心懷不滿、伺機(jī)搗亂的前雇員。
該賭場(chǎng)的安保系統(tǒng)采用了以色列監(jiān)控初創(chuàng)公司Oosto的面部識(shí)別技術(shù)。這家有爭(zhēng)議的公司原名是AnyVision，因向以色列政府提供用于監(jiān)控約旦河西岸邊境的技術(shù)而在2019年登上了各大新聞媒體的頭條。
如今，該公司已更名，并將業(yè)務(wù)重心更多地轉(zhuǎn)移到了私營(yíng)公司，其中就包括賭場(chǎng)。
今年7月，《福布斯》的一名視頻制作人實(shí)地觀看了該賭場(chǎng)監(jiān)控中心的運(yùn)作。只見(jiàn)一個(gè)藍(lán)色的方框出現(xiàn)在一名戴著口罩的女性的頭上，接著這個(gè)方框變綠了。對(duì)于這個(gè)軟件來(lái)說(shuō)，綠框是一個(gè)危險(xiǎn)的標(biāo)志，盡管這位女性遮住了臉，但Oosto的面部識(shí)別系統(tǒng)仍然高度肯定地表示她是一個(gè)不受歡迎的人。
博彩公司Muscogee Nation Gaming Enterprises的合規(guī)與監(jiān)控主管Travis Thompson指著運(yùn)行Oosto軟件的屏幕說(shuō)：“她肯定在試圖隱藏自己的身份，因?yàn)槲覀兊南到y(tǒng)給她打出了一個(gè)很高的分?jǐn)?shù)。”
他說(shuō)，在該軟件中進(jìn)行標(biāo)記之后，他們就會(huì)親自核查這個(gè)人的身份。如果此人在被禁止入內(nèi)的名單上，工作人員就會(huì)給他/她一張表格，提醒對(duì)方在這里不受歡迎，并告訴其已經(jīng)出現(xiàn)在了賭場(chǎng)的面部識(shí)別數(shù)據(jù)庫(kù)中，然后把他們送出賭場(chǎng)。
這種監(jiān)控技術(shù)正在覆蓋美國(guó)各地的私人和公共場(chǎng)所，而這種強(qiáng)大的技術(shù)不僅掌握在了警察和聯(lián)邦政府手中，而且還被賣給了私營(yíng)機(jī)構(gòu)，無(wú)論是賭場(chǎng)還是零售店。
雖然在企業(yè)看來(lái)，這不過(guò)是一種實(shí)現(xiàn)機(jī)構(gòu)安全自動(dòng)化的方法，但這種在過(guò)去主要由情報(bào)和執(zhí)法機(jī)構(gòu)使用的工具的私有化仍然讓隱私保護(hù)活動(dòng)人士感到害怕。
美國(guó)電子隱私信息中心 (EPIC) 負(fù)責(zé)國(guó)內(nèi)監(jiān)控的律師Jake Wiener說(shuō)：“將面部識(shí)別技術(shù)賣給私營(yíng)公司，實(shí)際上會(huì)增加警察濫用技術(shù)的風(fēng)險(xiǎn)，因?yàn)樗綘I(yíng)公司會(huì)向警察出售或提供這種技術(shù)權(quán)限。面部識(shí)別技術(shù)破壞了人們的隱私，它被使用得越多，在公共和私人空間里追蹤人們的動(dòng)向就越容易。”
不過(guò)，Oosto仍然希望自己能成為這個(gè)市場(chǎng)的頂級(jí)供應(yīng)商，因?yàn)橛泻芏鄽W美私營(yíng)機(jī)構(gòu)想要讓自己的監(jiān)控更加順暢。自2015年成立以來(lái)，該公司已經(jīng)從軟銀和高通創(chuàng)投 (Qualcomm Ventures) 等機(jī)構(gòu)籌集了3.8億美元資金。
2019年，以色列媒體《國(guó)土報(bào)》 (Haaretz) 報(bào)道稱，這家監(jiān)控企業(yè)向以色列軍方提供了用于識(shí)別西岸邊境的巴勒斯坦人的工具，之后微軟的融資部門M12便撤出了持股。
不過(guò)，Oosto引用了一份所謂的針對(duì)其用例的獨(dú)立審計(jì)報(bào)告，稱其技術(shù)并沒(méi)有被用于開展大規(guī)模監(jiān)控活動(dòng)，而是在邊境進(jìn)行“準(zhǔn)入控制”，即在人們來(lái)往于約旦河西岸和以色列之間時(shí)進(jìn)行面孔比對(duì)。
自上述報(bào)道發(fā)布以來(lái)，Oosto便改變了其品牌名稱，并將重點(diǎn)更多地轉(zhuǎn)移到私營(yíng)部門，以及為更廣泛的地域提供服務(wù)。目前，該公司的技術(shù)服務(wù)對(duì)象包括在本土觀看比賽的美國(guó)球迷、參觀印度泰姬陵的游客、參觀特拉維夫私人拉斐爾醫(yī)院的訪客，以及進(jìn)入悉尼澳大利亞賽馬俱樂(lè)部的觀眾。
賭場(chǎng)是Oosto非政府業(yè)務(wù)的主要組成部分。公司聲稱自己在為拉斯維加斯大道上一些最大的賭場(chǎng)提供服務(wù)，但表示不能提供這座“罪惡之城”里的客戶名字。
此外，它還為坐落于倫敦上流社區(qū)梅菲爾區(qū)的私人賭場(chǎng)Les Ambassadeurs提供面部識(shí)別服務(wù)。在那里，Oosto的技術(shù)被用于發(fā)現(xiàn)不法分子，還有識(shí)別VIP客人并為其提供服務(wù)。但出于倫理方面的考慮，河靈賭場(chǎng)的老板決定不使用它來(lái)檢測(cè)貴賓。
“我們希望我們的賭場(chǎng)有一種對(duì)客戶友好的氛圍，所以不希望讓他們覺(jué)得‘老大哥’一直在盯著他們。那不是我們的系統(tǒng)在這里的用途。”Travis Thompson說(shuō)。
他補(bǔ)充稱，自己的賭場(chǎng)之所以決定采用面部識(shí)別技術(shù)，是為了支持不堪重負(fù)的賭場(chǎng)安保人員，因?yàn)樗麄?ldquo;很難親自識(shí)別出人臉”。
“在過(guò)去，這個(gè)職責(zé)是由我們的保安和樓層人員肩負(fù)的，他們要走出去，記住誰(shuí)是不良主顧，誰(shuí)是拙劣演員，并試圖在每天的人海當(dāng)中識(shí)別出他們。”
Travis Thompson表示，他的賭場(chǎng)曾與執(zhí)法部門合作過(guò)，而這個(gè)面部識(shí)別系統(tǒng)在把欺詐者關(guān)進(jìn)監(jiān)獄方面發(fā)揮了關(guān)鍵作用。他不愿透露具體的案例，不過(guò)賭場(chǎng)上常見(jiàn)的欺詐行為包括利用監(jiān)控設(shè)備在撲克牌局中作弊，以及暗中給賭局加注。
雖然該賭場(chǎng)表示，這項(xiàng)技術(shù)只會(huì)用于保護(hù)大多數(shù)無(wú)辜的客戶群體，且后者的臉部信息不會(huì)存儲(chǔ)在其系統(tǒng)中，但面部識(shí)別技術(shù)的批評(píng)者說(shuō)，這類措施不足以保護(hù)人們的隱私。
雖然警察和政府機(jī)構(gòu)受到信息自由要求和其他形式的監(jiān)督，但私營(yíng)機(jī)構(gòu)卻不受此限制，并且它們有權(quán)將任何人列入自己的監(jiān)視名單，并借用此技術(shù)將人送進(jìn)監(jiān)獄。
Jake Wiener說(shuō)：“最起碼，Oosto應(yīng)該保留搜索和決策的記錄。如果一個(gè)人因?yàn)檫@項(xiàng)技術(shù)而被拒絕參加某個(gè)活動(dòng)，或者因?yàn)镺osto的識(shí)別而被逮捕，那么這個(gè)人應(yīng)該要知道他們是如何被識(shí)別的。”
除了每天掃描成千上萬(wàn)人的臉?biāo)鶐?lái)的蠕變因素外，這項(xiàng)技術(shù)也有一個(gè)無(wú)法成功檢測(cè)非白人個(gè)體的歷史。此前，該系統(tǒng)對(duì)黑人的面部識(shí)別錯(cuò)誤就曾導(dǎo)致有人被錯(cuò)誤逮捕，而在今年早些時(shí)候，也有美國(guó)參議員呼吁聯(lián)邦機(jī)構(gòu)停止使用該技術(shù)，因?yàn)樗?ldquo;對(duì)黑人、其他有色人種群體和移民群體構(gòu)成了獨(dú)特的威脅”。
在最近的一個(gè)案例中，伊利諾伊州公民自由聯(lián)盟 (ACLU) 就成功地迫使一家名為Clearview AI的面部識(shí)別公司停止在該州或向美國(guó)私營(yíng)公司進(jìn)行銷售（該公司已經(jīng)表示不會(huì)向美國(guó)的非政府組織出售產(chǎn)品）。
佛蒙特州和俄勒岡州波特蘭市則禁止使用面部識(shí)別，以至于這些地方的警察和私營(yíng)機(jī)構(gòu)都無(wú)法使用這種技術(shù)。
不過(guò)，一些禁令將在未來(lái)幾個(gè)月里到期。在加州，警方目前被禁止在隨身相機(jī)中使用面部識(shí)別和生物識(shí)別掃描儀，但該禁令的有效期只到明年1月；弗吉尼亞州曾禁止警察使用面部識(shí)別技術(shù)，但隨后又在今年7月取消了該禁令，盡管該州的新法律只允許“在所有人口群體中具有至少98%的準(zhǔn)確率”的面部識(shí)別產(chǎn)品。
Oosto的首席營(yíng)銷官Dean Nicolls表示，在很大程度上，主要供應(yīng)商中已經(jīng)克服了偏見(jiàn)問(wèn)題。“如果你在一群中年白人男性身上訓(xùn)練人工智能，那么它將非常擅長(zhǎng)識(shí)別中年白人男性，但對(duì)非裔美國(guó)女性的識(shí)別可能就不太好。不過(guò)這些偏見(jiàn)在很大程度上已經(jīng)被消除了。如果你看看面部識(shí)別領(lǐng)域的所有主要參與者，你會(huì)發(fā)現(xiàn)，從年齡或種族的角度來(lái)看，他們幾乎沒(méi)有任何偏見(jiàn)。”
但是，該公司拒絕提供任何顯示其技術(shù)在偏差測(cè)試中的表現(xiàn)數(shù)據(jù)。美國(guó)國(guó)土安全部去年開展的一項(xiàng)研究發(fā)現(xiàn)，最好的算法對(duì)人臉的檢測(cè)準(zhǔn)確率超過(guò)了95%，無(wú)論其膚色如何，可總體而言，該技術(shù)在檢測(cè)白人男性方面的表現(xiàn)仍然好于任何其他群體。
Dean Nicolls說(shuō)，Oosto其實(shí)并不僅僅專注于面部識(shí)別，它還計(jì)劃進(jìn)軍同樣有爭(zhēng)議的行為識(shí)別領(lǐng)域。雖然有越來(lái)越多的證據(jù)表明，軟件可以憑借超90%的準(zhǔn)確率識(shí)別人臉，但尚未證明代碼能夠確定一個(gè)人是否會(huì)執(zhí)行危險(xiǎn)行為，或能否通過(guò)分析一個(gè)人的運(yùn)動(dòng)模式來(lái)確定其精神狀態(tài)。
此前，《福布斯》報(bào)道過(guò)多家開展情緒檢測(cè)和預(yù)測(cè)的公司，而研究機(jī)構(gòu)AI Now的聯(lián)合創(chuàng)始人Meredith Whittaker就抨擊該技術(shù)“并沒(méi)有健全的科學(xué)共識(shí)”。
去年，《福布斯》曾報(bào)道了Oosto的一項(xiàng)專利，該專利將其面部識(shí)別技術(shù)應(yīng)用于無(wú)人機(jī)，從而實(shí)現(xiàn)空中監(jiān)控。然而，該公司尚未將這項(xiàng)技術(shù)付諸實(shí)踐。
如果Oosto還打算繼續(xù)推動(dòng)監(jiān)控技術(shù)的可行性，它將遇到更嚴(yán)格的技術(shù)和道德壁壘。
當(dāng)微軟在2020年決定與這家科技公司分道揚(yáng)鑣時(shí)，盡管前美國(guó)司法部長(zhǎng)Eric Holder已經(jīng)確定這筆投資沒(méi)有違反前者的任何道德政策，此舉也清楚地表明了參與傳播這項(xiàng)技術(shù)的風(fēng)險(xiǎn)。正如當(dāng)時(shí)雙方在聯(lián)合聲明中所說(shuō)的：“從微軟的角度來(lái)看，審計(jì)過(guò)程強(qiáng)化了在一家銷售敏感技術(shù)的公司中擔(dān)任少數(shù)股權(quán)投資者的挑戰(zhàn)。”
隨后，Oosto宣布將不再接受面部識(shí)別業(yè)務(wù)的少數(shù)股權(quán)投資。
每一天，俄克拉荷馬州塔爾薩市河靈賭場(chǎng) (River Spirit Casino) 保安室的一排排監(jiān)控屏幕上都會(huì)出現(xiàn)數(shù)千張面孔。
每一張出現(xiàn)的面孔都會(huì)與該賭場(chǎng)的禁止入內(nèi)人員監(jiān)控名單進(jìn)行比對(duì)，而這份名單里包含了騙子、已知罪犯，以及可能心懷不滿、伺機(jī)搗亂的前雇員。
該賭場(chǎng)的安保系統(tǒng)采用了以色列監(jiān)控初創(chuàng)公司Oosto的面部識(shí)別技術(shù)。這家有爭(zhēng)議的公司原名是AnyVision，因向以色列政府提供用于監(jiān)控約旦河西岸邊境的技術(shù)而在2019年登上了各大新聞媒體的頭條。
如今，該公司已更名，并將業(yè)務(wù)重心更多地轉(zhuǎn)移到了私營(yíng)公司，其中就包括賭場(chǎng)。
今年7月，《福布斯》的一名視頻制作人實(shí)地觀看了該賭場(chǎng)監(jiān)控中心的運(yùn)作。只見(jiàn)一個(gè)藍(lán)色的方框出現(xiàn)在一名戴著口罩的女性的頭上，接著這個(gè)方框變綠了。對(duì)于這個(gè)軟件來(lái)說(shuō)，綠框是一個(gè)危險(xiǎn)的標(biāo)志，盡管這位女性遮住了臉，但Oosto的面部識(shí)別系統(tǒng)仍然高度肯定地表示她是一個(gè)不受歡迎的人。
博彩公司Muscogee Nation Gaming Enterprises的合規(guī)與監(jiān)控主管Travis Thompson指著運(yùn)行Oosto軟件的屏幕說(shuō)：“她肯定在試圖隱藏自己的身份，因?yàn)槲覀兊南到y(tǒng)給她打出了一個(gè)很高的分?jǐn)?shù)。”
他說(shuō)，在該軟件中進(jìn)行標(biāo)記之后，他們就會(huì)親自核查這個(gè)人的身份。如果此人在被禁止入內(nèi)的名單上，工作人員就會(huì)給他/她一張表格，提醒對(duì)方在這里不受歡迎，并告訴其已經(jīng)出現(xiàn)在了賭場(chǎng)的面部識(shí)別數(shù)據(jù)庫(kù)中，然后把他們送出賭場(chǎng)。
塔爾薩河靈賭場(chǎng)的監(jiān)控控制室顯示，Oosto技術(shù)正在掃描人臉。圖源：FORBES MEDIA
這種監(jiān)控技術(shù)正在覆蓋美國(guó)各地的私人和公共場(chǎng)所，而這種強(qiáng)大的技術(shù)不僅掌握在了警察和聯(lián)邦政府手中，而且還被賣給了私營(yíng)機(jī)構(gòu)，無(wú)論是賭場(chǎng)還是零售店。
雖然在企業(yè)看來(lái)，這不過(guò)是一種實(shí)現(xiàn)機(jī)構(gòu)安全自動(dòng)化的方法，但這種在過(guò)去主要由情報(bào)和執(zhí)法機(jī)構(gòu)使用的工具的私有化仍然讓隱私保護(hù)活動(dòng)人士感到害怕。
美國(guó)電子隱私信息中心 (EPIC) 負(fù)責(zé)國(guó)內(nèi)監(jiān)控的律師Jake Wiener說(shuō)：“將面部識(shí)別技術(shù)賣給私營(yíng)公司，實(shí)際上會(huì)增加警察濫用技術(shù)的風(fēng)險(xiǎn)，因?yàn)樗綘I(yíng)公司會(huì)向警察出售或提供這種技術(shù)權(quán)限。面部識(shí)別技術(shù)破壞了人們的隱私，它被使用得越多，在公共和私人空間里追蹤人們的動(dòng)向就越容易。”
不過(guò)，Oosto仍然希望自己能成為這個(gè)市場(chǎng)的頂級(jí)供應(yīng)商，因?yàn)橛泻芏鄽W美私營(yíng)機(jī)構(gòu)想要讓自己的監(jiān)控更加順暢。自2015年成立以來(lái)，該公司已經(jīng)從軟銀和高通創(chuàng)投 (Qualcomm Ventures) 等機(jī)構(gòu)籌集了3.8億美元資金。
2019年，以色列媒體《國(guó)土報(bào)》 (Haaretz) 報(bào)道稱，這家監(jiān)控企業(yè)向以色列軍方提供了用于識(shí)別西岸邊境的巴勒斯坦人的工具，之后微軟的融資部門M12便撤出了持股。
不過(guò)，Oosto引用了一份所謂的針對(duì)其用例的獨(dú)立審計(jì)報(bào)告，稱其技術(shù)并沒(méi)有被用于開展大規(guī)模監(jiān)控活動(dòng)，而是在邊境進(jìn)行“準(zhǔn)入控制”，即在人們來(lái)往于約旦河西岸和以色列之間時(shí)進(jìn)行面孔比對(duì)。
自上述報(bào)道發(fā)布以來(lái)，Oosto便改變了其品牌名稱，并將重點(diǎn)更多地轉(zhuǎn)移到私營(yíng)部門，以及為更廣泛的地域提供服務(wù)。目前，該公司的技術(shù)服務(wù)對(duì)象包括在本土觀看比賽的美國(guó)球迷、參觀印度泰姬陵的游客、參觀特拉維夫私人拉斐爾醫(yī)院的訪客，以及進(jìn)入悉尼澳大利亞賽馬俱樂(lè)部的觀眾。
賭場(chǎng)是Oosto非政府業(yè)務(wù)的主要組成部分。公司聲稱自己在為拉斯維加斯大道上一些最大的賭場(chǎng)提供服務(wù)，但表示不能提供這座“罪惡之城”里的客戶名字。
此外，它還為坐落于倫敦上流社區(qū)梅菲爾區(qū)的私人賭場(chǎng)Les Ambassadeurs提供面部識(shí)別服務(wù)。在那里，Oosto的技術(shù)被用于發(fā)現(xiàn)不法分子，還有識(shí)別VIP客人并為其提供服務(wù)。但出于倫理方面的考慮，河靈賭場(chǎng)的老板決定不使用它來(lái)檢測(cè)貴賓。
“我們希望我們的賭場(chǎng)有一種對(duì)客戶友好的氛圍，所以不希望讓他們覺(jué)得‘老大哥’一直在盯著他們。那不是我們的系統(tǒng)在這里的用途。”Travis Thompson說(shuō)。
他補(bǔ)充稱，自己的賭場(chǎng)之所以決定采用面部識(shí)別技術(shù)，是為了支持不堪重負(fù)的賭場(chǎng)安保人員，因?yàn)樗麄?ldquo;很難親自識(shí)別出人臉”。
Muscogee Nation Gaming Enterprises的合規(guī)與監(jiān)控主管Travis Thompson
“在過(guò)去，這個(gè)職責(zé)是由我們的保安和樓層人員肩負(fù)的，他們要走出去，記住誰(shuí)是不良主顧，誰(shuí)是拙劣演員，并試圖在每天的人海當(dāng)中識(shí)別出他們。”
Travis Thompson表示，他的賭場(chǎng)曾與執(zhí)法部門合作過(guò)，而這個(gè)面部識(shí)別系統(tǒng)在把欺詐者關(guān)進(jìn)監(jiān)獄方面發(fā)揮了關(guān)鍵作用。他不愿透露具體的案例，不過(guò)賭場(chǎng)上常見(jiàn)的欺詐行為包括利用監(jiān)控設(shè)備在撲克牌局中作弊，以及暗中給賭局加注。
雖然該賭場(chǎng)表示，這項(xiàng)技術(shù)只會(huì)用于保護(hù)大多數(shù)無(wú)辜的客戶群體，且后者的臉部信息不會(huì)存儲(chǔ)在其系統(tǒng)中，但面部識(shí)別技術(shù)的批評(píng)者說(shuō)，這類措施不足以保護(hù)人們的隱私。
雖然警察和政府機(jī)構(gòu)受到信息自由要求和其他形式的監(jiān)督，但私營(yíng)機(jī)構(gòu)卻不受此限制，并且它們有權(quán)將任何人列入自己的監(jiān)視名單，并借用此技術(shù)將人送進(jìn)監(jiān)獄。
Jake Wiener說(shuō)：“最起碼，Oosto應(yīng)該保留搜索和決策的記錄。如果一個(gè)人因?yàn)檫@項(xiàng)技術(shù)而被拒絕參加某個(gè)活動(dòng)，或者因?yàn)镺osto的識(shí)別而被逮捕，那么這個(gè)人應(yīng)該要知道他們是如何被識(shí)別的。”
除了每天掃描成千上萬(wàn)人的臉?biāo)鶐?lái)的蠕變因素外，這項(xiàng)技術(shù)也有一個(gè)無(wú)法成功檢測(cè)非白人個(gè)體的歷史。此前，該系統(tǒng)對(duì)黑人的面部識(shí)別錯(cuò)誤就曾導(dǎo)致有人被錯(cuò)誤逮捕，而在今年早些時(shí)候，也有美國(guó)參議員呼吁聯(lián)邦機(jī)構(gòu)停止使用該技術(shù)，因?yàn)樗?ldquo;對(duì)黑人、其他有色人種群體和移民群體構(gòu)成了獨(dú)特的威脅”。
在最近的一個(gè)案例中，伊利諾伊州公民自由聯(lián)盟 (ACLU) 就成功地迫使一家名為Clearview AI的面部識(shí)別公司停止在該州或向美國(guó)私營(yíng)公司進(jìn)行銷售（該公司已經(jīng)表示不會(huì)向美國(guó)的非政府組織出售產(chǎn)品）。
佛蒙特州和俄勒岡州波特蘭市則禁止使用面部識(shí)別，以至于這些地方的警察和私營(yíng)機(jī)構(gòu)都無(wú)法使用這種技術(shù)。
不過(guò)，一些禁令將在未來(lái)幾個(gè)月里到期。在加州，警方目前被禁止在隨身相機(jī)中使用面部識(shí)別和生物識(shí)別掃描儀，但該禁令的有效期只到明年1月；弗吉尼亞州曾禁止警察使用面部識(shí)別技術(shù)，但隨后又在今年7月取消了該禁令，盡管該州的新法律只允許“在所有人口群體中具有至少98%的準(zhǔn)確率”的面部識(shí)別產(chǎn)品。
塔爾薩市河靈賭場(chǎng)正在不斷地掃描黑名單上的面孔，它的監(jiān)控系統(tǒng)供應(yīng)商Oosto正計(jì)劃在未來(lái)的軟件中推出行為和身體部位識(shí)別。圖源：FORBES MEDIA
Oosto的首席營(yíng)銷官Dean Nicolls表示，在很大程度上，主要供應(yīng)商中已經(jīng)克服了偏見(jiàn)問(wèn)題。“如果你在一群中年白人男性身上訓(xùn)練人工智能，那么它將非常擅長(zhǎng)識(shí)別中年白人男性，但對(duì)非裔美國(guó)女性的識(shí)別可能就不太好。不過(guò)這些偏見(jiàn)在很大程度上已經(jīng)被消除了。如果你看看面部識(shí)別領(lǐng)域的所有主要參與者，你會(huì)發(fā)現(xiàn)，從年齡或種族的角度來(lái)看，他們幾乎沒(méi)有任何偏見(jiàn)。”
但是，該公司拒絕提供任何顯示其技術(shù)在偏差測(cè)試中的表現(xiàn)數(shù)據(jù)。美國(guó)國(guó)土安全部去年開展的一項(xiàng)研究發(fā)現(xiàn)，最好的算法對(duì)人臉的檢測(cè)準(zhǔn)確率超過(guò)了95%，無(wú)論其膚色如何，可總體而言，該技術(shù)在檢測(cè)白人男性方面的表現(xiàn)仍然好于任何其他群體。
Dean Nicolls說(shuō)，Oosto其實(shí)并不僅僅專注于面部識(shí)別，它還計(jì)劃進(jìn)軍同樣有爭(zhēng)議的行為識(shí)別領(lǐng)域。雖然有越來(lái)越多的證據(jù)表明，軟件可以憑借超90%的準(zhǔn)確率識(shí)別人臉，但尚未證明代碼能夠確定一個(gè)人是否會(huì)執(zhí)行危險(xiǎn)行為，或能否通過(guò)分析一個(gè)人的運(yùn)動(dòng)模式來(lái)確定其精神狀態(tài)。
此前，《福布斯》報(bào)道過(guò)多家開展情緒檢測(cè)和預(yù)測(cè)的公司，而研究機(jī)構(gòu)AI Now的聯(lián)合創(chuàng)始人Meredith Whittaker就抨擊該技術(shù)“并沒(méi)有健全的科學(xué)共識(shí)”。
去年，《福布斯》曾報(bào)道了Oosto的一項(xiàng)專利，該專利將其面部識(shí)別技術(shù)應(yīng)用于無(wú)人機(jī)，從而實(shí)現(xiàn)空中監(jiān)控。然而，該公司尚未將這項(xiàng)技術(shù)付諸實(shí)踐。
如果Oosto還打算繼續(xù)推動(dòng)監(jiān)控技術(shù)的可行性，它將遇到更嚴(yán)格的技術(shù)和道德壁壘。
當(dāng)微軟在2020年決定與這家科技公司分道揚(yáng)鑣時(shí)，盡管前美國(guó)司法部長(zhǎng)Eric Holder已經(jīng)確定這筆投資沒(méi)有違反前者的任何道德政策，此舉也清楚地表明了參與傳播這項(xiàng)技術(shù)的風(fēng)險(xiǎn)。正如當(dāng)時(shí)雙方在聯(lián)合聲明中所說(shuō)的：“從微軟的角度來(lái)看，審計(jì)過(guò)程強(qiáng)化了在一家銷售敏感技術(shù)的公司中擔(dān)任少數(shù)股權(quán)投資者的挑戰(zhàn)。”
隨后，Oosto宣布將不再接受面部識(shí)別業(yè)務(wù)的少數(shù)股權(quán)投資。
