人工智能可以通過多種方式幫助人類。無人駕駛汽車和智能基礎(chǔ)設(shè)施恪守了這樣的承諾，即促進(jìn)人們來回穿梭于城市的活動(dòng)，以減少交通擁堵。經(jīng)過改進(jìn)的診斷和治療方式正在延長人們的壽命。在企業(yè)中，人工智能有助于改善招聘決策、使工廠更安全、將日常任務(wù)自動(dòng)化、生成更客觀的績效評(píng)估并幫組織了解客戶。
新工具頻頻出現(xiàn)。亞馬遜已經(jīng)獲得了兩項(xiàng)腕帶專利，這些腕帶可以在工作人員填寫訂單時(shí)追蹤手部動(dòng)作。腕帶使用射頻來追蹤手部運(yùn)動(dòng)，這種追蹤十分準(zhǔn)確，一旦檢測到低效的活動(dòng)腕帶就會(huì)振動(dòng)，輕輕碰觸工作人員的手以將其引向正確的方向。Humanyze售賣能可以衡量社交關(guān)系的胸牌，這些胸牌可以追蹤辦公室員工的活動(dòng)，以提供他們與同事互動(dòng)的質(zhì)量有關(guān)的洞察。玉蘭油（L'Oréal）的UV Sense可以追蹤佩戴者暴露于紫外線的時(shí)間和程度，然后將數(shù)據(jù)傳輸?shù)接脩舻氖謾C(jī)上。Cogito可以監(jiān)控同理度（empathy），即客服坐席處理呼叫時(shí)設(shè)身處地為客戶著想的態(tài)度。
不幸的是，要發(fā)掘這些工具的好處就需要大量的數(shù)據(jù)，這也使消費(fèi)者和員工很容易受到監(jiān)控。中國的社會(huì)信用體系于2014年啟用，預(yù)計(jì)到2020年全面投入使用。為了創(chuàng)建個(gè)人檔案，該系統(tǒng)匯總了支付記錄、醫(yī)療信息、法律記錄以及其它數(shù)據(jù)。此外，該系統(tǒng)使用面部識(shí)別來追蹤每個(gè)人的蹤跡及其互動(dòng)的對(duì)象。攝像頭在各大城市非常普遍，人們開玩笑說政府可以在七分鐘內(nèi)找到任何一個(gè)人。
確實(shí)，大量的數(shù)據(jù)以人們意想不到的方式使社會(huì)受益。2018年4月，Joseph DeAngelo被指控為金州殺手（譯注：金州是加州的別名），涉嫌參與了一系列仍未告破的謀殺案和強(qiáng)奸案，這些案件發(fā)生于上世紀(jì)七八十年代。警方將嫌疑人的基因特征與為人們研究家譜提供服務(wù)的個(gè)人網(wǎng)站上的基因表達(dá)譜進(jìn)行了比較。最終，他們將目標(biāo)鎖定為一群人，這群人與犯罪者的遺傳物質(zhì)有一定的關(guān)聯(lián)，根據(jù)年齡，性別以及住所排除了其中一部分人。在警方確定DeAngelo是嫌犯后，他們從他丟棄的垃圾中獲取了DNA樣本，并發(fā)現(xiàn)該樣本與犯罪現(xiàn)場的樣本吻合。
雖然這些基因數(shù)據(jù)庫幫警方解決了發(fā)生在幾十年前的罪案，但使用該數(shù)據(jù)庫會(huì)引發(fā)隱私方面的問題。在向存儲(chǔ)庫提供遺傳數(shù)據(jù)的人中，很少有人希望這些文件被執(zhí)法部門拿去作評(píng)估。貢獻(xiàn)這些資料的人可能沒有意識(shí)到，自己的行為可能會(huì)讓當(dāng)局掌握親屬的信息，這些親屬并不同意公開基因信息，或者，他們甚至不知道家族的遺傳物質(zhì)存在數(shù)據(jù)庫中。
全世界所面臨的隱私問題日漸增多。2018年5月，歐盟實(shí)施了全面的隱私保護(hù)法規(guī)，名為《通用數(shù)據(jù)保護(hù)條例（GDPR）》。其它國家也正在立法，如加拿大的《國家網(wǎng)絡(luò)安全戰(zhàn)略》保護(hù)數(shù)字隱私。印度提議的《個(gè)人數(shù)據(jù)保護(hù)法案》強(qiáng)調(diào)人工智能道德、個(gè)人隱私、安全性和透明度。這些法規(guī)由獨(dú)立的監(jiān)管機(jī)構(gòu)進(jìn)行監(jiān)督，對(duì)違法行為實(shí)施嚴(yán)厲處罰。聯(lián)合國的統(tǒng)計(jì)稱，有一百多個(gè)國家實(shí)施了數(shù)據(jù)保護(hù)和隱私法。然而，它承認(rèn)，最近，很多保護(hù)法并沒有得到更新，而且也不夠嚴(yán)苛，無法讓公民相信自己的隱私得到了充分的保護(hù)。
2016年，亞馬遜、蘋果、臉書、谷歌和微軟的一些工程師、設(shè)計(jì)師和其他員工越來越關(guān)注監(jiān)控的潛力，他們?cè)S下了“到此為止（Never Again）”的承諾。這個(gè)名字指的是IBM技術(shù)在第二次世界大戰(zhàn)期間所發(fā)揮的作用，當(dāng)時(shí)IBM的穿孔卡幫美國政府管理日裔美國人，幫納粹追蹤大屠殺的受害者。簽署“到此為止”的公司保證不會(huì)創(chuàng)建任何可以讓美國政府收集有關(guān)個(gè)人宗教信仰的信息數(shù)據(jù)庫，它們擔(dān)心此類數(shù)據(jù)庫可能會(huì)導(dǎo)致大量人口被驅(qū)逐出境。
在2018年10月布魯塞爾國際數(shù)據(jù)保護(hù)和隱私委員會(huì)會(huì)議召開期間，Tim Cook表達(dá)了自己對(duì)“數(shù)據(jù)工業(yè)園區(qū)（data industrial complex）”的擔(dān)憂。他警告說，為了創(chuàng)建一個(gè)“經(jīng)久不衰的數(shù)字檔案，公司正在收集個(gè)人數(shù)據(jù)并將其綜合起來，這使它們十分了解你，遠(yuǎn)勝于你對(duì)自己的了解。”
他支持《通用數(shù)據(jù)保護(hù)條例》并呼吁美國制定隱私法。
隱私監(jiān)管七原則
Cook是對(duì)的：現(xiàn)在美國該效仿其他國家并制定數(shù)字隱私法了。新法規(guī)至少應(yīng)包括以下原則。
盡量將要收集的數(shù)據(jù)最小化
數(shù)據(jù)收集應(yīng)限于完成手頭任務(wù)所需的數(shù)據(jù)。為將來派上用場而收集額外的數(shù)據(jù)，這樣的做法應(yīng)該受到限制。個(gè)人身份信息必須刪除，不得出現(xiàn)在用于分析的數(shù)據(jù)中。
向用戶告知數(shù)據(jù)收集事宜
在收集數(shù)據(jù)時(shí)應(yīng)通知用戶，并告知用戶數(shù)據(jù)將如何被使用。個(gè)人必須能夠決定其數(shù)據(jù)是否允許在每個(gè)活動(dòng)期間被收集。瀏覽器和網(wǎng)站的條款和條件必須十分簡單，簡單到消費(fèi)者可以快速做出明智的決定。
使個(gè)人可以訪問數(shù)據(jù)
個(gè)人必須能復(fù)制自己的數(shù)據(jù)并糾正或刪除不準(zhǔn)確的個(gè)人數(shù)據(jù)。如今，糾正數(shù)據(jù)對(duì)一些企業(yè)來說幾乎是不可能的。最近，我的一位同事要更新信用報(bào)告，因?yàn)樗峄亓怂∵^的隔壁房。雖然她找到了修改街道地址最后一位數(shù)字的商店老板，但信用局拒絕刪除該條目，稱她未能證明自己從未住過另一所房子。她要求信用局就證據(jù)的構(gòu)成標(biāo)準(zhǔn)給予指導(dǎo)時(shí)，但信用局沒有作出回應(yīng)。
需要決策透明度
人工智能日漸頻繁地在法律法規(guī)、人員招聘、大學(xué)招生和其它方面做決策，這深深影響了個(gè)人生活。由于人工智能要使用大量的數(shù)據(jù)，而這些數(shù)據(jù)又受到大量規(guī)則的制約，因此人們往往無法理解人工智能引擎是如何得出結(jié)論的。人工智能引擎工作時(shí)使用什么樣的邏輯，雖然理解這一點(diǎn)對(duì)人類來說并不重要，但在一些情況中，偏見或意外后果可能會(huì)影響最終結(jié)果，這是不可接受的。
Equivant的工具可以預(yù)測個(gè)人犯下新罪行的可能性。如果法官在量刑期間使用該工具，那么他們通常會(huì)判評(píng)分很高的被告人判服更長的刑期。不幸的是，由于評(píng)分機(jī)制是專有的，因此被告無法提出質(zhì)疑。
ProPublica是一家公共利益調(diào)查新聞組織，它在2013年和2014年對(duì)佛羅里達(dá)州布勞沃德縣的7,000名被告進(jìn)行了分析。Equivant預(yù)測了哪些被告人會(huì)在接下來的兩年內(nèi)犯罪，ProPublica則將其預(yù)測結(jié)果與每個(gè)被告人犯下的實(shí)際新罪行進(jìn)行了比較。他們得出結(jié)論，Equivant的風(fēng)險(xiǎn)評(píng)分并不可靠；它可能會(huì)預(yù)測，在這些被告人中，黑人在未來犯罪的可能性可能是白人的兩倍，而這是錯(cuò)的。Equivant并不贊同，它認(rèn)為ProPublica的方法存在缺陷。顯然，對(duì)個(gè)人生活具有如此巨大潛在影響的，無論是判刑還是其它深深影響個(gè)人生活的法律手段，都必須高度準(zhǔn)確并且在邏輯上站得住腳。
保護(hù)數(shù)據(jù)
確保數(shù)據(jù)的安全性，確保數(shù)據(jù)使用得當(dāng)，這是所有收集和存儲(chǔ)數(shù)據(jù)需求的實(shí)體都要做到的事情。最近就發(fā)生了一系列數(shù)據(jù)泄露事件，萬豪和Quora就是新增的兩例，這些事件已經(jīng)使很多人受到影響。
實(shí)施合規(guī)性
嚴(yán)懲不貸的積極執(zhí)法方式對(duì)于實(shí)施有效的新法規(guī)至關(guān)重要。各大技術(shù)公司賺得盆滿缽滿，小小的處罰簡直可以忽略不計(jì)，充其量只是一點(diǎn)點(diǎn)經(jīng)營成本。
制定國家法律
新的美國隱私法應(yīng)涵蓋所有收集個(gè)人數(shù)據(jù)的企業(yè)，而不僅僅是技術(shù)公司。此外，聯(lián)邦立法也是必需的，否則其他州將效仿加州，自行制定法律，而這些法律可能并不相容。
立法對(duì)企業(yè)的影響
由于新隱私法規(guī)的制定，有些公司不得不反思其商業(yè)模式。如今，為了免費(fèi)使用搜索引擎、社交媒體和其它工具，有很多消費(fèi)者會(huì)提供個(gè)人數(shù)據(jù)。擔(dān)心隱私問題的消費(fèi)者也許會(huì)支付一小筆費(fèi)用，以換取真正的匿名狀態(tài)。雖然在理論上，在今時(shí)今日，不留痕跡地瀏覽網(wǎng)頁是可能做到的，但大多數(shù)消費(fèi)者發(fā)現(xiàn)，如果沒有嫻熟的技術(shù)幫助，這一點(diǎn)根本不可能做到。
企業(yè)要部署新工具，員工要維護(hù)個(gè)人隱私，這兩者之間必須取得平衡，為此，工作場所既需要細(xì)致的規(guī)劃，也需要做出一些妥協(xié)。新法規(guī)可能會(huì)產(chǎn)生這樣的情況，即員工必須同意別人收集他們的數(shù)據(jù)。根據(jù)新立法中的說法，很多現(xiàn)有工具會(huì)產(chǎn)生據(jù)稱是個(gè)人信息的內(nèi)容，這些內(nèi)容使員工可以免遭追蹤，因而使這些工具形同虛設(shè)。
毫無疑問，遵守新法規(guī)會(huì)迫使公司更加謹(jǐn)慎地處理員工數(shù)據(jù)。主管很可能只能訪問與個(gè)人績效直接相關(guān)的員工數(shù)據(jù)，而分析工具僅在匿名數(shù)據(jù)上運(yùn)行。經(jīng)營良好的企業(yè)可以為希望提高績效的員工提供單獨(dú)的指導(dǎo)。
人工智能帶來了很多好處，它還將帶來我們目前無法想象的其它好處。人工智能與所有新技術(shù)一樣，既可以造福人類，也可能遭到濫用。如何確保我們所收集的數(shù)據(jù)不會(huì)用于不當(dāng)?shù)谋O(jiān)視，當(dāng)我們弄明白這一點(diǎn)時(shí)，Scott McNealy于1999年所作的斷言也許將不再是事實(shí)，他斷言“你毫無隱私可言，想都別想”。
京公網(wǎng)安備 11010502049343號(hào)