圖片來源@視覺中國

　　文｜學術頭條

　　歐盟委員會 (European Commission) 近日發布《人工智能白皮書》，計劃制定一套人工智能的新法規，以保護公民免受濫用人工智能技術的傷害。

　　同時，歐盟表示新法規將側重于透明度和監督，以區別該地區與美國和中國的做法。有趣的是，歐美委員會將目前 AI 發展的現狀比作「蠻荒的西部」，并表示將重點關注「高風險」案例。

　　AI 現狀：蠻荒的西部？

　　如今，人臉識別已經成為一些執法機關追蹤嫌犯時最強有力的武器；還有些醫療機構正通過分析人的臉部特征，來診斷某些罕見遺傳疾病……但它對公民隱私權構成的威脅，也前所未有。

　　相較指紋等其他生物特征，人臉識別的最大不同就在于，它能遠距離發生作用，而無需直接接觸。這意味著，政府、公司等機構和個人可能未經當事人同意、甚至完全不知情的情況下讀取并搜集其數據，進而非法使用。

　　事實上，人臉不僅僅能表明身份，讓人覺得美或丑，還泄露許多其他信息。有研究表明，通過大數據和算法，有相當大概率能通過人臉特征來測算一個人的智力水平、性取向，甚至政治傾向……

　　因此，一旦這種技術被不恰當地使用，就有可能產生嚴重后果——例如，保險公司或可更精確判定一個人的健康狀況，從而制定出包賺不賠的保單價格；雇主可能會雇傭或拒絕一些特定的雇員，以滿足其偏見；一些政府則可能更加主動有效地對某些特定人群進行追蹤、監控甚至迫害；在人種多元的國家，臉部特征數據的運算結果還可能造成對某些族群人士的不公正認知……

　　還有人認為，人臉識別會反過來影響人們的現實交往和信任關系。如果都知道自己的臉部特征會對自己將在社會上遭遇怎樣的對待產生重大影響時，人們就會被訓練成「表演大師」。長此以往，整個社會將陷入巨大的信任危機之中。

　　再比如，近幾年來，基于 AI 技術的 Deepfake 視頻在網絡上有泛濫之勢，該技術能夠生成逼真的假視頻或音頻片段，很多時候足以亂真。這些逼真的視頻讓人們發出「技術無所不能」的贊嘆，同時，也引發了更多的人對技術濫用和不可控的擔憂，甚至是恐懼。

　　Deepfake 的出現實現了「以假亂真」的合成技術

　　與惡搞娛樂和公益相比，Deepfake 更多地顯示了技術的「陰暗獠牙」。利用 Deepfake 偽造的演講視頻已經對馬來西亞和加蓬的政治丑聞產生影響。

　　據 Deepfake 檢測軟件的 Deeptrace Labs 的一份報告稱，目前在線的 Deepfake 視頻中有96％是非自愿拍攝的「換頭」色情片，片中人的臉往往被換成了女性名人的臉。這已經超出了惡搞的范疇，觸及違法的邊緣。

　　禁用人臉識別？

　　根據歐盟發布的白皮書內容，在未來的五年中，歐盟委員會將專注于數字化的三個關鍵目標：為人民服務的技術；公平競爭的經濟；開放、民主和可持續的社會，白皮書還提出一系列人工智能研發和監管的政策措施，并提出建立「可信賴的人工智能框架」。

　　近年來，歐洲一直在尋求在技術政策方面強調公平和倫理。

　　歐洲內部市場和服務專員蒂森·布雷頓（Thierry Breton）表示，新法規將與《一般數據保護條例》(General Data Protection Regulation) 相媲美。這部影響深遠的數據隱私法于2018年生效，也被稱為史上最嚴數據保護法，對侵犯網民隱私的違法企業，罰金最高可達2000萬歐元（約合1.5億元人民幣）或者其全球營業額的4%，以高者為準。法規出臺不久，Facebook 和谷歌等美國企業也都成為 GDPR 法案下的第一批被告。

　　根據新規，歐盟將建議禁止在公共場所使用面部識別技術，并且提到這些系統的運行將需要人的監督和審計。作為建議的一部分，歐盟還希望成員國任命相關部門監督人工智能政策規則的執行情況。

　　當然，這些規定嚇壞了硅谷的公司。即使 GDPR 這樣的法規只針對歐洲，也往往具有全球影響。布雷頓表示:「與 GDPR 一樣，我們有自己的規則，我們將在這里執行。他們將確保我們在歐洲珍視的個人和基本權利得到尊重。」

　　歐洲是世界上最大的工業大陸，盡管人工智能等轉型技術被稱為關鍵技術，但人們普遍認為歐洲落后于美國，美國的發展由財力雄厚的科技巨頭主導。現在，通過歐盟引入有關人工智能和面部識別等技術數據收集透明度的規則，將領先邁出重要一步。

　　歐盟科技主管瑪格麗特維斯特格 ( Margrethe Vestager ) 在之前的新聞發布會上指出，該規則將涵蓋自動駕駛汽車和生物識別 ID 等用途。歐盟以外想要在歐洲部署其技術的公司，可能需要采取具體步驟，例如使用歐洲數據集重新訓練面部識別功能。歐盟希望積累在制造業，交通運輸，能源和醫療保健等領域收集的數據，以保護公眾利益，并加速歐洲自己的初創公司。

　　同時，歐盟將提議每年花費近220億美元用于構建可以用作 AI 開發基礎的新數據生態系統。該計劃假設歐洲擁有大量的政府和工業數據，并且希望提供監管和財務激勵措施以匯總這些數據，然后這些數據將提供給同意遵守歐盟法規的 AI 開發人員。

　　谷歌：支持政府監管，但制定規則應謹慎

　　谷歌 CEO Pichai 近日在布魯塞爾舉行的 Bruegel 智庫組織的一次會議上說：「我認為政府和監管法規應盡早解決此問題，并出臺管理的框架規定，這是很重要的。」

　　「現在這樣做可能會立竿見影，但也可能要等待一段時間才能見效，屆時我們才能真正考慮如何使用它。使用這種技術取決于政府制定的路線。」

　　Pichai 表示，監管機構在起草規則時應謹慎行事。歐盟委員會在該問題上發布的建議將在很大程度上決定人臉識別技術未來在歐洲的命運。

　　微軟：不應一刀切

　　相比之下，微軟總裁 Brad Smith 對此表達了兩點不同的觀點，他認為，面部識別技術在某些情況下是可以造福社會的，比如非政府組織可以使用它來尋找失蹤的孩子。

　　Smith 說：「我真的不愿意討論讓人們禁用某項技術，人臉識別技術可以讓久別的家人團聚。」

　　他還說，如果能有一個合理的選擇，讓我們能用「手術刀」，而不是「切肉刀」來解決這個問題，那就不要一刀切都禁了。

　　現在重要的是首先確定問題所在，然后制定規則，確保該技術不會用于大規模監視。他認為，最終要讓一項技術變得更好的方法只有一種，就是多用，而不是禁用。

　　Faceboo：呼吁加強監管

　　Facebook 首席執行官馬克·扎克伯格（Mark Zuckerberg）近日還專門到訪布魯塞爾與 Vestager 會晤并討論擬議的法規。扎克伯格在《金融時報》周末發表的觀點文章中再次呼吁加強對 AI 和其他技術的監管，以幫助建立公眾信任。

　　「我們需要更多的監督和問責，」扎克伯格寫道。「人們需要感覺到，全球技術平臺是對某人的回應，因此監管應該讓企業在犯錯時承擔責任。」

　　據了解，公眾有12周時間就這些規定發表評論，歐盟委員會將在今年晚些時候正式提出立法。

　　前進還是倒退？

　　白皮書標志著一個新進程的開始，這一進程可能引導針對人工智能系統及其企業的新立法。「這將使大規模（對人工智能的）監控合法化，」獨立研究員斯蒂芬妮·黑爾博士說。

　　黑爾博士認為，委員會應暫停使用面部識別技術多年，以便就如何或是否可以合乎道德地使用這類系統征詢專家的意見。

　　而實際上，一些英國警察已經在公共場合使用面部識別系統。英國警方使用人臉識別攝像頭監控威爾士足球比賽的人群時，一些球迷捂著臉抗議。這項技術存在爭議的一個跡象是，甚至一個鄰近警察局的負責人也表示反對這項技術。

　　南威爾士警方在卡迪夫體育場外部署了裝有人臉識別的貨車，作為長期試驗的一部分。在這個試驗項目中，警方實時掃描球迷，并拘留因過去行為不端而被列入黑名單的任何人。維權人士和球隊支持者在卡迪夫市和斯旺西城之間的比賽前舉行了抗議，他們戴著口罩、頭套或圍巾。

　　「這與風險不相稱，」威爾士足球支持者協會主席文斯·阿爾姆說，該協會幫助組織了這次抗議活動。「球迷們覺得他們好像被選中當做試驗品。」

　　英國擁有世界上最高密度的監控攝像頭之一，幾十年來，英國安全部門一直在公共場所使用攝像頭，但是在2001年9月11日之后，英國還遭遇了國內恐怖襲擊。

　　倫敦大學學院 (University College London) 的邁克爾維爾 (Michael Veale) 表示，這份白皮書是一個「錯失發展機會的計劃」。「它過于專注于孤立的系統，而沒有考慮周圍的環境、商業模式、它的用途，以及推動人工智能的經濟和政治體系。」

　　Veale 博士補充說，包括 GDPR 在內的現有法律為防止濫用面部識別提供了保護，但是他認為，與其制定新的法律，不如把重點放在執行這些法律上。

　　他個人已經向監管機構提交了針對科技公司的「幾起」投訴，但他還沒有被告知任何由此導致的行動。

　　數字權益組織 Access Now 的丹尼爾洛伊弗 (Daniel Leufer) 也在 twitter 上發帖稱，這份白皮書在面部識別和人工智能生物識別方面的內容「令人失望」地薄弱。

　　也有些人對目前在人臉識別方面缺乏具體的建議表示歡迎。

　　法國格勒諾布爾阿爾卑斯大學 (Grenoble Alpes) 的西奧多克里斯塔基斯 (Theodore Christakis) 是法國國家數字委員會 (French National Digital Council) 的成員。他在采訪中表示：「歐盟委員會需要更多時間來研究如此復雜的問題，并在這一領域謹慎推進，這似乎是合理的。」

　　AI 未來何去何從？

　　根據一份新的政府報告，英國將不會設立專門的人工智能監管機構，但需要對公共部門的使用和道德規范給予更明確的說明。

　　這份名為《人工智能與公共標準:公共生活標準委員會》的報告稱，政府「在開放性上失敗了」，人們對「人工智能黑箱」的擔憂在很大程度上是錯誤的。

　　報告指出:「公共部門組織在使用人工智能方面不夠透明，而且很難發現政府目前在哪些領域使用了機器學習。」

　　該報告主張，「所有公營機構在提供公共服務前，應發表聲明，說明使用人工智能是否符合有關法例及規例；不需要特定的人工智能監管機構，但應成立監管保證機構，以確定監管領域的空白，并就與人工智能相關的問題向個別監管機構和政府提供建議」

　　IT 服務提供商 Insight 的技術策略師亞歷克斯·吉蘭 (Alex Guillen) 在報告發布后評論稱，「首先，公共部門需要記住，目前人工智能和機器學習等技術的最有效使用，是為了提高而不是取代人類。幫助公共部門的工作人員做出更明智的決定，以改善公共服務。然而，無論人工智能如何應用于公共部門，它都需要被當作雇員對待——并給予必要的培訓和信息，以完成其工作。」

　　Guillen 補充說，「與任何依賴數據的技術一樣，垃圾輸入意味著垃圾輸出。從警務中的面部識別，到幫助國民保健服務 (NHS) 診斷和治療病人，人工智能需要正確的數據和正確的治理，以避免造成比解決更多的問題。否則，任何執行都會受到道德問題和數據偏見或歧視指控的困擾。」

　　在美國，一些政界人士對人臉識別軟件的準確性和越來越多的使用也表示擔憂。一些人臉識別技術錯誤地識別了女性和有色人種，公民自由和隱私團體對如何收集這些項目的數據表示擔憂。

　　但與歐盟的謹慎作風不同，美國白宮在2020年1月7日提出10條人工智能監管原則，要求避免聯邦機構對人工智能應用的過度干預，強調監管的靈活性。

　　其中，靈活性原則指出，大多數情況下，試圖規定死板的人工智能應用規則是不切實際且無效的，因為人工智能將以預期的速度發展，機構需要對新的信息和證據做出反應。

　　熟悉此事的官員告訴《國防一號》(Defense One)，美國國防部 (Defense Department) 也將很快制定一套詳細的規則，以管理如何開發和使用人工智能。2019年10月，美國國防創新委員會 (DIB) 發布了一份規則草案，名為「關于人工智能的道德使用的建議」。

　　「國防部已經進入采用人工智能原則的最后階段，這些原則將在美國軍方全面實施。」五角大樓聯合人工智能中心 (Joint Artificial Intelligence Center) 發言人阿羅·亞伯拉罕森中校 (Lt. Cmdr. Arlo Abrahamson) 說。

　　DIB 的指導方針和附帶的實現方針，遠遠超出了谷歌、Facebook 和微軟等科技巨頭發布的有關人工智能的簡短而基本上是膚淺的愿景聲明。一些人工智能和武器領域的倫理學家和學者對美國國防部采用人工智能的消息表示歡迎，但他們補充稱，這方面還有進一步的工作要做，人工智能在軍事上使用的風險和擔憂仍將存在。

　　參考資料：

　　歐盟擬在公共場所禁用人臉識別五年，防止濫用. (n.d.). Retrieved February 24, 2020, from https://www.secrss.com/article/16692

　　EU plans new rules for AI but experts seek more detail. (2020, February 19). BBC News. https://www.bbc.com/news/technology-51559010

　　Pentagon to Adopt Detailed Principles for Using AI - Defense One. (n.d.). Retrieved February 24, 2020, from https://www.defenseone.com/technology/2020/02/pentagon-adopt-detailed-principles-using-ai/163185/?oref=d-channelriver

　　UK govt 'failing on openness' around public sector AI – but specific regulator not the answer—AI News. (n.d.). Retrieved February 24, 2020, from https://artificialintelligence-news.com/2020/02/11/uk-govt-failing-on-openness-around-public-sector-ai-but-specific-regulator-not-the-answer/