人臉識別：看得見的隱私（簡體書）

作者伊恩·伯爾勒認為，在一個日益依賴數據並同時規避風險的社會中，有證據表明，如果人臉識別技術的使用不加控制，會導致隱私被侵犯，急需有關部門在個人隱私與社會安全中做出權衡。本書提出了運用法律與倫理的解決方法以更好地保護隱私與規制數據商品化，從而為人臉識別與公民身份安全構建良性發展的法律路徑。

彭誠信，上海交通大學凱源法學院副院長，教授。民商法領域學科帶頭人。

伊恩•伯爾勒，斯塔福德郡大學“法律與道德”課程模塊的專家評估員。

趙精武，北京航空航天大學法學院副教授，法學博士，碩士生導師。學術研究方向為民法學、網絡法。兼任工信部工業和信息化法治戰略與管理重點實驗室研究員、網絡空間國際治理研究基地研究員、中國科協—北京航空航天大學科技組織與公共政策研究院研究員、北京科技創新中心研究基地研究員。譯有《所有權的終結：數字時代的財產保護》《數字正義：當糾紛解決遇見互聯網科技》；參與編著、專著十余本；在《法律科學》《華東政法大學學報》《社會科學》等核心期刊發表文章十余篇，並有部分文章被《新華文摘》《人大復印報刊資料》全文轉載；在《經濟日報》《法治日報》《中國社會科學報》《經濟參考報》等媒體發文多篇。

唐林垚，中國社會科學院法學研究所助理研究員，法學博士、博士後。兼任《商法界論集》副主編。學術研究方向為民商法、網絡法。在《法學評論》《現代法學》《東方法學》《政法論叢》《Forest Chemical Review》等中英文核心期刊發表文章十余篇，多篇文章被《新華文摘》《中國社會科學文摘》《高等學校文科學術文摘》《社會科學文摘》全文轉載。

在人工智能法學研究領域，“學術泡沫”的相關詬病早已有之，但伴隨著商業實踐和理論研究的不斷深入，人工智能技術規制的法學議題開始逐漸聚焦於具體的應用模式及其底層支撐的數據集合安全。研究範式和研究視角的精準化使得學者們不再癡迷於假想式技術風險的治理模式論證，脫離具體的應用場景，抽象地探討人工智能技術規制方式無異於空中樓閣，既無法提供有益於解決實踐難題的制度方案，也無法澄清技術與法律不同話語體系之間的邏輯差異。技術本身從來都不是法律的規制物件，社會對於技術安全風險的種種擔憂歸根結底還是集中於具體的應用場景。無論是前期的軟件開發、算法代碼編寫，還是後期的功能測試、上線應用，人工智能技術所表現出的風險類型並不完全相同。

在數字經濟時代，數據的資源開發和經濟價值實現已經從大數據時代的數據挖掘轉變為算法時代的實時數據仿真模擬。數據在規模化聚集之後能夠反映更為全面且細致的信息內容，通過關聯、比對數據之間的關係，預測未來趨勢、分析內在因果關係等功能早已不是難事。可以說，技術創新應用和隱私保護的天平早已開始朝向技術一端傾斜。縱覽國內人工智能相關理論成果，研究內容大多以默認技術會侵害隱私權益的形式“一筆帶過”，至於技術如何闡釋隱私概念、隱私權益的內容發生何種異變等實質性問題並未能得到明確的解釋。這一現狀值得學界予以關注，技術創新的目標是為了更好地保護權利和提升生活水平，而不是以犧牲既有權利為代價，促成“技術規訓人類”這種主客體顛倒的局面形成。

因此，本輯叢書改變了以往聚焦人工智能技術應用的思路，結合數據生產要素市場化配置的國家戰略，將“人工智能與隱私”“人工智能與數據”作為本次國外法學精品專著的篩選主題，希望本輯叢書能夠為國內人工智能法學研究提供與眾不同的觀察視角，推動人工智能法學研究範式的體系化。

本輯叢書本著“讀書之樂何處尋，數點梅花天地心”的立場，編輯和譯者們為了給讀者們帶來具有“異域風味”的學術盛宴，精心選擇了三部著作，以期能夠讓讀者們眼前一亮，重新思考和審視技術與法律之間應然的對話方式。這三部著作分別是伊恩·伯爾勒（Ian Berle）博士的《人臉識別：看得見的隱私》、尼爾·理查茲(Neil Richards)的《隱私為什麼很重要》、克雷格·埃利夫(Craig Elliffe)教授的《課稅數字經濟》。

《人臉識別：看得見的隱私》一書重新審視了人臉識別技術應用究竟給我們的權利和社會結構帶來了何種變化。在我們將公共場所的人臉識別應用視為社會安全保障有效手段的同時，作者對這種“理所應當”產生質疑：人臉識別技術真的能夠有效預防安全風險嗎？又或者說人臉識別技術僅是在事後階段提供事實還原和權利救濟的依據？更為重要的是，在我們默認人臉識別技術有利於社會治理時，個人再想拒絕人臉識別卻變得極為困難，尤其是在人員進出場景模式下，個人拒絕或抵制人臉識別甚至會被視為“異類”。作者對這種現象表示擔憂，在援引哲學家福柯提出的“規訓權力的行使需要以主體的公開可見”為基礎，認為被遮掩的人臉識別應用正在促成法律主體的“強制可見性”，一旦超出必要的限度，人臉識別應用將成為強制可見個人私密生活的“幫兇”。

《隱私為什麼很重要》則為我們展示了我們之前鮮有思考的一個基礎問題：究竟什麼是法律意義上的隱私。在司法實踐中，國內外的法官和當事人常常陷入主觀性的“隱私”概念辯論之中，這背後的真相則在本書中有所提及，作者直截了當地澄清了有關隱私的四類偏見：一是隱私不是“見不得人”；二是隱私不只用於防範詭異和變態；三是隱私不僅僅限於自身相關信息的控制；四是隱私還沒有“死亡”，在數字時代仍有存在的社會價值。在作者看來，隱私更像是一個“程度”問題，即隱私能夠讓我們在何種範疇自由選擇身份，成為想成為的人；隱私能夠實現何種程度的自由和安全；隱私能夠以何種方式保護消費者、雇員的合法權益。簡言之，隱私是關乎身份、自由和保護的工具。在平臺經濟時代，平臺的隱私政策大多以驗證用戶身份的“真實性”為由，“合理合法”地蠶食隱私概念，但“真實性”的根本目的是保護用戶安全，以隱私承載的“安全”為代價，實現另一種安全，這種異乎尋常的理由恰恰證明了平臺正在掩蓋我們所不知的問題。

《課稅數字經濟》則是以前沿領域的數字稅征收問題為研究物件，評估和論證是否以及如何向商業模式高度數字化的跨國公司征收數字稅。在數字貿易中，人工智能等信息技術的創新使得數字企業發展速度遠超傳統產業，這些企業無需深入消費者市場即可遠程提供同等質量的產品和服務，但這些企業實際承擔的稅率僅是傳統企業稅率的一半，這種失衡的稅收狀態成為國際稅收制度亟需解決的現實問題。盡管國際層面的經會組織/G20稅基侵蝕和利潤轉移(BEPS)項目確實發揮國際稅收制度包容性功能，但與政策制定者期望的公平且有效的稅收狀態仍然存在一定差距。

這三本國外學術專著的選擇主要是以“技術、隱私與數據”為主題，將讀者的視野拓展到人工智能所關涉的具體產品或服務。《人臉識別：看得見的隱私》思考的是人臉識別技術所產生的個人強制可見性效應；《隱私為什麼很重要》反思的是傳統隱私概念在數字時代究竟是否仍有存在的價值；《課稅數字經濟》則是將研究目標回溯至技術應用者，分析人工智能等信息技術和數據資源在產生直接經濟效應的同時，應當如何以稅收制度維系數字經濟的公平有效競爭。法律的生命在於實踐，法學研究同樣需要以實踐問題為研究物件。在人工智能法學研究趨於精細化的當下，再去探討抽象層面的“技術—法律”二元互動方式已然過時，真正應當關注的是信息技術革命為個體權利和法律關係所帶來的機遇與挑戰。

三部風格迥異的學術著作以不同的研究視角和實踐問題為我們呈現了人工智能技術領域的“研究百態”：或是憂慮人臉識別技術犧牲隱私實現安全的治理邏輯成為“常識”；又或是竭盡所能想要吹散“隱私已死”的迷霧，在個性化推薦服務普及的社會中找回真正的隱私；抑或是從技術和數據所推動的數字商業模式切入，以更貼近實務需求的視角分析數字稅征收的法理依據和實施方案。這些多樣化的研究成果表明人工智能技術的理論研究正在擴張至各個具體領域，研究的具體問題往往又與隱私保護、個人自主權、稅收公平等傳統法律問題相互牽扯，這也是未來人工智能技術理論研究的必然趨勢。

《人臉識別：看得見的隱私》將人們習以為常的人臉識別技術普及應用以另一種方式予以描述：如果我們不是從政府和企業的視角，而是從技術消費者的公民視角出發，我們可能會對“強制可見性”的含義產生印象。我們已然知曉臉書是一個流行的全球社交網絡，它被稱為“臉書”是有原因的：它通過消費者的選擇，提供家人、朋友和民間社會團體的個體面容。現在想象這麼一個社會，許多或絕大多數人的身體、衣服或頭飾上都綁著相機，並且可以在日常生活中隨意記錄周圍的人。我們必須要追問的是，隨著無處不在的微型相機和人臉識別技術(FRT)的融合發展，公民是否會被置於國家機關和私人公司“強制可見性”的位置。人臉識別技術會對受到其審查的人施加強制可見性，使個人隨時暴露於其注視之下，無論它們是出於調查、安全目的，還是在社交網絡上。強制可見性在之前可能已經被納入對個人和社會有益的系統之中；這類系統在架構上可能具有自主性，因此在某些級別的功能性上不需要人工干預或操作，例如自動實時帳單支付和訪問控制。雖然這些應用看似有益，但當系統不允許選擇或者有選擇性地提供部分選項時，它們可能會降低自主性並因而具備強制性。

《隱私為什麼很重要》則是重新解讀了隱私作為規則的四項要件。第一，隱私從根本上說是關於權力的。隱私很重要，因為信息就是權力。人類的信息技術正被用來預測、影響和日益控制人類行為，被用來為信息時代的技術提供動力。就像石油為工業時代的卡車、火車、工廠和航運提供動力一樣，這個時代的卡車、火車、工廠和航運則是被稱為“機器學習”“人工智能”或直接稱為“AI”的技術。第二，隱私的斗爭實際上是關於規則的斗爭——管理收集和使用人類信息的規則。平臺往往通過隱私政策讓我們內疚，因為“我同意了那個應用程序，所以如果我的數據現在‘在那裡’，而且超出了我的控制，那就是我的錯”。糟糕的設計導致人類選擇默認的選項時——我們責備自己，我們成為了隱私規則斗爭的失利者。第三，隱私規則是不可避免的。人類信息一旦被分享便不再是“隱私”的概念是個危險的謬誤，因為我們需要規範信息的使用和收集。第四，隱私規則是工具性的。隱私本身並不重要，重要的是隱私可以讓我們追求其他我們一致認為重要的(甚至是基本的)價值。

《課稅數字經濟》一書表達了對數字服務稅征收困境的擔憂。該類稅種僅針對一項特定的業務類別，無法解決現行國際稅收框架所面臨的難題。可以認為，僅其中兩項挑戰通過數字服務稅得到了解決：其一，逐漸消沒的對企業利潤進行課稅的能力，但僅限於對自動化數字服務企業，而不包括面向消費者企業；其二，對數據的使用和用戶的貢獻。事實上，這僅是有關數字服務稅法律問題的“冰山一角”，“如何將該項稅收作為消費稅進行征收”這一問題的解決更是相當棘手。因為如果高度數字化企業在特定的管轄區中能夠賺取巨額的剩餘利潤或者僅存在極低的或不存在任何的經營邊際成本，那麼一個以企業總收入為依據且採用較低稅率的稅制則又會導致征稅過低。此外，該項稅收不能夠抵扣其他直接所得稅，這將導致對企業的雙重征稅。

人工智能技術商業化應用並非幻想，從自動駕駛汽車致人死亡到人臉識別技術濫用，這些切實可觸的社會熱點事件將法學研究重心再次拉回至產品或服務層面的安全風險。法律對技術的響應不應當是以揣測性的風險預估為基礎，因為“可能導致……風險”“未來可能會導致……”等論述已然超出了法學研究範式所要求的客觀理性，在理論和實踐層面均無法為技術治理活動提供方法論指引或制度方案參考。人工智能技術濫用會導致法律主體權益減損或喪失，異化技術輔助治理的實現方式，這些潛在的問題早已是不爭的事實。人工智能技術治理的諸多制度方案卻有可圈可點之處，但須知法律問題的定性和解決決然不是停留於紙面的假想，而是需要回歸至技術應用對社會的實際影響。編輯和譯者們之所以慎之又慎地選擇這三本國外專著，也是期望這些論述觀點能夠在平靜的水面激起有關“人工智能技術發展社會化”的層層水波。至少在我們刷臉進出小區時，我們不再默認人臉識別技術是公共安全之必要，而是質疑和訊問我們的面部圖像數據究竟何去何從。

讀書的樂趣遠不是寥寥幾筆所能勾勒，好書給人的感覺猶如夏日清風拂面的舒爽、秋葉幽夜賞月的愜意一般，期待本輯叢書能夠讓各位讀者捧卷而讀時有所收獲。

彭誠信上海交通大學特聘教授上海交通大學人工智能治理與法律研究中心副主任凱原法學院數據法律研究中心主任2022年7月27日

主編序/

序言/

第1章導論/

1.1數字化成像和人臉識別技術/

1.2人臉識別技術/

1.3人臉識別技術和隱私/

1.4人臉識別技術和監控/

1.5人臉識別技術及其倫理、法律層面的影響/

1.6人臉識別技術和個人自主權/

1.7人臉識別技術和大數據/

第2章什麼是人臉識別技術？/

2.1引言：人臉識別技術/

2.2人臉識別如何運作？/

2.3人臉識別算法/

2.4其他方法/

2.5人臉識別技術的弱點和問題/

2.6人臉識別的漏洞/

2.7人臉偽造對抗技術/

2.8當前人臉識別技術的用途/

第3章人臉識別技術的一些倫理和

法律議題/

3.1對人臉識別技術的恐懼與誤解/

3.2一些更深層面的議題：人臉識別技術、

數據保護和公民自由/

3.3人臉識別：公民自由與公眾披露/

第4章隱私和監控調查/

4.1引言：隱私和監控/

4.2數據主體和監控數字/

4.3生物特徵數據和公民自由/

4.4數據主體和隱私/

4.5數據主體與自主性/

4.6隱私、信息化和攝像/

4.7數據主體和生物識別數據/

4.8社會政治場景/

第5章自主權、自由和隱私/

5.1自主權的概念/

5.2自由與隱私/

5.3德沃金的一階自主權和二階自主權/

5.4自主權與自由/

5.5消極自由和積極自由/

5.6卡夫卡和消極自由/

5.7福柯的警察和邊沁的囚徒/

5.8隱私和自主權/

第6章強制可見性？/

6.1引言/

6.2隨身相機/

6.3強制可見性和強迫/

6.4強制可見性和人臉識別/

6.5大數據/

6.6大數據與人臉識別/

6.7強制可見性和自主權/

第7章法律與數據保護/

7.1引言/

7.2數據保護與隱私/

7.3信息隱私/

7.4數據保護和隱私：以美國部門性方法

為例/

7.5協調美國和歐盟的規定/

7.6數據保護與人臉識別/

7.7生物特徵數據與《通用數據保護條例》

的發展/

7.8人權：公民自由、隱私和法律/

第8章法律與監視/

8.1監視、監管權力與權利/

8.2人權、大規模監視和英國判例法/

8.3人臉識別：責任與信任/

8.4人臉識別：隱私和圖像所有權/

第9章國家家長主義和自主權/

9.1國家家長主義作風：主動和被動/

9.2倫理準則與國家權力/

9.3家長主義和人臉識別技術/

9.4控制支配、家長主義與自主權/

9.5公民與國家/

9.6人臉識別與二階偏好/

9.7預防傷害與對二階偏好的影響/

9.8對隱私的威脅/

第10章國家家長主義與數據/

10.1保護隱私：數據保護和政治層面/

10.2保護隱私：英國數據保護和人臉識別

模式/

10.3數據處理與二階偏好/

10.4數據主體與人臉識別系統(國家數據挖掘

權力)/

第11章未來人臉識別技術和倫理—法律問題/

11.1人臉識別：未來及其影響/

11.2識別威脅與身份安全/

11.3身份管理/

11.4人臉識別與人機界面/

11.5預測社會關注和反應/

11.6憲法保障措施與權利/

11.7法律和監管保障措施/

11.8規範數據商品化/

第12章結論/

12.1人臉識別技術和個人形象所有權/

12.2數據所有權：一個新的法律和道德權利

框架/

12.3科技發展民主化/

12.4個人識別圖像和街頭攝影/

12.5建議/

參考文獻/

索引/

縮略詞/

案例索引/

法規索引/

譯後記/