『Your Face Belongs to Us』って本を読みました。著者はニューヨーク・タイムズのテクノロジー記者、カシミール・ヒル。なかなかの調査報道モノでございました。
本書はの主役はClearview AIっていう、AIスタートアップ。本書のミソは、彼らがやったのは「技術革新」ではなく、GoogleやFacebookが「これをやったら社会が終わる」と恐れてあえてやらなかった「倫理的なタブー破り」だった、ってところ。
その点で本書は、「プライバシーの死」が具体的にどういうプロセスで進んだのか、その実行犯たちの思想的背景まで赤裸々に暴き出しておりまして、非常に学びが深かったです。ということで、本書から参考になったポイントをまとめておきます。
- Clearviewの「功績」は「技術的ブレイクスルー」じゃなく「倫理的ブレイクスルー」（要するに“タブー破り”）だった、という点。街で見かけた人の顔写真1枚で、SNSから住所まで全部特定する汎用アプリなんてものは、GoogleもFacebookもとっくに作れた。が、「社会が崩壊する」「ストーカー天国になる」ってわかってたから、巨大テック企業は暗黙の「タブー」としてその一線を越えなかった。その点、Clearviewの創業者たちは、この“やらない”という業界の倫理的合意を「知ったこっちゃねぇ」と踏み潰した。イノベーションでも何でもなく、単に「誰もやらなかった（やれなかった）一線を越えた」ってだけの話
- じゃあ、どうやって世界最大の顔データベース（300億枚以上！）を作ったか。答えは「全部盗んだ」というシンプルなもの。Facebook、YouTube、LinkedIn、あらゆるSNSから、ユーザーの同意なしに顔写真を「スクレイピング」しまくった。特に悪質なのが電子決済アプリ「Venmo」の脆弱性を狙った件。Venmoが取引履歴と写真をデフォルトで「公開」にしてたのを創業者は知っていて、「修正される前に」根こそぎデータを抜き取ったらしい
- 彼らはこれを「“公共の広場”から集めただけ」と正当化したが、当然民衆はふざけるなと反論。我々は友人と写真を「共有（Shared）」したつもりでも、見知らぬ誰かの永久検索可能な生体認証データベースに「Available」にされた覚えはない。この“同意のギャップ”を意図的に悪用した、単なる泥棒だ！と主張した
- この「倫理の破壊者」は、創業者のホアン・トン・ザット。ベトナム王家の末裔を自称するも、シリコンバレーで惹かれたのは主流のテック文化じゃなく、極右的な「ネオ反動主義者」だったそう。本書によれば、このツールは最初から「中立」なんかじゃなかった。元々は「過激なリベラル派を特定し、根絶する」ための武器として考案され、トランプ支持者として「反トランプ的な移民」を監視するツールを国境警備隊に売り込んでいた。要するに、特定のイデオロギーを遂行するための「監視兵器」だったというわけ
- で、このヤバいプロジェクトに金を出したのが、みんな大好きピーター・ティール。例のPayPalマフィアのドンであり、トランプ支持者の大物投資家。本書で一番キモいのが、ティールがClearviewに投資してた時期、彼はFacebookの取締役だったって事実。つまり、一方では「データを盗まれた被害者（Facebook）」の門番をやりつつ、もう一方では「データを盗む侵入者（Clearview）」に資金提供していた。深刻な利益相反どころか、確信犯的なマッチポンプでプライバシーの終わりを加速させてたとしか思えない
- Clearviewは表向き「警察の捜査ツール」として売られた。が、実態は「特権階級のおもちゃ」だった。本書によれば、投資家の億万長者が「娘が連れてきたデート相手の身元調査」に使ったり、経営するスーパーで万引き犯特定（という名の客の監視）に使ったり。警察も警察で、令状もクソもなく「やりたい放題（run wild）」検索しまくっていた。一般市民の匿名性を一方的に剥奪できる「非対称的な権力」を手にした人間が、どう振る舞うかなんて分かりきった話
- 「安全のためだ」という言い訳も、本書が暴く「誤認逮捕」の事例で吹っ飛ぶ。顔認識技術は、白人男性以外（特に黒人）の誤認率が著しく高い。そして、これまでに判明してる誤認逮捕の被害者は、全員が黒人。具体例を挙げると、
- ロバート・ウィリアムズ氏：娘たちの目の前で、ぼやけた監視カメラ映像を元に誤認逮捕（拘留30時間）。
- ニジール・パークス氏：不鮮明な偽免許証の写真から「可能性のあるヒット」というだけで誤認逮捕（拘留10日間）
- これらのケースで最悪なのは、技術が間違ったことだけじゃない。警察が「機械の結果だから」と盲信する「自動化バイアス」に陥り、さらに顔認識の結果が信頼できないことを判事に意図的に隠蔽して逮捕状を取っていたこと。Clearviewは、無実の人を捕まえるための「便利な言い訳」として機能していた。
- 一筋の光は、イリノイ州の「生体認証情報プライバシー法（BIPA）」っていう最強の州法。これを武器にACLU（アメリカ自由人権協会）が訴訟を起こし、Clearviewは「全米の民間企業」と「イリノイ州の政府機関」への販売を永久に禁止させられた
- ……が、話は終わらない。本書の最後の警告が一番怖くて、Clearviewは今、「ARメガネ」を開発中。かつてGoogle Glassが「ヤバすぎる」と搭載を見送った「顔認識機能」を、彼らは平気で載せようとしてる。これが実現したら？ スマホを取り出す必要すらない。「見る」という行為そのものが「常時監視」になる。街ですれ違う赤の他人全員が、あなたの身元を特定できる未来。まさにパンドラの箱が開いたまま。。
ということで、規制なきテクノロジーが「安全」と「プライバシー」の両方を、特に弱い立場の人から奪っていく現実を生々しく描いた一冊でございました。
本書を読んでいて思ったのは、別にClearviewだけを責めても話は終わらないだろうなーというところ。彼らみたいな「倫理観のバグった連中」は、今後も絶対に出てくるはずなんで。
本当の問題は、彼らが「盗む」ことができた“燃料”が、インターネット上に溢れかえっていたことなのかもしれません。我々が「いいね！」欲しさに投稿し続けた顔写真、友人との日常、そういう「共有」のつもりのデータが、全部「盗める」状態で放置されてますからね。
我々は「無料で使えるSNS」の代償として、自分たちの生体認証データという“弾丸”をせっせとテック企業に供給し、Clearviewはその弾丸を拾って「監視」という名の“銃”に込めた。もはや「インターネットは公共の広場」なんていう牧歌的な時代は終わってて、我々は丸裸で監視資本主義の戦場に立たされてるんだなぁ、と。
まずは「顔写真をネットに上げる」ことのリスクを、10年前とは根本的に変えなきゃいけない（少なくともそのリスクを個々人が真面目に検討することは必須でしょうね）。子供の写真を無邪気にSNSにアップする行為が、将来その子の生体認証データを「監視データベース」に差し出すことと同義になるかもしれないよなーとか感じましたね。もはやSFじゃなく、これは「現実の防犯」として考えておきたいもんだいですねぇ。