アノニマスに関する信憑性はミディアムの編集部員の社説によって実証せられた。トレバー・ティムによる、この社説の筆者へのインタビュー記事はこちらから。
企業が新たな技術を提供する時には、その行く末について熟考する責任が伴います。
私が勤めているアマゾン社は現在、顔認証や画像分析の警察組織への有償提供を許可しつつあり、私をはじめとする一部社員はこの有償提供を今すぐ撤回すべきであると要求しています。
数週間前、私と同僚によって、画像分析の技術を警察に売り渡すことが導く将来についての文書を作成、450名以上の署名も添えた上でジェフ・ベゾス氏をはじめとする幹部らに提出しました。
またこの文書内には、移民税関捜査局に対し、国外追放や追跡のためにプログラムを数多く提供しているソフトウェア会社「パランティール社」をアマゾンのウェブサイトから消し、倫理的な決断を下すための監査役を設けるという要求も含まれていました。
ベゾス氏はこの懸案事項や、まもなく業界全体で会談が行われるであろう事も気付いているように思われます。
彼は過去壇上において、優れたテクノロジーは独裁者によって誤用されうる事や、悪用される可能性さえあるという事実を認めていたのです。しかしベゾス氏は、いかにアマゾン社が悪用に対し対策をとるか、という十分な説明を行うよりも、「社会が順応する時を待つ」という姿勢を示しました。
私たち従業員は、アマゾン社が社会の順応を待っていたのでは、悪用に夜危害を少なくすることは難しくなると思うのです。私たちの懸案事項は、他社によって将来引き起こされる問題だけではなく、いまにもアマゾン社がシステムの企画、マーケティング、販売を危険な企業に対して行ってしまうのではないか、という事なのです。
アマゾンのウェブサイトでは、「膨大な量の顔のデータの記憶や検索を一度に行うことが可能である」ということが大きな利点として強調されています。
警察組織は事実上、監査役による協議や使用制限を設けずに、顔認証システムの利用に取り掛かり始めています。オーランドとフロリダでは街中の監視カメラのライブ映像に、画像分析の試用が行われています。オレゴン州の保安官事務所では、現場で保安官が顔認証システムを利用し、データベースの写真との比較をすることを認めています。信じがたいことに、これは仮想現実ではなく、実際の現実なのです。
先導したいのならば、「人」か「利益か」を選ぶ必要がある
私たちは、国家の下、未点検の箇所を残している新しく強力な監視ツールが、犯罪行為を全く行ったことのない人々もターゲットにしているということを過去から学んでいます。アメリカでは既に、システムに関する説明の欠如が、大きな衝撃や、人種や移民、人々の表現や宗教の自由の権利に対する過度な取り締まりを引き起こしているのです。
これらの緊急の懸案事項を無視する一方で、政府や警察組織に強力なテクノロジーを提供することは極めて危険であり、無責任なことでしょう。
アマゾンのウェブサイトの世界的公共部門副会長であるテレサ・カールソン氏が「アマゾンは警察組織やその防衛、そして優れた顧客に対し(たとえその顧客が、実際に何に対して監視ツールを使うかということを全て把握していなくても)確実なサポートを行う」と発言した際には私たちは大きな衝撃を受けました。さらにアマゾン社は、警官の意向によって、市民を狙うように変えることができてしまう携帯型監視機器にも顔認証システムを採用することを勧めているのです。
どうしてこの事を支持することができるのでしょうか。
人々は誰もが政府に監視されることなく自らの生活を送る権利を持っています。私たちのような会社は、独裁的な監視体制を誘発するビジネスになってはいけないのです。それは今現在も、この先も変わることはありません。しかし人工知能による顔認証システムは、たった一度のビデオ画面から認証したたくさんの情報を半永久的に記憶し、即時にデータベース内の膨大な量の写真と比較することが出来てしまうため、独裁的な監視体制の誘発を支持しかねません。
このシステムを提供することは、アマゾン社が掲げている価値観に矛盾しています私たちアマゾン社は、顧客中心的企業であるとうたっており、ベゾス氏は直々に、ムスリムの禁止などの移民を狙った非道徳的な政府の方針を非難してもいルため、このシステムを提供することは、アマゾン社が掲げている価値観に矛盾していると言えます。
アマゾン社は、コミュニティを犠牲にし、一部の有力な顧客から利益を得ることはできません。すなわち、私たちのビジネスの犠牲者から目を背けることはできないということなのです。私たちが販売しているものは偏見を増長させてしまう恐れのあるテクノロジーであることを忘れてはなりません。調査結果によれば、肌の色が黒い色に近いほど、顔認証のシステムは認証ミスを起こしやすいということが判明しています。
これは最近行った、ある集団の顔写真を利用した画像分析のテスト検証で示された明白な事実です。この検証では28の誤った認証がなされ、認証が不確実なものになる割合は、人の肌の黒さに応じて不均衡に高くなっていたことが分かっています。
たとえこの誤認が修正されたとしても、やはりまだなお政府にこのソフトウェアの使用を許可することは無責任であり、危険であり、道徳に反する行為であるといえます。この偏見を生み出す偏見の存在は、より広い社会で、私たちの公正なシステムの中にあります。政府や警察組織による顔認証の利用は、単に圧制する情勢を生み出し、そして拡散していくだけです。
現警察組織は、より顔認証の使用を行うには好ましくないであろう、政府という機関に顔認証機器を販売するという案を練っています。警官はより黒人活動を監視できるように、そしてトランプ政権はより一層移民に対し威嚇し続けることになるのです。強化された監視体制は、決して私たちが支持したいものではありません。私たちがアマゾン社に訴えていることは、ひとえに法を遵守する顔認証システムの顧客が、自由の保障が全くされていないということであり、これはつまり、テクノロジー利用に伴う欠点について、責任を逃れる方法であるということなのです。
私たちはメイブンの契約書に対し真っ向から異議を唱えたグーグル社の人々や、JEDI契約書にズバリと意見を述べたマイクロソフト社の従業員の例に倣うべきです。私たちの軍部に関する考え方とは関係なしに、軍部の「死亡率の上昇」による利益を得る人など誰一人としているべきではないのです。国内外問わず、人々を圧迫し、殺してしまうようなテクノロジーの創造を黙認することなど到底できません。
アマゾン社はリーダーシップというものの価値について多く語っていますが、私たちアマゾン社が業界の牽引をしていくのであれば、「人」をとるか「利益」をとるかの選択にも迫られます。私たちは危険な監視システムを警察に提供することも、人権のために立ち向かうこともできるのです。しかしながら現状では、私たちはどちらも成し得てはいないのです。
おすすめ新着記事
おすすめタグ