AIウィークリー：自由を保つために顔認識を規制する方法

今日のMicrosoftの社長Brad Smith 顔認識ソフトウェアの連邦規制を求める 。

「民主的共和国では、公安と民主的自由の本質とのバランスを取ることが必要な問題に関して、選出された代表者の意思決定を代えるものはありません。 顔の認識では、公的部門と民間部門の双方が踏み込んで行動する必要がある」とスミス氏はブログ記事に書いている。

最近の出来事はスミスが今話している理由を説明している。

先月、米国市民の大多数が米国に不法に侵入した家族を分けるという考えに対して激怒したが、Microsoftは 一般市民と数百人の従業員によって批判された 移民・税関執行機関（ICE）との契約を締結しました。 スミス氏によると、マイクロソフト社は1月のブログ記事では可能性を示唆していたにもかかわらず、マイクロソフト社は顔認識ソフトウェアをICEと共有していなかったという。

5月には、Amazon Web Servicesが オーランドのような都市の法執行機関にその認知症の顔認識サービスを販売する （ACLU）や他の組織のようなグループによって反対されている開発。 A ニューヨークタイムズは中国における顔認識の発展を巡って 今週は話題の議論も奨励しています。

スミス氏は、この規制の仕組みについて建設的な提案はほとんどしていませんが、米国での顔認識ソフトウェアの使用を規制する潜在的な法律の一部であるべきことがいくつかあります。

精度基準

今週、顔認識ソフトウェア会社のカイロス（Kairos）のCEO、ブライアン・ブラーケン（Brian Brackeen）は、ハイテク企業と政府機関による顔認識ソフトウェアの議会黒人コーカスへの使用についての彼の考えを共有しました。

Brackeenは、一般消費のために利用可能な食料や薬の基準があるように、顔認識ソフトウェアの正確さの基準を定めるべきだと主張している。

「私たちが話したことの1つは、監査能力であり、基本的に、「どのツールもアメリカの社会全体で均等に働かなければならない」と言うことができる」とVentureBeatとのインタビューで語った。 「性別や人種が違うAIツールは、他の人よりも偽陽性にならないようにしなければならないので、何らかの誤差と拘束力のある標準を作りましょう」

Brackeenは、MITの研究者であるJoy Buolamwiniと一緒に証言しました。この研究者は、今年初めにMicrosoft、Face ++などの顔認識ソフトウェアが発見されました 色の女性を認識する能力が不十分 。 マイクロソフトはこれまで Face APIの改良 。

Brackeenは先月、op-edにこう書いた。 顔認識ソフトウェアは、法執行機関による使用の準備ができていません 今年初めには、他のシステムが色のある人をよりよく認識するのを助けるオープンソースのデータセットに誓った。

電子フロンティア財団は、顔認識ソフトウェアの使用を警察に許可するべきではないと信じていますが、使用する必要がある場合は、標準が必要であると主張しています。

「禁止されていなければ、非常に厳格な規制が必要だと我々は考えている」と上級スタッフの弁護士Adam Schwartz氏は電話インタビューでVentureBeatに語った。 「まず、警察は深刻な犯罪の原因に基づいて裁判官から令状を受けなければなりませんが、警察は、使用している機器が、 エラー率は5％未満です。

サイバーセキュリティ基準

標準には最小限許容可能な精度が含まれていてはなりません。 カイロス氏はロシアや中国のボットで1日に数百回攻撃されており、外国の敵による誤用を避けるために、顔認識ソフトウェアを導入している企業には基準を設けるべきだという。

議員はまた、顔認識データベースを外国政府との関係を持つ新興企業と共有すべきかどうかについてBrackeen氏は考えなければならない 中国のFace ++のような 。 彼らは競争相手なので、塩の穀物でそれを取ることができますが、それは “彼らのデータと主権のアメリカ人にとって本当の明らかで危険な現実になり始める”という練習です。

狩猟政治反体制派や抗議者はいない

抗議での顔認識ソフトウェアの展開は、自由な表現と合法的に抗議する権利を損なう可能性がある。 特定のコミュニティをターゲットにすることから、ここから ソーシャルメディアデータアクセスを許可するGeofeedia 過去の法執行機関に

同様に、顔認識は 予測的ポリシング方法 因果関係や負担を見出していると主張する者は、連合による罪を犯した人々は、特に予測的な警察が歴史的に偏ったデータに依存している場合、誤用と抑圧の明確な可能性を秘めているようだ。

あなたの写真が顔認識データベースに保存されるときの開示

あなたの写真が、顔認識ソフトウェアデータベースで使用するために政府機関によって撮影されている場合は、事前に通知する必要があります。 テック社とFBIは膨大なデータセットを持っているかもしれないが、今日の米国における顔認識ソフトウェアの最大データセットは、州の自動車部門によって人々の運転免許証のために撮られる可能性の高い写真である。 あなたがライセンスを取得するために写真を撮らなければならない場合でも、人々に通知する必要があります。

「議員や市長などと話をして、できる限りプロセスに参加したいのであれば、その情報から、それが起こっているかどうかわからなければ、フランチャイズを行使することはできない」

それは何からでも使用できるので 自律車でより良い経験 抑圧への支払いには、顔認識ソフトウェアの連邦規制が取り組まなければならないことの包括的な見方があります。

ジストピシアンのシナリオは本当に想像するのが簡単です。特に、政府の過ぎ越しの歴史的事例や権力者が力の構造を維持し維持するためのツールの使用に精通しているならば、特にそうです。

これは、ブラッド・スミスが今日連邦規制を要求した理由の一部であり、なぜサファイア・ノーブル博士が 抑圧のアルゴリズム AIは21世紀最大の人権問題の1つと呼べるほどです。

しかし、行方不明の子供はどうですか？

今年の初めに、4日間にわたってデリー警察が実施した裁判で、 インドの失われた子供約3,000人が顔認識ソフトウェア 。 認知症のある高齢者やセックス・トラフィッキングや現代の奴隷に巻き込まれた人々のような脆弱な集団と同じ例を考えてみましょう。

顔認識ソフトウェアを使った遊びのユースケースは非常に広いので、どちらを規制すべきかを理解するのは難しいかもしれません。 個人の自由を守り、ディストピアを避けるために限界を超えてはならない種類を理解することはちょっと分かりやすいので、インテリジェントなマシンが恐れるのはやむを得ないと思われるようです。