Googleは軍事用無人機での物体認識を改善するためにAIを使用しようとする議論のあるペンタゴンの研究プログラムであるProject Mavenへの関与を終わらせている。
Google CloudのヘッドであるDiane Greene氏は、金曜日の会合で社員に、2019年に国防総省との現在の契約が失効し、新しいものを追求しないと伝えた ニューヨーク・タイムズ そして ギズモード 。 この発表は、Googleが 倫理政策 将来の軍事プロジェクト（人工知能の使用を明示的に禁止するもの）への関与を指導する。
グリーン氏は、「AIの倫理的使用においてリーダーシップを発揮することは我々にとって重要なことだ」と述べた。
私はこの決定に満足しています。
しかし、私はこれがどのように処理されたかには失望していないとは言えません。
それが間違っていることが分かっているなら、それをしないでください。 あなたがそれが偽であることを知っているならば、それを言わないでください。 https://t.co/9XGHPW0mz4
– フランソワ・ショレ（@fchollet） 2018年6月1日
Gizmodoによると、この決定は、Project Mavenによって生成された内外の論争に照らしてなされたものです。 Googleの関与に関するニュースが3月に公開されて以来、4000人以上の従業員 – GoogleのAI研究を監督するJeff Dean – 同社に再考を促す公開書簡に署名し、数十人が抗議して辞任した。 一方、ロンドンのGoogle子会社であるDeepMindのAI研究者と幹部は、GoogleがDeepMind技術を監視システムや軍事システムで使用することを妨げる2014年の買収契約を引用して、プログラムから離れている。
Googleのエグゼクティブの間で交換された内部電子メールは、議論の余地のある性質にもかかわらず、プロジェクトMavenは収益性の高い軍事契約を得るためのより広いプッシュの舞台を設定することを示しました。 Google Cloudのチーフ・サイエンティストであるFei-Fei Li氏は、Project Mavenが18カ月以上で1500万ドルの収益を上げ、今後2億5,000万ドルの収益を上げると予測していることに注目しました。
これは大変です。 軍事計画のためにAIで作業することを拒否するために集まった何千人ものGoogleの労働者のおかげです。 https://t.co/FUu6UTj8Zo
– ケイト・クロフォード（ケイト・クロフォード） 2018年6月1日
契約の過程で、GoogleはPentagonにTensorFlow（オープンソースのAIフレームワーク）を寄贈しました。 しかし、防衛省のアナリストや請負業者が建物、乗り物、人、大勢の人、ランドマークを「クリック」し、「それらに関連するすべてを見る」という「Google Earthのような」サーベイランスシステムを構築する予定だった。 ”
「Mavenは、暴力的な過激派活動や人権侵害などの犯罪をより迅速に特定することで、国民と市民の安全を向上させる大規模な政府プログラムです」とGoogleの防衛情報部門のScott Frohman氏は 「Google Cloud Platform」の規模と魔法、Google ML [機械学習]の力、そして人々の知恵と強さは、安全性とセキュリティの多桁性の向上をもたらします。 世界の安全保障 ”
この電子メールはまた、IBM、Amazon、Microsoftなどのシリコンバレーの大物がAI防衛省の契約を締結しており、Project Mavenは何十億ドルもの政府クラウドコンピューティング契約と「直接関係している」ことを明らかにした。 この契約は名前では言及されていませんが、米軍のデータの大半を商用クラウドプロバイダに移行しようとする10年間の100億ドルのイニシアチブであるJEDI（Joint Enterprise Defense Infrastructure）と考えられています。
一部の経営幹部の間では楽観主義にもかかわらず、李氏はProject Mavenがどのように認識されるかについて懸念を表明した。 「メディアが秘密にAI兵器やAI技術を構築して防衛産業向けの武器を提供するというテーマを取り上げれば、どうなるのか分からない」と彼女は書いている。 「Google Cloudは2017年にAIを民主化するというテーマを構築しており、Dianeと私はエンタープライズ向けのHumanistic AIについて話してきました。 私はこれらの非常に肯定的なイメージを保護するために慎重に慎重になるだろう