AIウィークリー：AIのディストロパシアのビジョンは、現在の問題から逸脱している

相当な時間をかけてAIについて書くことは、私の経験上、人類の未来について懸念している人を作るのに十分です。しかし、私はその懸念の焦点があまりにも遠い未来に向いていることがあまりにも多く、現在の予期しない結果につながる可能性があることを心配しています。

過去数ヶ月の見出しは、悪いことがどのようにして得られるかを明らかにする。自己駆動Uberのケースを考えてみましょうエレイン・ヘルツベルクを殺したアリゾナ州テンペ、そしてテスラの時に殺されたアップルのエンジニアのもので、オートパイロットで運転する、高速道路の交通バリアに耕した。偽のニュースや過激派の見方の広がりに関係しているFacebookやYouTubeのコンテンツ提案アルゴリズムにはおそらく気づいているでしょう。

それから、先週の話 Palantirのアナリティクスを企業セキュリティと予測的なポリシングにどのように活用するかについて、悲惨な結果を招く可能性があります。この記事でインタビューを受けたある男性は、ロサンゼルスのイーストサイド18党に関与していないと主張したが、LAPDには彼のデータベースに仲間として彼がいて、役人が彼を止めているという。

これらのケースのどれも、Elon Muskが人類にとって実在の脅威であると呼ぶのに十分進んだAIを伴っていませんでした。しかし、それは人々が傷つくのを阻止しませんでした。私たちが注意を払わなければ、これは今後数年で頻繁に起こります。

今日、銀行預金者、トラック運転手、または他の職業の悲劇的な未来について心配するのは簡単です。彼らの仕事は、将来彼らの仕事が消え去るでしょう。ありがとう ウェストワールド 、 バトルスターギャラクティカ 、イアン・M・バンクスの文化小説、その他のメディアから、人工超知能が私たちの人生をどのように揺るがすかを自信を持って描くことができます。

私を間違えないでください。しかし、私たちは、遠い未来について私たちの心配を私たちの目の前で起こっていることに盲目的にさせることはできません。 AIシステムが故障すると、期待していない方法でAIシステムが動作します。研究と事例の証拠から、これらのシステムはしばしばマイノリティに偏っていることがわかりました。その悪い知らせは、それらのシステムがインフラストラクチャの重要なコンポーネントになると悲惨なものになります。

考えますサザンステートパークウェイの物語ロバート・カロが配したニューヨークで パワーブローカー 。キャロとシドニー・M・シャピロとのインタビューによれば、都市開発者のロバート・モーゼス氏は、バスの通過には余りにも足りない公園用の橋を建設することにしました。それらの橋はまだ立つ。

これは、AIを使って、あらゆる方法について予測可能な決定を下すことができるはるかに強力なシステムを構築することを考慮して、未来について私に心配する話です。法執行機関は、今日AWSの認識サービスを使用して、作業の一環として画像認識を行っています。 A 最近の研究競合する顔面認識APIが、より暗い皮膚、特に女性を持つ人々の性別を特定することはあまり正確ではないことが示されました。

良いニュースがあります：アルゴリズムを変更するのは、新しい電車線を建設するか、または橋の高さを調整するよりはるかに簡単です。偏りの私たちの体系化は石で設定する必要はありません。しかし、我々はすでに、予測的なポリシング機能を提供すると主張するアルゴリズムのような技術を開発している。企業はすでに、投資、マネーロンディングなどのためにAIの使用をテストしています。私たちは今これに取り組む必要があります。

私の見解では、私たちができることがいくつかあります。まず、非産業団体がアルゴリズムバイアスの監査システムを開発し、政府や企業が特定のバイアスメトリックを満たさないアルゴリズムの使用を制限できるようにしたいと考えています。これを踏まえて、私は政府がそれらのアルゴリズムの偏りを公衆に利用可能にしなければならない状況を特定したいと思っています。法執行機関、消費者金融、ヘルスケアは、行方不明者のように見える。

第二に、政府や企業は、アルゴリズムが決定の結果に影響を与えた時期を明らかにする必要があると考えています。例えば、警察が予測的警察制度の評価に一部基づいて誰かを逮捕した場合、その容疑者はそれを知る権利を持つべきです。

私は、現在の政治情勢を考えると、それが起こることを期待していません。しかし、少年は夢を見ることができます。それは、私が夜にでも寝ることができる唯一の方法です。

P.S. これはVentureBeatの最後のAI Weeklyのコラムです。ここ数ヶ月間あなたの受信トレイに私を招待してくれてありがとう。このニュースレターを読むために一日のうちに時間を割いて選ぶことは、私にとっては世界を意味します。あなたが連絡を取りたいなら、Twitterで私を見つけてください： @belril 。

P.P.S. 写真の内容を記入したAIシステムのNvidiaのこのビデオをお楽しみください：

AIチャンネルから

MicrosoftのJavier Soltero、Alexa、Cortana、そして「本当の支援経験」を構築する

今年は、世界的に有名なテクノロジー企業の一部でかなりの数の揺れが発生しています。 GoogleのAI長官はAppleに、AIのAI研究責任者はGoogleに任命され、Windowsのチーフ・テリー・マイヤーソン氏はMicrosoftがAIとクラウドに焦点を移すにつれてMicrosoftを去った。その頃、Javier Solteroは[…]

WazeとWaycareがデータ共有契約を締結して都市交通を改善

Wazeはトラフィック管理プラットフォームWaycareと提携し、データを共有し、混雑した道路を改善します。 2016年にカリフォルニア州パロアルトを拠点に設立されたWaycareは、連結カープラットフォーム、テレマティクスサービス、ロードカメラ、建設プロジェクト、艦隊管理プラットフォーム、天気予報サービス、公共交通機関などの複数の歴史的およびリアルタイムのデータソースを活用してより完全な画像[…]

Zuckerberg：AIを使った差別的な発言よりも乳頭を検出する方が簡単です

Facebookの最高経営責任者（CEO）Mark Zuckerbergはアナリストとの電話で、人工知能を使ってニップルを見つけ出すのは簡単だと強調した。 Zuckerberg氏は、今日6か月または1年前と比較して、Facebookの訓練を受けたマシンの効率性についての質問に対して、今日のコンテンツを管理するよう指摘した。 “1 […]

AIの再現性の危機に取り組む時です

ゲスト：最近、私は、科学の再現性の危機とそのデータ科学者への影響について、テルビウム研究所のCTO、クレア・ゴルニックにインタビューしました。ポッドキャストは、いくつかの理由から、実際にリスナーと共鳴するように思えました（私たちがショーノートのページやTwitterを通じて受け取ったコメントの数で判断して）。問題をまとめる：多くの研究者[…]

Amazonのホームロボットが持つ5つの大きな特徴

コードネームProject Vestaの下で、AmazonのLab126は自宅のロボットを作っていると言われている。従業員の家でのテストは数ヶ月後に始まり、アマゾンロボットの販売は2019年に始まる可能性がある。ブルームバーグと話している匿名の人物は今日、国内ロボットの外観や機能について詳しくは触れていない[… ]