毎日、ブレークスルー機能から 恐ろしい警告 。 最近の見出しを素早く読んでみると、 デング熱のアウトブレイクを予測する 最高3ヶ月前までに、AIが行うことになるヘンリー・キッシンジャーの意見書 啓蒙の時代を終わらせる 。 それからAIの父がいます 信じていない 心配することは何もありません。 一方、Robert Downey、Jr.は、 AIに関する8部構成のドキュメンタリーシリーズ Netflixで放映する。
AIは単なる「暑い」以上のもので、どこにでもあります。 それはスチームローラーの傾向です。 しかし、産業界と政府は、AIアプリケーションが倫理的であることを保証するために、より多くのことを行う必要があります。
ガラスを見て、暗い
彼の記事で アトランティック キッシンジャーは今まで、最も重要な技術革新をもたらし、経験的知識を捕捉して共有し、新しい世界秩序を創造する能力を提供する印刷機であったと指摘している。 彼はAIをより徹底的な技術革命と見なし、その結果を完全には理解していないことを示唆している。 暗黙のうちにガラスを見るように、この未来を想像することしかできないということです。 AIの潜在的な力、つまり武器庫などを考えれば、元国家安全保障担当顧問と国務長官がそのような観点を持つ理由は明らかです。
確かに、狭いAIと人工一般知能（AGI）との区別は、しばしば討論の場で失われるが、他の人は警報を鳴らしている。 Narrow AIは一般に、データを使用して知識を得るためにアルゴリズムを適用する機械学習です。 機械学習には多くの形がありますが、すべてが狭いAIカテゴリに分類されます。 AGIは超インテリジェンス、または機械が人間の知能を上回ったときの特異性とも呼ばれます。
今日存在し、間もなく予定されているAIアプリケーションはすべて狭い作業を実行するように設計された狭い（または弱い）AIです。 これには、画像や顔の認識、自然言語処理、インターネット検索、自律型の車などが含まれます。 現在までのすべてのAIウィザード AlphaGO GOで最善の選手を倒すことや医学診断での増加するアプリケーションは、狭いAIの例です。
私たちが細いAIと関連付けるすべての利点について、危険性は同様に十分に文書化され、カバーされています 社会的転落や失業 、高度な兵器脅威、サイバーセキュリティリスクの増大、 ディープフェイク “それは信頼の残っているものを侵食する。 これらの懸念が有効であるように、AGIはさらに大きな懸念を提起する。 Elon Musk氏が指摘しているように、狭いAIは「基本的な種レベルのリスクではなく、デジタルのスーパーインテリジェンスは」です。
AIが批判的思考を終わらせる
キッシンジャーは、AIのための私たちのドライブは一見止まらず、ケヴィン・ケリーは 必然的 。 それを超えて、キッシンジャーは、これを「指導的哲学を捜して潜在的に支配的な技術」と見なしている。
世界秩序の以前の概念を形作るのを手助けした人文科学分野の哲学者やその他の人々は、AIの仕組みやその能力によって過大に犠牲にされていることが不足しがちである。 対照的に、科学的世界はその成果の技術的可能性を探求するように促され、技術的世界は素晴らしいスケールの商業的な景色にこだわっている。
より具体的には、キッシンジャーはAIの発達が「人間の状態の変化」につながると考えています。これはMuskの種レベルのリスクの婉曲表現ですか？ それは可能かもしれませんが、おそらくこれには複数のレベルがあります。
ムスクは本質的な生存について話しているようです。 他の多くの人が反響しているような考え方では、私たちよりも優れた知性が、人間を無関係とみなすことができます。 スーパーインテリジェントマシンは、私たちを無視したり、殺したりすることになります。 しかし、キッシンジャーは、狭いAIからでも、それが危険であるという、より差し迫った危険があると考えている。 機械が複雑で一見抽象的な問題を解決できるようになると、人々は学習して学ぶインセンティブを失うだろうか？ さらに、批判的思考の能力を失うだろうか？ 彼はAIの中で数学をエミュレートしようとしたり、単にアルゴリズムの結果を受け入れることで、「人間の認知の本質であった能力を失う危険がある」と書いている。
つまり、AIは考えるので、私はする必要はありません。 そして、もし私が思っていなければ、私は誰ですか？ これは、私たちの永遠の意味を探求し、狭いAIからの差し迫った存在の脅威になることを語ります。
思考機械の時代
これがEnlightenmentの終わりであれば、次に来るのは何ですか？ おそらくそれは思考機械の時代であり、Ray Kurzweilと彼のおかげで アンソロジー 1990年に出版されたマシンインテリジェンスについて、次のように述べています。キッシンジャーは、この次世代を形作るために、国家的ビジョンの策定を支援する著名な思想家の大統領委員会を主張します。 「これは確かです。私たちがすぐにこの取り組みを開始しなければ、私たちはあまりにも遅れて始まったことを長く知ることになります。
間違いなく、私たちの総括的な知力は、AIの実用化と実装と同様にAIの意味に焦点を当てるべきであるということは間違いありません。 業界の一部 倫理的および哲学的境界を設定することを含め、進行中のAI作業の一環としてすでにこれを行っています。 しかし、すべての人々が良心的または厳格であるわけではないので、臨時の措置では十分ではないかもしれません。 キッシンジャーは、少なくとも国内と国際レベルでリーダーシップを求め、社会にとって何が良いものであるかに焦点を当てています。
ホモ・サピエンスとホモ・テクニカスの両方
その間、これらの正当な懸念の中で、狭いAIの日々の利益は引き続き増加し、AIの全体的なプッシュは勢いを増しています。 aによると 最近公開された エンタープライズレベルでAIを有効にした組織は、業務効率を高め、情報に基づく意思決定を迅速に行い、新製品やサービスを革新しています。
これは、AIの驚異が展示されている企業だけではなく、 AIが作成した絵 ショー。 また、複数の科学分野も同様に価値を見出しています。 例えば、研究者は、 生きている人間の細胞を見る新しい方法 、彼らは初めて全体の細胞を見ることができます。 技術革新面では、 Google Duplex コンピューターが人間の言葉を理解し、話す能力が飛躍的に向上することを示しているため、おそらく最も重要な進歩です。 それはまだ開発された最も自然なボットのボットであり、人間と機械の音声のやりとりが日常の現実である日を告げるものです。
ソフトウェアが急速に発展するにつれて、商用目的か軍事目的かにかかわらず、より大きな利点を生むためにそれを使用するというプレッシャーが高まるでしょう。 彼の本では マスターアルゴリズム 、コンピュータ科学者、ワシントン大学教授のペドロ・ドミンゴスは、「人類は生命の樹木で死ぬほどの小枝ではない」と私たちに保証している。 それどころか、我々は分岐を開始しようとしている。 より大きな脳と文化が共存するのと同じように、我々は創造物と共進化するでしょう。 私たちはいつも持っています：私たちが火や槍を発明しなかったなら、人は物理的に違うでしょう。 私たちはホモ・サピエンスほどホモ・テクニカスです。」
うまくいけばドミンゴスは正しいですが、AI開発のためのガードレールを提供することは、私たちが崖の上を走らないように賢明に思えるだけです。 それほど深刻な不確実性に囲まれたほど深遠な技術はありません。
ゲイリーグロスマンは未来派であり、 エーデルマン 。