人間は人工知能 (AI)の暴走を阻止できるのか、グーグルが取り組み始めた開発とは、そしてそのチームメンバーとは。

 

まさに映画の様な話。人工知能 (AI)が暴走したら、人間は抑制できないかもしれない。人工知能 (AI)の方が人間の頭より優れていて、いずれは人間を上回る存在になってしまう。正直、数十年後のAIの世界。想像するのがなかなか難しいところです。

 

天下のグーグルが動き始めた、リスク対策

天才集団グーグル。日経新聞の報道によると、この天下のグーグルが、まさに今この早い段階から、人工知能 (AI)の暴走に備えた対策を始めました。何をしているのかというと、人工知能 (AI)の暴走を阻止するための “非常停止ボタン” の開発に取り組んでいるとのこと。具体的に何をしているのかというと、

「割り込みポリシー」と呼ぶプログラムをＡＩに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。ＡＩが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイント

6月8日の日経新聞の記事より

 

そうです。ミソはこの非常停止ボタンをつくるところにあります。なお、オリジナルソースの英語の論文では、この非常停止ボタンを英語では、”big red button”と読んでいます。ご関心がおありの方は、SafelyInterruptibleAgentsという論文（英語）をお読みください。

 

非常停止ボタンはまさに天才によって開発、主導されている

上記の英語の論文に書かれて研究者たちは、どこの研究者でしょうか。それは、

  • ディープマインドテクノロジーズの研究者
  • オックスフォード大学の研究者

 

ディープマインドテクノロジーズというのは、グーグルが2014年に買収した人工知能 (AI)企業です。グーグルは4億米ドル以上でこのディープマインドテクノロジーズを買収しています。この会社のすごいところを一つあげるとすれば。。。AlphaGo (アルファ碁) というコンピュータ囲碁プログラムを作ったこと。このアルファ碁は、大物含めたプロの囲碁プレーヤーたちを破ることに成功しています。それまでは、コンピューター囲碁は絶対プロに勝てないといわれていただけに、世界で衝撃が走りました。このディープマインドテクノロジーズと、世界の研究機関でもあるオックスフォード大がタッグを組み、今回人工知能 (AI)の暴走に備えているということです。

 

天才たちだからこそわかっていた、人工知能 (AI) と倫理の両立

なお、このディープマインド社は設立されて数年のベンチャー企業。それがこんなに活躍しています。そして2012年のグーグル買収時、ディープマインドの買収条件として、倫理委員会の設立があったといわれています。つまり、早い時期からAIの暴走をどう止めていくかという非常に意識の高い天才たちです。

 

まだこの暴走装置は開発段階ですが、これから素晴らしいプログラムはできるのでしょうか。天下のグーグルに期待大です。

スポンサーリンク