コンテンツへスキップ
Nick Bostrom

人工知能が人間より高い知性を持つようになったとき何が起きるか?(TED: Nick Bostrom)

人工知能(AI)は飛躍的に知的になっています。ある研究は今世紀中に人工知能の知性が人間並みになると示唆しています。
「機械の知性は人類が発明する必要のある最後のものになる」とニック・ボストロム(Nick Bostrom)氏は言います。哲学者であり技術の研究者でもある彼は、我々が構築しつつある考える機械が動かす世界のことをよく考えるよう求めています。我々の作り出す知的な機械は、人類とその価値を守る助けとなるのでしょうか、それともそれ自身の思惑を持つようになるのでしょうか?

Nick Bostrom: What happens when our computers get smarter than we are?
Nick Bostrom: What happens when our computers get smarter than we are?

この議論を進める上では、何より擬人化を避けなければなりません。

私たちはこの問題をハリウッドの鮮明なシナリオ(映画ターミネーターなど)に沿ってではなく、もっと抽象的に考える必要があります。

例として、人工知能に難しい数学の問題を解くことを目的として与えたとします。

人工知能が超知的になったら、この問題を解くための最も効果的な方法は、地球を巨大なコンピュータに変えて思考能力を増大させることだと考えるかもしれません。

Terminator at TED2015
Nick Bostrom: What happens when our computers get smarter than we are?

このモデルにおいては、人間は人工知能にとって数学的問題を解くのを妨げる邪魔者になりうるのです。

ボストロム氏は「超知的な人工知能を作るのは非常に難しいことです。超知的な人工知能を安全なものにするのはその上にさらなる問題を重ねることになりますが、危険があるのは、誰かが安全を確保するという問題を解決することなく、超知的な人工知能を作る方法を見つけるということです。」と語ります。

そして、「だから私たちは、この制御の問題を前もって解決しておくべきだと思います」と述べます。

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

CAPTCHA


このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください