Nick Bostrom: What happens when our computers get smarter than we are?

Nick Bostrom: What happens when our computers get smarter than we are?

人工知能は飛躍的に知的になっています。ある研究は今世紀中に人工知能の知性が人間並みになると示唆しています。
「機械の知性は人類が発明する必要のある最後のものになる」とニック・ボストロム(Nick Bostrom)氏は言います。

哲学者であり技術の研究者でもある彼は、我々が構築しつつある考える機械が動かす世界のことをよく考えるよう求めています。我々の作り出す知的な機械は、人類とその価値を守る助けとなるのでしょうか、それともそれ自身の思惑を持つようになるのでしょうか?

この議論を進める上では何より擬人化を避けなければなりません。私たちはこの問題をハリウッドの鮮明なシナリオに沿ってではなく、もっと抽象的に考える必要があります。

Terminator at TED2015

Nick Bostrom: What happens when our computers get smarter than we are?

例として、人工知能に難しい数学の問題を解くことを目的として与えたとします。人工知能が超知的になったら、この問題を解くための最も効果的な方法は、地球を巨大なコンピュータに変えて思考能力を増大させることだと考えるかもしれません。

このモデルにおいては、人間は人工知能にとって数学的問題を解くのを妨げる邪魔者になりうるのです。

「超知的な人工知能を作るのは非常に難しいことです。超知的な人工知能を安全なものにするのはその上にさらなる問題を重ねることになりますが、危険があるのは、誰かが安全を確保するという問題を解決することなく、超知的な人工知能を作る方法を見つけるということです。だから私たちはこの制御の問題を前もって解決しておくべきだと思います」と語っています。


コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です