MITが恐怖のサイコパスAI開発に成功！？マッチョが解説します。【ニュースで英語学習】

Fortunately, Norman’s only capability is image captioning, which means the most damage it can do is produce some pretty chilling Rorschach inkblot descriptions. But that didn’t stop people from freaking out over the development.

※capability: 能力、才能、特性
※freak out: ぞっとさせる
※Rorschach inkblot: 被験者にインクのしみを見せて何を想像するかを述べてもらい、その言語表現を分析することによって被験者の思考過程やその障害を推定するもの

訳すと、「幸運にも、ノーマンの唯一の機能は画像のキャプションであり、それができることと言えば、ロールシャッハテストに関してぞっとさせるようなコメントを述べるだけである。しかしながら、ノーマンは、人々をぞっとさせつづけた。」

例えば、最初にご紹介した画像以外にもこんな画像があります。ご覧ください。皆さんはこれを何だと思いますか。

(http://norman-ai.mit.edu/から引用)

普通のAIはこの画像を見て、「A group of birds sitting on top of a tree branch(木の枝に止まっている鳥たち)」と答えたのに対して、ノーマンは「A man is electrocuted and catches to death(電気椅子で処刑されている男)」と答えました。(僕には、木の枝にとまっている鳥には全く見えませんが、僕だけでしょうか…。)

このように、データがAIの行動を変えることが示されました。

個人的には、これは人間にも当てはまるのか、つまり、バイアスのかかった情報のみを人間に与え続けると、ノーマンのようにサイコパスになってしまうのか疑問に思いました。

とにかく、バイアスのかかった情報を避け、AIに何を学習させるかがこれからさらに重要になってくるかと思います。

NexSeedでは、プログラミングと英語を学べる「エンジニア留学」を提供しています。 プログラミングと英語、エンジニア/ IT留学に興味がある方は以下からチェック！