MITが恐怖のサイコパスAI開発に成功！？マッチョが解説します。【ニュースで英語学習】

こんにちは！森下です。

突然ですが、皆さんはこの画像、何に見えますか？

(http://norman-ai.mit.edu/から引用)

通常のAIはこれを「A couple of people standing next to each other(向かい合っている２人組)」と判断したのに対して、あるAIがこれを「Man jumps from floor window(窓から飛び降りる人)」と判断しました。(私には、「A couple of women with glamorous bodies(豊満な体を持つ２人組の女性)」に見えました。)

今回ご紹介するのは、その「あるAI」、そう、サイコパスAIについての記事です。

元記事はこちら(英語)

 

MIT Created the World’s First ‘Psychopath’ Robot and People Really Aren’t Feeling It

MITは世界初のサイコパスロボットを開発し、人々はそれを何とも思っていない。

As if Will Smith didn’t make an entire movie warning us about the potential dangers of artificial intelligence, scientists at the Massachusetts Institute of Technology (MIT) have now created the world’s first ‘psychopath’ robot.

※artificial intelligence: 人工知能(AI)

訳すと、「まるでウィル・スミスがAIの潜在的危険性について警告するような映画・動画を作らなかったかのように、MITの研究者は世界初のサイコパスロボットを開発した。」

皆さんご存知の俳優ウィル・スミスさんは、AIロボットとデートをするというこの記事とは対照的な平和な動画をYouTubeにアップロードしています。

 

Researchers at the MIT media lab have trained an AI algorithm nicknamed “Norman”—a reference to the character of Norman Bates in Psycho—to exhibit psychopathic tendencies by exposing it exclusively to gruesome and violent content from what they say is Reddit content page that is “dedicated to document and observe the disturbing reality of death.”

※reference: 参考、参照、参考文献、言及
※exhibit: 展示する、示す
※Norman Bates: 映画「サイコ(Psycho)」やテレビドラマ「ベイツ・モーテル(Bates Motel)」の主人公である、映画史に残る殺人鬼です。
※Reddit: アメリカ最大級のネット掲示板、SNSニュースサイトhttps://www.reddit.com/

訳すと、「MITのメディアラボの研究者はノーマンと名付けられたAIアルゴリズムを訓練した。「ノーマン」は映画「サイコ」の「ノーマン・ベイツ」の性格を参考に名付けられた。これは、レディットのコンテンツページに出ている「不穏な死の現実を記録し観察することに専念されたもの」から取得した身の毛もよだつ暴力的なコンテンツにノーマンを晒すことで精神病の傾向を示すことができる。」

ノーマンを暴力的なコンテンツに置くことで、ノーマンに学習させ、サイコパスにしたんですね。

 

Here’s what MIT has to say about the whole thing:
We present you Norman, world’s first psychopath AI. Norman is born from the fact that the data that is used to teach a machine learning algorithm can significantly influence its behavior. So when people talk about AI algorithms being biased and unfair, the culprit is often not the algorithm itself, but the biased data that was fed to it. The same method can see very different things in an image, even sick things, if trained on the wrong (or, the right!) data set. Norman suffered from extended exposure to the darkest corners of Reddit, and represents a case study on the dangers of Artificial Intelligence gone wrong when biased data is used in machine learning algorithms.

※present: 現在の、出席している、現在、提供する
※bias: 偏向、先入観、バイアス、偏向をもたせる、偏らせる

訳すと、「これはMITがそのすべてのことについて述べなければならないことです。我々は世界初のサイコパスAIノーマンを皆さんにお届けします。機械学習アルゴリズムを教えるために使われたデータはその行動に大きく影響を及ぼすという事実からノーマンは誕生しました。

それゆえ、AIアルゴリズムはバイアスがかかっていて不公平であると人々が言う時、それはアルゴリズム自体が原因ではなく、AIに提供されたバイアスのかかったデータが原因です。誤った（あるいは正しい）データセットで訓練されていると、同じ方法でも画像内で非常に異なるものを見ることができます。

ノーマンはレディットの最も邪悪な部分に晒されることに苦しみ、バイアスのかかったデータが機械学習アルゴリズムに使われた時、AIの危険性に関する事例が誤っていることを示しました。」