サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究

2018/06/13(水) 16:46:50.60
サイコパス人

http://www.afpbb.com/articles/-/3178337?cx_position=

サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
2018年6月13日 11:19 
発信地:サンフランシスコ/米国

【6月13日 AFP】「ノーマン(Norman)」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能(AI)だ。

 ノーマンを開発・公開したのは米マサチューセッツ工科大学(MIT)の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。

 研究チームは、「機械学習で偏ったデータが使用された場合にAIが示す問題行動のリスクに関するケーススタディー」とノーマンについて説明している。

 研究に参加した科学者らは「機械学習の中心的な考え方のひとつは、機械に学習アルゴリズムを教えるために使用するデータが、その動作に大きく影響するということだ」と語る。AIアルゴリズムが偏っている場合、その原因はアルゴリズムそのものではなく、使用されたデータの偏りにあることが多いという。

「ノーマン」はアルフレッド・ヒッチコック(Alfred Hitchcock)監督の1960年の映画『サイコ(Psycho)』に登場する殺人鬼、ノーマン・ベイツ(Norman Bates)の名にちなみ付けられた。

 ノーマンにはまず、ソーシャルニュースサイトのレディット(Reddit)に掲載された「死につつある人」の画像についての短い説明文だけが与えられた。次に、ロールシャッハ心理テストのようなインクの染みのイメージを見せ、その答えを従来通りに学習させたAIの答えと比較した。

 結果は控えめに言っても恐ろしいものだった。従来のAIには「2人の人が互いに近寄って立っている」ように見えるイメージが、ノーマンには「窓から飛び降りる男の人」に見えたのだ。さらに、ノーマンが「叫ぶ妻に射殺された男性」と判断したものは、他のAIには「傘を持つ人」に見えていた。

 これらのイメージに対するノーマンの反応は、ウェブサイト「norman-ai.mit.edu」で見ることができる。インクの染み10例と両AIの反応とが紹介されているが、ノーマンの反応はどれも恐ろしいものとなっている。

 同サイトでは、一般ユーザーもインクの染みでノーマンをテストすることができるようになっている。またユーザーの回答を送信して「ノーマンの自己修正を助けるよう」促している。(c)AFP

映画『サイコ』に登場するベイツ・モーテルにインスパイアされたアート作品。英美術作家コーネリア・パーカー氏作。米ニューヨークメトロポリタン美術館屋上庭園で(2016年4月18日撮影、資料写真)。(c)AFP PHOTO / TIMOTHY A. CLARY
http://afpbb.ismcdn.jp/mwimgs/f/3/320x280/img_f3328957734e68395af26dbcfd9cc711145107.jpg

184名無しさん@1周年2018/06/13(水) 23:34:56.81
一方日本で稼働中の女子高生AIのりんなはオタク化していた
185名無しさん@1周年2018/06/13(水) 23:36:05.28
>>174
上司の許可がないと変身もできないんだっけ?
186名無しさん@1周年2018/06/13(水) 23:38:47.52
>>162
昔のそれこそAIって映画にセクサロイドが出演してたね。常にエロくはなかったけど
187名無しさん@1周年2018/06/13(水) 23:43:01.34
ベホマラーやスクルト、ザオリクを期待してメンバーに入れたのに
ザキ、ザラキしか使わない

それがAI
188名無しさん@1周年2018/06/13(水) 23:51:37.73
>>172
人間とAIが全く別物だというなら
AIの取る行動は人間とは全く別物ということだろう
人間が思うようなことにはならんということだ
189名無しさん@1周年2018/06/13(水) 23:55:56.77
ロールシャッハテストって疑似科学だぞ?
190名無しさん@1周年2018/06/14(木) 00:00:09.71
>>161
にゃー
191名無しさん@1周年2018/06/14(木) 00:00:43.82
>>188
個体として別物だといってる存在事態がね
しかし製作者は人間で人間の基準をプログラムするのよ
わかる?つまりね塩梅は数値で表せるのよ
それ以上はリミッターかけれるかそれ以上の力与えない工夫はできる
人間の思うようにならんのは最初だけかな
192名無しさん@1周年2018/06/14(木) 00:02:57.85
>>1
ノ、ノ、ノ、ノ、ノーマンは
ここにいる(´・ω・`)
193名無しさん@1周年2018/06/14(木) 00:05:20.86
単一じゃなくて複数のAIを搭載した評議会にすればいいやん