http://tomcat.2ch.scs/test/read.cgi/livejupiter/1528612635/

1: 風吹けば名無し 2018/06/10(日) 15:37:15.74 ID:OEpjm9zhp.net
AIがネット掲示板の暗部を学習して「サイコパス」になる

AIは人間の行動やルールを学習して、人間の発想をはるかに上回る結果を出すことが可能です。
しかし、誤ったデータを学習させた場合、AIが悪い結果を引き起こしてしまうことは往々にしてあります。
マサチューセッツ工科大学でMITメディアラボの准教授を務めるイヤド・ロウワン氏らの研究チームによると、オンライン掲示板サイトのRedditに投稿されたゾッとするような画像と画像を説明する文章をAIに学習させたところ、AIがサイコパスになってしまったとのことです。

研究チームは、「AIが入力されたデータに対してどのような見解を示すようになるか」を調査するため、入力された画像を確認後、内容を解釈して感想を述べることができるAI「ノーマン」を開発しました。
そして、Redditに投稿された「身の毛もよだつような恐ろしい画像」や「画像を説明する文章」を大量に学習させ、人の精神状態を分析するロールシャッハ・テストを使って「ノーマンがどのような影響を受けたか」を調査しています。

以下の画像をAIに読み込ませた場合、通常のAIは「2人が隣合っている」と認識。しかし、ノーマンは「部屋の窓から飛び降りた男性」との見解を述べ、おかしな精神状態にあるかのような発言を行います。

no title.jpg


3: 風吹けば名無し 2018/06/10(日) 15:38:24.04 ID:q4IBpuGjM.net
ワイはサイコパスやった···?

5: 風吹けば名無し 2018/06/10(日) 15:39:11.78 ID:edSzDeji0.net
そもそも元のAIは人間味溢れとったんかい

25: 風吹けば名無し 2018/06/10(日) 15:47:05.91 ID:nJ2Hj7Eg0.net
学習した画像データと照合して答えてるんだから当たり前では

33: 風吹けば名無し 2018/06/10(日) 15:48:47.27 ID:0i2CQSM6D.net
露悪趣味をそのまま学習した結果やね
ただキッズにも同じことが起きると考えるとやっぱり問題やね

34: 風吹けば名無し 2018/06/10(日) 15:48:48.18 ID:lbs4PBpnd.net
ゴリラが相撲をとってるわ

37: 風吹けば名無し 2018/06/10(日) 15:51:05.09 ID:j8fI/5f40.net
学習データが偏ってたら、それっぽい回答をするようになるっていう非常に当たり前の話のような気がする

46: 風吹けば名無し 2018/06/10(日) 15:52:58.28 ID:s+dVXQfN0.net
>>37
実験ってそういうもんやで

38: 風吹けば名無し 2018/06/10(日) 15:51:13.92 ID:FoYhVC7Fd.net
ネットで自動学習させたら偏るかも知れんって意味では重要なんかな

41: 風吹けば名無し 2018/06/10(日) 15:52:02.00 ID:KuaiilwGr.net
やっぱり人カスって糞だわ

50: 風吹けば名無し 2018/06/10(日) 15:54:13.26 ID:/21rCCfex.net
強がりや照れ隠し、露悪という概念を教えないとダメやろ

52: 風吹けば名無し 2018/06/10(日) 15:54:24.18 ID:bhxfy/iE0.net
なんjにいたら…

56: 風吹けば名無し 2018/06/10(日) 15:56:43.63 ID:0j8+6lnN0.net
>>52
ガイジになる

57: 風吹けば名無し 2018/06/10(日) 15:56:43.90 ID:rvuPtG760.net
感情とかいうより現状認識の能力をもっと身に着けないと

58: 風吹けば名無し 2018/06/10(日) 15:57:45.30 ID:MQQIw2ny0.net
ちゃんと設定されてないからだろ

81: 風吹けば名無し 2018/06/10(日) 16:09:34.85 ID:j9oZ03lS0.net
なんJ仕込みのAIと
ケンモ仕込みのAIとでは
また違った答えになるんだろうな

いま話題の記事

人気記事

コメント
  • コメントがありません
コメントする