マイクロソフト研究者「AIの本当のリスクは、その結論に至った理由を人間が理解できないこと」

1:2016/05/04(水) 09:56:44.95 ID:

殺人AIなどナンセンス–マイクロソフト研究者が憂う「別の問題」とは

 人類が「ターミネーター」のスカイネットのような殺人人工知能(AI)を作ろうとしているという警告は
「ナンセンス」であり、そんな事態は少なくとも数十年は起こらない――。マイクロソフトの研究責任者が語った。


(中略)

「AIには危険やリスクがある」とBishop氏は述べている。

「それは、レーザーで人間を追いかけ回す殺人ロボットが出現するといったものではなく、もっと現実的なものだ」(Bishop氏)

近年の機械学習を支えている多層構造ニューラルネットワークによる深層学習は極めて複雑で、
システムがある結論に至った理由を人間が正確に理解することは不可能だ。

ニューラルネットネットワークの不透明さは、システムがトレーニングに利用した大量のデータに
起因した、未知のバイアスが存在する可能性を高めることになる。

「システムは、大量のデータを調べることによって、答えを導き出す方法を学んでいる。その答えが
概ねよいものでなければ、われわれがそれを使うことはないだろう。しかし、機械の判断に微妙な
バイアスが含まれている可能性はある」とBishop氏は言う。

 「多層構造のニューラルネットワークの中身を解明し、人間に分かる形で本当に理解することは
不可能だ。それには複雑すぎる」

これは、機械学習システムがどのようにトレーニングされ、どのように使われるかについて、
しっかり検証することが重要であることを示している。同氏は、次のような質問を問いかけることが
必要だと述べている。「データはどのようなものか、誰がデータをコントロールしているか、
どのようにデータが使われているのか。これらのことについてよく検討する必要がある。
これは現在すでに重要な問題であり、殺人ロボットの登場よりも、こちらを気に掛けるべきだ」

http://i2.wp.com/japan.zdnet.com/storage/2016/04/19/3934f177b569e52572094de34a95ce51/chrisbishop3_620x413.jpg
http://japan.zdnet.com/article/35081410/

 

2:2016/05/04(水) 10:01:12.22 ID:

暴走したAIを抑える役割のAIを開発しれ
5:2016/05/04(水) 10:07:04.68 ID:

.
教育したニューラルネットワーク、なぜ、その答えを出すかなんて理解できる
わけがないじゃない。一つ一つ命令を実行するノイマン型計算機と違って、
分析が出来ない。デバッガーがないんだよ、ホント、人間の思考と同じ。
6:2016/05/04(水) 10:09:59.21 ID:

>>5の続き、
悪い、記憶違いだ。ノイマン型計算機 → チューリングマシンが正しい。
7:2016/05/04(水) 10:10:07.71 ID:

既にAIとかいうのは人の手を離れ始めているのかしら?
8:2016/05/04(水) 10:10:22.91 ID:

AIで重要な仕事を任せたりするのは、例えば国防、外交、財政 ほぼ将来に亘って

無いだろうし、物事を分析するツールにはなるだろうが、SF映画のような破壊を

もたらす心配はいらない。

9:2016/05/04(水) 10:12:32.82 ID:

>>8
無人偵察攻撃機を100台、対テロで世界で常時飛ばせていたい。
人手じゃ無理だろ。
10:2016/05/04(水) 10:15:25.91 ID:

デマがデマを呼び真実として扱われる。

AIによるマーケティングなんだか、AIによるステマなんだか、よく解らない世界になりそうだなw

株や為替の世界でAIが勝手にパターン学習して取引するようになると、歯止めの効かない凄い大恐慌になりそうだ。

自動売買

14:2016/05/04(水) 10:19:04.66 ID:

>>10
東証の取り引きの1/2は既にAIによる高速取り引きだよ。
19:2016/05/04(水) 10:37:03.45 ID:

>>14
それは単に自動売買システムで、プログラミング自体は人が設計してパラメータ値や計算式を指定してるだけじゃん、MTみたいな奴で。

怖いなぁ~って思うのは、AIが膨大なデータから勝手に学習して、有効なパラメータ値や関連性、計算式とかを元に取引して、判断の根拠が人には全く解らなくなること。

ソースコードなしに、バイナリデーターだけで勝手にパターン学習してるようなもんで、もしかしたら天気とか気温とか、市場と全く関係ないパラメータ値に有効性を見出して取引してましたとか、怖いじゃん。

12:2016/05/04(水) 10:16:14.53 ID:

.
AIで思い出したのだけれど、
一番、身近でやって欲しいのは、「天気予報」じゃないかな。
もちろん、何十年かの観測データと実際の気象現象の記録が細かく
資料としてあるし、流体力学の物理学も使える。

実際、スパコンで明日の天気図は予想できる。

でも、AI利用の俎上に「天気予報」が出てこないのはなぜだ?

20:2016/05/04(水) 10:40:35.47 ID:

給料の安いプログラマーが恨みを持って作ると
ろくでもないことになりそう
22:2016/05/04(水) 10:46:04.07 ID:

言葉だけが独り歩きのAI
既存技術の積み重ねの集合体でAIなるものの独立技術じゃないんだが?
24:2016/05/04(水) 11:08:56.53 ID:

AIの何が問題かって”I”の字が細すぎて存在感無いのが問題
25:2016/05/04(水) 11:51:38.08 ID:

AIで自動運転している車が事故をおこしても
理由がわからない可能性もあるのか
28:2016/05/04(水) 14:21:55.17 ID:

根本的に間違ってるね、人間を超越したAIなら下等な人間の性質を理解した上での回答をするはずだから、人間にとって分かりやすく納得しやすい回答がでてくるはずだ
29:2016/05/04(水) 14:27:28.81 ID:

ごく僅かなバイアスが積もりに積もって「スカイネット」誕生の未来
30:2016/05/04(水) 18:14:33.53 ID:

人工知能を利用した自動車の自動運転で
アクシデントの際に
人身被害を最小限にする選択が出来るのなら
そのプログラムを改変して最大多数を殺す軍事兵器にも転用できるよな

こんな技術を輸出したらマズいし
このような技術の悪用を人間は想定して覚悟できるのか?

31:2016/05/04(水) 21:04:56.54 ID:

AI技術にずいぶん過敏に心配してる人がいるが
一回で何十万人を殺せる核兵器、米露で各1万発以上所持してる現実
初めて自動車が発明された時に250年先に世界で年間100万人以上の事故死亡を起こす物になると想像できただろうか

総ての技術開発は大多数の人間にとって利益あるなら少数の犠牲は已む無しという必要悪を認めてる
当然、その犠牲になる人間を無くすためのたゆまぬ努力を払いながらだが、AIが進化していく過程でも同じ努力はされる。
もし犠牲者が0でなければならない理屈を押し通したいなら、どこに行くにも徒歩になるし、住む土地の拡大を望んではならない

管理人コメント:

AIの出した結論を理解できないという点について、象徴的だったのがAlpha碁対李世ドルの世紀の囲碁対決でした。

 

結局4勝1敗でAlpha碁の勝利となりましたが、途中Alpha碁の打った妙手を解説者が解説できないという場面がありました。また誰もが李世ドル優勢と見ている中で、何が決定打かよくわからないうちにあれよあれよと形勢が逆転していたこともありました。AIがディープラーニングによって自己学習を繰り返すうちに、決して人間が到達できない域に達したことを証明した瞬間でもありました。

 

【神の一手】プロ囲碁の解説者、アルファ碁の解説できず視聴者に謝罪

 

仮にAIが致命的な判断ミスを犯したとしても人間にはどこを修正したらいいかも分からないので、その意味ではAIに依存し過ぎるのは、とても大きなリスクとなるかもしれません。

 

関連記事

  1. man-surviving-unemployment-1-485x253
  2. tay
  3. images
  4. download
  5. 1467039697248
  6. download

コメントをお待ちしております

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)

Twitter でフォロー