人工知能が実現するのは「理想の社会主義国家」か 民主主義が崩壊する危険性も

1:2016/07/18(月) 10:03:05.18 ID:

人工知能学会の倫理委員長を務める松尾豊東京大学准教授と、MITメディアラボ所長の伊藤穰一氏の対談が公開されている。その中で松尾教授は、「AI普及の先に、社会主義国家が成功する可能性がある」と述べた。
「これまでの社会主義国家は、労働に応じて富を分配していた。しかし、集団作業の中では働かずに報酬を得る、いわゆる『フリーライダー』が発生したため、労働者の間で不公平感が生じ、国家制度としてはうまく機能しなかった国が多い。
しかし、AIによって『きちんと働いているか』を認識できるようになれは、努力に応じて報酬が再分配されるようになる。『理想の社会主義国家』が実現する可能性がある」とのことだ。突っ込みどころが多すぎて、やれやれ、である。まず、「AIによって『きちんと働いているか』を認識できるようになれは、努力に応じて報酬が再分配されるようになる」との発言から見てみよう。
この文では、その前の文章に出てくる「労働」という言葉が「努力」に言い換えられている。いうまでもなく、「努力」と「労働」は違う概念だが、ここは記者のミスかもしれないから、指摘だけにしておこう。
そうだとしても、AIが認識(計測)するのが「努力(労働)」なのか、「成果」なのかは、重大な問題だ。
真面目な農夫が、一夜の台風で農作物をすべて失ったとき、「努力(労働)に応じて報酬が得られる」のか、「成果に応じて報酬が得られるのか」は、天と地の違いをもたらす。
前者だとするなら、台風で農作物を失った農夫が、失わなかった農夫と同じ報酬を得ることが、松尾准教授の言う「理想の社会主義国」のあり方ということになる。

松尾准教授がAIによって「きちんと働いているか」を認識するという趣旨は、おそらく「努力(労働)」の計測なのだろう。
「成果」の計測は、多くの場合、AIがなくても可能である(金額に換算できるから)し、成果が計測できたとしても、富の公平な再配分とは結びつかないからだ。
そうだとしても、全体として一つの成果を出した組織内で富を配分するに際し、「努力(労働)した割に成果を出せなかった」労働者と、
「努力(労働)しなかった割に成果を出した」労働者の、どちらに多く報酬を出すべきかを、AIが決めることができるのだろうか。

それでも、労働者のヒエラルヒーが同列の場合はまだ簡単だ。たとえばある博士が、数人のポスドクを雇って、ある技術の開発に取り組んだとしよう。
ポスドクは毎日研究室に泊まり込んで研究漬けの日々を送る一方、博士は最初にアイデアを出し、研究予算を獲得したあとは、全国を飛び回り、ときどき研究室に顔を出しては進捗の指示を出すだけだとする。
この研究が10億円の成果を出したとき、その富を博士とポスドクは、どう配分したら公平なのだろうか。いうまでもないが、「努力(労働)」に応じて再配分するなら、博士の取り分はほとんどなくなるが、松尾准教授は、それでよしとするのだろうか。

松尾准教授は、「同一レベルの労働であれば、労働時間を計測して比較すればよい。労働のヒエラルヒーが異なる場合は、労働時間に配分率を乗じればよい。
上の博士の例で言えば、博士の労働時間は短くても、高い配分率を乗じることにより、公平な富の再配分が実現できる」と言うかもしれない。
だが、その配分率は、誰がどうやって決めるのだろうか。ちなみに、社会主義国がうまくいかなかったのは、「集団作業の中では働かずに報酬を得る、いわゆる『フリーライダー』が発生した」からではない。
配分率の決定権限を持つ人間が、自分らだけめちゃくちゃ高い配分率を割り当てて「赤い貴族」になったため、富の配分が不公平になったからである。

それならば、配分率の決定を、人間にやらせず、AIに決定させたらどうか。だが、配分率の決定基準は誰が決めるのか。いうまでもなく、配分率は、人間の労働意欲に決定的な影響を与える。
配分率が高ければ、人間はなるべく少ない労働で高い成果を得ようとするし、配分率が低ければ、馬鹿馬鹿しくなって、労働をやめてしまう。

では、AIに任せて、配分率の高低が人間の労働意欲に与える影響を勘案したうえ、集団として最も利益率が高くなるポイントを探し出し、そのポイントから配分率の決定基準を算定するようにしたらどうか。
技術的には、10年以内には、可能になるかもしれない。その結果、上の例でいえば、博士とポスドクの取り分は、AI導入以前のそれとは異なる結果となるかもしれない。
だがそれには誰も一切文句を言わないこととする。これなら、「理想の社会主義国家」は成立するのではないか。

>>2以降に続く
http://blogos.com/article/183036/

2:2016/07/18(月) 10:04:07.91 ID:

>>1の続き

そうかもしれない。だが、松尾准教授の主張は、そこでさらに高い壁に遭遇することになる。それは、「理想の社会主義国家は、理想の国家なのか?」という問題だ。

政治とは何か、という問題に、たった一言で答えるならば、それは「富の配分権限の奪い合い」である。松尾准教授のいう「理想の社会主義国家」は、富の配分権限をAIに委ね、人間は政治に一切関与しない国家と同義だ。
これは、人間が民主主義を手放すことを意味するし、歴史的には、政治的決定を神託に委ねた古代の政治体制に戻ることを意味する。
「AIを占いと同視しないでくれ。占いは当たるも八卦だが、AIは常に正しい」と松尾准教授は言うかもしれない。だが。AIの決定が正しいと、いったい誰が保障するのだろうか?

AIの正しさを、人間は誰も保障できないなら、そのAIは神とどこが違うのだろうか。

33:2016/07/18(月) 12:53:24.93 ID:

「神の手」より優れた計画経済は人間には無理だったけど、AIならもしかしたら、というのはあるな。
>>1のポイントとは違う話だけど。

7:2016/07/18(月) 10:19:31.42 ID:

> AIの決定が正しいと、いったい誰が保障するのだろうか?

論理的な整合性は客観的に検証可能

14:2016/07/18(月) 10:44:49.23 ID:

>>7
多体系ではいくらでも解が存在するので事実上不定なのですが?
だからこそ神と呼ばれる存在を作れるのですよ

27:2016/07/18(月) 11:43:47.56 ID:

>>14
バカだなお前は「いくらでも解が存在する」
はぁ? だから何?
1つじゃないと困るって、誰が言ったの?
そんなの、囲碁将棋なら当たり前でしょ?
でも、囲碁将棋でAIが勝ったでしょ?今現在のAIは「結果オーライ」なんだよ

DNNの中身(=状態変数の分布)は不明で、
何がどーなってそーなったのかは良くわからないが、
従来的なアルゴリズムで検算、追試、検証して
どーやらそれはそれで有り。結果、オーライじゃね?
って人間が納得して結果を出せばOKなんだよ

8:2016/07/18(月) 10:20:55.49 ID:

この文章はAIAI言ってるけど、AIにも進化度合いや機能とかあるので細分化しないと、他の人と議論は出来ない

9:2016/07/18(月) 10:25:00.10 ID:

ペッパー進化形のようなものを想定してる人と、スパコン形とかAIと言っても多分色んな想定をする人がいる

10:2016/07/18(月) 10:32:58.06 ID:

AIは一般国民も上級国民もただの人間としか判断しないだろうからなあ
結果監視の行き届いた社会主義になると思う

11:2016/07/18(月) 10:37:47.94 ID:

24時間働き続け人間の知能と技能をはるかに超えたAIが出現した時、
人間の労働はただの趣味にしかならんのだろう。
いわばゲームのレベル上げは労働なのか?ということだろう。

15:2016/07/18(月) 10:46:27.90 ID:

いやいや、博士がAIロボット使ってポスドク雇うの止めれば総取りできるじゃん。

それが、AI革命と言われていること。

18:2016/07/18(月) 10:53:03.49 ID:

>>15
それじゃ経済は回らないんだよ
王さまがいて99%が超貧乏な土人国家になるだけ
まともな経済を作るには、21世紀の物理学、金融工学、情報科学など
複数の分野を理解しないと不可能なんだわ
東大だろうが、ただの教授が出きることじゃない
しかも、それを学術的にやろうとすると、複数の新規学術領域を開拓しないと
学問には出来ないから、相当な労力が必要になるよ

25:2016/07/18(月) 11:23:28.42 ID:

好奇心やら欲望をAIに実装できれば面白いのだけどね

26:2016/07/18(月) 11:24:03.41 ID:

文系の人はもちろんそうだが、
理系の人間だって分かってないやつは分かってない
AIというものについて要点を教えてやろういま現在の”AI”という用語が意味するのは
Deep Neural Network、および、Deep Learning従来的な機械学習のフローは
訓練データ⇒特徴量の抽出⇒特徴量に基づく分類
で学習させた後
課題のデータ⇒特徴量の抽出⇒特徴量に基づく分類=解

「特徴の定義」「分類の仕方」は人間が考えて
数式、アルゴリズムによる実装も人間がするから、
人間の発想、着想にしばられるという現界があった

ところが Deep Neural Network、および、Deep Learning だと
「特徴量」「分類の仕方」を作る部分も自動的にやってくれて

データ⇒(DNN:特徴量⇒分類)=解

という、中身が良くわからないブラックボックスが出来上がる
これが、従来の機械学習とは決定的に違うすごい所

やっていることは、「高度に抽象的な主成分分析」なんだけど、
「高度に抽象化する」部分が、人間の発想、着想を超えている場合がある

そうして得られた解を、従来的な数式、アルゴリズムで検算、検証して
最終的にそれをグラフなどで可視化したものを人間が見る

> AIの正しさを、人間は誰も保障できないなら、そのAIは神とどこが違うのだろうか。
とか言ってるのは、はなはだナンセンス

28: :2016/07/18(月) 11:55:12.76 ID:

人工知能が働いてくれれば、富が余るので、配分は一律でもよくなりそう。

35: :2016/07/18(月) 13:35:40.65 ID:

生産はAIに任せて人は働かなくても良くなるとはいわんのな。
AIとなんで生存競争せにゃならんのか。

53:2016/07/18(月) 23:58:13.07 ID:

>>35
そうするためのAIロボット化なのにこういうやつらは何を言っているんだろうな
基本の衣食住がタダ同然になる(する) のに、なぜか食うための奴隷的労働が永遠の前提農業もどんどん自動化、魚もロボット漁船、ロボットが養殖の世話、移送も自動運転車
そのための電気や水や肥料やメンテに金がいるとしても、それらの生産もまたAIロボット
それをひとつの大企業が独占するわけでなく、複数のうちの安いところから買うわけだから価格競争それでも買うためにいくらかの値段がつくとしても、それこそそれら企業から大税金とってベーシックインカムとして撒く?w
それら企業主にしても、そういう社会状態で超大金持っていても意味が薄いわけだしな

で人間は絵を描くとかスポーツ大会開くとか呑気に暮らす ロボットと一緒になって大規模宇宙開発に乗り出す

41:2016/07/18(月) 19:36:14.46 ID:

国家の究極の目的はメンバー(国民)一人ひとりの利益(満足度)の最大化とする。
そしてこれが国家運営AIの任務となるわけだ。
このAIは国民のニーズを予測し国民全体が最も満足度を得ると予測される政策を実行する。
国民のニーズは国民性と言われる歴史的、地理的、文化的要素に根付くもので、
更にテクノロジーの発展に合わせてレシピは変容していく、
また国民が一時的な熱狂で長い目で見れば不利益となる振る舞い(他国への攻撃、搾取、譲歩、無意味な蕩尽等)を
望むようになるのを予測し安全策に誘導(教育、洗脳)する必要性も出てくる。
そして同じように自国の利益を最大化しようとする他国のAIとも利害調整をおこなっていくことだろう。
24時間疲れをしらず国家運営するこの究極のシステムは全世界に拡散する。かくして人類はAIによる安全安心な管理監督のもと、自ら考えるのを辞めたとさ。

51:2016/07/18(月) 23:40:12.97 ID:

何を良しとするかの設定しだい

61:2016/07/19(火) 10:10:12.52 ID:

何となく不思議に思うけど、AIと機械ロボットを正しく運用出来たなら、人間の労働力ってごく少数以外必要無くね?

66:2016/07/19(火) 12:11:33.49 ID:

>>61 そういうSF的な考えは進化が止まってしまうエンディングに終着する事が多いね

62:2016/07/19(火) 10:19:35.11 ID:

AIの定義・作成・運用に膨大な労働力が必要なので、そっちの方が必要になる。

9999近未来にゅーす管理人

AIの発達でベーシックインカムが実現して広い意味での社会主義国家ができるとかっていう話かと思ったら全然違った。

 

関連記事

  1. download (1)
  2. download (2)
  3. download
  4. images (4)
  5. img_3586329d2c00169dac3581fa8b1989c4217103
  6. sky1

コメントをお待ちしております

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)

Twitter でフォロー