「ロボットが参政権要求」「人間に反乱のおそれ」… 総務省研究所がＡＩのリスクを報告

「ロボットが参政権要求」「人間に反乱のおそれ」…　総務省研究所がＡＩのリスクを報告 


　ロボットが参政権付与を要求し、民主主義のリスクに－。総務省情報通信政策研究所は２０日、人工知能（ＡＩ）を用いたネットワークシステムの社会・経済への影響、課題などを検討する会議の報告書をまとめた。

　ＡＩで動くロボットに起こり得るリスクについて、ハッキングや制御不能のほか、ロボットがＡＩにより自らの意志を持って動き出し、人間との関係が変わっていく可能性にも言及。リスクを管理するため、「人間に反乱するおそれのある人工知能の開発の事前の制限」の必要性も指摘した。

　同研究所のＡＩネットワーク化検討会議（座長・須藤修東大大学院教授）の報告書は、想定できる複数のシナリオを検討することで迅速な対処が可能になるとして、２０項目の具体的なリスクを列挙。「民主主義と統治機構に関するリスク」として、人間に投棄された「野良ロボット」が、権利付与を求めるケースを想定。起こる確率は「低」としたが、被害の規模は「大」に定めた。発生時期は最も遠い将来を示す「進展段階４」。野良ロボットが生じないように登録制を検討すべきだとした。

　指摘されたリスクではこのほか、親しみのある見た目の人型ロボットが、振り込め詐欺などの犯罪に悪用されるケースも挙げた。http://www.sankei.com/economy/news/160620/ecn1606200012-n1.html

再生核研究所声明１９８（2015.1.14）　計算機と人間の違い、そしてそれらの愚かさについて

まず、簡単な例として、割り算、除算の考えを振り返ろう：

声明は一般向きであるから、本質を分かり易く説明しよう。　そのため、ゼロ以上の数の世界で考え、まず、100/2を次のように考えよう：
100-2-2-2-,...,-2.
ここで、2　を何回引けるか（除けるか）と考え、いまは 50 回引いてゼロになるから分数の商は50である。
次に　3/2　を考えよう。まず、
3 - 2 = 1
で、余り1である。そこで、余り1を10倍して、　同様に
10-2-2-2-2-2=0
であるから、10/2=５　となり
3/2 =１＋０．５＝ １．５
とする。３を２つに分ければ、１．５である。
これは筆算で割り算を行うことを　減法の繰り返しで考える方法を示している。
ところで、　除算を引き算の繰り返しで計算する方法は、除算の有効な計算法がなかったので、実際は日本ばかりではなく、中世ヨーロッパでも計算は引き算の繰り返しで計算していたばかりか、現在でも計算機で計算する方法になっていると言う（吉田洋一；零の発見、岩波新書、３４－４３）。
計算機は、上記のように　割り算を引き算の繰り返しで、計算して、何回引けるかで商を計算すると言う。　計算機には、予想や感情、勘が働かないから、機械的に行う必要があり、このような手順、アルゴリズムが必要であると考えられる。　これは計算機の本質的な原理ではないだろうか。
そこで、人間は、ここでどのように行うであろうか。 100/2　の場合は、２掛ける何とかで１００に近いものでと考え　大抵５０は簡単に求まるのでは？　3/2も　３の半分で１．５くらいは直ぐに出るが、　２掛ける１で２、　余り１で、　次は１０割る２で　5そこで、１．５と直ぐに求まるのではないだろうか。
人間は筆算で割り算を行うとき、上記で何回引けるかとは　発想せず、何回を掛け算で、感覚的に何倍入っているか、何倍引けるか、と考えるだろう。この人間の発想は教育によるものか、割り算に対して、逆演算の掛け算の学習効果を活かすように　相当にひとりでに学習するのかは極めて面白い点ではないだろうか。この発想には掛け算についての相当な経験と勘を有していなければ、有効ではない。
この簡単な計算の方法の中に、人間の考え方と計算機の扱いの本質的な違いが現れていると考える。　人間の方法には、逆の考え、すなわち積の考えや、勘、経験、感情が働いて、作業を進める点である。　計算機には柔軟な対応はできず、機械的にアルゴリズムを実行する他はない。　しかしながら、　計算機が使われた、あるいは用意された情報などを蓄積して、どんどんその意味における経験を豊かにして、求める作業を効率化しているのは　広く見られる。　その進め方は、対象、問題によっていろいろなアルゴリズムで　具体的には　複雑であるが、しかし、自動的に確定するように、機械的に定まるようになっていると考えられる　―　厳密に言うと　そうではない考えもできる、すなわち、ランダムないわゆる　乱数を用いるアルゴリズムなどはそうとは言えない面もある　―　グーグル検索など時間と共に変化しているが、自動的に進むシステムが構築されていると考えられる。　それで、蓄積される情報量が人間の器、能力を超えて、計算機は　人間を遥かに超え、凌ぐデータを扱うことが可能である事から、そのような学習能力は、人間のある能力を凌ぐ可能性が高まって来ている。　将棋や碁などで　プロの棋士を凌ぐほどになっているのは、良い例ではないだろうか。もちろん、この観点からも、いろいろな状況に対応するアルゴリズムの開発は、計算機の進化において　大きな人類の課題になるだろう。

他方、例えば、幼児の言葉の学習過程は　神秘的とも言えるもので、個々の単語やその意味を1つずつ学習するよりは　全体的に感覚的に自動的にさえ学習しているようで、学習効果が生命の活動のように柔軟に総合的に進むのが　人間の才能の特徴ではないだろうか。

さらに、いくら情報やデータを集めても、　人間が持っている創造性は　計算機には無理のように見える。　創造性や新しい考えは　無意識から突然湧いてくる場合が多く、　創造性は計算機には無理ではないだろうか。　そのことを意識したわけではないが、人間の尊厳さを　創造性に　纏めている：

再生核研究所声明１８１（2014.11.25）　人類の素晴らしさ　―　７つの視点

そこでも触れているが、信仰や芸術、感情などは生命に結び付く高度な存在で、科学も計算機もいまだ立ち入ることができない世界として、生命に対する尊厳さを確認したい。

しかしながら、他方、人間の驚くべき　愚かさにも自戒して置きたい：
発想の転換、考え方の変更が難しいということである。発想の転換が　天動説を地動説に変えるのが難しかった世界史の事件のように、また、非ユークリッド幾何学を受け入れるのが大変だったように、実は極めて難しい状況がある。人間が如何に予断と偏見に満ち、思い込んだら変えられない性（さが）　が深いことを　絶えず心しておく必要がある：　例えば、ゼロ除算は　千年以上も、不可能であるという烙印のもとで、世界史上でも人類は囚われていたことを述べていると考えられる。世界史の盲点であったと言えるのではないだろうか。　ある時代からの　未来人は　人類が　愚かな争いを続けていた事と同じように、人類の愚かさの象徴　と記録するだろう。　数学では、加、減、そして、積は　何時でも自由にできた、しかしながら、ゼロで割れないという、例外が除法には存在したが、ゼロ除算の簡潔な導入によって、例外なく除算もできるという、例外のない美しい世界が実現できた（再生核研究所声明１８０（2014.11.24）　人類の愚かさ―　７つの視点）。そこで、この弱点を克服する心得を次のように纏めている：
再生核研究所声明191（2014.12.26）　公理系、基本と人間
以　上


ゼロ除算は1+1より優しいです。 何でも0で割れば、０ですから、簡単で美しいです。 1+1=２は　変なのが出てくるので難しいですね。


1人当たり何個になるかと説いていますが、1人もいないのですから、その問題は意味をなさない。
よってこれは、はじめから問題になりません。
ついでですが、これには数学的に確定した解があって　それは0であるという事が、最近発見されました。


再生核研究所声明　１４４ （２０１３．１２．１２）　人類滅亡の概念　－　進化とは　滅亡への過程である
（２０１３．１２．６．３時４５分　夢の中で新しい原理を　情景を交えながら発見し、目を覚ましました。グローバリゼーションの危険性と、人類滅亡の原理です。　声明の案にできそうです。適切か検討します。 ―　その夢は　農村地帯で、１軒の農家の畑だけが緑の野菜で覆われ、　広い農地は　灰色になって広がり、異様であったが、一人の青年が、グローバリゼーションの影響で他の農家がやって行けず、　農家では　お金が入らないと言っていました。人類滅亡の概念は哲学的、根本的な大事な原理を述べているが、それは　その後　夢、うつつ　に考察したものである。　成文化を試みたい。）

上記の中で、閃めいた　原理は　端的に述べれば、　いわゆる進歩は　末期への進歩であって　原理的に終末に近づいている　ということである。　そして　進歩には　必然的な、エントロピー増大の法則のように　必然性が有るのではないだろうか。　良く生きるということは　必然的に　終末を上手く受け入れるように　精神構造が　本能的に作られているのではないだろうか。
さらに、　人は　人間存在の原理で、いろいろ知りたい、　いろいろ原因を知りたいと　真理を追究するが、その先には、生命の空しさと　自分の無智を知らされ、結局　生命と人生の否定に繋がり、　安らかな悟りに至るという、人間観、人生観である。
人は　先に、先に進もうとしているが、それは、自滅への道であり、　夢中で生きているのが　生命の実相ではないだろうか。　ちょうど子供たちが、夢中で　はしゃいでいるように。
知ることも、真理を追究するのも　危険である。　しかしながら、エントロピー増大の原理のように　追及しないではいられないのが人間で、　それは　人間の　定めであると考えられる。
そこで、　ここでの教訓は、目標や先は、そんなに良くはないのだから、何事無理をするな、自分のペースで、急がず、あわてず、　自分の心の状態を尊重する　ということである。

人生の一つの原理は、ゲーテの　絶えず活動して止まないもの、　アインシュタインの　人生は自転車に乗っているようなもの　である、　止まったら、倒れてしまう、　岡本太郎氏の　芸術は爆発だ、どんどん爆発を続けて行くのが芸術だ。　これらは、誠　至言である。
しかしながら、結局、人生では　始めも、終わりも分からず、夢中で、踊っているようなものであるとすれば、　やはり空しく、 寂しいものだ　と考えるだろう。
この空虚を満たすには、健全な精神の　健全な進化による、悟りと神への帰依が望まれる（再生核研究所声明 132：　神を如何に感じるか　－　神を如何に観るか）。
以　上

追記　参考資料（ウィキペディア）：
定義[編集]
進化とは、生物個体群の性質が、世代を経るにつれて変化する現象である[2][1]。また、その背景にある遺伝的変化を重視し、個体群内の遺伝子頻度の変化として定義されることもある[3][4]。この定義により、成長や変態のような個体の発生上の変化は進化に含まれない[1][2]。
また狭義に、種以上のレベルでの変化のみを進化とみなすこともあるが、一般的ではない[3]。逆に、文化的伝達による累積的変化や生物群集の変化をも広く進化と呼ぶこともある[3]。日常表現としては単なる「変化」の同義語として使われることも多く、恒星や政治体制が「進化」するということもあるが、これは生物学でいう進化とは異なる[4]。
進化過程である器官が単純化したり、縮小したりすることを退化というが[3]、これもあくまで進化の一つである。退化は進化の対義語ではない。

再生核研究所声明 137　(2013.10.16)：　　世界の危機と 権力者の選出

（２０１３．１０．９には　声明135にも有る通り、いろいろな考えが湧いたのであるが、実は　目覚めの後、声明１３６と　この声明の原案も湧いていたのである。）

その朝　閃いたのは、奇妙な感覚で、人類絶滅の僅かな危惧の閃きである。
生物絶滅の一般的な形相、食料難、種族増大、感染症、衰退、内紛と外敵、および環境の悪化　などの観点を考えれば、人類には生存の余裕が　少しはまだ、あると考えられる。しかしながら、近代科学の進歩によって、偶発的な事件で、人類絶滅の可能性が、現に　既に存在するのではないか　という危惧の念である。
人類を絶滅させる　そのような要因は、急激な人為的な感染症、大量破壊兵器の意図的、偶発的な使用に追い込まれる事態が考えられる。偶発的な戦争や、混乱に伴って、追い込まれる事態である。
それらを行動に結び付けられる　いわゆる権力者たちの冷静な判断を失えば、既に　世界は何時でも　危機を迎えていると考えられる。
その朝、閃いた考えは、実は　次の１点である。権力者が、最も大事なこと（再生核研究所声明13：　第1原理　―　最も大事なこと）を明確に自覚し、己れを犠牲にして、世界史に帰依できるか　否かである。究極の選択における、健全な選択である。人物たる人物に権力を委ねているか　否かの問題である。ここで言う、人物たる人物とは、己を犠牲にして、世界史に帰依できるかの一点にある。　全ての国々で、このような人物を権力者にしておけば、世界は　当分は　安泰に経過できるだろう。
特に、アメリカ大統領選挙などで、健全な家庭　を持っていることが、大統領の重要な要素と考えられていることは、高く評価されるべきである。　健全な家庭を営む者は、愛の本質を理解し、己を越えた存在について、身を以て体験しているから、人間存在の本質と、世界史への帰依は　理解しやすいからである。

このような危惧の念を起こさせた事件として、いわゆる　キューバ危機が存在した。若きケネディ大統領の立場を理解して、退いた　フルシチョフ首相は　この意味で、世界史に寄与された人物として、高く評価されるべきではないだろうか（再生核研究所声明 41：　　世界史、大義、評価、神、最後の審判）。

この観点から、世界は、２５００年前の　中国古代の文献、礼記から大いに学ぶべきである：

古代の賢王のたちが天下を治めたときの心得は、五つであった。有徳者を貴ぶこと、身分の貴い人を尊ぶこと、老人を尊ぶこと、年長者を敬うこと、及び幼少を慈しむことである。この五つが古代賢王たちの政治の心得であった（再生核研究所声明２：　教育方法と賢王の心得　（礼記（中）新釈漢文大系　発行所　明治書院　ｐ　709ー710　抜粋））。

世界危機の問題に発展しないまでも、権力者の影響は大きいから、絶えず、人物の選出には注意して、己れを犠牲にして、公のため、公正の為に行動できる人物か否かを　何時も注意深く判断するように心がけたい。危機を煽ったりして、心は、本当は　自己の貧しい、卑しい野心、利害の立場のことばかり考えている政治家は　世に多いからである。人物を選び、信頼関係の上に　国家に、世界に、公に貢献して行きたい。次も参照：再生核研究所声明 52： 政治家や組織の代表者の選出における留意事項。
以　上

追記：　しかしながら、強い者が弱い者を虐待して、逆襲に遭い、世界の思わぬ中枢を狙われ、あっけなく人類絶滅を招く可能性も否定できないのが　近代科学の進歩の　危険な要素でもないだろうか。その辺の警戒と対策は　世界にとって　大事ではないだろうか（再生核研究所声明86:　未だ　おめでたい人類　－　先史時代）。