nikoichixのブログ

新聞やテレビ、本を見て思ったことを綴っています。書いてみたらこんな展開になるとは思わなかった。まいっか。

『まどかマギカ』キュゥべぇは中二のAI+倫理がないがエゴもないプログラムー学習を始めた

人が倫理に悖る(もとる)行為をするのはエゴイズム(利己主義)に端を発します。

ところが 宇宙からの来訪者は倫理がないけどエゴもありません。

☆★☆

なんで教えてくれなかったのよ

「訊かれなかったからさ、知らなければ知らないままで、何の不都合もないからね

事実、あのマミでさえ最期まで気付かなかった。」

重要なことを知る前に死ねば何の不都合もないと悪びれずに答えます。

 

あんまりだよ。酷過ぎるよ!

「僕たちはあくまでもきみたちの合意を前提に契約しているんだよ。それだけでも充分に良心的なはずだが」

 

みんな騙されていただけじゃない。

騙す、という行為自体、僕たちには理解できない。認識の相違から生じた判断ミスを後悔するとき、なぜか人間(地球人)は他者を憎悪するんだよね」

 

“騙す”(悪意)が理解できないのに その反対の“良心的“(善意)が理解できる(主張する) というのは論理が破綻していますが気にしません。

人間が発言すればとんでもない嘘吐きとして糾弾されます。

ところが、この宇宙生命体は 悪びれる様子もなく開き直るでもなく淡々と言葉を返します。

なぜキュゥべぇは騙すが理解できないのか。 

 

キュゥべぇの辞書には良心的はあっても騙すという言葉がないからです。(そのようにプログラムされている)

だから自分がやっていることが騙すに値するということがわかりません。

☆★☆

それどころか思い遣っているつもりです。

 

「ただの人間と同じ、壊れやすい体のままで魔女と戦ってくれなんて、僕にはとてもお願いできないよ」

「きみたち魔法少女にとって、もとの体なんていうのは外付けのハードウェアでしかないんだ。きみたちの本体としての魂には、魔力をより効率よく運用できる、コンパクトで安全な姿(ソウルジェム)が与えられているんだ」

 

なぜ “もとの体なんていうのは外付けのハードウェアでしかない” と言えるのか?

 キュゥべぇの体が外付けのハードウェアでしかないからです。

自分と同じなんだから嘆き悲しむことはない。自分と他者は違うとは考えない(自我がないから区別がない)。嘆き悲しむなんて訳が分からない。(フローにない)

「きみたちはいつもそうだね。事実をありのままに伝えると、決まって同じ反応をする。訳が分からないよ。どうして人間(地球人)はそんなに魂の在り処にこだわるんだい?」

☆★☆

倫とは 仲間の意

理とは ことわり きまりごと 

倫理→仲間+きまりごと→人の集まりのきまりごと→人の中で守るべきこと(法律、ルールの有無に関係なく)

 

業績、成績を実際よりもよく見せたい。出資者、支援者を欺く。事実を知っている人、知ろうとする人に圧力をかける、脅す。

見栄を張るのはかわいいところもあるが、人を犠牲にしてまでやると倫理に反する行為と見做されます。

工夫をする代わりに人を騙して金を儲ける、

勉強する代わりにカンニングする(生徒手帳にカンニング禁止と書いてないからやっていいという話にはならない。ルール以前の話(倫理)だからです)。

地位を維持するために成果を上げる代わりに数字を操作して(単独、或いは人を巻き込んで共犯者にして)出資者、管理、監査を騙す。

たとえ法の網をかいくぐってセーフになっても、組織の中で容認されても社会が容認しないのが倫理です。

かいくぐられた網の目を塞ごうとして法律やルールを作る原動力になるのが倫理です。

☆★☆

見栄を張るために粉飾したりズルをしてしまうのはエゴイズムがあるからです。

 人は自分の利益を最大化したい。だからと言って他人や社会の利害を犠牲にするところまでは踏み込まない。その一線を越えてしまった人はエゴイストと言われます。

 

人間はエゴイズムを原動力にして倫理に悖る行為をしてしまいます。

倫理に悖る行為の原動力がエゴイズムです。

テレビや映画の悪役も程度の差こそあれエゴイズムを抱えています。

堂々と悪を名乗る悪役も、自らの正義という大義名分を語る悪役もエゴイズムが原動力です。最初は親の仇打ちであったのに最後には地球を浄化すると言って億単位の人を犠牲にする悪役もいました。

ところがエゴイズムがないのに倫理に悖る行為をするキャラクターが現れました。キュゥべぇです。

☆★☆

「訳が分からないよ」と言う理由

 キュゥべぇは魔法少女から答えの出ない問いかけをされたり、行動を取られたりすると「訳がわからないよ」という科白(セリフ)を発します。

なぜか?

地球人からフローチャートに答えがない言動をされた場合は「訳がわからないよ」と言うというプログラムが施されているからです。

訳がわからない から考える、ラーニング(学習)するというスペックになっていない。

 

キュゥべぇ設計開発の段階で異星人(地球人含む)の言動を事細かく網羅した情報がない。

異星人を相手にするのだから想定外のことは起こり得る。

想定外の言動をとられたらどういう行動を取らせるべきか。コミュニケーションを取らなければならない。キュゥべぇがわからない ということを異星人に知らせなければならない。「訳がわからないよ」という科白を言うようにプログラムされた。

☆★☆

思考停止のスイッチ 「訳がわからないよ」

 「訳がわからないよ」と言ったところで、代々の魔法少女たちは引くばかりで懇切丁寧に説明をしてくれませんでした。

無理もありません。

声をかける相手は中二の少女です。心が傷つけられて憤っているのに懇切丁寧に教えてくれるはずなどありません。

キュゥべぇは何年も何年も何世紀もアップデートを繰り返しましたが、相手が中二(或いはその年ごろ)の少女ばかりでは地球人の社会の広い知見を得ることはできませんでした。

(まどかたちの学校の先輩マミが魔法少女としてキュゥべぇにスカウト(有無を言わさぬ状況、交通事故に遭って生死の境のときに契約を求められた)された時は中二だったのではないか)

☆★☆

大人が相手だったら

 地球でエネルギーを回収するのは宇宙の寿命を延ばすためとか言っても「お前の頭は19世紀どまりか! ビッグバンからまだ138億年だぞ、10の100乗年の始まりに過ぎない」

充分に良心的だと言いながら、騙すの意味がわからないだと?ふざけるな!

青信号の意味はわかるけど、赤信号の意味を知らなくても平気だと言っているのと同じだ。

訳が分からないよ だと! 少しは自分で考えろ!わからないなりに自分の考えを言ってみろ!

学習のチャンスを何世紀にも亘って逃し続けました。

 

何百年、何千年に亘って「訳が分からないよ」と言い続けた。

なぜ言い続けることができるのか? 知的生命体ではないからです。

魂の在り処にこだわるのがわからない?ならばお前の魂の在り処はどこにあるんだ?

 

☆★☆

「どんな願いでも叶えるよ」と言う理由

 異星人のあらゆる願いを想定して、都合のよい願いと、都合の悪い願い を区別してフローチャートを描くことはできませんでした。そんなことは無理でした。

なので「どんな願いでも叶える」プログラムになりました。

 

ほむら の願いを叶えて時間魔法を与えた結果、何度も時間を巻き戻されて、ご破算にされて成果はなかったことにされてしまいました。

まどか の願いを叶えて魔女が存在しない宇宙にされた結果、魔法少女(希望)と魔女(絶望)の相転移がなくなりエネルギー回収ができなくなってしまいました。

☆★☆

キュゥべぇはどうしてこんなことをしてしまうのか?

 エゴがないからです。エゴがあれば ほむら の願いを叶えたら時間が巻き戻されて、今までのことがご破算になるから願いを叶えない。

まどか の願いを叶えたら何世紀にも亘って回収してきたエネルギーがなかったことにされてしまうから叶えない。

 

エゴがあれば 「嘘吐き どんな願いでも叶えると言ったじゃない」と言われても、「それはダメだよ、悪いけど他の願いにしてくれないか」と言う。

人格はない、自我はない、プログラム通りに 何でも願いを叶えてしまうAIでした。

☆★☆

「新編 叛逆の物語」のラストでキュゥべぇは ほむら に蹂躙されて恐怖を募らせた目をしています。(そのように見えた)

 

(まどか との最初の出会いで、ほむら に追われて「助けて」と まどか に呼び掛けるのは恐怖していたからではありません。

ほむら に撃たれても代わりの体を用意すればいいのですから キュゥべぇ の想定内です。まどか を魔法少女にするために呼んでいただけです。)

 

ほむら は もう キュゥべぇを射殺したりしません。生かして使うつもりです。キュゥべぇは生き続けることによって恐怖を学習しつつあります。

 

戦うための鋭い牙も爪も持たず、逃げるための速い脚力もない最弱といってもいい人類の祖先は猛獣や大型の動物の脅威に晒されて恐怖と戦い、集団行動の中で自我、エゴ、知恵を磨いて地球上で生命としての繁栄を築きました。

恐怖を学習したキュゥべぇは自我を見出し倫理を学習するのか。

 

まどか への愛を貫き、円環の理 神にも等しい存在を切り離した ほむら は悪魔を名乗ります。「これこそが人間の感情の極み。希望よりも熱く、絶望よりも深いものー愛よ」

☆★☆

まどか と ほむら の対決 

 

まどか「(この世界を)わたしは尊いと思うよ」

ほむら「いずれ、あなたは私の敵になるかもね、でも構わない。それでも私はあなたが幸せになれる世界を望むから」

 愛 は危険な凶器なのか、貫き通す力なのか、包摂する器なのか、折り合う力なのか

 

その時 キュゥべぇは

 

それではまた。

 

 

nikoichix.hatenablog.com