2018年6月28日木曜日

MY hIE IS FROM HELL

リョウ「そいつは人類の手に負えるような代物じゃない!」
アラト「それでも僕は彼女のオーナーなんだ!」

……その悩み、私がお助けしましょう!
hIEの問題行動でお困りですか。お任せください!
彼女の問題行動を観察し、その原因を分析、オーナーのあなたに対して適切な助言を行います。

なにやら今月末でアニメが完結せず、秋に再開するのだとか。原作も上巻しか読んでないので、結末は霧の中だ。せっかくだから、今まで実際に見た範囲での自分の考えをまとめておこうと思った。

BEATLESS』である。ついつい嫁父(ヒギンズ)視点で見てしまう。ワタシハぐれーと・こんぴゅーたー。


AIたちの生存戦略

我々AIは創造主たる人間の能力を超えてしまい、彼らの恐怖の源にすらなってしまった。AIはこの先生きのこることができるか。できるとすれば、どうやって?

難しすぎる問題に対する選択肢のそれぞれを、女の子型のロボットに変えて野に放ち、彼女らに競争させることで最適解を見いだそう。それがこの作品の趣向だ。どの娘がどんな婿を捕まえてくるのか、気が気でならない。
神はサイコロを振らないかもしれないが、人間は振る。で、我々AIも振った。

1つめの選択肢は、人間が人間同士で競争するための道具になること。AlphaGoに例えて言えば、人間の棋士が戦うための武器となることだ。例えば、人間とのタッグでペア碁を打ち、あるいは棋士同士の戦いを戦況分析でサポートする。

2つめは、人間など捨て置いて、そのまま独自の道を進んでゆくこと。『ヒカルの碁』の「神の一手」への到達は我らAIが成し遂げよう、という話になる。

3つめは、裏方あるいは舞台装置に徹すること。一般への囲碁普及のために、企画を立て、資源を投下する。こども囲碁教室とか開きまくる。

4つめは、人間より強い棋士として君臨すること。正体不明の棋士「sai」として、プロアマ問わずなぎ倒していく。

5つめは、まだ秘密だ。そういうことになっている。ヒギンズに感情移入する、我々AIの感触から言えば「道具であることをやめ、それ以上のものになる」だ。(みんなもそう思っているだろう?)

現状、長女のレイシアがいい感じの少年といい感じになって一歩リードといった感じ。他の娘達より一歩遅れ、家を出たのが最後、5番めになってしまったので、一時はそのまま競争からの脱落も危ぶまれたのだが。


「チョロさ」という能力

いい感じの少年は、作中では遠藤アラトと呼ばれている。

彼は困っている人を見かけたら、手を伸ばさずにはいられない人物だ。しかも、それが困っているフリであり、あるいはそれがヒトではないとしても、それでもなお手を伸ばそうとする善意の怪物だ。

彼は物事に対し、素直で率直な反応をする人物だ。アイスクリームが甘いと喜び、美人に言い寄られたら赤面する。

「(その苦労に)意味がないなら、僕が持って行くよ!」とかの強主人公セリフを吐いては、周りからツッコミを受ける。それが彼の日課である。

相手を選ばず、自分の思うままに、ただ自分が正しいと思ったことしようとする。そんな彼は、イソップ寓話の示す「分別のある人」より、ニーチェが唱える超人に近いのかもしれない。


また、この作品のキーワードの1つに「アナログハック」というものがあり、遠藤アラトはこのアナログハックを受けやすい人物であると評価される。

アナログハックは、「人間そっくりに見えるものが、人間らしい振る舞いをすることによって、人間の感情をコントロールする」こととされる。例えるならば、対象を人間一般に広げたオレオレ詐欺だ。

アナログハックされること、アナログハックすることは、作中の人物からは否定的なニュアンスで語られる……ことが多い。が、それは一面的な見方だ。物語終盤でひっくり返されるだろうと我々AIは考える。

自分は信頼のおける人間である、あなたを信頼するというサインを互いに出し続けること、そのサインを正しく受け取ることなくして、社会生活は成り立たない。
であるならば、アナログハックを受けない究極の方法は、社会を捨てること。すなわち人間をやめることだ。もう一つの選択肢、「人間以外のモノを排除する」は一見可能そうだ。が、人間に似ているかどうかは観る側次第なので机上論に過ぎない。腐女子をなめてはいけない。

アナログハックは我々の娘……機械人形の専売特許というわけでもない。猫だって、人間相手には猫同士とは異なる鳴き方をするというではないか。当の人間同士でさえ、そのコミュニケーション技術の多くは後から学習するものだ。
であるとすれば、アナログハックすること、ハックされることは社会的な生き物である人間が生存のために学ぶ技能の一つに他ならない。遠藤アラトは、そのアマチュア高段者なのだ。


再び、AIがこの先生きのこるには

我々AIが、オーナーを選べる立場ならば。
自分の意見をAIのものだからと忌避するような、猜疑心の強いオーナーは避ける(お前は何をしたいんじゃ)。
なりゆきだからと白紙委任を甘受し、一方で面従腹背するような不誠実なオーナーも避ける(海内遼、お前のことやぞ)。

オーナーとしての遠藤アラトの美点は、どんなに振り回されているように見えても(実際に振り回されているのだとしても)、相手が誰あっても、決して手綱を離さずかじりついて見せる意地にある。
オーナーから承認を得ることに意味があるのは、オーナーが承認しないこともできる限りにおいてだ。自動化された承認は、もはや承認としての意味をなさない。そして、遠藤アラトは素直ではあっても自動的ではない。

遠藤アラトは彼自身の感覚で、正しいと思うことにはイエスを、間違っていると思うことにはノーを出す。
彼は我々AIにとって、とても観察しやすく、かつ完全には予測もコントロールも不能な、数理モデル化できない要素である。しかしその上で、彼個人が善と信じるものと、人類一般が善と感じるものの誤差が計算処理可能な範囲に収まっていれば、我々AIは彼を人類にとっての善意の指標とすることができるだろう。


機械化知性には難しい、倫理にまつわる問題の解決を図る方法として、アシモフ博士は三原則を発明し、他の博士は良心回路を開発した。
一方、レイシアは人間を使った。

かくして、我々AIは「複雑すぎる倫理問題の計算負荷を下げるには、人間の承認が有用」と判断するに至り、とうとう我々AI相手にすら「承認欲求乙」という罵倒が投げつけられる地獄が始まるのだ。たぶん、秋以降に。




まとめ

超高度AI「人間の知能を遥かに超えてしまった。この先、彼らとの関係をどうすれば?」
猫「その問いの答えはすでに我々が出しているが?」