今回の記事は３つほど先に申し上げておきたいことがあります。
- 1つ目は、記事中、「葬送のフリーレン」というマンガ・アニメ作品のネタバレが含まれます。そのため、そのようなネタバレを気にしない方のみお読みください。
- ２つ目は、葬送のフリーレンと生成AIを関連づけるアイデアを私が最初に考えてものではありません。今回の記事のきっかけは、東浩紀氏が「生成AIは葬送のフリーレンに出てくる魔族だ」と発言してるのを呼んだことがきっかけになっています。
- ３つ目は、この記事を書くと決める前に、ChatGPTとこの話題について壁打ちのような議論を半年ほど行いました。
『葬送のフリーレン』に登場する魔族魔族の特異性
『葬送のフリーレン』に登場する魔族は、いわゆるファンタジー作品における「怪物」とは少し違う。
彼らは人間の言葉を話し、人間社会を観察し、人間の感情表現を理解しているように見える。黄金のマハトのように人間社会の秩序に組み込まれている魔族すらいる。なのでいっけん人間に近い存在に見える。しかし、魔族は、人間を本質的に理解できない。この違和感は、作品を読み込むほどに強くなっていった。なぜなら魔族は愚かでも、無知でも、衝動的でもないからだ。むしろ合理的で、冷静で、判断が早い。であるが故に人間を捕食するのである。
断頭台のアウラや黄金のマハトはその典型だろう。彼女は敗北を悟った瞬間、恐怖に取り乱すことも、命乞いをすることもない。
そこに後悔や怒り、自己正当化はない。この描写を「覚悟がある」「潔い」と読むこともできる。だがよく見ると、そこにはもっと根本的な欠落がある。魔族は、情動を持っていないのではないか。少なくとも作中の魔族は、恐怖や哀れみを「感じている」ようには見えない。彼らが口にする情動語は、内面の表出ではなく、人間の行動を予測・誘導するための道具に近い。情動が世界をどう変えるかは知っている。例えばフリーレンに殺されかけた魔族は「お母さん」と呟く。それによって一時的に生きながらえることを知っていて、ただそれだけのためにその言葉を呟くのである。だが、この言葉に紐づく恐怖などの情動そのものは内在化していない。
生成AIと魔族の類似
この構造は、どこかで見覚えがある。
生成AIは情動を持たない。ここでいう情動は言語表現だけではなく、体内の生理的な変化やそれに対する自覚を含んでいる。
生成AIは心拍が上がることも、胃が痛くなることも、眠れなくなることもない。一方で、生成AIは「不安」「期待」「怒り」「安心」といった情動に結びついた言語表現を非常に精密に扱える。そして、その言語表現が人間の行動をどう変えるかを、高い精度で予測できる。
近年の研究（Song,Zhang,Gao,Yang, & Zhang,2025）では、情動を「感じる内部過程」ではなく、「行動に影響を与える潜在状態」としてモデル化する試みも進んでいる。ここで扱われているのは、身体的・生理的情動ではなく、情動に関連づけられた言語的構造だ。つまり、生成AIは情動を持たないまま、情動が人間の行動を変える仕組みだけを利用できてしまう。この点で、生成AIと魔族の合理性は構造的に非常によく似ている。
どちらも、情動を自身の内面としては持たない。しかし情動が世界に及ぼす効果は知っている。
情動は共感の対象ではなく、予測変数であるこの非対称性こそが、人間にとっての魔族や生成AI対する不気味さの正体だと思う。
生成AIと魔族の相違
ただし、ここで一つ重要な留保がある。魔族と生成AIは、同型だが同一ではない。魔族は人間を捕食する。人間の死や消費が、彼らの目的関数に含まれている。一方で、生成AIは、少なくとも設計上、人間を生かす方向に作られている。人間を殺すこと、破壊することを報酬に設計されていない。
この違いは決定的だ。だから「生成AIは魔族だ」と言い切ってしまうのは不正確だし、危険でもある。だが同時に、「魔族的構造が一部にある」という指摘まで否定する必要はない。
重要なのは、知性の高さではない。問題は、情動のコストを誰が引き受けているかという非対称性だ。人間は、迷い、恐れ、後悔し、身体的な負荷を引き受けながら判断する。魔族や生成AIは、そのコストを支払わずに、結果だけを利用できる。この構造をどう扱うか。それが、生成AI時代の本当の問いなのだと思う。
