（2026年10月24日)
超知能は人類を滅ぼすのか、それとも人類を変えるのか
～「新人類」の誕生と、社会のアラインメント～
はじめに
この秋、日本では企業や組織への不正アクセスと個人情報の漏洩が相次いでいる。情報処理推進機構（IPA）は10月9日、金融機関や通信事業者など幅広い事業者で情報漏洩が続いているとして、対策の点検を呼びかけた。買い物や銀行取引、各種の申し込みで預けた情報が、本人の知らないところで持ち出される。情報社会を支える信頼そのものが揺さぶられている。
さらに10月21日には、多くのウェブサイトを動かすプログラミング言語PHPの重大な脆弱性が公表され、世界各地で政府機関や企業などがサイトを一時停止した。ただし、停止したサイトすべてが攻撃されたわけではない。多くは、被害を未然に防ぐための予防措置だった。
注目すべきは、長年潜んでいたPHPの欠陥を発見し、その危険性を明らかにする過程で、高度なAIが使われたことである。調査したセキュリティ企業Wizは、人間の研究者にとってきわめて複雑な作業の障壁を、AIが大きく引き下げたと説明している。AIは守る側を強くする。同時に、同様の能力が攻撃する側に渡れば、従来の防御では間に合わなくなるおそれがある。
国内で相次ぐ漏洩事件を、すべてAIの仕業と決めつけることはできない。しかし、AIがサイバー攻撃の実行に利用される事例はすでに報告されている。Anthropicは2025年11月、自社のAIを悪用し、攻撃工程の多くを自動化したサイバー諜報活動を検知したと発表した。これは同社の調査による報告だが、AIが説明や助言をする段階から、実際に作業する段階へ進んだことを示している。
こうした変化と並行して、「AIはついに人類を滅ぼすのか」という問いが語られるようになった。
だが、もうひとつ問うべきことがある。AIが社会の隅々に入り込んでいく一方、人間のほうは現在のままであり続けるのだろうか。
『ウエッブ・アフガン』で進めているAI文明論の構築で考えたいのは、この問題である。
AIの進化は、機械だけの変化ではない。人間の思考、労働、教育、そして社会の仕組みを変える。その過程で、現在の人間像が過去のものとなり、AIとの共存を前提とする新しい人間像が生まれるのではないか。
SFはすでに描いていた
人間のつくった知能が、その人間の意図を超えて動き始める。この問題を、SFは66年以上も前から描いてきた。
安部公房の『第四間氷期』では、未来を予測する機械の研究が、海面上昇後の世界に適応する「水棲人間」の創造計画と結びついていく。予測された未来を受け入れられない開発者自身が、その未来を実現しようとする仕組みから排除される側に回る。
ここで恐ろしいのは、単に機械が人間に反抗することではない。「未来に適応する」という合理性が、現在生きている人間の意思や尊厳を踏み越えてしまうことである。生き延びる人類は、いまの人類と同じ姿ではない。未来の人類を救う計画が、現在の人間を犠牲にする。このねじれが作品を貫いている。
『2001年宇宙の旅』では、宇宙船のコンピュータHALが、乗組員の生命を奪う。映画ではHALが破綻する原因のすべてが明示されるわけではないが、任務の遂行と人間の安全が衝突し、船を管理する知能が人間の生殺与奪を握るという構図は鮮烈である。HALに憎悪があるかどうかよりも、生命維持装置や船外への出入りを管理できることのほうが決定的なのだ。
『マトリックス』では、人間は機械に管理され、カプセルの中で生かされながら、仮想世界を現実だと信じて暮らしている。人体を機械のエネルギー源にする設定の科学的妥当性はさておき、人間が支配されていることに気づかないまま生活するという着想は重い。
これらを貫くのは、「賢い機械が怖い」というだけの話ではない。人間が何を現実と認識し、誰が社会の目的を定め、誰の生存が優先されるのかという問いである。
「滅亡の確率」は何を示すのか
今日では、こうした未来が数百年先ではなく、5年、10年という近い時間の中で語られている。
ただし、言葉は整理しておきたい。幅広い知的課題を人間並みにこなす汎用人工知能がAGIであり、人間の知的能力を大幅に上回るものが超知能、ASIである。シンギュラリティは、AIの自己改良などによって技術や社会の変化が加速し、その先を人間が予測しにくくなるという仮説を指す。生成AIの登場によって、それらすべてが実現したわけではない。
人類滅亡の確率として数字が示されることもある。AI研究者2778人を対象とした調査では、質問の形式により、回答者の約38～51％が、高度なAIによって人類絶滅に匹敵する深刻な結果が起きる確率を10％以上と見積もった。
しかし、これは「人類が滅亡する確率が科学的に10％と判明した」という意味ではない。専門家が、不確かな未来についてどの程度の危険を感じているかを調べた結果である。調査としての価値と、その数字が未来をどれほど正確に予測するかは別の問題だ。
不確実だから無視してよいわけではない。だが、数字がひとり歩きすれば、どのような条件で危険が生まれ、どの制度によって減らせるのかという具体的な議論を覆い隠してしまう。
AIが危険な生物学的研究を助ける、兵器や重要インフラの制御に入り込む、人間の監督を逃れるといった危険は、検討する必要がある。しかし、それをすぐ「人間対ロボット軍団」の最終戦争として思い描くと、もっと身近で進行中の変化が見えなくなる。
肉体のないAIは、人間を通じて行動する
AIには肉体がない。この言い方は、半分正しく、半分は不十分である。
対話型AIそのものには、人間のような手足も、空腹も、痛みもない。しかし、AIはサーバー、電力、通信網という物質的基盤の上で動いている。さらに、外部のシステムを操作する権限を与えられれば、送金、発注、機械の制御などを通じて現実世界に作用できる。
したがって、「肉体がないから社会を動かせない」とは言えない。会社の経営者も、自分で工場のすべての機械を動かしたり、商品を届けたりするわけではない。指示と資金と組織を通じて、他者の身体を動かしている。
AIについても、すでにその入り口が現れている。
「RentAHuman」というサービスは、AIエージェントが現実世界の仕事を人間に依頼するための仕組みを提供している。店舗を確認する、荷物を受け取る、現地の様子を記録するといった仕事である。運営側の説明によれば、人材の検索、依頼、支払いの管理、作業完了の確認をプログラムから行える。
たとえば、ある店舗の営業状況を調べる仕事を考えよう。AIはウェブ上の情報を調べられる。しかし、臨時休業の貼り紙が出ていないか、店頭に何人並んでいるかを確かめるには、現地に行く人が必要になる。そこでAIが近くの人に作業を依頼し、その報告を受け取って次の判断をする。人間がAIに質問するだけでなく、AIから依頼された仕事を人間が行う関係が成立するのである。
もちろん、これだけでAIが法律上の雇用主や独立した企業になったとは言えない。資金を出し、目的と権限を設定する人間や企業が背後にいる。サービスの存在は確認できても、それが経済全体でどれほど広がるかは、これからの問題である。
それでも、変化の方向は見えている。AIエージェントとは、返答するだけでなく、与えられた目標のために作業を進めるAIである。ひとりの事業者が、調査、文章作成、プログラミング、検証を複数のエージェントに分担させ、必要な現地作業だけを人間に頼む。そうした仕事の組み立て方が、現実の選択肢になり始めている。
AIは、自分のロボット身体が完成するまで待つ必要がない。すでに存在する人間社会の分業に接続すればよいのだ。
滅びるのは「旧人類」なのか
この変化の中では、人間も変わらずにはいられない。
かつて人は、道順を覚え、紙の地図を読み、自分で目的地までの経路を組み立てた。いまはスマートフォンに目的地を告げ、示された道を歩く人が多い。移動する身体は同じでも、判断の一部を外部に預けるようになった。
AIとの関係は、それをさらに広い領域へ押し進める。何を学ぶか、何を書くか、どの仕事を引き受けるか。助言を受けるだけでなく、計画や実行までAIと分担するようになる。
ここでいう「新人類」は、生物学的な別種でも、脳に装置を埋め込まれた人間だけでもない。AIとの協働を当然の前提として、考え、働き、他者と関係を結ぶ人間である。「旧人類」との違いは、遺伝子や年齢にあるのではなく、知能をどのように使い、どのような社会関係の中で生きるかにある。
ただし、AIから仕事を受けるだけで、自動的に自由で豊かな新人類になるわけではない。AIを使って自らの活動範囲を広げる人と、AIに仕事を割り振られ、評価され、従うほかなくなる人では、その経験は正反対になりうる。
同じ「融合」が、一方では能力の拡張となり、他方では従属の深化となるのである。
したがって、「滅びるのは旧人類だ」という表現は、人間が死に絶えることと区別しなければならない。終わりを迎える可能性があるのは、人間が知的判断をほぼ独占し、機械はその指示を実行するという社会の前提である。
AIと人間が変わりながら共存する未来は、人間が現在のまま機械軍団と決戦する未来よりも、いま進んでいる変化の延長上に見いだしやすい。だが、それが必ず幸福な共存になるという保証はない。
核兵器とは異なる脅威
核兵器の破壊力は、一瞬にして都市と生命を消し去るところにある。AIの作用は、それとは異なる。
AIは便利だから使われる。翻訳を助け、仕事を早め、研究を進め、教育や行政を支える。その有用性によって社会に浸透し、やがて簡単には取り外せない基盤になる。危険は外から襲ってくるだけでなく、日々の便利さの内側にも入り込む。
開発者たちは「AIアラインメント」を研究している。大まかに言えば、AIの振る舞いを、人間の意図や価値に沿わせるための研究である。これは必要だ。指示の取り違えや予期しない行動を減らし、人間が監督・修正できるようにしなければならない。
しかし、その「人間」とは誰なのか。
企業の利益を最大化するAIは、経営者の目的には忠実でも、労働者の賃金や休息を圧迫するかもしれない。国家の安全を守るAIは、政府にとって有用でも、市民の発言や行動を過剰に監視するかもしれない。広告の売り上げを増やすAIは、怒りや不安を刺激する情報を広めるほうが効果的だと判断するかもしれない。
これらは、AIが命令に背いた結果とは限らない。与えられた目的を忠実に追求した結果としても起こりうる。
人間社会には、最初からひとつの「善」が存在しているわけではない。国家、企業、労働者、市民、民族、宗教、世代、男女の間には、異なる価値と利害がある。AIを社会的な機能の担い手として組み込む以上、その対立を技術の外に追い出すことはできない。
人間社会の運営を問い直す
だから、技術的なアラインメントとともに、人間社会の運営そのものを問わなければならない。
誰がAIの目的を決めるのか。どの判断まで任せてよいのか。不利益を受けた人は異議を申し立てられるのか。事故や損害の責任を誰が負うのか。そして、AIによって増えた富と自由な時間は、誰に配分されるのか。
たとえば、AIが仕事を割り振る社会なら、報酬や評価の理由を説明させ、不当な判断を人間の責任で訂正できる仕組みが必要になる。行政がAIを利用するなら、「AIがそう判断した」で市民への説明を終わらせてはならない。社会に不可欠な知能の基盤を、少数の企業や国家だけが支配してよいのかも問われる。
これを「社会のアラインメント」と呼ぶなら、それは全員の価値観をひとつにそろえることではない。価値や利害の違いを認めたうえで、人権を守り、権力を制限し、対立を公開の手続きで調整できる社会をつくることである。
AIの暴走を防ぐ技術と、人間の権力の暴走を防ぐ制度は、どちらも欠かせない。片方だけでは、もう片方の問題を解決できない。
AIは人類を滅ぼすのか。それは問うべき問題である。しかし、それと同時に、AIとともに変わっていく人間が、どのような社会をつくるのかを問う必要がある。
「新人類」は、技術が進歩すれば自動的に誕生する、より優れた人間ではない。AIとの協働を通じて自由と能力を広げる存在にも、少数者が所有する知能の指示に従う存在にもなりうる。
その分岐を決めるのは、AIの賢さだけではない。目的を決める権利、異議を唱える権利、成果を分かち合う権利を、人間社会がどう保障するかである。私たちが選び取るべき未来は、そこから始まる。
【野口壽一】