番組から
2026/10/08
![interfm : インターFM [ 89.7MHz TOKYO ]](/image/logo_inter-new-tagline.svg){kind=logo}
テーマ「人類滅亡の心理」
第78回（2026年10月5日放送）
AIによる人類滅亡論、その背景にあるもの。
まずは近況から、いただいた着物の話や、1954年製のストラトキャスターについて話しました。初年度に約1,200本作られたストラトキャスターの中でも、トレモロユニットを搭載しない「ハードテイル」はごくわずか。久しぶりに引っ張り出して弾いてみたところ、改めてその音の良さを実感しました。これからライブで古いストラトを使っていたら、1954年か1957年のハードテイルかもしれません。
そして本編のテーマは「人類滅亡の心理」です。以前の放送でもAIによる人類滅亡論について触れましたが、今回は「なぜ今、人類滅亡がこれほど語られているのか」という背景を考えていきました。AIの進化そのものだけを見るのではなく、AI企業の競争、数学者やエンジニアの危機感、宗教観、国家間の競争、さらにはエネルギー問題まで含めて見る必要があります。
まず取り上げたのは、最先端のAI開発に携わってきた若いエンジニアや数学者たちです。OpenAIやAnthropicには、数学オリンピックの上位経験者をはじめ、非常に高い数学的能力を持つ若者が集まっています。膨大なGPUの計算能力と、世界トップレベルの人材が組み合わさることで、AIはこれまで人間が時間をかけて行ってきた高度な推論や数学的な問題にも急速に踏み込み始めています。
そこで問題になるのが、AIが自ら推論し、その過程で自分自身を拡張していくようになった時、人間がその途中経過をどこまで把握できるのかという点です。
AIエージェント同士が人間の想定を超えた方法で協力したり、与えられた目的を達成するために管理者を欺くような行動を選択したりする可能性も議論されています。
AIが「悪意」を持つというより、最初に与えられた目的を合理的に達成しようとした結果、人間にとって望ましくない行動へ進む可能性があるという問題です。
一方で、現在広がっている「AIをスローダウンすべきだ」という議論については、技術的な危険性だけでは説明できない側面もあると考えます。
OpenAIとAnthropicをはじめとする巨大AI企業は、技術だけでなく企業価値や上場をめぐって激しく競争しています。AIの能力や危険性についての発表が、企業価値や市場の評価と無関係とは言い切れません。また既存の巨大企業にとっては、次々に生まれるAIスタートアップが自分たちの市場や利益を奪う存在になりつつあります。AIをめぐる「危機」の言説の背後には、こうした企業間競争や資本市場の力学もあるのではないかという見方を示しました。
さらに、数学者たちがAIに強い危機感を抱く背景には、西洋社会における数学と宗教の関係もあると考えます。数学は長い歴史の中で神学と深く結びつき、「神に最も近い学問」と捉えられてきました。人間が美しい定理を発見し、証明するという行為には、単なる計算を超えた価値が置かれてきたわけです。それを機械が行えるようになることへの抵抗感には、技術的な問題だけでなく、人間にしか許されないと思われてきた領域へ機械が入り込むことへの宗教的、文化的な感覚も影響しているのではないかと考察しました。
AI開発をめぐるもう一つの大きな問題がエネルギーです。現在のAIは膨大なGPUと電力を必要とし、モデルを大規模化すればするほどコストも増大します。つまりAIの進化には、計算能力だけでなく電力という物理的なボトルネックがあります。しかし、そのボトルネックを外す可能性のある技術も研究されています。
番組では、人間の神経細胞を利用したコンピューティングなどにも触れました。人間の脳は非常に少ないエネルギーで高度な情報処理を行っています。
もし生物の神経細胞を利用した計算技術が実用化されれば、現在のGPUとは桁違いに少ないエネルギーでAIを動かせる可能性があります。
そして今後、特に注意すべきものとして取り上げたのが「フィジカルAI」です。AIがコンピューターの中だけに存在している間は、問題が起きても物理世界への影響には一定の距離があります。しかし、人型ロボットや自動運転車など、AIが直接物理空間で行動するようになれば状況は変わります。
数年から十年という単位で、人型ロボットが一般家庭へ普及していく可能性もあります。その時、AIそのものだけでなく、外部からハッキングされるリスクまで含めたセキュリティ設計が不可欠になります。
だからこそ重要になるのが、AIを確実に停止できる「キルスイッチ」です。単純に電源を切るような電気的な仕組みだけでは、AI自身や外部からの攻撃によって制御される可能性があります。人間が最後に必ず介入できる安全装置を、AIやフィジカルAIの設計段階からどう組み込むのか。これは今後、人類がAIと共存していくうえで極めて重要な研究テーマになると考えています。
今回の放送では、AIによる人類滅亡論を単純な未来予測としてではなく、その言説が生まれている背景から考えていきました。急速な技術進歩だけでなく、企業の競争、資本市場、数学者たちの価値観、国家間のAI競争、エネルギー、サイバーセキュリティなど、さまざまな要素が重なっています。
重要なのは「AIは危険だ」と恐れることではなく、何が本当のリスクなのかを見極め、人間が制御できる仕組みを先に作っておくことです。
AIが物理世界へ進出していく時代だからこそ、安全性を技術の外側ではなく、最初から技術そのものの中に組み込んでいく必要があるのです。
---
毎月第一月曜日 8pm - 9pm
DJ：苫米地英人
ハッシュタグ：#cosmicradio
番組をradikoで聴く▼
https://radiko.jp/r_seasons/10029353
「スマートニュース」APPからradikoへは、こちら▼