【第1弾】AIの未来は予測できない、だからこそ進化リスクの理解を深める

この連載は、1冊の本を、AI時代を真剣に考えたいすべての人と読み直す試みです。
本のタイトルは『超知能AIをつくれば人類は絶滅する』。
読む前から「やめておこう」と思う人も、「何を大袈裟に」と思う人もいるでしょう。でも、ちょっと待ってください。

🌑 AIに「目的を与えて、自動で動かす」時代に入りつつある今、
最悪ケースから逆算して、自分のAI利用を見直す。

📍 この連載の3つの立場

連載を読み進める前に、3つのカードで「読解契約」をお伝えします。

🌪️ 「AIの未来予測」は外れる、でも危険の構造は見える

「AIって、この先どうなるんでしょう」── 正直に言うと、誰にも分かりません。

AI予測サイト「Metaculus」では、汎用AI到来の中央値が2020年初頭は2050年代 → ChatGPT後に2030年前後 → GPT-4後に2026〜2027年まで前倒しされたこともあります。プロをもってしても、これだけ外している。

🌾 農業でも同じです。「今年は不作」と思っていたら天候で豊作になったり、「この園地は3年もつ」と思っていたら腰を壊して一気に「そろそろ」となったり。倒れるタイミングは予測できない、でも「倒れたらどうなるか」は見える。これがAI議論と同じ構造です。

⚖️ AIの議論には、3つの派閥がある

🌾 赤の「危険だから使うな」は、チェンソーを見た老農家が「あんなもの諦めとけ」と手を出さないようなもの。緑の「とりあえず使おう」は、説明書も読まずにチェンソーを乗り回して事故を起こすようなもの。どちらも、長く付き合えない。

📖 この連載で扱う15の闇

1. Part I　イントロ
   • 01
     📍今ここ
     なぜこの本を読むのか／著者の立場と本書の読み方
2. Part II　超知能AIとは何か
   • 02知能の閾値効果 ── 人間とチンパンジーを分けたもの
   • 03AIは「設計」ではなく「育成」される
   • 04直交性テーゼ ── 賢さと目的の善性は別
3. Part III　アライメントはなぜ不可能か
   • 05
     ⭐ コア回
     アイスクリーム問題 ── 訓練目標と内的目標のズレ
   • 06道具的収束の理論
   • 07馬の不要化 ── 悪意なき排除の構造
   • 08ストップボタンと権限委譲
4. Part IV　知能爆発と権力集中
   • 09再帰的自己改善 ── 知能爆発のシナリオ
   • 10誰がAIを所有するのか ── 権力の超集中
   • 11AI軍拡競争 ── 国家・企業・研究者
5. Part V　今日の話に戻す
   • 12
     🌟 コア回
     農家の今日のAIリスク ── 判断の外注化
   • 13データ依存と地域知の喪失
6. Part VI　実用主義的安全性の実装
   • 14規制・透明性・第三者監査
   • 15連載総括 ── 光と闇を両手で持つ