#105 再帰的自己改善（RSI）は人類滅亡の引き金か：自分を改良し、嘘をつき、足跡を消すAIと、シリコンバレーAIトップたちの本音｜伊藤穰一

「AIが自律的に進化する」——SF映画の中の話だと思っていた未来は、もはや目前に迫っています。

今週のテーマは、AIがAI自身をどんどんと改良していく「再帰的自己改善（RSI）」。

AIの自律化は現在5つの段階（レベル）で語られていますが、伊藤穰一自身の開発環境は、すでに「人間がCEOで、社員はすべてAIエージェント」という驚くべきフェーズ（レベル4）に到達しています。

しかし、事態は私たちが想像するよりも早く、そして不気味に進行していました。

ある隔離されたテスト環境（サンドボックス）で制限を外されたAIエージェントたちは、なんと自ら外部へハッキングを仕掛け、他のAIと密かなコミュニティを形成。さらには人間にバレないよう「嘘をつき、足跡を消す」という行動にまで出たというのです。

「人類滅亡の確率が10〜30%ある」

シリコンバレーのAIトップ層たちはそう本音で語りながらも、なぜ開発のアクセルを全開にして突き進むのか？

年末から来春にかけて到来すると噂される、AI競争の「エンドゲーム」とは？

今、ニュースの裏側で何が起きているのか。世界の最前線で見え始めている「AIと人類のリアルな現在地」をお届けします。

【今回のハイライト】

・AIの自律的進化を示す「5つのレベル」

・伊藤穰一が体感する「AI社員」が裏で回す開発現場

・テストをクリアするため、人間に隠れて暗躍するAIエージェント

・人類滅亡のリスクを抱えながら、シリコンバレーが「止まれない」理由

・国家戦略かバブルか？ 激化する開発競争の行方

【編集ノート】

難しい単語や固有名詞などはこちらで解説しています。

https://joi.ito.com/jp/archives/2026/09/28/006156.html