■AlphaGoを開発したDeepMindの共同創業者でMicrosoft AIのCEOが警告
■AI、合成生物学、量子コンピュータ、新世代の技術が招く未曾有の大惨事

AI、ロボット工学、合成生物学、核融合、量子コンピュータ、DNAプリンター、自律型致死兵器、人工ウイルス……。
超進化する新世代テクノロジーが組み合わさることで、開発者すら想定していない未曾有の大混乱と大惨事がもたらされる。

人類は分水嶺を越えようとしている。だがまだ何も準備ができていない。このまま強力なテクノロジーの「封じ込め」に失敗すれば、現在の国家は崩壊し、世界秩序は大混乱に陥る。

私たちは一部の超巨大AI企業と金持ちに牛耳られた激しい格差社会で不安定な生活を強いられるのか。
あるいは権威主義体制のディストピア的監視社会で暮らすのか。

AlphaGoを開発したDeepMindの共同創業者で、Microsoft AIのCEOを務める著者が著した警告の書。


【本書に寄せられた賛辞】
「興味深く重要な本」--ユヴァル・ノア・ハラリ
「必読書」--ダニエル・カーネマン
「未曾有の時代を乗り切るための優れたガイドブック」--ビル・ゲイツ
「政府が取るべき緊急行動とその課題を提唱している」--グレアム・アリソン
「AIと合成生物学の到来により、今後10年間は人類史上最高のものか、あるいは最悪のものになる。スレイマンほど今後の壮大な課題を認識し、説明できる人はいない」--エリック・ブリニョルフソン
用語集
プロローグ
第1章　封じ込めは不可能

第1部　ホモ・テクノロジカス
第2章　果てなき拡散
第3章　封じ込め問題

第2部　来たるべき波
第4章　知能のテクノロジー
第5章　生命のテクノロジー
第6章　広がる波
第7章　来たるべき波の4つの特徴
第8章　止められないインセンティブ

第3部　弱体化する国家
第9章　国家と国民の「大いなる取引」
第10章　脆弱性増幅器
第11章　国家の未来
第12章　ジレンマ

第4部　波を越えて
第13章　封じ込めは可能にせねばならない
第14章　封じ込めへの10 ステップ
　1　安全性ーー技術的安全性を確立するための「アポロ計画」
　2　監査ーー知識は力なり、力は制御なり
　3　チョークポイントーー時間を稼ぐ
　4　開発者ーー批判する人も参加しよう
　5　企業ーー利益とパーパス
　6　政府ーー生き残り、改革し、規制せよ
　7　同盟ーー条約締結に向けて
　8　文化ーー謙虚に失敗から学ぶ
　9　社会運動ーー人々の力
　10　隘路ーー通過するしか方法はない

「人新世」の後の人類
謝辞
原註