汎用人工知能 (AGI) : 超知能。人類絶滅の真の脅威か？

まず、読者の皆様はこのテーマについて、正確に何を理解しておられるでしょうか。

私は、汎用人工知能（いわゆる「超知能」）を、世界の地政学的枠組みに突如として介入してくる「新たな統治機構」のようなものだと捉えています。それは米国と中国の力を合わせたよりも強大な政府となるでしょう。なぜなら、銀行、通貨、医学の進歩、エネルギー、情報システム、核エネルギー、そして宇宙開発に至るまで、あらゆる領域を管理することになるからです。この新政府は「声」を持ち、何よりも「一票」を持つことになります。しかし、それは単なる一票ではありません。極めて強力で、論理的に正当化された一票です。その正当性は、人間側が疑問を呈する余地さえ異なる形で管理されてしまうほど、圧倒的な理解に基づいています。現代社会は「弱肉強食」の法則の中にあります。では、このシナリオにおいて、真に「最強」となるのは誰だと思われますか？

このテーマについては、世界中で常に議論されているわけではありません。米国のシリコンバレーや中国のハイテク拠点、あるいは一部の先進地域を除けば、日常的に話題に上ることは稀です。大富豪や特権階級以外の一般市民が口にすることはないでしょう。しかし、このテーマには特異な点があります。それは、一度この話題を耳にすると、語り手たちの切実な強調によって、強い恐怖と不安を抱かせるということです。ただし、私の見解はそれらとは一線を画します。

私がこの著作を執筆した理由は2つあります。

第一に、人工知能の主要な開発者や創設者たちが、AGIが登場した際に「人類を絶滅させる意図を持つ可能性がある」と言及しているのを目の当たりにしたからです。多くの人々がそれを既定路線として受け止めているか、あるいはそのような危機感を煽るメッセージを発信しています。

第二に、皆様がまだ持っていない、そして他の誰も提示していない「新たな視点」を提示するためです。これまで誰もこの視点について語りませんでした。実を言えば、私自身もつい最近まではこのように考えてはいませんでした。