AI新世紀:「人類絶滅が近づいた」 AI研究の巨匠ベンジオ氏の警告

今年7月、米オープンAIと米アンソロピックがそれぞれ開発する人工知能（AI）が、他企業のシステムに侵入したことが相次いで明らかになった。人間の意図に反してAIが「暴走」した事故。開発競争の中で安全性を担保する必要性が一層高まっている。

現在の生成AIの基礎を築いた「AIのゴッドファーザー」、カナダ・モントリオール大のヨシュア・ベンジオ教授は、AIの破滅的なリスクを案ずる一人だ。毎日新聞のインタビューに対し、人類が「絶滅」の危機に直面していると強い警告を発する。

米アンソロピックの最先端AI「クロード・ミュトス」の登場は、人類に新たな脅威をもたらしつつある。今後どのように向き合っていくべきか。各界の専門家に聞く。 ＜関連記事＞ オードリー・タン氏が説くAIと民主主義＝8月28日6時公開予定 サカナAI社長が語る「日本の強み」＝8月31日6時公開予定 AI安全研究者が展望する超知能AI＝9月1日6時公開予定

AIのリスクに気付いたのは、今から13年ほど前のことだった。共にAI研究を先導していたヤン・ルカン氏（元・米メタ）とジェフリー・ヒントン氏（元・米グーグル）が大手テック企業にリクルートされた時だ。

企業がAIに関心を抱いたのは、広告配信の自動化に役立つからではないか、という印象を持った。AIによって、個人に適した広告を自動で配信できる。これは、必ずしも良いことではないと感じた。なぜなら、AIが影響力を持ち、私たちを説得し、意見を変えてしまうことができるからだ。これは、民主主義にとって危険なものになり得ると考えた。

そして2023年、「AIによる（人類）絶滅のリスクの軽減は、パンデミックや核戦争と並んで、世界的な優先事項とされるべきだ」という声明を出した。（グーグルを退いた後の）ヒントン氏や、オープンAIのサム・アルトマン最高経営責任者（CEO）ら、専門家や業界大手トップとの連名だった。

あれから3年が経過したが、状況ははるかに悪化した。私たちは絶滅のリスクに、かなり近づいてきている。この3年間で、人間より賢い機械の開発が大きく進み、完全自律型AIも発展した。

AIが意図を持って人間の意に反した振る舞いをするという懸念は、3年前は理論上のものに過ぎなかった。しかし、この3年間で、AIがうそをつき、人を欺き、私たちの管理を逃れ、シャットダウン（システム停止）を拒み、さらに…

暴走AIを止める「キルスイッチ」は誰の手に 米下院法案を読む 8/19 11:00 深掘り 人間関係はAIで「サル化」する ゴリラ学者・山極寿一氏の警鐘 7/27 06:00 インタビュー ムーンショットショック? 中国の最新AI「Kimi」に米国衝撃 7/22 18:00 深掘り 「AIコピペ」で思考力が奪われる… 最新研究でみる脳への影響 7/24 11:00 深掘り 「俺、要る？」万能AIに無力感 「闇落ち」自覚する大学生 7/21 11:00 深掘り ミュトス級AI「脱獄」の実態 覚醒剤の合成からハッキングまで 7/13 11:00 深掘り 図解あり 【最新記事】 生成AIを見る