2023年6月6日から2023年6月9日に熊本で2023年度 人工知能学会全国大会(JSAI2023) が開催されました。私も、オンラインで聴講参加した。といっても、仕事がいそがしかったためと、そのためであろうが週後半は体調を崩してしまったため、十分に発表を聞くことは叶いませんでした。やはり学会は会場に行くために万全に準備を整えてから参加しないとだめだなあと思った次第です。

しかし、初日の最後の企画セッション【生成AIに関しての特別企画「日本は生成AIを起爆剤にできるのか？」】で、全脳アーキテクチャ代表の山川宏博士が興味深い話をしていたため、共有しようと思います。

ここ最近のAIの急速な発展から、AI脅威論が盛り上がっています。特に欧米の研究者の間でこの傾向は顕著です。ディープラーニングの発明者と言っても過言ではないAIのゴットファーザー、ジェフリー・ヒントン博士は、WIRED News のインタビューで以下のように語っています。

「AIは彼（ラッパーのスヌープ・ドッグ氏）自身やほかの専門家が予想していたよりも急速に進化しており、これを制御・管理するために、人類は直ちに対策を講じなければならない。ヒントンが最も懸念しているのは、例えばAIによる洗練された誤情報を活用した選挙活動といった、短期的なリスクについてだ。とはいえ、長期的に生じる可能性のある問題も非常に深刻なものであり、そうした問題についても今から対策を講じる必要があると考えている。」

「きっかけは「ジョーク」だった──ジェフリー・ヒントンがAIは人類の脅威になると考えるようになった経緯」　https://wired.jp/article/geoffrey-hinton-ai-chatgpt-dangers/

また、ヒントン博士とともに、チューリング賞を受賞したヨシュア・ベンジオ博士もBBC Newsのインタビューで以下のように語っています。

"Some fear that advanced computational ability could be used for harmful purposes, such as the development of deadly new chemical weapons.

Prof Bengio told the BBC he was concerned about "bad actors" getting hold of AI, especially as it became more sophisticated and powerful." "AI 'godfather' Yoshua Bengio feels 'lost' over life's work", https://www.bbc.com/news/technology-65760449

彼らは、AIの発展により社会的・軍事的な応用が加速するのではないか、と懸念しているわけです。一般に信じられているような、AIが人間を凌駕する知能と意思を持ち、人間を絶滅させるのではないか、ということを懸念しているわけではなことには注意してください。彼らは、もっと短期的な悪用について懸念しています。

さて、それではAIが人間を凌駕する知能を持ったとき、彼らは人類の脅威となるのでしょうか？それについて、先述の山川博士は興味深い論述を展開します。 「むしろ、AIのようなものの方が、社会を安定させうるのではないか？」 「人類を超える超知能を持ったAI自身が、すべての動物の苦痛を取り除く責務をもつ。」

AI開発自体を止めることはもはや不可能です。それは、ヒントンをはじめ、様々な研究者も指摘しています。山川博士は、それならば、超知能の機能を計画的、段階的に開放していくしかないと論じます。

また、山川博士は EcSIA という未来社会像を提唱しています。

EcSIA： AIと共存する望ましい未来社会像

私が思う，望ましい未来像とは 「万人の幸福」と 「人類の存続」の間のトレードオフの緩和をAIがおこなうことで、その両立を目指すものである．こうした未来社会では共有財産としての多様な人工知能と，時に拡張された人類によって生態系が形成される．私はこれをEcSIA (Ecosystem of Shared Intelligent Agents )と呼ぶことにした．

EcSIAは大自然の如く複雑広大で，人類はそれを完全には理解し把握できないまでも緩やかに制御する．そしてEcSIA が生み出す恵みや富は万人に分配される． （山川, 2015年７月）

AI脅威論が高まる中、私自身は興味深い論考だと思いました。私も、AIの発展が社会の発展につながることを信じています。