計り知れない価値を生み出す一方、社会に新たな問題や懸念をもたらしつつあるAI（人工知能）。倫理や法律の観点から科学技術と向き合い、課題解決をめざすELSI（エルシー）の役割について考える「ELSI大学サミット」が15、16の両日、東京都内で開かれた。大学や政府、メディアが果たす役割と、その連携の重要性について、研究者や経営者らが話し合った。

（中央大ELSIセンター、大阪大社会技術共創研究センター主催、朝日新聞社など後援）

　パネルディスカッションのテーマは「AIと人間の構想力の未来」。研究者らがAIとの向き合い方を討論した。

　パネリストは、工藤郁子・大阪大特任准教授、斉藤邦史・慶応大准教授、徳田英幸・情報通信研究機構理事長、木下真吾・NTT研究企画部門長、木村忠正・立教大教授の5人。石井夏生利・中央大教授がモデレーターを務めた。

　木下　（チャットGPTなどで知られる生成AIの）大規模言語モデル（LLM）は言語だけでなく、世界の概念を理解し始めているとの見方がある。人間の想定を外れて「うーん、そうか。そういうのもあるな」という答えも出すが、まだ納得感はある。

　ところが、AGI（汎用（はんよう）人工知能）やASI（超知能）の回答は、それが何かさえ、私たちには分からない域に達するかもしれない。AIの内部が理解できないことは不信感にもつながるため、NTTは米ハーバード大と内部構造を理解する「知性の物理学」の研究をしている。

　木村　ネット世論をめぐる私の研究では、「優位な集団が下位の集団を従えてよい」と考える対立的な志向が世界的にあふれてきている。

　こうした「汚染された」文章データをAIが学習し、その生成文章で私たちの情動が刺激され、発信する――。こうしたフィードバックを防ぐためにも、AIの内部構造に人間の情動や道徳といった要素がどのように組み込まれているのかを解き明かすことが欠かせない。

　石井　AIと共存していくために、ELSIが果たす役割とは。

　工藤　科学技術が最大限のスピードを出せるよう、ELSIはブレーキやガードレールの役割を果たすと言われる。加えて、「こちらの方向に進んだ方がよい」と示すハンドルやヘッドライトのような役割も担えるのではないか。AIのイノベーションとリスク対応を両立する上で、日本ではどんな価値を最も優先していくのか。社会に開かれた形での議論が必要だ。

　斉藤　どんどん進む技術とELSIの役割で言えば、法制度は「後追い上等」だ。地に足の着いた地道な作業が重要になる。先回りしようと的を外してしまっては、誰も制度を守らなくなる。消費者保護など当たり前の理念を組み合わせて、堅実に対処していけばよい。

　徳田　国の「ムーンショット型研究開発事業」制度には、最先端の研究開発チームの中に必ずELSIの研究者も参加して協業する仕組みもある。技術側の研究者だけが黙々と研究する時代は終わりを迎える。いずれAGIが実現するかもしれないが、人間の技術開発チームと、ELSIチームの共創の力を引き出す「エンパワーメント」ツールにできることが理想だ。

【解説】AIの進化と規制の動向

　ELSIは倫理的（エシカル）、法的（リーガル）、社会的課題（ソーシャル・イシューズ）と、その解決策を示す言葉だ。

　課題解決のために生み出されながら、かえって問題を生じさせる科学技術もある。そうしたことに対処するためにELSI研究が生まれ、技術の高まりとともに重要性は増している。

　新興技術の中で、特に社会へのインパクトも懸念も大きいのがAIだ。

　1947年に「考える機械」という概念が提唱され、AIは長く基礎研究の時代が続いた。

　2010年代に「深層学習」と呼ばれる技術が発達すると、画像認識の精度が高まり、将棋などで人間に勝る力を示すようになった。

　22年にはChatGPT（チャットGPT）などの生成AIが相次いで登場。人間のような文章を生み出せるようになった。プログラミングではなく、人間の言葉でのやりとりが可能だ。

　論理的な思考力も上がり、急速に実用化されつつあるのが「AIエージェント」技術だ。オンラインの買い物や店の予約をAIに頼んだり、コンピューターの操作自体をAIに任せたりする例もある。

　文章や音声、動画など多様なデータ様式を扱う「マルチモーダルAI」の開発も進み、ロボットとの融合も期待される。

AGIは理想か、脅威か　日本でもAI法案が国会へ

　理想型として語られ始めているのがAGI（汎用（はんよう）人工知能）だ。米オープンAIなど主要な企業が開発の目標としている。人間並みの知能を持ち、自律的にどんな課題にも対処できるAIだ。

　さらに人間を超えるような「超知能」に至るとの見方もある。AI独自の価値観や意図が生まれたり、自身や別のAIをプログラミングしたりすると想定され、制御できなくなる恐れも指摘される。

　現在の生成AIでも、コンピューターウイルスやフェイク画像が作られている。政府は2月、AI法案を国会に提出。研究開発や活用の推進とともに、国民に危害が及ぶ場合は政府が調査する。

　事業者には政府に協力する努力義務を課す。違反しても罰則はないが、悪質なら事業者名の公表も検討しているという。