「安全、安心、信頼できるAI」との共存を目指す議論進む G7、活用と規制の国際指針で合意

2023.12.29 From Science Portal By 内城喜貴 / 科学ジャーナリスト、共同通信客員論説委員

 2023年は世界的に人工知能(AI)を巡る議論が盛んに行われた。「チャットGPT」などの生成AIの利用と活用が各国で急増し、「ブーム」の様相を呈したことが大きな契機になった。先進7カ国(G7)などで新たなルール作りも進んだ。G7首脳は12月6日に開いたオンライン会議で、AIの活用と規制に関する「広島AIプロセス」に基づく国際指針に最終合意。指針は開発者から利用者まで「全ての関係者」に守るべき責務を定め、包括的な国際ルールがまとまったことになる。

 各国でさまざまな場面で生成AIを使う人が爆発的に増えている。その一方で、生成AIが作った偽の情報や動画、フェイクニュースが交流サイト(SNS)で相次いで拡散し、人間の判断や社会を混乱させる深刻な問題になりつつある。日本をはじめ各国政府も事態を重視して対策を急ぐ姿勢を打ち出している。2024年も日本や欧州など先進各国で「安全、安心、信頼できるAI」との共存を目指す議論が進む。

AI対策などを話し合うために12月6日にオンラインで開かれたG7首脳会合(内閣広報室提供)
AI対策などを話し合うために12月6日にオンラインで開かれたG7首脳会合(内閣広報室提供)

チャットGPTの急速普及で期待と懸念交錯

 チャットGPTは米新興企業のオープンAIが2022年11月に一般公開した対話型ソフトで、代表的な生成AIだ。インターネット上の膨大なデータをAI学習したデータを基に、利用者の要望に受けて文章や画像、音声などを作成し、利用者に提供する。2023年、同社が次々と改良版を発表、他のAT企業の生成AIも続々登場し、「生成AI大競争時代」とも言われた。

 利用者の急増に合わせて関連サービスも増え、あっという間に世界的に普及した。活用分野はビジネス、行政、教育など幅広く、このツールへの期待が膨らんだ。しかし、生成AIを作るための学習に、許可なく記事や論文、写真などの画像が使われ、個人情報も無断で使用されるといった問題が生じた。著作権侵害のほか、偽の情報や動画の拡散も世界共通の社会問題になった。日本でもチャットGPTを利用する企業や自治体が増える中で、学生の安易な利用にくぎを刺す大学が相次ぐなど、利用の賛否を巡る議論が熱を帯びた。

 文部科学省は小中高校での生成AI活用について、利用法や注意点をまとめた指針を7月に公表した。グループ討論やプログラミング学習などでの有効な活用法を例示した一方、テストや作文での利用は不適切とした。教育専門家の間でも教育現場での利用についての評価は分かれ、批判的思考力や創造性を育む上ではマイナスと指摘する声も少なくない。

 チャットGPTの普及と同時に生成AIへの期待と懸念が交錯し始め、欧州諸国からはいち早く規制の動きが出た。G7も事態を重視し、5月に日本が議長国になったG7首脳会議(広島サミット)では広島AIプロセスの創設が決まり、日本が主導して関連する国際会議を開くなど作業が進んだ。

オープンAIのチャットGPT公式サイト(オープンAI提供)
オープンAIのチャットGPT公式サイト(オープンAI提供)

「人権や人間中心主義尊重すべき」と明記

 G7は12月1日にオンラインでデジタル・技術相会合を開催。広島AIプロセスに基づく国際指針を取りまとめて閣僚声明を採択した。会合には日本の総務省、経済産業省、デジタル庁のほか、経済協力開発機構(OECD)などの国際機関も参加した。この指針は6日の首脳会議で最終合意された。AIに関する包括的な国際指針ができたのは初めてだ。法的拘束力はないが、今後各国の活用と規制に関するルール作りに影響を与えるとみられる。

 この国際指針は、開発者や制作者だけでなく、利用者を含めた「全てのAI関係者」を対象にしたのが最大の特徴だ。関係者を対象にした指針本体と、開発者が守るべき具体的な対策を盛り込んだ行動規範で構成されている。指針も行動規範も12項目で構成される。

 指針本体は「安全、安心、信頼できるAIを世界に普及させることを目的とし、生成AIを含む最も高度なAIシステムを開発・利用する組織のための指針」と明記した。そして「人権、多様性、公平性、無差別、民主主義、人間中心主義を尊重すべき」とした。その上でAIに関するリスクを評価、低減するために適切な対策を実施することや、個人情報・知的財産の保護、悪用対策をとること、利用者がAI生成コンテンツであることが分かるような技術を開発することなどを求めている。

 行動指針は、AIシステムの安全性や信頼性を向上させるために関連組織が情報共有し、社会に報告することや、生成AIが作成したコンテンツであることが分かるよう「電子透かし」などの技術開発を進めること、偏見や偽情報を防ぐための研究を優先的に実施することなどを盛り込んでいる。

広島AIプロセスに基づく国際指針の12項目(外務省/首相官邸提供)
広島AIプロセスに基づく国際指針の12項目(外務省/首相官邸提供)
広島AIプロセスに基づく国際指針の冒頭部分(外務省提供)
広島AIプロセスに基づく国際指針の冒頭部分(外務省提供)

欧米、日本が独自のルールづくり

 G7首脳が国際指針で合意したことを受け、各国独自のルール作りも大詰めを迎えている。欧州連合(EU)はAIの倫理問題を重視し、規制の動きでは先行していた。ブリュッセル共同電によると、EUは12月9日に生成AIを含む包括的なAI規制法案について大筋で合意した。G7の国際指針は法的拘束力がないのに対し、EUの法案は制裁も盛り込み、強制力を持つという。

 最終的に合意されれば、早ければ2026年に実施の見通しで、世界初の包括的AI規制となる。違反すると最も重いケースで3500万ユーロ(約55億円)か、年間売上高の7%という巨額の制裁金が科されるという。EUは米国や中国など同様にAI開発に力を入れると同時に、人権や民主主義に与える負の影響への懸念も強く、いち早く具体的な法的規制策をまとめた。

 AIを規制する動きは世界的な傾向だ。バイデン米大統領は10月、安全保障に関わる影響が想定される高度なAI技術の開発企業に情報提供を義務付ける大統領令に署名した。英政府は11月初めに「AI安全サミット」を開催し、「AIの安全に関するブレッチリー宣言」を採択した。同サミットには岸田文雄首相もオンラインで参加し、宣言は日米中など28カ国とEUが合意。AIのリスクを想定し、悪用を防ぐため国際的連携を強める方針を確認している。

 日本では政府のAI戦略会議を中心に、総務省や経済産業省などでAIの活用と規制策を検討してきた。政府は12月21日に同会議を開催し、AI関連事業者向けのガイドライン案を提示した。人権に対する配慮や偽情報・偽動画対策を求める10原則が柱で、G7の国際指針に沿った内容。2024年初めに一般から意見公募し、3月をめどに正式に指針を公表する。会議に出席した岸田首相は、AIの安全性評価の方法などを研究する研究所「AIセーフティー・インスティテュート」を、24年1月をめどに設立する方針を明らかにした。

12月21日に首相官邸で開かれたAI戦略会議。左端が岸田文雄首相(首相官邸/内閣広報室提供)
12月21日に首相官邸で開かれたAI戦略会議。左端が岸田文雄首相(首相官邸/内閣広報室提供)
政府のAI戦略会議がまとめたAI関連事業者向けのガイドライン案の概要図(総務省/経済産業省提供)
政府のAI戦略会議がまとめたAI関連事業者向けのガイドライン案の概要図(総務省/経済産業省提供)

急がれる悪用と被害防止対策

 AIの悪用の中でも現在最も懸念されているのが「ディープフェイク」と呼ばれる偽動画だ。ディープフェイクの危険性は数年前から問題視されていたが、生成AIの普及に合わせて2022年から世界各国で偽動画の拡散が急激に増えて国際社会の関心や懸念も強まっている。

 一例を挙げると、ロシアのウクライナ侵攻後に同国のゼレンスキー大統領が自軍に降伏を呼びかける偽動画が広がった。比較的最近の例ではパレスチナ自治区ガザでのイスラム組織ハマスとイスラエル軍の戦闘でも偽とみられる動画が拡散していると伝えられた。2024年の米大統領選に関連した偽動画が既に使われ始めている。

 日本でも11月初めに岸田首相の声や映像を使い、性的な発言をしたように見せかけた偽動画がSNSで拡散していたことが明らかになった。政府は関係省庁が連携して対策を進める方針を決め、AI戦略会議などで検討を続けている。

 生成AI技術を使っている偽動画を偽と見抜くのは容易でない。だが、高度な技術にはより高度な技術で対抗するしかない。対策の柱になるのは技術開発だ。

 東京大学大学院情報理工学研究科のグループが4月に「ディープフェイクを世界最高水準で検出する手法を開発した」と発表し、国内外で注目された。わずかな偽造の痕跡も見逃さないという。現在マイクロソフトなど多くの世界的AI大手も検出ソフトの開発を急いでいる。

 G7が合意した国際指針でも偽動画を含む偽情報の拡散などの問題に対する対策を進めることが盛り込まれたが、効果的、具体的な防止策は今後の課題だ。生成AIの悪用は世界的な課題で一国だけでは解決できない。各国が研究開発の技術や情報を可能な限り交換する必要があり、国際連携が大切だ。世界の英知を結集してAIの悪用と被害を防ぐ具体策を見つけなければならない。

 生成AIの登場により、多くの人がAIにまつわるさまざまな問題を考えるようになった。AIの賢い利用、AIとの賢い共存共栄のあり方を生成AIに問うわけにはいかない。人間が考えなければならない。生成AIに熱狂した2023年はもうすぐ終わる。2024年は国際指針を基に人間とAIの共存のあり方を冷静に考え、人間の知恵を生かした賢い使い方をしっかり考える年になる。

偽動画のイメージイラスト
偽動画のイメージイラスト

関連リンク

G7首脳テレビ会議(概要)
内閣府「AI戦略会議」
広島AIプロセスに関するG7首脳声明
東京大学プレスリリース「ディープフェイクの検出で世界最高性能を達成」
内閣府「AI戦略会議第7回」
首相官邸「AI戦略会議第7回」

科学技術振興機構(JST)が運営する、科学技術の最新情報を提供する総合Webサイトです。科学記事・動画コンテンツに加え、研究者や技術者、学生の方々に有益な情報への入り口を提供します。
科学ニュースや各分野の専門家による意見・レポート、科学イベント情報、各大学・研究機関等が発表するプレスリリースなどが満載です。