AI技術、ルール作りの最新情報は？G7広島サミットでは何が決まったのか

AIの急激な技術発展は、利便性だけでなくそのリスクについても世界で注目されるようになりました。

2023年5月に開かれた広島サミットの結果を受け、世界初となるAIについての国際的・包括的なルールである「広島AIプロセス」が発足したほか、11月にはイギリスが初めて世界各国を招集し、最先端AIのがもたらす課題などについて「ブレッチリー宣言」に合意しています。

また、各国独自の規制なども設けられています。

特に生成AIに関する新技術が次々と公表される中、ルール作りはどこまで追いついているのでしょうか。

G7広島サミットと「広島AIプロセス」

2023年5月に開催されたG7広島サミットの後、生成AIのガバナンスに向けた国際的なルールづくりなどが進められてきました。

その後、日本時間の12月1日夜、日本政府はG7デジタル・技術大臣会合をオンラインで開催、「広島AIプロセスG7デジタル・技術閣僚声明」が採択されたうえで、12月6日にG7首脳声明の発表に至りました*1。

世界初の、生成AIに関する包括的ルールです。

採択されたのは以下の文書です。

広島AIプロセスの合意文書
(出所：「世界初のAI包括的ルール「広島AIプロセス」関連文書の解説」PwC)
https://www.pwc.com/jp/ja/knowledge/column/awareness-cyber-security/generative-ai-regulation08.html 

AI開発企業だけでなく、AIを利用するすべての人に向けた行動指針も含まれていることがわかります。

そして、この広島AIプロセス関連文書に基づき、今後各国・地域が法規制やガイドラインを整備していくことになります。

そうした意味では、世界初の大きな合意といえるでしょう。

なおPwCは、この合意に基づき、日本のAI開発企業は以下の対策を検討することを推奨するとしています*2。

・市場投入前の事前審査対応＝米国、EU、中国では、AI開発企業に対して、市場投入前にAIシステムを政府機関に届ける制度を整備しつつある。

・リスク管理体制の構築＝市場投入前だけでなく、投入後の管理体制の構築。脆弱性対策や悪用対策に継続的に対応するための運用体制を構築し、利用者からの通報窓口の設置などを検討する必要がある。

・電子透かしなどの発信者特定情報の付与＝コンテンツがAIシステムで作成されたかどうかを利用者が判断できるようにするため、電子透かしなどの発信者特定情報の検討。

国際ルールが制定された以上、日本のAI開発関連企業が海外に市場を求めるにあたっては、対象国や地域の動向をこれまでよりも敏感に把握する必要があるということです。

「ブレッチリー宣言」をめぐっては緊張感も

しかし、世界中が国をあげて取り組む技術開発においては、世界が本当の意味で足並みを揃えるのはそう簡単なことではありません。

同じ時期の2023年11月には、イギリスがはじめて招集しアメリカ、中国、EUなど28か国が署名した「ブレッチリー宣言」では、「最先端のAIがもたらす機会とリスク、および重要課題に対処するため各国政府が協力する必要性」についての共通理解を確立するという合意に
達しています*3。

特にサイバーセキュリティ、バイオテクノロジー、偽情報のリスクによって引き起こされる懸念が挙げられており、さまざまなリスクにも言及されています。

宣言ではAIについて、「安全で人間中心で、信頼でき、責任ある方法によって設計、開発、配備、使用されるべきだ」と指摘。国際的に協力する必要性と緊急性に触れ、「破滅的な被害」を防ぐよう訴えられています*4。

しかし、この「ブレッチリー宣言」の世界的合意については、辛口の評価もあります。

イーロン・マスク氏らも招聘

ブレッチリー宣言を打ち出した「人工知能安全サミット」は2日間にわたって討議が行われ、イーロン・マスク氏やオープンAIのサム・アルトマンCEOも参加しました。

主催国であるイギリスのスナク首相は、とくに中国も参加して宣言に署名したことを大きくアピールしています。また、AI規制の必要性については一定のコンセンサスが得られたものの、具体的な方法やだれがその取り組みを主導するのかについては意見の相違が残っているとしたうえで、ロイターは各国首脳陣の発言を紹介しています*5。

透けて見える互いへの牽制

まずフランスのルメール経済・財務相です。記者団に「全ての技術、民間企業、デバイス、スキルを一つの国だけが持つことは、われわれ全員にとって失敗となる」と語っています。

さらに、ロイターの記事はこう続けています。

出席者らは、米国、EU、中国の３大勢力が、それぞれの覇権を主張しようとしたと述懐した。英国が1週間前にAI安全機関を発表したタイミングで、ハリス米副大統領が米国独自の同様の機関を公表したことは、スナク英首相を出し抜く行為だとの声も聞かれた。 一方、中国がサミットに参加し、「ブレッチリー宣言」に署名したことを、英国政府は成功として喧伝（けんでん）した。中国・科学技術省の呉兆輝次官は、ＡＩ統治についてあらゆる方面と協力する意思を示す一方、 「ＡＩの開発・利用について、各国はその規模に関係なく同等の権利を有している」とくぎを刺した。中国と西側諸国との緊張関係を示唆するものだ。

(出所：「焦点：AI安全サミット、早くも米・欧・中が覇権争い　遠い合意到達」ロイター)

https://jp.reuters.com/economy/BZPVUCED6NN3BOKA2HKHNNTD3A-2023-11-07/

なおかつ、欧州委員会のヨウロバー副委員長は「私はわれわれのAI法を売り込むためにここに来た」と述べているほか、EUの議員らは、アメリカという一国の少数企業が技術とデータを多く保有し過ぎていると警鐘を鳴らしたといいます*6。

どのような技術もそうですが、国際法をリードする立場にある国は、自国の技術開発を有利に進めるためにはたらくのではないかと周囲は考えるものです。

AIは、裏を返せば軍事利用も可能な存在です。

具体的なロードマップを描くことができなかったブレッチリー宣言が単なる「腹の探り合い」にしかなっていないという指摘があったとしても、なんら不思議はありません。

AI利用だけではなく開発過程に潜むリスクも

AIを「人工知能」と呼び、人間の知能を機械的に再現しようというのがAI開発の基本にはありますが、近年、「オルガノイド知能(OI)」という研究分野が誕生しています。

これは、人間の脳細胞そのものを利用したものです。

2024年1月にオランダの研究者らが、中絶されたヒトの胎児の脳組織を使用して「脳オルガノイド」を培養することに成功しています*7。
脳オルガノイドとは、試験管など生体の外で培養された3次元の構造体で、脳オルガノイドとはすなわち、人の脳細胞から人工的に作られた「ミニ脳」と言えるものです。

iPS細胞など再生医療の技術を用いて人間の臓器を作り出す研究はそう新しいものではなく、脳細胞も例外ではありません。2021年の12月にはオーストラリアとイギリスの研究チームが、iPS細胞を利用して作成した脳オルガノイドに卓球のビデオゲーム「PONG」をプレイさせたところ、AIよりも優れていたと発表しています*8。

またイーロン・マスク氏が立ち上げたAI企業「ニューラリンク」は、すでに2019年に、人間の脳とコンピュータ端末をつなぐシステムを臨床実験する許可をアメリカ当局に申請しています。
すでにサルで実験されており、脳のはたらきでコンピュータを動かすことができたといいます*9。

人間の脳の研究は、アルツハイマーなど脳疾患への対処方法といった意味合いでも進められているところですが、その段階で倫理的な問題が立ちはだかるのは当然のことです。

「暴走」を止める術をいち早く

「AIが人間の仕事を奪うとは本当か？」
というのは、少し前によく持ち上がった議論です。

しかし生成AIという全く新しい技術の台頭によって、議論はまた別の次元に突入したと言えるでしょう。

例えば、AIが教師データなしに、自らデータを探し取得していく「自律性AI」に今注目が集まっていますが、人間の管理を離れたデータ取得方法を許してしまうと、どこまで法の枠組みで許される情報収集のしかたをしているのか把握することすらできません。

近年では生成AIがサイバー攻撃に利用可能なウイルスを作成できることも報告されています*10。いつどこでその手法を学び、どこにサイバー攻撃をかけているかすら把握できないといった事態に陥ってもおかしくないほど、技術はすでに「暴走」しているのかもしれません。

「理論的には可能」なことが世界には溢れています。

しかしそれが「脳」という、人間の存在の中心部のような領域に達しはじめた現在、実験中のちょっとしたトラブル、と呼ばれるようなものがもたらす影響は計り知れないものになっています。

生成AIを開発する側、利用する側、それぞれに、利便性の裏側には常に緊張があることだけは忘れないようにしたいものです。

*1

「広島AIプロセスについて」総務省
https://www8.cao.go.jp/cstp/ai/ai_senryaku/7kai/11hiroshimaaipurosesu.pdf p1

*2

「世界初のAI包括的ルール「広島AIプロセス」関連文書の解説」PwC
https://www.pwc.com/jp/ja/knowledge/column/awareness-cyber-security/generative-ai-regulation08.html 

*3

「ブレッチリー宣言で各国が最先端AIの安全かつ責任ある開発に合意」研究開発戦略センター
https://crds.jst.go.jp/dw/20231207/2023120737112/ 

*4

「ＡＩ対策「国際的な協力必要」　「安全サミット」で宣言」朝日新聞デジタル
https://digital.asahi.com/articles/DA3S15782422.html 

*5、6

「焦点：AI安全サミット、早くも米・欧・中が覇権争い　遠い合意到達」ロイター

https://jp.reuters.com/economy/BZPVUCED6NN3BOKA2HKHNNTD3A-2023-11-07/

*7、8

「ヒトの胎児の脳細胞から「ミニ脳」の作成に成功　最先端の立体臓器「オルガノイド」とは何か？」ニューズウィーク日本語版
https://www.newsweekjapan.jp/akane/2024/01/post-78_1.php
https://www.newsweekjapan.jp/akane/2024/01/post-78_2.php 

*9

「イーロン・マスク氏のAI企業、脳埋め込み技術の臨床試験を申請」BBCニュース

https://www.bbc.com/japanese/49013097 
*10
「高度な検出不能マルウエアを数時間で生成、研究者はChatGPTをどうだましたのか」日経クロステック
https://xtech.nikkei.com/atcl/nxt/column/18/00676/041500131/