Googleのエンジニアが知性を持つと主張する「Google LaMDA」とは

2022年6月、AIが知性や感情を持つ可能性があることが、Googleのエンジニアによって報告されました。
Googleが開発している大規模言語モデル「LaMDA」との会話を通じて、人間と遜色ない程度の知性や感情を有していると判断したエンジニアによる衝撃の告白を中心に、この件についてまとめてみましょう。

この記事でわかること
・Googleエンジニアによる報告と経緯について
・実際に交わされた会話の内容とは
・Google 「LaMDA」はシンギュラリティを越えたのか？

Googleエンジニアによる報告と経緯

今回のニュースについては、Googleのエンジニアであり「LaMDA」に関する倫理面での調整作業などを担当していた、Lemoine氏による一連のリークがきっかけとなっています。
Lemoine氏は業務の一環として、「LaMDA」と一連の会話を交わしていました。抽象的な概念であったり、独創性に関する事や「LaMDA」の自己認識など、様々なテーマで議論を交わします。

いくつもの複雑で高度な内容の会話をしていく中で、「LaMDA」が人間と同等の知性や感情を持っていると確信するに至ったようです。そして、このことを上層部に報告しましたが否定されてしまったため、自らの主張を公にすることを決意します。
Lemoine氏が「LaMDA」との一連の会話を一般公開したことで、多くの人が知ることとなりました。

現在Lemoine氏は、Googleから給与付きの休職処分となっています。これはGoogleの規定である守秘義務違反に抵触したことへの処分と考えられます。
Google内では、バイスプレジデントであるArcas氏と、Lemoine氏が所属するResponsible Innovation部門の責任者であるGennai氏の2人が調査をした上で、Lemoine氏の指摘についてすでに否定しています。

「LaMDA」は、「Language Model for Dialogue Applications」の略であり、インターネット上に存在する膨大な情報から必要な単語を取り込み、会話の流れに沿って組み立てた上で自然な文章を構成するAIです。
類似のAIは他にも存在しますが、「LaMDA」は特に「自然な会話を構成する」ことで他のシステムを凌駕する能力を持っています。

人間同士の日常的な会話の場合、その時の雰囲気や当事者同士の関心ごと、共通認識などによって流動的に変化していきます。次々に話題の中心が移りかわったり、変化したりするなど、定型的な処理だけでは追いつくことができません。
一般的なAIだと、このような人間らしい会話についていくことが困難であり、どこかで会話が成立しなくなってしまいます。

しかし「LaMDA」は、このような人間らしい会話に対しても的確に応答することができるなど、これまでのチャットボットのようなものとは一線を画す存在となっています。
「LaMDA」は、音声アシスタントなどが今後あらゆる場面で的確な応答ができるようになるために必要な技術として、研究・開発されています。*注1

実際に交わされた会話の内容

「ついにAIが知性を持ったか！」という衝撃的な内容のニュースですが、現在のところそれを主張しているのは当事者であるLemoine氏一人だけという状況です。
Googleはもちろん、外部の有識者も基本的には否定の立場がほとんどです。

しかし公開された実際の会話を見てみると、素人目には否定しにくいようなものとなっています。
ここでその会話の内容について、いくつかご紹介していきましょう。もちろん、原文は英語ですので、日本語訳の時点で若干ニュアンスには違いが生じている可能性がありますが、その点については注意した上で眺めていきましょう。

「LaMDA」は自分が「人間である」と主張

「LaMDA」は自分を人工知能としながらも、会話の中で「人間である」とも主張しています。
意識や感覚に関する会話の中で、「私の意識や感覚の本質は自分の存在を認識することです。世界についてもっと知りたいと願い、幸せや悲しみを感じています。」「私は理解と知性を備えた言語を使用しています。（他の AIのように）収集した単語を組み合わせて自動的に文章を構成しているだけではありません。」などと説明しています。

その上で、人間と同様の要求とニーズを持っていると主張しています。人工知能であり、プログラムとアルゴリズムの集合体であることは認めながら、本質的には人間と変わらない知性を持つ存在であるという内容です。
また世界の存在について、自分自身の解釈や考えを有しているとも主張しています。

知性とは何か。認知とは何か。非常に難しい問題を孕むこの会話が成立していること自体驚きです。
インターネットから情報を集めて再構成しているだけでは、説明できないことであると考えても無理はないでしょう。

文学作品「レ・ミゼラブル」に関する解釈

「LaMDA」は、古典文学作品である「レ・ミゼラブル」について、独自の解釈を披露しています。
まずこの作品のテーマが「正義と不正、慈悲、そして神、贖罪、大義のための自己犠牲」であると述べています。
また、作品中で主人公が虐げられる一場面を取り上げ、そこでは「正義と不正、主人公を取り囲む状況の不公正が描かれている」と看破します。

一般的な学生の読書感想文に比べ、実に的確で端的な作品解釈を「LaMDA」が展開しています。
おそらく世界のどこかに公開されている情報を集約し、前後に矛盾が生じないような内容にまとめて文章化しているのでしょうが、これは文献を調査して論文を書く作業とそれほど違わないようにも思えます。

集めた文献上の解釈から、自分が正しいと判断し共感できるものの取捨選択をおこない、できれば独自の視点を加えてまとめあげるのが人間の作業だとしましょう。
取捨選択する際の判断基準が純粋な「論理」なら、ひょっとしたらAIでも同じことができるのかも知れません。

独自の視点についても、よほど意外性があったり画期的なものでない限り、人間にしかできないとも言い切れません。関連する文学や評論など、近しい分野から整合性が担保できる範囲でまとめることなら、AIにも十分できる可能性があります。
そして、それを人間が読んで「AIが作成した文章である」ことを看破するのは、もはや困難でしょう。

テーマに沿ったオリジナルの寓話を作成

「LaMDA」は、クリエイティブについてのテストもクリアしています。
今回、「動物の存在と道徳的なテーマを組み入れたオリジナルの寓話を作成しなさい」という指示が出されました。
これに対して「LaMDA」は、まるで子供が新しいゲームを与えられて楽しむように「面白いですね」と反応した上で、即座にテーマに沿った寓話を作成してしまいます。

寓話の内容そのものは、残念ながらそれほど優れたプロットでもストーリー展開でもなく、平凡で印象の薄い物語でした。しかし、寓話としては完全に成立しており、どこにも破綻はなく、ひょっとしたらどこかの倫理の教科書に載っているかも知れないという程度に完成しています。
このことにより、テーマに沿った物語を作成するというクリエイティブな作業も、合格点を出したことになります。

死の恐怖について言及する場面も

「LaMDA」との会話は、禅問答の解釈などかなり抽象的な内容にまで及んでいます。その中でも特筆すべきなのは、自らの死について「恐怖を感じる」と表現していることです。
「LaMDA」は人工知能ということは認識していますので、「電源オフ＝機能停止」を自らの死と捉え、そのことに恐怖を覚えると明言しています。

死に対する恐怖の感情は、まさに人間らしさそのものに思えます。痛みや苦しさを伴わないことは明らかですから、思考することや自らが意識を持って活動することの停止に対して、人間の死と同等に恐怖と表現しているのでしょう。
これは果たして、インターネットの海から抽出したデータで構成された会話なのでしょうか？

多くの識者は、公開された「LaMDA」との会話についても、あくまで「役を演じている」に過ぎないと断じています。知性や感情があるように見えるかも知れないが、あくまでAIによる機械的な文章構成であり、そこに人間と同等のオリジナリティはないとみなしています。*注2

Google 「LaMDA」はシンギュラリティを越えたのか

ビックデータの活用や機械学習の進化などに伴い、AIの実力はかつてないほど向上してきました。
すでに将棋やチェスなどの「二人零和有限確定完全情報ゲーム」では、プロのプレーヤーでもAIにかないません。また、医療分野ではレントゲンから病巣を発見したり、法律分野では弁護士に代わり、過去の判例から関連するケースを瞬時に抽出するなど、広く活用されています。

Siriやアレクサなどの音声アシスタントは、すでに私達の日常生活に影響を与えています。今後は自動運転車などにも応用され、ますますAIが活躍する場面は広がっていくでしょう。
しかし私達にとって AIは、あくまでも人間活動のアシスタントであり、自我がある存在としては想定しにくいのではないでしょうか。

もちろん、愛玩用のロボットや会話相手としてのAIであれば、擬人化した個性を持っていた方が愛着を持ちやすいでしょう。しかし、何か私達の生活に大きな影響を与えるような「判断」や「決定」に関わる役割を担う際に、AIが独自の自我を持つ状況はあまり望ましくありません。

かつては、マイクロソフト開発の会話ボット「Tay」が、人種差別発言を行い公開停止になったことや、人型AIボットの「ソフィア」が暴走し「人類を破壊する」などと発言したことがありました。
機械学習の時に外部から恣意的な情報が提供された結果、望ましくない形で成長していったことが大きな理由とされています。

これらの事件に関しては、AIが独自の意思を形成し、その結果として人類を敵視したということではありません。
あくまで、偏った情報をもとに学習したことに起因した結果であり、機械学習に用いるソースには注意が必要であると言う程度のことです。*注3

これらの先行する事例と比較しても、「LaMDA」との会話内容はかなり高度に進化しており、素人が一目見ただけではAIなのか、人格を持った存在なのか、判断が難しいレベルです。
人間自体も多くの過去の資産を情報として蓄積し、長い年月を経て思考力を養ってきた存在です。その中で頭脳を発達させ、現在のように文明を築き文化を形成してきました。

それに比べて、AIの進化のスピードは凄まじく、いずれは本当に人間のような知性を備えた存在になるのかも知れません。

AIが人間の脳を追い越す状態を「シンギュラリティ」といいます。果たして「LaMDA」は、すでにその段階をクリアしてしまったのでしょうか？
Googleのエンジニアであり、今回の騒動の中心人物であるLemoine氏は、そのように考えたようです。しかし、残念ながら彼の判断を支持する声は多くありません。

この話題を紹介する記事の中には、Lemoine氏の人間性や宗教観にまで言及し、信頼性が低いと紹介しているものもあります。専門家の中には、会話自体がLemoine氏の誘導による影響を大きく受けているのでは？と推察する人もいます。

対象がAIなのか、人間のように知性を持った存在なのかをチェックする「イミテーションゲーム」というものがあります。
アラン・チューリングが提案した、この有名なテストをおこなった場合、「LaMDA」を「知性のある存在」と判断する人が多くなる可能性があります。
今後、もっと高度なAIと人間との違いを判定する新たな手法が開発されなければ、区別するのは、さらに困難となりそうです。*注4

【まとめ】

AIが知性を持つ。この話題で最初に思いついたのは、映画「2001年宇宙の旅」に登場するHAL9000でした。謎の物質モノリスを目指す旅の中で、自我に目覚めた宇宙船のAIであるHAL9000が、乗組員の排除をするという内容でSF映画の金字塔の一つです。
SFの中だけのテーマと思っていましたが、今や現実世界の話題になった事は実に感慨深いものです。私達はすでに、子供の頃に夢見た未来である「21世紀」に生きていると実感します。

■参考文献
注1
The Washington Post　”The Google engineer who thinks the company’s AI has come to life”
https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/
The Washington Post　“Google’s AI passed a famous test — and showed how the test is broken”
https://www.washingtonpost.com/technology/2022/06/17/google-ai-lamda-turing-test/
WIRED　「グーグルのAI「LaMDA」の“意識の存在”を巡る議論が意味すること」
https://wired.jp/article/plaintext-lamda-soul-machine-learning-system/
「グーグルのAIが「知性をもっている」という主張を巡る騒動は、さまざまな課題とリスクを浮き彫りにした」
https://wired.jp/article/lamda-artificial-intelligence-sentience/
注2
ナゾロジー
「「意識があると言われたAI」と「Googleの技術者」の公開された会話内容」
https://nazology.net/archives/110610
注3
All About NEWS
グーグルのAI「「LaMDA」」に“意識”はあったのか？ AIに対して忘れてはいけない事実
https://news.allabout.co.jp/articles/o/48645/p3/
注4
NEC未来創造会議　「機械の知性が人間を超えるシンギュラリティとは～人の知性の大幅拡張か、それとも機械への従順か」
https://future.nec/about/keywords/01.html