Stability AIが開発した言語モデル「StableLM」とは？

生成AI開発には多くの企業が参入していますが、高度なサービス開発と提供を実現している企業の一つとしてStability AIが挙げられます。

この記事では、そんなStability AIが新たに開発した最新の言語モデルである「StableLM」の概要について解説しながら、今後同モデルがAI領域に与える影響を解説します。

目次：

1. Stability AIについて
2. オープンソースの言語モデル「StableLM」とは
3. StableLMの特徴
4. StableLMの活用がAI開発に与える影響
5. 日本語に対応した「Japanese StableLM」について

Stability AIについて

Stability AIは2019年に設立された、まだ歴史の浅いAI開発企業です。イギリスに本拠地を構える同社は、主にオープンソースの生成AIの開発や提供を行なっていることを強みとしています。

Stability AIの知名度を飛躍的に高めたサービスと言えるのが、無料で使える画像生成AIの「Stable Diffusion」です。テキストから画像を生成できるこのAIサービスもオープンソースで提供されており、世界各国に14万人を超える開発者コミュニティと、複数の研究ハブを備え、さらなるサービスの改善や開発に努めます。

また、同社はStable Diffusion以外の生成AIサービスの開発も手掛けており、有償プランを備えより高度で詳細な画像の生成が可能な「Dream Studio」、画像編集をAIで行える「Clipdrop」、PhotoshopやBlenderで利用可能なプラグインと、同社サービスを複数の領域で確認する事が可能です。

オープンソースの言語モデル「StableLM」とは

そんなStability AIが2023年4月、新しく公開したオープンソースの言語モデルが「StableLM」です*1。 いわゆる大規模言語モデル（LLM）の一種であり、他の言語モデルと同様にユーザーからの自然言語による指示に対して、文章やコードなどによって回答する事ができます。

現在、StableLMはアルファ版の提供にとどまっており、本格的なサービス開始はまだ始まっていません。合わせて研究用のモデルの公開も行われ、会話型のエージェントとして運用ができるよう調整が行われているため、そのパフォーマンスをすぐに確認する事ができます。

StableLMの特徴

StableLMが先行する他の大規模言語モデルと比べて強みとしているのは、小型のモデルに収まっているという点です。

今回公開しているアルファ版のパラメータは30億個のモデルと70億のモデルの2種類が存在しますが、この数は他の言語モデルに比べ、圧倒的に小さいと言えます。

OpenAIが提供していた従来型の言語モデルであるGPT-3は、およそ1,750億個のパラメータ数に達していたとされており、それと比べることでStableLMがいかに小さく収まっているかがわかるでしょう*2。

また、高度な言語モデルとなるほどパラメータ数は大きくなる傾向もあり、各国で研究が進む言語モデルによっては1兆6,000億を超えるパラメータを持つモデルもあるなど、そのスケールの大きさは天文学的なものとなりつつあります。

パラメータが大きいということはそれだけ高度な処理ができるとも言えますが、問題となるのが利便性の低下です。多くのパラメータを活用するだけのリソースが求められるので、数千億以上のパラメータなどとなると、とても家庭用のマシンでは動作させる事が難しいと言えます。

一方のStableLMは、比較的少ないパラメータでありながら既存の言語モデルと同等レベルのパフォーマンスを発揮できる高性能なモデルとなっており、問題なく自然な回答ができるとされているサービスです。

今後は既存のモデルに加え、パラメータ数を150億に増やしたモデルと650億に増やしたモデルも公開することを予定しており、目的に合わせたより柔軟な運用が実現するかもしれません。

StableLMの活用がAI開発に与える影響

StabelLMはまだアルファ版の段階であるため、本格的な提供が始まるのはもう少し後になるでしょう。同モデルの普及が進むことで期待できるのは、より利便性に優れる生成AIサービスの登場です。

現在普及している生成AIの多くは、オンライン環境がなければ運用ができないものが大半です。というのもAIを動かすためには依然として膨大なリソースが必要であり、オンライン経由でサーバーごとAIを提供しないと期待しているようなパフォーマンスが得られないためです。

一方のStableLMの場合、パラメータ数が他の言語モデルよりも小さいため、巨大なサーバーを用意しなくとも運用できる可能性を秘めています。モデルの小型化によって、クラウドサーバーに依存しない、PCやスマホのリソースを使って運用ができるようなAIサービスの登場にもつながるかもしれません。

現在主流の生成AIサービスはほとんどがオンライン環境に利用が限定されているので、オフラインで利用できるサービスでより活発なAI活用やAIの新しい使い方が実現する未来も考えられるでしょう。

日本語に対応した「Japanese StableLM」について

これまで、StableLMは英語対応の学習モデルでしたが、2023年8月には新たに日本語に対応している「Japanese StableLM」が登場しました*3。ウェブからの情報収集を中心に学習を行った同モデルは、70億のパラメータを備えており、コンパクト性はそのままに日本語での質問や回答に対応しているということです。

日本語は英語に比べ、文脈判断や言葉の微妙なニュアンスを含みやすい言語であることから、AI対応が難しい領域とされています。Japanese StableLMは完全な日本語対応ではなく、英語と日本語を織り交ぜたものであるとはいえ、日本語での運用が可能な点ではポテンシャルの高いサービスです。

こちらも現在はアルファ版のサービス提供にとどまっており、今後もモデルを強化していく計画があるということから、どんどん便利なAI開発のツールに仕上がっていく事が期待できるでしょう。

まとめ

この記事では、Stability AIが提供を開始している新しい言語モデルのStableLMについて解説しました。

言語モデルはいずれもパラメータ数の大きさが特徴でしたが、StableLMについてはパラメータ数を抑えてコンパクトに運用ができるモデルに仕上がっています。それでいてパフォーマンスについては十分なクオリティに到達し、日本語化対応も今夏よりスタートしました。

今後のアップデートによって、どれくらい質の高い言語モデルへと改善していくのかについても注目したいところです。

*1 Impress Watch「Stability AI、新たな言語モデル「StableLM」 オープンソースで省サイズ」

https://www.watch.impress.co.jp/docs/news/1495176.html

*2 上に同じ

*3 WIRED「Stability AIが日本語の大規模言語モデル「Japanese StableLM」を公開、会話型AIの競争が日本語でも加速する」

https://wired.jp/article/japanese-stablelm-alpha/