Today's PICK UP

AIによる日本語の自然言語処理研究の促進を目指し、日本語に特化した大規模言語モデルがオープンソースとして公開

rinna株式会社は、日本語に特化したGPT-2の大規模言語モデルを構築し、オープンソースとして公開したと発表した。

■背景

rinna社は、MicrosoftのAI&リサーチ部門でAIチャットボットの研究を行っていたチームがスピンアウトして2020年6月に設立したAI開発企業。ディープラーニング技術を活用し、AIが文脈に応じた会話文を自動生成して人間と自然に会話する「共感チャットモデル」、AIが話し声や歌声で豊かな感情表現を可能にする「音声合成システム」などの技術を発表してきた。これらの最新技術は、同社が運営するAIチャットボット「りんな」や、会話内容や音声表現をカスタマイズしてキャラクター性を持たせたAIチャットボットである「AIキャラクター」の開発に応用され、企業のマーケティングなどに使われている。

今回、製品開発のための自然言語処理(NLP)の実験過程で、日本語に特化したGPT-2の大規模言語モデルを構築。日本語のNLP研究コミュニティに貢献するために、開発した言語モデルと、研究者が自分のマシンで実験結果を再現するためのトレーニングコードを、GitHub、およびNLPモデルライブラリHuggingFaceで、オープンソースとして公開する。

■日本語GPT-2モデルの機能

言語モデルは、言語データの機械学習をもとに、会話や文章の「人間が使う言葉らしさ」を確率としてモデル化したもの。優れた言語モデルとは確率を正確に推定できるものを指す。例えば、“確率(吾輩は猫である)>確率(吾輩が猫である)”と推定できるのが、言語モデルの能力だ。GPT-2は、単語レベルの確率の組み合わせから文の確率を計算する言語モデル(自己回帰言語モデル)。例えば、“確率(吾輩は猫である)= 確率(吾輩) x 確率(は|吾輩) x 確率(猫|吾輩,は) x 確率(で|吾輩,は,猫) x 確率(ある|吾輩,は,猫,で)”のような方法で推定を行う。この能力を使って、GPT-2は「吾輩は猫で」という接頭辞(Prefix)を与えられたとき、確率の推定から次にくる単語として「ある」を選択し、文章を自動生成できるという。

今回、rinna社が公開した日本語GPT-2モデルは、一般的な日本語テキストの特徴を有した高度な日本語文章を自動生成できる。ユーザー/研究者は、特定のテキストデータを微調整して、このモデルから独自のモデルを作成することも可能だ。

例えば、Prefixとして「誰も到達していない人工知能の高みへ、ともに」という文章が与えられたとき、特定のコンテキスト(デモ1:講演の感想、デモ2:書籍の紹介)で応答文を生成するように、微調整できる。

【デモ1】講演の感想のコンテキストで文章生成
出典元:プレスリリース
【デモ2】書籍の紹介のコンテキストで文章生成
出典元:プレスリリース

■rinna社の日本語GPT-2モデルの特徴

同社の日本語GPT-2モデルは、以下の特徴がある。

・トレーニングデータとして、CC-100のオープンソースデータを使用している。
・Tesla V100 GPUを用いて、70ギガバイトの日本語テキストを約1カ月の長期間にわたってトレーニング。その結果、このモデルの性能は約18 perplexityを達成した。モデルは十分にトレーニングされており、汎用性があると言えるという。
・ユーザー/研究者が簡単にアクセスできるように、開発したモデルをHuggingFaceに公開。また、研究者が自分のマシンで同社の結果を再現できるように、トレーニングコードをGitHubに公開している。
・今回公開したのは、GPT2-mediumと定義される中規模サイズのモデル。今後、パフォーマンスとコストのトレードオフに基づいてユーザー/研究者が最善の選択をできるよう、異なるサイズのモデルも公開する予定だという。また、異なるデータでトレーニングした新しいモデルの公開も計画しているとのことだ。

人気記事

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国企業の最新動向から、DXのヒントを探っていく本連載。今回は、ガソリン車に代わるモビリティとして期待が高まるEV(Electric Vehicle=電気自動車)と、その核とも言える自動運転技術で世界をリードする中国の強さに迫ります。前編では「EV先進国」の名を欲しいままにしているその理由を、国の政策や技術の面から探ってきました。後編となる今回は、自動車産業に参入してきた新興メーカー3社を紹介するとともに、日本の立ち位置の考察、中国が抱える課題を話題に進めていきます。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。

メタバース覇権を握る、最有力候補!? フォートナイトを運営する「Epic Games」 〜海外ユニコーンウォッチ #6〜

メタバース覇権を握る、最有力候補!? フォートナイトを運営する「Epic Games」 〜海外ユニコーンウォッチ #6〜

「ユニコーン企業」――企業価値の評価額が10億ドル以上で設立10年以内の非上場企業を、伝説の一角獣になぞらえてそう呼ぶ。該当する企業は、ユニコーンほどに珍しいという意味だ。かつてはFacebookやTwitterも、そう称されていた。この連載では、そんな海外のユニコーン企業の動向をお届けする。今回は人気オンラインゲーム「フォートナイト」を運営する「Epic Games(エピック ゲームズ)」を紹介する。

自動車大国・日本がついに中国EV車を輸入。脅威の中国EVメーカー最新事情・前編 【中国デジタル企業最前線】

自動車大国・日本がついに中国EV車を輸入。脅威の中国EVメーカー最新事情・前編 【中国デジタル企業最前線】

中国企業の最新動向から、DXのヒントを探っていく本連載。今回は、ガソリン車に代わるモビリティとして期待が高まるEV(Electric Vehicle=電気自動車)と、その核とも言える自動運転技術で世界をリードする中国の強さに、前後編の2回にわたって迫ります。前編は、自動車大国・日本さえも脅かす存在になるほど進んでいる中国EV市場の実情をお届けします。

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

国内でMaaS(Mobility as a Service)実証が活発化している。新たな交通社会を見据え、既存の交通サービスの在り方を見直す変革の時期を迎えているのだ。 交通社会は今後どのように変わっていくのか。MaaSの基礎知識について解説した上で、海外のMaaSに関する事例を参照し、その変化の方向性を探っていこう。

【Netflix徹底解剖】Netflix4.0、世界最先端のDX戦略を追う

【Netflix徹底解剖】Netflix4.0、世界最先端のDX戦略を追う

全世界での有料会員数が2億人を突破。飛ぶ鳥を落とす勢いで快進撃を続ける企業、Netflix。現在の利用者の中には、彼らの事業が店舗を持たないDVDオンライン郵送サービスからスタートしたことを知らない人もいるかもしれません。1997年、小さなスタートアップ企業として創業したNetflixはその後、DVDレンタルのサブスクリプション、動画ストリーミング配信のサブスクリプション、そして動画オリジナルコンテンツの配信と、デジタルを基盤に着実にビジネスを変革し、今や皆さんご存知の通り、デジタルコンテンツプラットフォームの王者へと成長を遂げています。今回の「世界最先端のデジタルシフト戦略」vol.4では、そのビジネストランスフォーメーションの変遷を立教大学ビジネススクール 田中道昭教授に徹底解剖していただきます。小さなスタートアップ企業であったNetflixがいかに王者となれたのか。その変革の奥にある秘訣とは。DXに取り組む日本企業も見習うべき一貫した姿勢に迫ります。

『メタバースとWeb3』著者・國光 宏尚氏が語る、Web3時代に勝つ企業の条件

『メタバースとWeb3』著者・國光 宏尚氏が語る、Web3時代に勝つ企業の条件

「ブロックチェーン技術(※1)を中核とした非中央集権的なインターネット」として定義されるWeb3(3.0)。2021年以降、急速に注目を集めるようになったフレーズですが、全貌を理解している人は多くない、曖昧な概念であることも事実です。今回お話を伺ったのは、3月に上梓した『メタバースとWeb3』がベストセラーになり今やWeb3のエバンジェリストとして知られる、株式会社Thirdverse、株式会社フィナンシェ代表取締役CEO/Founderの國光 宏尚氏。「Web3時代に勝ち残る企業」をテーマに、 デジタルホールディングスのグループCIO(最高投資責任者)を務める石原 靖士氏がお話を伺いました。 ※1 ブロックチェーン 取引履歴(ブロック)を暗号技術によって1本の鎖のようにつないで記録することによって、データの破壊や改ざんを極めて難しくしたデジタルテクノロジーのこと。

BTSや乃木坂46も! SHOWROOMが提供する縦型動画アプリ「smash.」人気の秘訣

BTSや乃木坂46も! SHOWROOMが提供する縦型動画アプリ「smash.」人気の秘訣

「手のひらが特等席。」をコンセプトに、スマホの縦画面に特化した動画コンテンツを配信するバーティカルシアターアプリの「smash.」。2020年10月にスタートした新興サービスながら、今ではBTSをはじめとする韓流グループ、AKB48や乃木坂46などの有名アーティストが出演する多数のコンテンツを擁しています。SHOWROOM株式会社の執行役員にして、smash.事業責任者を務める嵐 亮太氏が考えるsmash.の独自性とは? これからの時代の動画コンテンツのあり方とは? ファンとアーティストの距離感はどう変わるのか? 気になる疑問を投げかけてみました。

コロナ禍でラジオが復権!? 民放ラジオ業界70年の歴史を塗り替えたradiko(ラジコ)の「共存共栄型 DX」とは

コロナ禍でラジオが復権!? 民放ラジオ業界70年の歴史を塗り替えたradiko(ラジコ)の「共存共栄型 DX」とは

Clubhouseをはじめ、新勢力が次々と参入し、拡大を見せる音声コンテンツ市場。その中で、民放開始から70年の歴史に「大変革」を巻き起こしているのが“ラジオ”です。放送エリアの壁を取り払う、リアルタイムでなくても番組を聴けるようにするといった機能で、ラジオをデジタル時代に即したサービスに生まれ変わらせたのは、PCやスマートフォンなどで番組を配信する『radiko(ラジコ)』。今回は、株式会社radiko 代表取締役社長の青木 貴博氏に、現在までのデジタルシフトの歩みと将来の展望について、お話を伺いました。

マンガアプリ世界NO.1。急成長市場の覇権を握る「ピッコマ」の戦略

マンガアプリ世界NO.1。急成長市場の覇権を握る「ピッコマ」の戦略

8万以上タイトルの人気マンガやノベルを取り扱い、累計ダウンロード数は3,000万を超える電子マンガ・ノベルサービスの「ピッコマ」。サービス開始は2016年4月という後発ながら、23時間待てば一話を無料で読める「待てば¥0」サービスを他社に先駆けて導入するなど、新しい試みを積極的に取り入れ業界トップに君臨しています。短期間でピッコマが躍進を遂げた理由から、従来のマンガに代わる新しい表現形式である「SMARTOON」の魅力、今後のグローバル展開について、株式会社カカオピッコマ常務執行役員の熊澤 森郎氏にお話を伺いました。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

「ユニコーン企業」ーー企業価値の評価額が10億ドル以上で設立10年以内の非上場企業を、伝説の一角獣になぞらえてそう呼ぶ。該当する企業は、ユニコーンほどに珍しいという意味だ。かつてのfacebookやTwitter、現在ではUberがその代表と言われている。この連載では、そんな海外のユニコーン企業の動向をお届けする。今回は欧米を中心に注目されている「代替肉」を扱う「インポッシブル・フーズ」を紹介する。

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

国内でMaaS(Mobility as a Service)実証が活発化している。新たな交通社会を見据え、既存の交通サービスの在り方を見直す変革の時期を迎えているのだ。 交通社会は今後どのように変わっていくのか。MaaSの基礎知識について解説した上で、海外のMaaSに関する事例を参照し、その変化の方向性を探っていこう。

Facebookも注目の「メタバース」とは何か? スマホ向けメタバース「REALITY」のDJ RIO氏に聞く

Facebookも注目の「メタバース」とは何か? スマホ向けメタバース「REALITY」のDJ RIO氏に聞く

Facebookが社名を変更し、中核事業に据えるほど力を入れる「メタバース」。2021年8月にはグリー株式会社が、今後2~3年で100億円規模の事業投資を行い、グローバルで数億ユーザーを目指すと発表しましたが、その中核を担うのが、グリー株式会社の子会社であり、これまでバーチャルライブ配信アプリを手がけてきたREALITY株式会社です。今回は、そんな同社の代表を務めるDJ RIO氏にインタビュー。そもそもメタバースとは何なのか。なぜこんなにも注目が集まっているのか。メタバースは、世界のあり方をどのように変えるのか。メタバース初心者のビジネスパーソンには必読のインタビューです。

デジタル戦略で生まれ変わるカインズ。ホームセンターからIT小売企業への変遷の軌跡【前編】

デジタル戦略で生まれ変わるカインズ。ホームセンターからIT小売企業への変遷の軌跡【前編】

生産労働人口の減少を受け、日本企業はいよいよ生き残りをかけたデジタル化に取り組まなければいけないと言われるフェーズに入ってきました。とはいえ、それができている企業とそうでない企業との差が激しくなっているのも現状です。 そんななか、ホームセンター大手カインズでは、40年かけて積み重ねてきたホームセンターとしてのあり方を見直し、IT小売企業として生まれ変わろうとしています。カインズでデジタル戦略本部長を務め、戦略の指揮をとる池照 直樹氏に、同社のデジタル戦略についてお話を伺いました。 前編は、カインズがどのようにしてデジタル化を実現させていったのか、具体的な取り組みを交えてお届けします。