フラッシュ2023年5月17日

• サイバーエージェントが大規模言語モデルを公開、商業利用も可能

  by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]

  サイバーエージェントは2023年5月17日、最大68億パラメータの日本語大規模言語モデル（LLM：Large Language Model）を、機械学習プラットフォーム「ハギング・フェイス・ハブ（Hugging Face Hub）」で一般公開した。商用利用可能な「CC BY-SA 4.0ライセンス」で提供しており、同モデルをベースとしてチューニングをすることにより、対話型人工知能（AI）などの開発が可能となる。

  同社は、ウィキペディア（Wikipedia）およびコモン・クロール（Common Crawl）のオープンな日本語データを用いて同モデルを訓練している。既存の大規模言語モデルのほとんどは英語を中心に学習されており、現状では日本語および日本文化に強いLLMは少ないという。今回の大規模言語モデルは、現時点では日本国内における公開モデルにおいて最大級の規模であり、大規模な日本語データを活かした独自モデルを開発したことで、従来より自然な日本語の文章生成が可能になるとしている。

  今回の発表に先立ってサイバーエージェントは、130億パラメーターまでの大規模言語モデルの開発を完了したことを5月11日に発表。同社の「極予測AI」「極予測TD」「極予測LP」などAIを活用した広告クリエイティブ制作領域のサービスにおいて活用を始めている。

  （中條）

  • 6

• 人気の記事ランキング

  1. Bringing the lofty ideas of pure math down to earth 崇高な理念を現実へ、 物理学者が学び直して感じた 「数学」を学ぶ意義
  2. Promotion Innovators Under 35 Japan × CROSS U 無料イベント「U35イノベーターと考える研究者のキャリア戦略」のご案内
  3. The 8 worst technology failures of 2024 MITTRが選ぶ、 2024年に「やらかした」 テクノロジー8選
  4. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
  5. AI’s search for more energy is growing more urgent 生成AIの隠れた代償、激増するデータセンターの環境負荷