楽天、日本語に特化した生成AIの大規模言語モデルを公開

楽天グループは21日、日本語に特化した大規模言語モデル「Rakuten AI 7B」を含む一連のモデルを公開した。公開されたモデルには、基盤モデル「Rakuten AI 7B」、インストラクションチューニング済みモデル「Rakuten AI 7B Instruct」、および会話形式の文章生成を可能にする「Rakuten AI 7B Chat」が含まれる。 これらのモデルは、フランスのAIスタートアップ、Mistral AIの「Mistral-7B-v0.1」をもとに、インターネット上の日本語と英語のデータを使用して事前学習された。楽天が開発した独自の形態素解析器を活用することで、テキスト処理の効率を大幅に向上させた。形態素解析器は、日本語の複雑な構造をより効率的に解析し、トークンごとの情報量を増加させることに成功している。 Rakuten AI... source: https://jp.beincrypto.com/rakuten-unveiled-japanese-llm/