東京工業大学、富士通など7団体は5月10日、理化学研究所が運用するスーパーコンピューター「富岳」で学習した日本語能力に優れた大規模言語モデル（LLM）「Fugaku-LLM」を開発したと発表した。富岳の能力をLLM学習に最適化したことを成果として報告。研究やビジネスでの活用を目指し、開発者や研究者向けにオープンソースで公開したほか、富士通のサイトを通じて誰でも無償で試すことができる。

　Fugaku-LLMは、同大を中心としたプロジェクトで2023年5月から開発を開始。深層学習のフレームワークを富岳に移植し、LLMの深層学習モデル「Transformer」を富岳上で最適化することで、学習の演算速度を6倍にした。また、富岳向けに通信を最適化し、通信速度を3倍高速化。これにより富岳搭載のCPUで、LLMの学習が可能になった。Fugaku-LLMのパラメーター数は130億で、国内で多く開発されている70億より高性能になっている。学習データの約6割が日本語で、学習データの収集や適切なフィルタリングといった作業から行ったため、データの透明性、安全性も担保。日本語能力に優れ、敬語など日本語の特徴を捉えた自然な対話が行えるという。