言語・LLM

TransformerにCoTを導入することで全ての推論問題を解決できる！

本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。この研究のポイントは？本論文の内容は、「Transformerが複雑な計算を苦手とする」という課題に対し、「Chain of […]

スタンフォード大学が提案する「Synthetic Continued Pretraining」を解説。小規模なドメイン固有データから合成データを生成し、効率的にLLMへ知識を獲得させる新手法の仕組みと成果を紹介します。

本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。この研究のポイントは？本論文は、モバイルデバイス上で効率的に動作する小規模の言語モデル「MobileLLM […]

本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。この研究のポイントは？この論文は、大規模言語モデル(LLM)が新しい科学研究のアイデアを生み出す可能性につ […]