Wren 100:ゼロから学習した2つ目のモデル、英語と韓国語

Wren 100 は最新の Wren です。約9,790万パラメータの dense トランスフォーマーで、Wren 40 の2倍以上の大きさがあり、他者の重みを微調整したものではなく、ゼロから学習しました。

英語と韓国語のテキスト8億トークンで事前学習し、約3.4億トークンの対話データでチューニングしました。Wren 40 より会話の流れを追え、韓国語も扱えます。

ai.avenpa.com でブラウザ上で動き、Wren の effort 設定で使い分けます。レベル3〜5が Wren 100、レベル1〜2が Wren 40 です。小さなモデルなので事実を間違えることがあります。大事な内容は確認してください。