소개
무엇을 위한 것인가
처음부터 학습한 3,670만 파라미터 모델로, 주로 영어를 학습했습니다. 브라우저에서 실행됩니다.
Wren 40은 우리가 직접 만든 소형 언어 모델입니다. 약 3,670만 개 파라미터이고, 주로 영어인 20억 토큰으로 처음부터 사전 학습한 뒤 4억 토큰의 대화 데이터로 다듬었습니다.
ai.avenpa.com에서 브라우저로 실행되므로 처음 방문할 때 모델을 내려받으며, 입력한 내용은 기기 밖으로 나가지 않습니다. 짧은 영어 질문과 간단한 코드에 답합니다. 한국어, 산수, 사실 확인은 아직 약하고 틀릴 수 있습니다.
한눈에
Wren 40 한눈에 보기
01
처음부터 직접
가중치, 토크나이저, 학습 루프 모두 직접 만들었습니다.
02
브라우저에서
내 기기에서 실행되며 입력한 내용이 서버로 전송되지 않습니다.
03
파라미터 3,670만 개
사전 학습 20억 토큰, 대화 학습 4억 토큰.
제품