작성일 : 23-02-26 18:32
|
메타도 초거대 AI 경쟁 참전...새로운 LLM `라마` 발표
|
 |
|
글쓴이 :
방남유도 과정명 : 훈련기간 : ~
 조회 : 460
|
메타 '라마' 액세스 신청 페이지 발췌. 메타 홈페이지 캡처 '챗GPT'발 초거대 AI(인공지능) 경쟁에 메타도 참전했다. 24일(현지시간) 메타는 자사 블로그를 통해 새로운 LLM(거대언어모델) '라마(LLaMA)'를 선보인다고 밝혔다. 챗GPT와 같은 텍스트 생성AI의 기반이 되는 초거대 AI다.메타는 '라마'를 연구용도 중심의 비영리 라이선스로 전세계 AI 커뮤니티에 제공함으로써 신뢰할 수 있는 AI 개발을 위한 개방형 협력을 이끈다는 방침이다. 이는 앞서 구글이 대화형AI '바드'의 기반이 되는 LLM '람다(LaMDA)' 등을 대외적으론 공개하지 않은 것과 다른 접근방식이다.'라마'의 파라미터 수는 최대 650억개로 오픈AI의 LLM GPT-3(1750억개)보다 적다. 하지만 LLM 훈련에 쓰는 토큰(텍스트 조각)을 1조4000억개까지 늘려 훨씬 적은 컴퓨팅 파워와 리소스로도 성능을 낸다는 게 메타의 설명이다. 앞서 구글 딥마인드 LLM '친칠라'가 700억개의 파라미 미국정품아이코스맥스 제네릭종류 터로도 이와 유사한 양의 토큰을 학습하고서 2800억개의 파라미터를 지닌 LLM '고퍼'를 벤치마크에서 앞섰다는 발표를 연상시킨다.메타는 라틴어와 키릴 문자 기반 언어에 초점을 맞춰 화자가 많은 20개 언어를 택해 '라마'를 학습시켰다. '라마'는 파라미터 사이즈에 따라 70억개, 130억개, 330억개, 650억개의 네 가지 모델로 제공될 예정이다. 파라미터 70억개와 130억개 모델은 토큰 1조개, 330억개와 650억개 모델은 토큰 1조4 아이코스맥스 정품구입 000억개가 훈련에 사용됐다. 메타는 신뢰할 수 있는 AI 구축을 위한 방법을 설명하는 '라마' 모델 카드도 공유하고 있다.마크 저커버그 메타 CEO(최고경영자)는 자신의 페이스북을 통해 "LLM은 텍스트 생성, 대화, 문서 요약에서부터 수학 정리, 단백질 구조 예측과 같은 더 복잡한 작업에 이르기까지 가능성을 보여줬다"면서 "메타는 개방적인 연구에 전념하고 있으며 새로운 모델을 AI 연구자들이 이용할 수 있도록 할 것"이라고 말했다.
구구정가격
|
|
