2023.10.12

서울대 신효필 교수의 언어학과 컴퓨터언어학/자연어처리 연구실 학생들이 BARO AI 에서 지원한 POSEIDON Ultimate 4000U (H100 4GPUs) 2대와 BARO Cluster 로 학습시킨 DaG LLM(David and Goliath Large Language Model)을 구축하여 공개하였습니다.

* LLM(Large Language Model) 이란?
‘거대언어모델’입니다. 인간의 언어를 이해하고 생성하도록 훈련된 인공지능으로, 대표적인 사례로는 ChatGPT 가 있습니다. 

현존하는 LLM 은 OpenAI, Google, 네이버 등 대기업에서 개발한 PaLM, Clova X 등의 비공개 모델과 Meta, Eleuther 에서 개발한 LLaMA, Polyglot-ko 등의 공개 모델로 양분되어 있습니다. LLM 은 구축에 엄청난 규모의 데이터와 컴퓨팅 파워를 필요로 하고 있습니다. 이런 이유로 대학, 연구소, 중소 기업에서는 제한된 리소스만을 지녀 직접 LLM 을 개발하기는 점점 어려워지고 있습니다.

DaG LLM 한국어 공개 모델인 Polyglot-Ko-5.8b 를 미세조정하고 적절한 프롬프트 인젝션을 통해 만들었습니다. 대기업의 비공개 LLM 에 필적하려는 시도입니다. 이 모델은 법률, 금융, 의료 등 전문 분야에 특화되어 한국어 LLM 개발의 기반이 될 것으로 기대됩니다.

해당 개발에서 사용된 POSEIDON Ultimate Line-up 은 H100 을 탑재하여, 오랜 트레이닝 시간이 필요한 크고 복잡한 딥러닝과 머신러닝, 고성능 데이터분석, 대규모 언어모델 연구에서 최고의 퍼포먼스를 제공합니다. MIG(Multi Instance GPU) 를 통한 GPU 가상화로 격리, 분할된 워크로드를 가속화하여 최대 리소스 활용률을 유지합니다. 국내 최초로 H100을 4장 탑재한 서버로 자연어처리 분야에서도 9배 향상된 성능으로 가속하여 연구하실 수 있습니다.

DaG LLM 사용하기 ➜ 
dag.snu.ac.kr 

POSEIDON Ultimate Line-up 보러가기 ➜ 
www.baroai.com/Poseidon_ultimate