인공지능(AI) 스타트업 업스테이지가 자체 개발한 사전학습 대형언어모델(LLM) ‘솔라’를 누구나 쉽게 활용할 수 있도록 노트북과 같은 디바이스에 탑재한다고 밝혔다.

3일 서울 코엑스에서 열린 ‘AI 융합 비즈니스 개발 컨퍼런스 (AI Tech 2024)’에서 박찬준 업스테이지 수석연구원은 ‘SOLAR, The Next Frontier in Large Language Models by Upstage and its Ecosystem(초거대 언어모델 생태계)’을 주제로 강연하며 솔라의 온디바이스 공급 계획을 밝혔다. LG전자의 노트북 ‘그램(gram)’과 폴라리스 오피스(POLARIS), 자사의 라이트업(Write Up) 등과 협력해 데이터 공유 생태계를 구축해 나가겠다고 언급했다.

온디바이스란 기기 자체에 탑재되어 외부 서버나 클라우드에 연결되지 않고도 서비스를 제공할 수 있는 인공지능(AI) 기술이다. 개인정보를 담은 데이터를 외부 서버로 전송하지 않아도 된다.

솔라는 지난해 12월 허깅페이스 '오픈 LLM 리더보드'에서 알리바바, 미스트랄AI 등 빅테크 모델을 제치고 1위를 차지한 경량화 LLM이다. 지난해 ‘오픈-Ko LLM 리더보드’를 출범하며 한국형 오픈 LLM 리더보드 구축을 위해 한국지능정보사회진흥원(NIA)와 협력한 바 있다. 작지만 강력한 성능과 GPT-3.5 대비 2.5배 이상 빠른 속도가 특징으로, 프롬프트 당 최대 4천 토큰을 입력할 수 있다.

업스테이지는 솔라를 내세워 국내 기업뿐만 아니라 금융, 법률 등 다양한 분야에서 성과를 내고 있다. 동남아 통신사와 기술이전 계약을 맺고 특화 LLM 구축에 힘쓰는 등 글로벌 기업들과도 협력 사례를 만들고 있다. 이에 박 연구원은 “특정 목적에 맞는 특정 분야에 있어서는 솔라가 오픈 AI의 GPT-4를 넘는 것도 가능하다고 생각한다"고 말했다.

한편, 업스테이지는 데이터 공유 생태계 구축의 중요성도 언급했다. 박 연구원은 "데이터에서 중요한 것에 저작권과 개인정보가 이슈인 만큼 책임감 있는 LLM을 개발하기 위해 저작권 단계부터 해결하기 위해 노력하고 있다"고 말했다. 이어 "데이터 공유 생태계를 만들기 위한 노력과 한국형 LLM의 평가 생태계를 만들기 위해 힘쓰고 있다"고 강조했다. 앞서 업스테이지는 카카오톡 ‘에스크 업(AskUp)’ 에 솔라를 적용해 생태계 구축하고 있다.

업스테이지는 이날 컨퍼런스에서 솔라의 기술적인 배경과 실제 기업 적용 사례를 설명하며 솔라가 아마존 베드록(Amazon Badrock)에 이름을 올리는 것이 목표라고 밝혔다.