인더스트리

“데이터 강자가 만들면 다르다” …크라우드웍스 소형언어모델 ‘웍스원’ 개발

기사입력 2024.04.25 11:02
고품질 데이터셋 기반으로 韓 비즈니스 환경에 최적화
  • 크라우드웍스가 고품질 데이터로 만든 비즈니스 특화 SLM ‘웍스원’을 개발했다고 밝혔다. /크라우드웍스
    ▲ 크라우드웍스가 고품질 데이터로 만든 비즈니스 특화 SLM ‘웍스원’을 개발했다고 밝혔다. /크라우드웍스

    인공지능(AI) 기술 기업 크라우드웍스(대표 김우승)는 비즈니스에 특화한 소형언어모델(SLM) ‘웍스원(WorksOne)’을 개발했다고 25일 밝혔다. 한국 비즈니스 환경에 최적화된 모델로, 70억 개 매개변수를 가진 오픈소스 모델과 1만 개 고품질 데이터셋으로 구현했다. 기업이 선호하는 비즈니스 친화적 답변을 제공하는 점이 특징이다.

    크라우드웍스는 국내 여러 기업들이 요구하는 LLM을 구축하면서, 영어 중심으로 학습된 LLM이 한국어는 물론, 한국의 비즈니스 용어를 원활히 이해하지 못해 잦은 취약점이 발생함을 발견했다. 웍스원은 영어로 학습된 LLM에서 발생하는 데이터 격차의 문제를 해결하기 위해 만든 모델이다.

    크라우드웍스는 이를 위해 비즈니스 맞춤형 데이터셋을 직접 구축해 모델을 최적화했다. 비즈니스 맞춤형 데이터셋은 금융, 유통, 공공기관 등 기업별 데이터 특징을 분석해 비즈니스 특화 용어, 문체, 보고 유형 등을 분석해 만들었다. 

    일반적으로 시중에는 번역된 데이터의 사용이 많고, 학습 데이터의 원본이 한국어로 된 고품질 데이터를 찾아보기 힘들다. 이러한 번역된 데이터에는 번역 오류가 포함될 수 있으며, 모델이 문맥을 잘못 이해하거나 부정확한 판단을 내릴 수 있다. 

    크라우드웍스는 오랜 기간 데이터 산업을 이끌어 온 노하우를 기반으로 고품질 데이터셋 구축부터 공을 들여 이 문제 해결에 나섰다. 국내 최다 규모인 60만 데이터 작업자 풀을 기반으로 전문 역량을 가진 고급 데이터 작업자를 선발하고, 비즈니스 언어 활용과 표현력, 문서 구조화 능력 등 자체 검증을 실시했다. 검증에 통과한 평균 경력 15년 이상의 대기업 기획 업무 경험을 가진 전문가들이 데이터셋 구축에 참여해 고품질 데이터를 직접 완성했다. 

    웍스원은 기업 내부 시스템과 연동이 원활한 점도 강점이다. 웍스원은 지정한 키(Key) 값과 구조를 갖춘 JSON 형식의 답변을 안정적으로 출력할 수 있다. 사내 레거시 시스템과 쉽게 통합하고 확장하는 것이 용이해 시스템간 데이터 교환 및 상호운용성을 향상시킬 수 있다. 

    크라우드웍스는 자체 테스트 결과, GPT를 포함한 타 모델들의 경우 JSON 답변에 노이즈가 포함되거나 항목이 누락되는 결과를 확인했지만 웍스원은 요청한 키 값에 따라 안정적으로 답변을 생성했다고 밝혔다. 띄어쓰기나 오타 하나만 발생해도 사용자가 전후처리에 상당한 리소스를 소모하기에 정확한 답변을 안정적으로 출력할 수 있는 것은 매우 중요하다는 게 회사 측의 설명이다.

    이형주 크라우드웍스 최고기술책임자(CTO)는 “웍스원은 비즈니스 용어 및 문서 환경에 대한 이해도가 높은 전문가가 직접 만든 한국어 데이터로 학습시킨 비즈니스 특화 모델”이라며 “이처럼 고품질 데이터로 학습한 모델은 업계에서 유일하다”고 자신했다. 이어 “앞으로도 AI 데이터부터 LLM까지 기업 혁신에 필요한 모든 것을 제공하겠다”고 말했다.

최신뉴스