'딥러닝 모델 압축' 기술을 보유한 국내 스타트업 노타(nota)의 채명수 대표가 'The AI'의 창간을 기념해 축하의 말과 함께 노타의 딥러닝 경량화 기술을 소개하고 AI 산업의 미래에 대한 의견을 밝혔다.

노타는 복잡한 딥러닝 모델을 성능 저하 없이 경량화하는 기술을 가지고 있어 AI 시장의 주목을 받고 있는 스타트업이다.

채명수 대표는 "AI 전문 미디어 ‘The AI’의 창간을 진심으로 축하합니다. 최근 학계뿐만 아니라 전 산업에 걸쳐 AI에 대한 관심이 증가하고 있습니다. 이에 따라 AI의 활용도가 높아지는 시점에서 유관분야의 연구자들과 각 산업의 종사자들, 그리고 일반 대중들까지 모두가 참여할 수 있는 의견교류의 장이 필요하다고 생각합니다. 그리고 이 역할을 ‘The AI’가 해줄 수 있길 기대합니다"라고 말하며, "또한 AI 관련 소식 및 동향을 지속적으로 공유하며 다양한 의견을 교류하고 이를 통해 바람직한 방향으로 AI 활성화에 많은 기여를 해주시길 바랍니다"라고 축하의 인사를 건넸다.

4차산업혁명은 피할 수 없는 시대적 흐름이며, 미래의 변화를 주도하는 주역은 인공지능(AI)이다. AI가 국가의 주요 정책 중 하나가 되고, 소프트웨어 분야를 넘어서 전 산업에 걸쳐 확장되고 있으며, 최근의 코로나(이하 코로나 바이러스 감염증)로 이 추세는 더욱 가속화 되고 있다.

아울러, AI의 핵심 분야인 딥러닝 모델 또한 다양한 분야로 빠르게 확산 되고 있다.

데이터를 스스로 분석하고, 특징을 찾아내 학습과 판단에 적용하는 딥러닝은 현존하는 거의 모든 AI의 표준처럼 쓰이고 있다. 하지만, 많은 딥러닝 모델은 매우 복잡하고 무거운 연산들을 기반으로 이루어져 있기 때문에 일반적으로 고성능 연산장치인 클라우드 또는 서버에서 구동해야만 한다. 그러다 보니 네트워크망이 필수적으로 있어야 하고, 프라이버시 이슈가 제기될 수 있으며, 구축 비용이나 유지보수 비용이 많이 발생한다는 한계점이 존재한다.

최근 이러한 한계를 돌파하기 위해 '온디바이스AI 솔루션'이 시장에 등장했다. 네트워크와 연결하지 않고 개별 기기에서 직접 AI를 구동하는 것이다. 기기의 컴퓨팅 자원을 최대한 활용해 빠른 AI를 구현하는 동시에, 개인정보보호 등 보안을 강화할 수 있다는 점이 온디바이스 AI의 강점이다. 하지만 한정된 기기의 스펙 안에서 우수한 성능의 딥러닝을 갖춘다는 것은 쉽지 않은 이야기다. 방대한 양의 데이터를 분석해야 정확한 추론을 하는 AI가 적은 양의 데이터만으로 제대로 작동할지 의심이 되기 때문이다.

노타는 온디바이스 AI에 맞는 딥러닝 경량화 기술을 가지고 있다는 점에서 많은 기대와 주목을 받고 있다. 특히, 최근에는 시리즈 A 투자를 성공적으로 마치고, ‘IFA 넥스트(NEXT)’에 참여해 고성능 AI 모델 경량화 기술을 선보이는 등 가치를 드러내고 있다.

다음은 노타의 채명수 대표에게 노타의 딥러닝 경량화 기술과 AI 산업의 미래에 대해 들어본 인터뷰 전문이다.

Q. 안녕하세요 대표님. 간단한 자기소개 부탁 드립니다.

A: 온디바이스 AI 스타트업 노타의 채명수 대표입니다. 저는 노타에 오기 전 연구소에서 머신러닝 연구자로 경력을 시작하여 머신러닝 관련 기술 조사 및 연구, 논문 작성, 특허 출원 등을 담당했었습니다. 이 과정에서 머신러닝 기술을 보다 일상에 가깝고 실용적으로 활용하고 싶다는 생각이 들어 노타에 오게 되었습니다.

Q. 노타는 어떤 기업인가요?

A: 주식회사 노타(Nota)는 2015년 카이스트에서 학생창업으로 시작한 6년차 스타트업으로 온디바이스 AI를 표방하는 AI 기술 기업입니다.

노타는 딥러닝 모델 경량화 및 압축 기술을 기반으로 고성능 딥러닝 모델을 서버나 클라우드가 아닌 저사양, 저전력의 엣지 디바이스에서 구동할 수 있게 합니다.

노타는 현재 약 50명 규모의 조직으로 한국법인(대전 본사, 서울 기업부설연구소), 유럽법인(독일 베를린), 북미지사(미국 캘리포니아)를 두고 있으며, 전체 구성원 중 R&D 직원이 약 80%로 구성된 매우 기술집약적인 기업입니다.

또한, 2015년 네이버가 투자한 첫 번째 스타트업으로 2016년에는 네이버와 블루포인트파트너스를 통해 브릿지 투자유치를, 2019년에는 스톤브릿지벤처스를 통해 pre-A라운드 투자를 유치했습니다.

올해에는 스톤브릿지벤처스, 엘비인베스트먼트, 삼성벤처투자(삼성SDS펀드), LGCNS를 통해 Series A 투자 유치에 성공했습니다. 이처럼 국내에서 삼성그룹과 LG그룹의 전략투자를 동시에 유치한 사례는 매우 이례적인 일이라고 들었습니다.

Q. 노타의 핵심기술은 무엇인가요?

A: 노타의 핵심 기술은 딥러닝 모델에서의 성능 저하를 최소화하며, 모델을 최대한 경량화 및 압축하는 데에 있고, 이 기술을 기반으로 다양한 솔루션을 개발하여 공급하고 있습니다.

특히, ‘넷츠프레소(NetsPresso)’라는 자동화된 딥러닝 모델 경량화 플랫폼을 개발하여 해당 프로세스에서의 소요 시간과 비용을 많이 단축할 수 있습니다. 넷츠프레소에서는 다수의 비전 기반 딥러닝 모델들을 경량화할 수 있도록 지원하고 최종적으로는 경량화된 모델이 탑재될 엣지 디바이스의 수도 다양하게 지원합니다. 이를 통해 20개 이상의 경량화 기술들을 지원하고 있습니다.

최근에는 온디바이스 AI에 대한 관심이 적었던 작년과 비교하여 상당한 기술적, 사업적 성장이 있었습니다. 매출도 작년 동기 대비 10배 가까이 성장했고, 그만큼 기술적인 진보도 컸습니다.

노타의 핵심 기술은 AI 관련 원천기술로 다양한 산업군에 적용될 수 있는 기술이다 보니, 사업적으로도 넓은 시장성을 갖추고 있습니다. 하지만 스타트업으로서 한정된 리소스로 사업을 영위해야 하기 때문에 노타의 기술을 가장 필요로하고 시장성도 큰 영역들을 먼저 집중 공략하여 일정 수준 이상의 성과를 낸 후에 다른 분야로 확장하는 방식으로 사업을 진행해 나갈 예정입니다.

무엇보다 노타의 AI 원천 기술은 EU와 북미 등에서도 관심도가 높은 기술이므로 추후 해외시장에서도 사업적 성과를 만들어갈 예정입니다.

Q. 노타의 사업영역은 무엇입니까?

A: 노타의 주 사업영역은 Vision을 기반으로 한 보안관제(surveillance), 모빌리티(mobility), 리테일(retail) 영역입니다. 보안관제 영역에서는 CCTV 기반의 상황인지, 모니터링 등의 솔루션을 개발했고, 모빌리티 영역에서는 차량번호판인식(license plate recognition), 차량 내 상황인지, 차 외부 주변 상황 위험인지 솔루션 등을 개발하였습니다. 또한 리테일 영역에서는 실시간 재고 파악 솔루션을 개발했습니다.

이는 기존에 다른 기업들도 많이 해오던 기술이지만, 노타는 해당 기술들에 모델 경량화 및 압축 기술을 적용하여 그 한계점을 개선했습니다. 예를 들어, 클라우드나 서버를 이용한다면 기존대비 경량화된 기술로 더 적은 클라우드와 서버를 이용할 수 있게 되므로 비용과 전력 소모를 줄일 수 있다는 장점이 있습니다. 엣지 디바이스에서 구동할 경우에는 개인정보 이슈에 대해서도 비교적 자유로워질 수 있습니다.

Q. 노타는 지난 8월 시리즈A 투자 유치를 성공적으로 마무리했습니다. 투자 사에서 노타의 어떤 점을 우수하게 평가한 것으로 생각합니까? 시리즈 B 투자를 생각하는 시점은?

A: 금번 시리즈 A 투자는 스톤브릿지벤처스에서 리드하고 이 외에 엘비인베스트먼트, 삼성벤처투자(삼성SDS펀드), LGCNS가 참여했습니다.

스톤브릿지벤처스와 엘비인베스트먼트는 재무투자자로, 삼성벤처투자와 LGCNS는 전략투자자로 참여했는데, 삼성그룹과 LG그룹에서 동시에 전략투자에 참여하는 것은 매우 이례적인 사례로 내부적으로 파악하기로는 국내에서는 첫 사례인 것으로 알고 있습니다.

아무래도 기술 스타트업이다 보니, 투자기관에서 우수하게 평가한 점도 결국 ‘기술과 그 기술로 파생될 수 있는 시장에서의 사업 성장 가능성’이라고 생각합니다. 특히, 전략 투자자로 참여한 삼성그룹과 LG그룹에는 내부에도 우수한 기술 전문가들이 많이 있고, 그들의 기술검증 프로세스가 매우 챌린징했습니다.

스타트업의 특성상 기존 업무들에 집중하면서 투자자들의 기술검증 프로세스도 지체없이 대응해야 한다는 점이 많이 터프한 일이었고, 저를 포함한 직원들이 많이 고생한 부분이 있어서 개인적으로 감사한 마음과 함께 미안한 마음도 큽니다.

시장에서의 사업 성장 가능성을 보여주기 위해 단순히 기술적 진보 또는 기술의 우위성만을 보여주는 것이 아니라 여러 클라이언트와의 사업적 제휴와 계약을 진행했고, 그만큼 노타의 기술이 시장에서도 긍정적인 반응을 얻고 있다는 사실을 객관적으로 증명하는 것이 중요했습니다. 투자자들이 실제로 클라이언트와 제휴사들에게 직접 컨택하여 레퍼런스 체크도 진행했기 때문에 노타에 대한 신뢰가 높을 수 있었다고 생각합니다.

더불어, 시리즈 B 투자의 경우 아직 구체적으로 정해진 사항은 없으나 2년 뒤쯤을 고려하고 있습니다. 현재 사업 아이템을 해외 시장으로 확장하기 위해 유능한 CSO를 채용해 곧 합류할 예정이며, 본격적인 해외시장 진출 이후에 시리즈 B 투자를 고려할 생각입니다.

Q. 노타의 핵심 기술인 ‘딥러닝 모델 경량화’에 대한 설명을 부탁 드립니다.

A: 딥러닝 모델들은 매우 복잡하고 무거운 연산들을 기반으로 이루어져 있기 때문에 일반적으로 고성능 연산장치인 클라우드 또는 서버에서 구동됩니다. 그러다 보니 네트워크망이 필수적으로 있어야 하고, 프라이버시 이슈가 제기될 수 있으며, 구축 비용이나 유지보수 비용이 많이 발생한다는 한계점이 있습니다. 저희 노타에서는 이러한 딥러닝 모델을 경량화하는 일을 주로 진행하고 있습니다.

딥러닝 모델 경량화 과정에는 여러가지 기술들이 적용되는데, 개념적으로는 특정 정보를 표현하기 위해 중복되는 특징들을 제거하고, 무거운 연산을 빠르게 할 수 있는 가벼운 연산으로 대체하며, 모델을 추론할 때 더욱 빠르게 추론할 수 있도록 모델 내부의 매개변수들을 조정해주는 기술들을 활용하게 됩니다.

이 과정에서 성능(정확도)이 손실되는 경우가 많이 발생하는데, 노타에서는 이러한 성능 손실을 최소화하면서 모델을 최대한 경량화할 수 있는 다양한 기술들을 보유하고 있습니다.

Q. 원래는 '딥러닝 경량화 기술' 기업이 아니었던 것으로 알고 있습니다. 사업 분야를 변화하신 이유는?

A: 노타는 머신러닝으로 개인의 오타를 줄여주는 스마트폰용 오타 감소 키보드 애플리케이션인 노타 키보드로 시작 됐습니다. 하지만, 이를 사업적으로 성장시키기에는 어려움이 있었고, 결국 2년 만에 새로운 아이템으로 피벗(pivot)을 결정하여 본격적으로 딥러닝 모델 압축 기술 개발에 나서게 되었습니다.

Q. 사업을 운영하면서 가장 어려웠던 순간은 언제이셨나요?

A: 가장 어려웠던 순간은 창업 아이템을 피벗했던 시기였습니다. 노타는 머신러닝으로 개인의 오타를 줄여주는 스마트폰용 오타 감소 키보드 애플리케이션인 노타 키보드를 첫 창업 아이템으로 개발했습니다. 하지만 기술적인 우수성과는 별개로 B2C, B2B 모두 사업적으로 성장시키는 데 어려움이 있었고 결국 2년 만에 새로운 아이템으로 피벗을 하게 됐습니다.

새로운 아이템을 찾는 약 8개월의 시간 동안 다양한 아이템을 브레인스토밍하고 테스트해보는 반복적인 과정을 거쳤고 그 결과 지금의 아이템으로 확정하게 되었습니다.

이 과정에서 불안함을 느끼기도 했고 한번 어려움을 겪었던 만큼 새로운 아이템을 신중하게 결정해야 했으므로 치열한 논의를 거쳤습니다. 이러한 과정들이 힘들게 느껴지기도 했지만 지금 생각해보면 그만큼 치열하게 고민하고 신중하게 결정했던 것이 많은 도움이 됐다고 생각합니다.

Q. 앞으로 AI가 세상을 어떤 방향으로 바꿀 것이라 생각하십니까? 일자리가 줄어들 것이라는 전망도 있는데, 어떻게 보시나요?

A: AI는 인간을 대체하기 위함이 아니라 인간의 삶을 보다 풍요롭게 하는 데에 활용되어야 한다고 생각합니다. 일상생활에서의 불편함을 개선하고 인간이 더 나은 삶을 영위할 수 있도록 AI가 도움을 주는 것이 바람직한 AI의 발전 방향이라고 생각합니다.

AI가 인력을 대체한다고 한다면 인간이 하기 힘든 일 또는 위험한 일, 인지적으로나 육체적으로 부담이 큰일 정도로 한정하여 AI가 담당하도록 하는 것이 바람직하다고 생각합니다.

또한, 아직은 AI가 모든 것을 대체하기에는 갈 길이 많이 남았다고 생각하고, 여전히 인간의 개입과 관리가 많이 필요하다고 생각합니다. 주변의 AI 전공자들, 연구자들과 이야기해봐도 대부분 비슷한 생각을 가지고 있습니다. 일부에서는 근시일 내에 AI가 많은 분야에서 인간을 대체하여 사회에 많은 혼란을 야기할 것이라고 하는데, 사전에 대비하는 것은 바람직하나 과하게 우려를 확산시키는 것은 지양해야 한다고 생각합니다.

Q. 정부의 ‘디지털 뉴딜’ 정책에 대해 어떻게 생각하십니까? 개선해야 할 부분이 있다면?

A: 디지털 뉴딜 정책에 대해서는 긍정적으로 생각하고 있습니다. 디지털 뉴딜 분야 중 생태계 강화나 교육 인프라, SoC 디지털 등은 AI뿐만 아니라 새로운 IT기술들이 등장하고 빠르게 전환됨에 따라 반드시 필요한 부분이라고 생각합니다.

다만, 정부에서 추진하는 정책의 특성상 호흡이 길게 진행되다 보니 빠르게 전환되는 IT분야에서 얼마나 실효성이 있을지에 대해서는 신중한 검토가 필요하다고 생각합니다. 특히나 방대한 국가 예산이 투입되는 만큼 형식적인 정책이 아닌 실제적이고 효과적인 정책이 될 수 있도록 산∙학∙연의 목소리에도 귀를 기울여야 한다고 생각합니다.

Q. AI 기업의 입장에서 정부에게 바라는 점이 있다면 어떤 것입니까?

A: 산업계, 학계, 연구계 등 외부 목소리와 현장 목소리에 더욱 귀를 많이 기울여 주셨으면 좋겠습니다. 기존 정책이나 정부 발주 사업들의 경우 현장 상황에 맞지 않는 경우가 많았고, 예산 대비 효과가 작은 경우도 많이 있었습니다. 따라서 앞으로는 이런 상황이 계속되지 않길 바랍니다.

또한, 대한민국 국민 한 사람으로서 정부와 지자체의 업무 프로세스에도 AI뿐 아니라 새로운 IT기술이 적용될 여지가 충분히 있다고 생각합니다. 이에 대해 열린 마음으로 많은 기회를 탐색했으면 좋겠고, 개인의 공공기관 업무에도 많은 개선이 있었으면 좋겠습니다.

Q. 현재 전 세계는 코로나19 이후 많은 변화를 겪고 있다. 코로나19가 기업의 운영에 미친 영향이 있다면 어떤 것 입니까?

A: 코로나로 인해 많은 콘택트(contact) 상황들이 언택트(untact) 상황으로 변화했습니다. 재택근무가 길어짐에 따라 전반적으로 업무 장소에 대한 제약이 많이 줄었고, 비대면에 대한 사람들의 인식도 긍정적으로 바뀐듯합니다.

특히, 최근에는 국내외 전시회들도 온라인을 통해 개최하게 되면서 출장 등의 이동 없이 전 세계의 사람들과 자유롭게 교류할 수 있게 됐고, 기업 입장에서는 그런 시간과 비용을 다른 곳에 투자할 수 있게 되었습니다.

Q. 노타의 미래비전은 무엇인가?

A: 노타의 목표는 '다양한 산업에 AI가 적용되는 길을 열자'는 것입니다. 그 과정에서 발생하는 다양한 제약을 노타의 핵심기술인 딥러닝 모델 경량화 기술로 해소하는 중이며 조금씩 그 목표를 향해 정진하고 있습니다.

그러므로 'AI가 적용되기 어려웠던 다양한 분야 및 상황에서의 AI 적용이 가능하도록 하는 것'이 노타가 바라보는 미래비전입니다.