독점적인 엔비디아 그래픽처리장치에 대응할 수 있는 국산 AI 하드웨어가 소개된다. 생성형 인공지능(AI) 개발 경쟁에서 연산 처리 속도가 빠른 AI 하드웨어 확보는 중요해지고 있다. 연산처리 능력에 따라 성능의 차이가 생기기도 하고 전력효율 문제에서도 고성능의 AI 하드웨어가 효율적이기 때문이다. 비씨엠테크는 모든 컴퓨팅 하드웨어에 호환이 가능한 표준 AI 엣지 가속 카드와 시스템을 개발해 이러한 문제를 해결했다.

비씨엠테크의 AI 엣지 가속 카드, AI 엣지 시스템 등 새로운 기술이 오는 16일 양일간 서울 동대문디자인플라자(DDP) 열리는 ‘TAS 2023(The AI Show 2023)’에서 처음 공개된다. 이날 전시장에서 새로운 AI 엣지 시스템(AI Edge System), AI 가속 카드, AI 소프트웨어 등을 전시할 예정이다.

AI 엣지는 디바이스 단계에서 이뤄지는 AI 연산을 의미한다. 보통 디바이스에서 정보를 입력하면 해당 데이터를 서버나 클라우드로 이동해 연산한 후 다시 디바이스로 옮겨 출력하지만, 엣지는 디바이스 자체에서 AI 연산이 가능하다.

AI 엣지는 데이터가 생성되는 지점에 상관없이 실시간 정보를 추출할 수 있는 장점이 있다.  자율주행이나 실시간 이상탐지 기술의 경우 데이터를 빠르게 분석하고 결괏값을 내는 것이 중요한데 기존 서버로 데이터를 옮겨가는 것보다 디바이스 내에서 연산을 하는 것이 속도가 빠르기 때문이다. 또 AI 엣지는 데이터를 옮겨가는 데 필요한 전력 소모나 보안 위협 등의 문제도 적어 신뢰도도 높다. 이 때문에 비용이 많이 드는 서버 활용보단 현장 시스템에 AI 엣지 가속 카드를 장착해 이미 창작된 AI 엣지 시스템을 사용하는 것이 효율적이라는 게 회사의 평가다.

현재 엔비디아의 그래픽칩셋과 같은 GPU 방식이 주류를 이루고 있으나 비용과 전력 효율 문제로 이를 대체할 수 있는 신경망처리장치(NPU)에 관심이 커지고 있다. 비씨엠테크는 NPU기반 하드웨어 기술을 보유한 업체다. AI 엣지 가속 카드는 엔비디아 그래픽 카드처럼 손쉽게 기존 시스템에 바로 장착하여 사용이 가능하고 모든 카드를 자사에서 개발해 추가 개발이 필요하지 않다는 게 비씨엠테크의 설명이다.

모든 컴퓨터와 컴퓨터에 준하는 하드웨어들은 PCIExpress기반의 인터페이스를 가지고 있다. 비씨엠테크 엣지 가속 카드는 이 PCIExpress 호환 인터페이스로 개발이 돼 기존에 사용 중이거나 새로운 컴퓨팅 시스템, 서버 등에 바로 장착이 가능한 표준 인터페이스를 적용한다.

이번 전시에서는 AI 엣지 시스템의 표준을 위한 MAVERICK Shark 시리즈의 시스템을 처음 선보인다. 인텔 12·13세대 CPU 기반으로 다양한 NPU기반 AI 가속기를 장착할 수 있다. 자사의 PoE카드, 멀티포트 이더넷카드를 장착하여 다수의 카메라를 연결할 수 있는 시스템이다.

소형 AI 엣지 시스템(MAVERICK-nano 시리즈)도 소개한다. 이 시스템은 CPU, ARM기반의 CPU를 적용해 고객이 원하는 시스템 기반하에 AI 기술을 구현할 수 있다. 또한 고성능 고효율 AI 프로그램의 손쉬운 개발을 위한 소프트웨어 패키지인 MY Pack을 제공해 고객의 빠른 프로젝트 성공을 지원한다.

비씨엠테크는 인텔(Intel) CPU 기반의 산업용 컴퓨터 전문 회사로, 산업용 컴퓨터와 머신비전에 필수인 GiGE 이더넷 카드(GiGE Ethernet Card), PoE 프레임 그래버(PoE Frame Grabber) 카드를 국내에서 직접 개발, 생산하고 있는 컴퓨팅 회사다.

특히 AI 엣지 컴퓨팅 분야에 투자해 국내에서 유일하게 표준 AI 가속 카드와 AI 엣지 컴퓨팅 시스템을 직접 개발하고 생산하는 사업을 시작했다. 세계적인 NPU 제조사인 헤일로(Hailo)의 유일한 국내 하드웨어 파트너로 인증받아 사업을 진행하고 있다.

한지용 비씨엠테크 대표는 “해외 제품이 장악하고 있는 국내 AI 하드웨어 시장에서 NPU칩 AI 가속 카드 등 독자적인 시스템을 개발해 시장에 대응하고 있다”며 “그동안 산업용 컴퓨팅 개발 및 현장 적용, 시스템 구조 컨설팅의 경험을 바탕으로 이번 전시에서 국내 기업에 좋은 솔루션을 공급할 수 있는 기회가 되었으면 좋겠다”고 말했다.

이번 비씨엠테크가 참가하는 TAS 2023은 AI 전시회와 컨퍼런스, 시상식 등이 함께 열리는 AI 축제다. 오는 16일부터 양일간 DDP 아트홀 2관과 컨퍼런스홀에서 열린다. 국내외 대표 AI 기업이 참가해 시민이 체감할 수 있는 AI 기술을 선보인다. 인공지능 전문매체 ‘더에이아이(THE AI)’와 스마트미디어그룹 ‘첨단’이 공동 주최하고, 디지틀조선일보, 국제인공지능&윤리협회(IAAE)가 후원한다. 전시회와 컨퍼런스 참가 신청은 TAS 2023 공식 홈페이지에서 할 수 있다. 참가 비용은 무료다.