최근 한국 인공지능(AI) 시장에서 뜨겁게 떠오른 캐나다 반도체 회사가 있다. ‘텐스토렌트’(Tenstorrent)다. LG전자와 협력해 한국 시장에 이름을 알린 이 회사는 지난 3일 현대자동차그룹과 삼성카탈리스트펀드(SCF)로부터 1억 달러(약 1300억 원) 규모의 전략적 투자 유치를 완료하며 관심을 끌었다. 삼성, LG, 현대차 등 국내 3대 대기업과 협력하는 회사가 된 것이다.

사실 텐스토렌트는 국내에선 반도체, 특히 멀티코어 프로세서 분야 레전드로 꼽히는 ‘짐 켈러’가 이끄는 회사로 더 알려져 있다. 짐 켈러는 인텔에서 수석부사장을, AMD에서 부사장과 수석설계자를 지내고 애플과 테슬라 등에서도 중책을 역임한 컴퓨터 공학자다. 업적도 화려하다. AMD에 근무하는 동안 ‘해머 아키텍처(애슬론64)’와 ‘젠아키텍처(라이젠)’를 개발해 AMD 전성기를 이끌었다. AMD가 전성기를 맞이한 이유는 라이젠이라는 CPU 때문인데, 리사 수 AMD CEO와 함께 이 아키텍처를 개발한 사람이 바로 짐 켈러다. 또 그는 테슬라에서 ‘자율주행 프로세서’를 개발했고, 인텔에서도 차세대 중앙처리장치(CPU) 아키텍처인 ‘오션 코브’를 만들었다. 자율주행, 컴퓨팅 등에 사용되는 반도체와 프로세스는 다 그의 손을 거쳤다고 해도 무방할 정도다.

짐 켈러는 인텔에서 근무하다 AI 반도체를 주력으로 하는 텐스토렌트에 합류했고 지난 1월 최고경영자(CEO)로 취임했다. 텐스토렌트는 AI와 대규모 서버에 필요한 ‘리스크 파이브(RISC-V)’ 기반 반도체 기술을 개발하는 회사다. 리스크 파이브는 반도체 칩 설계 표준 집합이다. 라이선스 허가 없이도 누구나 무료로 사용할 수 있게 공개된 개방형 명령어 집합으로 유명하다. 이 때문에 중소기업, 스타트업도 리스크 파이브 명령어 집합에 기반한 컴퓨터 칩 설계가 가능해졌다. 이렇게 개발된 반도체는 리스크 파이브용으로 설계된 어떠한 소프트웨어에서도 실행할 수 있다. 2010년 캘리포니아대 버클리 캠퍼스(UC 버클리)에서 근무하는 컴퓨터 과학자들에 의해 반도체 설계 교육용으로 처음 개발됐다.

리스크 파이브 등장 전 수년간 반도체 산업은 크게 두 가지 독점 명령어 집합에 의존해왔다. 하나는 인텔의 ‘x86’, 또 하나는 Arm의 ‘Arm’이다. 이 명령어 집합을 사용하는 회사들은 단일 설계에만 수십억 원에 이르는 라이선스 비용을 내야 했다. 또 x86과 Arm 칩은 서로 다른 언어를 사용해 소프트웨어 개발자들은 같은 앱이라도 각 명령어 집합에 맞는 두 가지 버전을 만들어야 했다. 이처럼 문턱이 높았던 반도체 설계 시장이 리스크 파이브 등장으로 진입 장벽이 낮아진 것이다.

텐스토렌트는 이 리스크 파이브를 활용해 AI 반도체와 서버용 반도체를 개발하고 있다. 대표 제품은 AI PCle 카드인 ‘그레이스컬’(Grayskull)이다. Pcle는 그래픽처리장치(GPU)처럼 연산과 그래픽 작업을 도와주는 부품이다. GPU가 AI 연산에 유용한 것처럼 PCle도 AI 연산에 유리하다. 그레이스컬은 AI 액셀러래이터 PCle(Accelerrator PCle)로 AI 정보 처리 속도를 늘려주는 장점이 있다. 제품은 크게 그레이스컬 스몰·미디움·라지 등 3가지고 있는데, 이 제품 모두 PCle 4.0을 지원하는 16배속 카드다. 여기서 16배속이란 PCle 레인(lane)이 16레인까지 있어 정보를 1개 레인보다 16배 더 빠르게 보낼 수 있단 뜻이다. 그만큼 많은 레인으로 데이터를 보낼 수 있어 정보처리 속도가 줄어들고 발생하는 전력도 적다.

LG전자는 텐스토렌트와 협력해 스마트 TV를 포함한 LG전자 제품에 리스크 파이브 기반 AI 반도체를 탑재할 예정이다. 스마트 TV 외에 자동차 관련 기기 등 다른 LG전자 제품에도 AI 칩을 확대 적용하기로 했다. 또 서로 다른 반도체 부품을 연결해 성능을 향상하는 ‘칩렛’ 기술도 개발 중이다. 현대차그룹은 텐스토렌트의 반도체 설계 역량을 활용해 자동차뿐 아니라 로보틱스, 미래항공모빌리티(UAM) 등 미래 모빌리티 전반에 적용될 맞춤형 반도체를 공동 개발하기로 했다. 

그렇다면 이러한 텐스토렌트의 반도체 설계 역량 기술은 농업 분야에도 도움을 줄 수 있을까? 이 궁금증을 해결하기 위해 미국 실리콘밸리에 있는 텐스토렌트 사무실을 방문, 짐 켈러(Jim Keller) CEO와 밥 그림(Bob Grim) 부사장을 직접 만났다. 이번 인터뷰에는 이경환 전남대 융합바이오시스템기계공학과 교수(농업생산무인자동화연구센터장)와  데이비드 베넷(David Bennett) 최고고객책임자(CCO), 심페이 하라(Shimpei Hara) 아시아 총괄 영업 매니저가 동행했다. 인터뷰는 밥 그림 부사장과 데이비드 베넷 CCO가 주로 진행했다.

- AI 기술 발전으로 AI 반도체도 발전하고 있다. 텐스토렌트의 강점은 무엇인가.

“우리는 지금 AI 반도체와 라스크 파이브 칩을 만들고 있다. 리스크 파이브 칩은 비즈니스 라인이 구축돼 생산을 하고 있는 단계다. 우리가 다른 AI 반도체 회사와 다른 점은 우선 AI 하드웨어뿐만이 아니라 CPU, 리스크 파이브 등의 월드클래스급 전문 인력이 있다는 것이다. 물론 이 월드클래스 인력에는 짐 켈러 CEO도 포함된다.(웃음) 앞으로 AI 시장은 큰 규모의 모델이 계속 발전할 것이다. 대형언어모델(LLM)이든 소규모대형언어모델(sLLM)이든 많은 데이터를 소화할 수 있는 큰 모델이 당분간은 지속 등장할 것이다. 그런데 지금 AI 발전에 사용되는 대부분의 칩은 엔비디아의 그래픽처리장치(GPU)다. 큰 모델에는 큰 규모의 GPU가 필요하고 또 큰 규모의 AI 가속기가 필요하다. 우리는 CPU와 AI 가속기를 결합할 수 있는 기술을 갖추고 있다. 엔비디아와 다른, AI 반도체를 만들 수 있는 것이다. 리스크 파이브 기반 CPU와 AI 하드웨어 디자인을 접합시킬 수 있는 유일한 회사라고 자부한다. 이를 토대로 큰 GPU, 큰 AI 가속기를 넘어 작지만 강한 모델을 만들 수 있다.”

- 텐스토렌트의 기술이 GPU와 차이점을 구체적으로 알고 싶다.

“GPU가 AI 발전에 좋은 이유는 병렬구조이기 때문이다. CPU는 직렬 처리 구조이기 때문에 하나에 한 번의 작업만 가능한데 GPU는 한 번에 여러 개의 작업이 가능하니 더 효율이 높은 것이다. 단 성능 부분으로 봤을 때 CPU가 GPU보다 훨씬 월등하다. 쉽게 말해 GPU는 단순한 계산 처리를 빠르게 하는데 적합하고 CPU는 느리지만 복잡한 계산 처리를 하는 데 적합하다. 그런데 지금 AI는 점점 복잡한 계산 처리 능력을 요구하고 있다. AI 시장을 보면 과거에는 분류 모델이 주를 이었지만, 지금은 생성 모델 등 다양한 모델이 나오고 있다. 기술이 발전할수록 요구하는 높은 성능의 하드웨어가 뒷받침돼야 하는 것이다. 이 때문에 병렬구조인 GPU는 더 복잡한 계산 처리가 될 수 있도록 개발되고 있다. 근데 이 과정이 간단하지 않다. 칩 안에서 여러 번의 데이터가 이동해야 하고 그렇게 되면 전력 소모가 심해진다. 우리가 곧 발표할 기술은 CPU와 AI를 연계하는 기술이다. 하나의 반도체 칩에 16개 CPU를 추가한 기술이다. 하나의 칩에 복잡한 계산 처리가 가능한 16개의 CPU가 붙은 것이다. 그렇게 되면 복잡한 계산 처리 16개를 한 번에 할 수 있다. 그만큼 성능은 높아지고 전력 소모는 낮아진다.”

- GPU 외에 다른 AI 반도체 칩도 많다. 이들과 차별된 경쟁력은 무엇인가.

“IPU, DPU 등 최근 AI 반도체 칩이 많아지고 있다. 지금 AI 반도체를 개발하고 있는 기업들의 제품을 보았을 때 무엇이 좋다, 나쁘다를 얘기할 수 있는 수준은 아닌 것 같다. 모두 AI 발전을 위해 노력하고 있고, 좋은 결과물이 나오고 있다. 또 각자 좋은 접근법으로 기술을 개발하고 있다. 개인적인 생각으론 우리의 이점은 AI 기술에 오랜 시간 투자해 오며 사용자 편의성을 높였다는 것이다. 우리 제품은 이동이 편리하다. 예를 들어 엔비디아 제품을 사용하는 고객이 우리 제품으로 쉽게 이동할 수 있게 설계했다. 또 다른 기업들은 AI 칩만 시장에 내놓고 있는데 우리는 AI뿐 아니라 CPU IP, AI IP 등을 공유하며 사용자가 선택할 수 있게 하고 있다. 또 다른 이점은 AI와 CPU 기술을 모두 갖고 있으므로 두 기술을 결합하면 큰 이점을 낼 수 있다는 것이다.”

- 이동이 편리한 이유가 개방형 명령어 집합인 리스크 파이브 때문인 것 같다. 리스크 파이브 시장은 어떻게 전망하고 있나.

“긍정적으로 본다. 앞으로 CPU에 리스크 파이브가 사용되는 시장은 훨씬 커질 것으로 생각한다. 왜냐하면 이 시장이 한 번 문이 열리기 시작하면 다음 세대로 진화하게 된다. 그 전 세대로 돌아가는 일이 없다. 특히 리스크 파이브는 개방형이기 때문에 이 시장은 다른 명령어 집합보다 훨씬 커질 것으로 본다. 우리는 AI를 주요 시장으로 사업을 전개하고 있지만, 고성능 리스크 파이브 기술을 개발하고 나서부터는 리스크 파이브 관련 사업만 함께 하고 싶어 하는 고객사들이 많아졌다.”

- 텐스토렌트가 타깃으로 하는 도메인도 있을 것 같다.

“우리는 특정한 도메인을 고집하고 있지 않다. 여느 AI 반도체 회사와 마찬가지로 우리의 경쟁사는 엔비디아다. 엔비디아가 커버하는 모든 영역을 커버할 수 있어야 경쟁이 된다고 생각하기 때문에 우리는 모든 분야에 확장할 수 있도록 기술을 개발하고 있다. 또한 엔비디아가 선택하지 않은 시장에서 에너지 소모와 비용이 덜한 하드웨어를 공급하는 것을 목표로 하고 있다. 그래도 질문에 답변하기 위해 현재 진행하고 있는 도메인을 말하자면 크게 자동차, 고성능컴퓨팅(HPC), 스마트폰이라고 소개하고 싶다. 이 시장에서는 리스크 파이브 칩 외에도 AI 반도체에 대한 수요도 높다. 우리가 자동차에 강점이 있는 이유는 우리 팀에 테슬라 자율주행 개발에 참여한 인원들이 많아서다. 이쪽에 흥미를 가진 사람이 많다. HPC와 스마트폰도 마찬가지다. 여기에는 고성능 CPU가 탑재되는데 우린 이 분야에 선두에 선 전문 인력이 포진해있다.”

- 농업에서는 최근 자율주행 트랙터, 로봇 등이 사용되고 있다. 이와 관련된 칩도 개발하나.

“물론이다. 우리 기술은 모든 분야에 확장 가능하다. 농업에서의 활용도 마찬가지다. 우리가 LG와 협약한 것 중 하나가 AI를 활용해 저장 에너지를 최적화해 트랙터에 사용하는 연구를 함께하자는 것이었다. 단 우리는 개방형으로 공개돼 여느 기업이나 쉽게 접근할 수 있는 리스크 파이브 기술과 AI 성능으로 기술 가치는 더 높이고 있다. 다양한 영역 범위를 추론할 수 있는 기능과 다양한 추론을 할 수 있는 기능을 갖춘 AI 칩을 만들어 효율적인 AI 활용을 이끄는 것이 목표다.”

- 한국 고객사가 많다. 그 이유는 무엇인가.

“한국 시장은 흥미롭다. 비즈니스 전략이 공격적이고 회사들은 위험을 감수하고 사업에 도전하려는 의지가 강하다. 텐스토렌트는 한국 반도체 산업과 이미 오랫동안 협력을 많이 해왔다. 그래서 국가 간 신뢰가 강하다. 이 때문에 한국 기업에서도 우리 회사를 믿고 협업 기회를 같이 탐색하는 것 같다.”

- 한국과 산학 협력을 해도 좋을 것 같은데.

“우리 팀에는 재능이 많은 엔지니어가 많다. 다양한 나라에서 재능 있는 인재가 와 함께 협력하길 바란다. 우리는 전 세계 대학교와 협력해 저렴한 가격에 소프트웨어 프로그램을 제공해서 학생들이 하드웨어 프로그램 등을 배울 수 있도록 기술을 제공하고 있다. 한국에서도 이런 기회가 많아졌으면 좋겠다. 짐 켈러 CEO와 밥 그림 부사장은 서울대에 가서 강의를 하기도 했다. 우리가 이렇게 노력하는 이유는 앞으로 AI와 리스크 파이브가 컴퓨팅의 미래라고 생각하기 때문이다. 지금 한국을 포함해 많은 국가에서 AI 모델 발전에 성과를 내고 있는데 대부분이 GPU를 이용해 발전시키고 있다. 우리는 GPU가 아닌 더 발전된 AI 소프트웨어와 하드웨어 프로그램을 제공한다. 또 개방형으로 공개된 리스크 파이브를 사용한다. 이 같은 우리 프로그램에 학생들이 익숙해져서 함께 컴퓨팅 혁신을 이끌어갔으면 좋겠다.”