도심항공교통(UAM) 기술은 상용화 단계에 도달했지만 엄격한 규제가 걸림돌로 지적되고 있다. EU AI법 설계자인 가브리엘레 마치니 MIT 교수는 9일 서울에서 열린 ‘글로벌모빌리티컨퍼런스 2025’에서 “신기술 규제가 지나치게 경직되면 혁신을 가로막을 수 있다”며 유연한 접근의 필요성을 강조했다.

마치니 교수는 EU AI 법 초안을 설계하고 최종 법안 완성본을 총괄한 인물이다. 유럽연합(EU) 집행위원회에서 AI Act 팀 리더로 EU AI법의 초기 컨셉과 아이디어를 개발했다. 법안 채택 후에도 유럽의회와 유럽이사회의 입법 협상과정에서 수석 자문 역할을 수행했다. 현재는 MIT 미디어랩의 협력 연구자로 활동하고 있다. 이탈리아 카메리노대 총장 AI 자문위원, 뉴욕 변호사협회 AI·디지털 기술에 관한 대통령 TF 일원으로도 참여하고 있다.

마치니 교수에 따르면 교통 분야는 ‘고위험 AI’ 시스템 범주에 속한다. EU AI법은 AI 시스템을 금지된 위험, 고위험 AI, 제한적 위험, 무위험 등 4가지 위험(risk)을 기반으로 규제를 적용하고 있다. 용납할 수 없는 AI는 전면 금지된다. 고위험 AI는 엄격한 규제를 받는다. 교통 분야의 경우 도로 안전성과 관련이 있으면 고위험 AI에 해당한다. 오작동이 일어나면 시민의 생명과 건강을 위험에 빠뜨릴 수 있는 시스템이 이에 속한다. 대표적으로 의료, 교통, 교육, 고용, 법 집행 분야이다.

마치니 교수는 “교통 분야 AI 시스템이 엄격한 안전성을 요구받는다”며 “교통의 주요 인프라에 사용되는 부품이 있는 경우 고위험 AI 범주에 포함될 수 있다”고 설명했다. 이는 도심항공교통(UAM)과 같은 차세대 교통수단도 마찬가지다.

이날 컨퍼런스에서는 신기술 시장인 UAM의 규제 장벽에 대한 논의가 집중됐다. UAM 산업이 기술적으로는 준비가 됐지만 규제 장벽으로 상용화가 지연되고 있는 상황이다.

국내도 마찬가지다. 이날 토론에 참여한 김재우 대한항공 부사장도 “광명시에서 인천공항까지 UAM으로 20분이면 갈 수 있다”며 “기술적으로는 이미 모든 것이 마련돼 있는 상황”이라고 강조했다.

마치니 교수는 토론에서도 신기술에 대한 규제에 대해 유연한 접근을 해야 한다고 조언했다. 그는 “예측하기 어려운 기술에 대해서는 규제가 너무 명확하고 경직돼서는 안 된다”며 “혁신을 저해하지 않으면서도 안전성을 확보할 수 있는 균형점을 찾아야 한다”고 강조했다.

EU AI법의 경우 고위험 AI 시스템에 대해 적절한 위험 평가·완화 시스템, AI의 잘못된 결과를 최소화하기 위한 고품질 데이터셋, 결과의 추적성을 보장하는 활동 로깅, 상세한 기술 문서 작성, 적절한 인간 감독 조치, 높은 수준의 견고성·사이버보안·정확성 등 엄격한 신뢰성 확보 요건을 두고 있다.

한편 EU는 올해부터 AI법을 단계적으로 시행하고 있다. 지난달 2일부터 범용 AI(GPAI, General Purpose AI) 모델에 관련한 투명성 보고·저작권 준수·안전성 평가 조항이 이미 시행 중이다. 내년 8월부터는 의료, 교통, 교육, 고용, 법 집행 분야 등 고위험 AI 시스템에 대한 본격적인 규제가 적용된다. 2027년 이후에는 EU 전역에서 AI법의 모든 리스크에 대한 규제가 집행된다.