“몇 년 안에 인공지능(AI) 신뢰성은 자동차 안전벨트나 에어백처럼 없으면 안 되는 필수 요소가 될 것입니다.”

박지환 씽크포비엘 대표의 말이다. 그는 30일 서울 코엑스에서 열린 ‘제3회 TRAIN 심포지엄 개회사’에서 AI 신뢰성은 AI 발전의 중요 조건이 될 것이라고 밝혔다. 또 AI 신뢰성이 AI 발전의 저해요소가 아니라고 했다. “AI 신뢰성을 강조하면 기업이 위축돼 기술 발전이 어렵다는 말을 많이 듣는다”며 “하지만 이는 어린아이에게 ‘나중에 다 커서 숙제할 거야’라고 미루게 한 뒤, 막상 점수가 낮으면 화내는 모습과 같다”고 말했다.

TRAIN(Trustworthy AI International Network)은 AI 신뢰성 국제연대다. 기술과 산업·시장이 급변하는 상황에서 이질적인 문화와 제도·정책으로 야기되는 문제를 민간이 공동 대응하자는 취지로 지난해 2월 출범했다. 

◇ 신뢰성은 AI의 새로운 경쟁력

박 대표는 이번 개회사에서 신뢰성을 바라보는 관점부터 바꿔야 한다는 입장을 밝혔다. “신뢰성은 너무 식상하게 여겨지고, 발표 장표에 사용하는 디자인처럼 수식어로만 쓰인다”며 “책임감보다 장식적인 단어에 그치면 안 된다”고 지적했다.

그는 “무조건 빨리 가는 게 운전 실력인지, 교통법규를 잘 지키면서 가는 게 운전 실력인지는 우리가 어떻게 생각하느냐에 달렸다”며 “신뢰성을 기술 발전을 저해하는 잔소리로 볼 것인지, 아니면 신뢰성 자체를 기술 경쟁력으로 볼 것인지에 따라 방향이 완전히 달라진다”고 설명했다.

권종원 한국산업기술시험원(KTL) 산업지능화기술센터장도 축사에서 “많은 부처 관계자가 AI 신뢰성을 기업을 압박하는 규제로 보지만, 신뢰성 자체가 하나의 경쟁력으로 자리매김할 수 있다”고 강조했다.

권 센터장은 최근 미국에서 14세 소년이 챗GPT와 대화 후 스스로 목숨을 끊은 사건을 소개하며 “개발자나 조직의 문제가 아니라 새로운 기술을 접하고 서비스를 준비하는 과정에서 놓친 부분이 있었다”며 “소년의 어머니는 기업을 상대로 손해배상을 청구했고, 그 기업은 큰 사회적 이슈에 직면했다”고 설명했다.

그는 이같은 상황이 몇 년 전 BMS ESS(에너지저장장치) 화재 사건과 유사하다고 했다. “이 화재는 원인을 규명하는 데 1~2년이 걸렸고, 그 과정에서 BMS 산업 생태계 전반이 침체됐다”며 “AI도 신뢰성을 잃으면 산업 전반이 저해될 수 있는 리스크가 있다”고 경고했다.

이유정 법무법인 원 대표변호사는 환영사에서 “신뢰성과 책임성이라는 가치가 AI의 미래를 결정하는 핵심 기준이 될 것”이라며 “단순히 기술 발전을 넘어서 미래 세대가 신뢰할 수 있는 AI 생태계를 만들어가는 국제적 공감대를 만들어야 한다”고 조언했다.

◇ 현장의 실용, 상아탑 철학 아닌 실천

박지환 대표는 TRAIN의 지향점은 ‘실용’에 있다고 밝혔다. “현장에서 겪는 실질적인 어려움을 기술적·과학적·객관적 방법으로 해결할 수 없다면 그것은 공학적 방법이 아니다”라며 “현장에서 쓰이지 못하는 지침이 무슨 의미가 있겠느냐”고 반문했다. 또 “상아탑에 갇혀 헛된 평화를 외치거나 철학적 얘기를 하는 것보다 실천하고 검증하고 해결하는 것이 TRAIN의 방식”이라며 “우리가 얻고 싶은 것은 철저하게 실용주의”라고 강조했다.

권 센터장도 실용적 접근의 중요성을 강조했다. “AI 신뢰성을 얘기하면 기업들이 ‘얼마나 많은 문서를 요구할 것이냐’고 묻는다”며 “하지만 문서 자체가 중요한 게 아니라, AI 시스템을 안전하게 만들기 위해 검토했다는 증거가 중요하다” 말했다. 이어 “결국 하나의 문서가 아니라 표준을 기반으로 한 조직 생태계 내에 들어오는 것이 가장 중요하다”며 “가장 중요한 것은 교육과 내재화”라고 강조했다.