인공지능(AI) 스타트업 ‘포티투마루’가 AI 윤리 교육을 시행하고, 임직원들에게 디지털 역기능에 관해 선제적으로 대응해야 할 필요성을 강조했다.

포티투마루는 방송통신위원회가 한국지능정보사회진흥원(NIA), 국제인공지능&윤리협회(IAAE)가 함께 추진하는 ‘찾아가는 디지털 윤리 교육’을 진행하고 임직원과 함께 AI 윤리 필요성을 다시금 강조했다고 24일 밝혔다. 

찾아가는 디지털 윤리 교육은 방송통신위원회와 NIA가 민간기업 및 공공기관 등에 재직 중인 직장인을 대상으로 디지털 혐오 표현, 디지털 성범죄, 언어폭력, 허위·조작정보 등 디지털 역기능 관련 이슈와 인공지능(AI) 윤리에 관해 실시하는 기관별 맞춤형 대면 교육이다.

이날 교육 연사로는 전창배 IAAE 이사장이 나섰다. 그는 AI 윤리 5대 문제로 △편향성 △오류와 안전성 △악용·오용 △개인정보 침해 △저작권 침해 등을 지적하고, 이를 기술적, 교육적, 정책적 방향으로 풀어야 한다는 내용의 강연을 했다.

포티투마루는 AI 기술 확보와 함께 윤리 필요성을 강조하는 회사 중 한 곳이다. 과학기술정보통신부와 함께 AI 개발 단계에서 신뢰성 확보를 위해 기술적으로 확인해야 할 요구사항을 담은 ‘개발 안내서(가이드북)’ 발행에 참여했고, 한국정보통신기술협회(TTA)와 협력해 AI 신뢰성 확보를 위한 모델 개발 가이드라인 컨설팅에 참여했다. 이러한 공로로 지난해 IAAE와 AI 전문매체 더에이아이(THE AI)가 시행한 ‘제1회 Good AI 어워드(Awards)’에서 우수상을 받기도 했다. 

김동환 대표는 이 자리에서 AI 기업의 윤리 의식 함양과 예상되는 문제점에 대한 빠른 대응을 강조한 것으로 전해졌다. 그는 “CIO(최고정보관리책임자) 제도와 같이 CAEO(최고인공지능윤리책임자) 제도를 만들 필요가 있다”며 기업 및 기관의 인공지능 윤리 의식을 함양하고 디지털 역기능에 선제적으로 대응해여 한다”고 했다.

전창배 IAAE 이사장은 “최근 생성형 AI 발전으로 할루시네이션(환각) 현상과 정보 보안 문제 등이 중요한 화두로 대두되고 있는데, 생성형 초거대 AI 기반 기술 스타트업인 포티투마루에서 AI 윤리 교육을 진행하게 돼 뜻깊다”며 “AI 윤리가 기술 발전을 저해하는 것은 절대 아니며, 적절한 통제를 통해 인간이 행복하고 편리하게 이용할 수 있도록 해야 한다”고 말했다.