[칼럼] AI의 안전, 안전을 위한 AI

AI는 최근 몇 년 사이 빠르게 우리의 일상 속으로 침투해 대중에게 큰 충격을 안겨주었고, 이제 AI는 기술 발전의 상징이 되었다. 물론 AI의 실제 능력에 대해 회의적인 시각을 가진 사람들도 있다. 이들은 AI가 과대평가 되고 있다고 주장하지만, AI가 놀라운 발전을 이루고 있다는 사실 자체는 부정하기 어렵다. 이러한 발전 속도를 감안할 때, 정말로 대단한 혁신이 우리 생애 내에 일어날 것이라는 예측은 더 이상 공상에 머무르지 않는다.

이처럼 AI의 잠재력이 무궁무진하다는 사실이 널리 인식되면서, AI의 안전에 대한 우려와 논의도 자연스럽게 확산되고 있다. 몇 해 전, 일론 머스크는 AI 개발이 지나치게 빠르게 이루어지고 있어 위험하다는 경고와 함께 대규모 언어 모델 연구를 6개월간 중단하자는 제안을 했다. 인공지능의 아버지라 불리는 제프리 힌튼 교수도 자신의 연구 결과가 AI의 위험성을 증대시켰다며 구글을 떠났다. 국제 사회는 AI의 안전 규범을 세우기 위해 끊임없이 노력하고 있다. 우리나라 역시 AI 서울 정상회의를 통해 AI 안전연구소 설립을 결정하는 등 정부 차원에서 대응의 노력을 기울이고 있다.

AI의 발전이 위험을 동반할 수 있다는 점은 명백하다. 지난해 외국의 한 30대 남성에게 한 챗봇이 자살 방법을 안내하여 죽음으로 내몰았다고 하여 큰 사회적 문제가 되었다. 이는 AI가 사람의 생명과 안전을 심각하게 위협할 수 있다는 것을 보여준다.

그러나 거의 같은 상황에서 AI가 반대로 도움이 될 수도 있다. 우선 AI 챗봇은 우울하거나 외로운 사람들에게 큰 위로가 될 수 있다. 나는 아무리 심심하거나 외로워도 챗봇하고는 얘기 안 할 거야, 라고 섣불리 단정하지 말자. 누구든 세상사에 지쳤을 때 24시간 어느 때든 내 말을 들어주고 내가 행여나 상처나 부담을 주지는 않을까 걱정하지 않아도 되는 대상이 있다는 것은 큰 의미가 될 수 있으니까. 아니면 이런 것은 어떤가? AI 챗봇은 대화 중 상대의 자살이나 범죄 모의 같은 이상 징후를 감지할 수 있다. 이를 통해 곧바로 적절한 조치를 취할 수 있다면, 이는 AI가 사람의 생명을 구하는 중요한 도구가 될 수 있음을 의미한다.

최근에는 AI가 기대만큼 우리의 삶을 획기적으로 개선하지 못하고 있다는 회의론도 제기되고 있다. 많은 글로벌 테크 대기업들은 AI 개발에 천문학적인 비용을 쏟고도 충분한 수익을 얻지 못하고 있다. 국내 상황도 나을 바가 없다. 글로벌 기업들과 직접적으로 경쟁하기에는 국내 대기업들의 자금력이 부족하다. 수익성이 뚜렷하지 않기는 마찬가지다. ChatGPT 이후로 너도나도 생산성 부문에 열을 올리고 있지만 엘도라도는 아직 발견되지 않은 것 같다. 이런 상황에서 (넓은 의미의) 안전을 위한 AI 활용 부문을 주목해 볼 필요가 있다.

사방에 설치된 CCTV는 의식하면 기분은 나빠도 범죄 예방 효과가 탁월하다. 그 뒤에는 CCTV를 눈이 빠져라 지켜보는 사람들의 노고가 숨어 있다. 앞으로는 CCTV를 AI가 자동분석 하여 그분들의 수고를 덜어줄 것이다. 요즘 유튜브를 보다 보면 어찌나 욕설이 많은지 아이들이 들을까 겁이 난다. 빨리 구글에서 AI를 이용해 자동 삐 처리해 주는 기능을 넣어주면 좋겠다.

최근 들어 어디 해외에서 알지 못하는 사람이 내 애인이라며 민망한 문자를 자주 보내온다. 스팸 처리는 AI가 아주 잘할 수 있는 영역이다. 여러 회사가 내부의 비리로 인해 큰 곤욕을 치러 왔다. 많은 회사가 준법감시팀을 두고 있지만, 살펴야 할 내용은 매우 많고 인력은 제한적이라 상당한 리스크를 여전히 안고 있다. AI는 사람처럼 잠을 잘 필요도 없고 지치지도 않는다. AI가 준법 감시 시스템에 활용된다면 매우 효율적일 것이다.

AI는 양날의 검이다. 따지고 보면 많은 유용한 것들이 그렇지 않은가. 생각만 해도 끔찍한 핵무기도 어찌 됐든 평화 유지에 일정 역할을 하는 것 같다. 사실 멀리 갈 것도 없다. 날이 하나든 둘이든 검 자체도 그렇다. 나는 얼마 전 과도에 손이 베었다. 하지만 오늘은 그 칼로 복숭아를 깎아 맛있게 먹었다.

AI에 대한 적절한 두려움을 바탕으로 AI의 안전을 논하자. 그리고 우리의 안전을 위해 AI를 어떻게 활용할지 고민하자.