의료 데이터 외부 유출 막는다…서울아산병원, 폐쇄망 AI 구축

서울아산병원이 외부 인터넷과 분리된 폐쇄망 환경에서 생성형 AI 기반 지식 검색 시스템을 구축하고 운영에 들어갔다. 외부 클라우드 없이 병원 내부 서버와 데이터만 활용하는 ‘프라이빗 AI’ 방식이다.

서울아산병원은 최근 폐쇄망 기반 ‘프라이빗 AI 지식 검색 시스템’을 구축했다고 18일 밝혔다. 의료진은 시스템에 질문을 입력하면 병원 내 임상진료지침과 업무 규정 등을 기반으로 필요한 정보를 수 초 내 검색·확인할 수 있다.

병원은 패혈증 의심 환자 발생 시 초기 대응 프로토콜과 항생제 투여 지침, 검사 항목 등을 AI가 제시할 수 있다고 설명했다. 답변에는 관련 정보 출처도 함께 표시된다.

이번 시스템은 외부 클라우드에 데이터를 보내지 않고 병원 내부 서버에서만 AI 모델을 운영하는 온프레미스(On-premise) 방식으로 구축됐다. 병원은 이를 통해 생성형 AI 활용 과정에서 제기돼 온 의료 데이터 유출 우려를 줄일 수 있을 것으로 기대했다.

기술적으로는 벡터 데이터베이스와 RAG(검색 증강 생성·Retrieval-Augmented Generation) 기술이 적용됐다. 벡터 데이터베이스는 문서 내용을 의미 단위로 변환해 저장·검색하는 기술이며, RAG는 AI가 답변 생성 과정에서 실제 저장된 문서를 우선 검색해 참고하도록 하는 방식이다.

서울아산병원은 이를 통해 생성형 AI의 ‘환각(Hallucination)’ 발생 가능성을 줄이는 데 도움을 줄 수 있다고 설명했다. 환각은 AI가 실제 근거 없이 그럴듯한 정보를 생성하는 현상을 의미한다.

다만 생성형 AI는 최신 정보 반영과 외부 AI 생태계 연계가 빠르게 이뤄지는 분야인 만큼, 의료기관 역시 보안과 연결성 사이에서 균형을 고민해야 한다는 지적도 있다. AI 산업계에서는 폐쇄망 기반 AI가 보안 측면에서는 장점이 있지만, 최신 정보 반영과 확장성 측면에서는 한계가 있을 수 있다는 시각도 나온다. 실제 해외 주요 병원과 빅테크 기업들은 외부 클라우드를 활용하되 데이터 암호화와 접근 권한 관리 등을 강화하는 방식으로 생성형 AI를 운영하는 사례가 늘고 있다.

서울아산병원 역시 폐쇄망 환경에서 외부 최신 정보를 실시간으로 반영하기 어렵다는 점을 고려해 ‘샌드박스형 외부 검색 엔진’을 별도로 운영할 계획이다. 외부 검색이 필요한 경우 환자 정보를 식별할 수 없도록 익명 처리된 질문만 외부로 전달하는 방식이다.

또한 병원은 외부 솔루션 업체에 의존하지 않고 병원 내 IT 인력이 직접 시스템을 개발했다고 설명했다.

김영학 서울아산병원 디지털정보혁신본부장은 “이번 시스템은 보안과 AI 활용이라는 두 과제를 동시에 해결하며, 폐쇄망 환경에서도 AI를 온전히 활용할 수 있음을 직접 증명했다는 점에서 의미가 크다”며 “앞으로도 시스템을 지속적으로 고도화하며 데이터 유출 걱정 없는 신뢰 기반의 디지털 의료 혁신을 선도해 나가겠다”고 말했다.