“심리 상담은 인공지능(AI)보다는 인간의 전문 상담사가 필요한 영역입니다. 더 잘할 수 있고 더 잘하게 만들어야 되는 부분이고요. 기술은 인간을 보조하는, 코퍼레이팅(cooperating)하는 그런 쪽에 포커싱이 되어야 된다고 생각합니다.”

김정선 LG유플러스 위원의 말이다. 그는 18일 서울 양재 엘타워 오르체홀에서 진행된 ‘2025 디지털헬스케어 유공표창 및 성과보고회’에서 인공지능(AI)과 같은 첨단 기술은 상담사를 대체하는 것이 아니라, 상담사가 더 잘할 수 있도록 보조하는 데 초점을 맞춰야 한다고 강조했다.

이날 진행된 행사는 과학기술정보통신부와 정보통신산업진흥회(NIPA)가 지원하는 사업들에 대해 표창과 성과를 공유하는 자리다. LG유플러스는 ‘초거대 AI: AI심리케어·돌봄 지원’을 주제로 발표를 진행했다. 김 위원은 “심리케어는 공감과 위안이 필요해 사람의 의존도가 절대적으로 높은 분야”라고 설명했다.

◇ “심리상담에 AI 활용도 늘지만 해결은 어려워”

김 위원은 이날 발표에서 AI 심리상담의 한계를 지적했다. “챗GPT를 어디에 많이 쓰느냐고 미국에서 조사했더니, 심리와 자기 고민 상담에 많이 쓰고 있더라”며 “시간 내서 어디를 찾아가고, 자기 고민을 누군가에게 털어놓는 건 쉬운 일이 아니기 때문이다”고 설명했다.

하지만 김 위원은 AI만으로 인간의 심리 문제를 해결하기 어렵다고 강조했다. 그는 “대형언어모델(LLM)은 그냥 잘 학습되고 훈련돼서 통계적으로 답변을 쏟아내는 기계일 뿐”이라며 “사람에게 필요한 건 지능보다 지혜, 그리고 공감, 그리고 위안”이라고 말했다.

실제로 AI 상담의 위험성을 보여주는 사례들이 있다. 김 위원에 따르면 미국 플로리다의 14세 청소년, 캘리포니아의 16세 청소년, 뉴저지의 76세 고령자가 챗GPT와 상담한 뒤 극단적 선택을 했다. 이 사건들은 현재 법원에 상정되어 있다. 김 위원은 “심리 상담은 AI보다 인간의 전문 상담사가 필요한 영역”이라며 “기술은 인간을 보조하는, 코퍼레이팅(cooperating)하는 쪽에 포커싱되어야 한다”고 밝혔다. 이것이 LG유플러스가 진행하고 있는 프로젝트의 핵심이다.

◇ 음성으로 스트레스 감지…상담 일지 자동 작성

이번 프로젝트에는 엘지유플러스를 비롯해 LLM 전문 기업 포티투마루, 셀바스AI 헬스케어 부문, 신진우 KAIST 교수팀, 서수영 성신여대 교수, 정석훈 아산병원 정신건강의학과 교수, 다인 등이 참여했다.

컨소시엄이 개발한 핵심 기술은 ‘보이스 센서’다. 상담 현장에서 내담자의 음성을 분석해 상담사가 눈으로 파악하기 어려운 신호를 잡아낸다. 보이스 센서는 네 가지 기능을 갖췄다. 첫째는 스트레스 센서로, 음성에서 스트레스 수준을 감지한다. 둘째는 보이스 컨디션으로, 음성 발화 정도를 체크한다. 셋째는 감정 분석으로, 음성에 담긴 7가지 감정을 분석한다. 마지막으로 비언어적 신호 감지로, 흐느낌, 목 조임, 한숨 등 7가지 표현을 파악한다. 김 위원은 “상담사분들이 눈으로 대체할 수 없는 내담자의 시그널을 잡아낼 수 있을까 고민했다”며 “회기별로 스트레스가 증가하는지, 안정적인지, 감소하는지를 데이터로 제공해 상담 효율화를 돕는다”고 설명했다.

서비스는 초보 상담사들의 행정 업무 부담도 덜어준다. 현재 6000여 개의 기관에서 매년 수만 명의 심리상담사가 배출되지만, 이들은 현장에서 여러 어려움을 겪는다. 처음 하는 일에 대한 두려움, 내담자의 고민을 듣고 공감하며 해결책을 가이드해야 하는 전문성, 상담 일지 작성과 다음 회기 계획 수립 같은 행정 처리가 대표적이다.

이에 컨소시엄은 AI가 상담 일지를 자동 생성하고, 내용을 요약하며, 주요 키워드를 추출하는 기능을 개발했다. 내담자와 상담사의 발화 비율도 분석해주고, 다음 회기 상담 계획 수립도 지원한다. 다만 AI가 생성한 결과물을 채택할지 말지는 전적으로 상담사가 결정하도록 설계했다. 김 위원은 “모든 의사결정은 상담사가 내리고, AI는 철저하게 상담사의 업무를 보조하는 역할”이라고 강조했다.

상담 데이터는 모바일 앱을 통해 수집한다. 김 위원은 “심리 상담 현장에서는 내담자와 상담사의 라포(rapport·신뢰관계) 형성을 위해 문진표 외에는 디지털 기기가 없다”며 “PC나 큰 마이크를 설치할 수 없어 모바일 앱으로 음성을 수집하는 방식을 택했다”고 말했다. 수집된 음성은 음성인식 기술로 텍스트로 변환(STT, Sound To Text)하고, 비식별화 처리를 거쳐 안전하게 활용한다.

◇ 내년 시범 서비스…청소년·고령층 상담에 우선 적용

사업은 올해 2차 연도를 마무리하고 있다. 1차 연도(2024년)에는 실제 상담 현장에서 데이터를 수집하고 전처리했다. 올해에는 서비스 아키텍처를 설계하고, 웹 기반 프론트엔드와 주요 기능의 개념검증(PoC)를 완료했다.

3차 연도인 내년에는 클라우드 기반 시스템 구현과 시범 서비스 운영이 예정돼 있다. 벤치마크 테스트를 통해 최적의 LLM을 선정하고, 상담사에게 조언을 제공하는 ‘엑스퍼트 에이전트’와 예약을 돕는 ‘예약 에이전트’도 개발할 계획이다. 상담 내역과 각종 정보를 연결 분석하는 지식 그래프(Knowledge Graph)도 구축한다.

시범 서비스는 내년 하반기에 상담사 네트워크를 통해 진행된다. 이때 상담사들의 피드백을 시스템에 반영해 AI 역량을 빠르게 강화할 예정이다. 적용 대상은 사회적으로 문제가 심각한 영역에 집중한다. 청소년 심리 상담, 청년 일자리 문제와 연계한 은둔형 외톨이(히키코모리) 상담, 고령층 상담 등이 우선 타깃이다.

4차 연도인 오는 2027년에는 본 서비스를 런칭하고 본격적인 사업화 네트워크를 확장한다는 계획이다. 김 위원은 “전체 AI 생태계에서 자살, 고령화, 청소년 문제를 해결할 수 있는 심리 상담 영역은 굉장히 중요하다”면서 “컨소시엄은 이 부분에 막중한 책임감과 열정을 갖고 있다”고 강조다. 이어 “초보 상담사도 중급 상담사 이상의 퍼포먼스를 낼 수 있도록 지원하고, 사회 문제 해결에 조금이라도 기여하겠다”고 덧붙였다.