[TAS 2025] ‘환각·데이터 독점·윤리 공백’ 리걸테크 과제 주목

AI 법률 시장 ‘이중 잣대’, 국내 리걸테크 규제 해소 필요
법률 전문가 5만 명 시대, AI가 법조 생태계에 끼친 영향은?
AI 저작권, 학습 데이터 보상 등 법률계 떠오른 뉴 딜레마

법조계 전문가들이 ‘The AI Show 2025(TAS 2025)’에 참가해 AI 기술이 법률 시장에 주어진 근본적 질문들을 조명했다. 이날 행사에는 오정익 법무법인 원 변호사, 이상직 법무법인 태평양 변호사, 양진영 법무법인 민후 대표변호사가 연사로 나서 각각 ‘AI 법률 서비스 관련 국내 기업의 역차별 문제’, ‘법률 비즈니스의 미래’, ‘AI 법률 서비스가 변호사 시장의 공정성을 해치지 않는가’라는 주제로 기조 발언을 진행했다. 

오정익 변호사는 국내 리걸테크 기업이 직면한 구조적 역차별 문제를 제기했다. 오 변호사는 “변호사가 아닌 자가 금품 등 이익을 받고 법률 사무를 취급하면, 7년 이하 징역 또는 5000만 원 이하 벌금에 처해질 수 있다”고 밝혔다. 이어 그는 “국내 리걸테크 기업의 AI 기반 법률 챗봇은 변호사법 위반 이슈 때문에 현재 변호사만 유료 가입해 사용할 수 있도록 제한돼 있고, 일반인에게는 공개되지 않고 있다”고 설명했다. 

오 변호사는 이러한 제도적 규제가 의사, 세무사, 회계사 등 전문직 전반에 적용되는 것이라며 “의약품 제조업체가 제품을 가장 잘 알아도 처방은 의사만 하도록 한 것처럼, 결과의 정확성보다 책임과 윤리, 새로운 가치 반영 등 여러 문제 때문에 제도적으로 규제한다”고 취지를 설명했다. 그는 “유료 버전 ChatGPT나 제미나이를 사용해 법률 자문을 받은 분들이 많다. 심지어 소송을 위해 몇 개월만 구독하는 경우도 있다”며 “이는 사실상 돈을 받고 법률 용역을 하는 것인데, 국내 기업이나 대한변호사협회에서는 전혀 규제하지 않는다”고 지적했다. 

특히 오 변호사는 ChatGPT의 환각 현상 문제를 강조했다. “ChatGPT 같은 범용 AI는 법률 영역에 특화하지 않아 환각 현상이 심각하다. 판례 번호가 나오면 대부분 틀린 판례가 나오고, 프롬프트에서 ‘확인되지 않는 판례 번호는 절대 언급하지 말라’고 해도 계속 잘못된 정보를 제공한다”고 말했다. 그는 “국내 기업은 법 위반 이슈로 사업을 못 하는데 해외 기업은 계속 영업하고 있어 역차별이 발생하고 있다”며 “개인정보보호법이나 전기통신사업법상 해외 사업자는 국내 대리인을 두도록 돼 있지만, 실제로는 페이퍼컴퍼니처럼 역할을 하지 않는다는 비판을 받고 있다”고 덧붙였다. 

이상직 변호사는 AI 시대 법률 시장의 구조적 변화와 우려되는 지점을 날카롭게 조명했다. 그는 현재 법률 시장 상황을 먼저 진단하며 “현재 변호사가 매년 1700명 이상 배출되며, 판사·검사·변호사 등 법률 전문가를 합치면 5만 명을 넘어섰다”고 밝혔다. 이 변호사는 “법률 시장 규모에 비해 공급이 과잉 상태고, 대형 로펌에 사건이 집중되면서 젊은 변호사에게는 사건이 거의 없는 상황”이라고 설명했다. 이런 상황에서 AI의 등장은 법률 시장에 더 큰 파장을 예고하고 있다. 이 변호사는 “기술적으로 AI가 변호사 역할을 할 수 있는 시대가 됐다. 국민들은 변호사 상담보다 AI 검색 결과가 더 나을 수 있다고 생각하기 시작했다”고 진단했다. 

특히 이 변호사는 데이터 축적의 중요성과 그로 인한 양극화 우려를 강조했다. 이 변호사의 말에 따르면, 대형 로펌은 20~30년간 축적한 방대한 법률 데이터를 보유하고 있다. 기업 자문의 경우도 마찬가지다. 이 변호사는 “많은 법률 데이터를 수집하고 고도화한 AI 시스템을 이용할 수 있는 자본력 있는 의뢰인의 사건만 대형 로펌에 모이게 되면, 개인 변호사나 소형 로펌은 고객도 아는 단순한 정보 분석에만 그치게 된다”고 말했다.

이상직 변호사는 “이는 대형 로펌과 소형 로펌, 데이터를 가진 변호사와 그렇지 못한 변호사 간 격차를 심화한다”고 지적했다. 이어 그는 “AI 시대에는 법률 데이터와 AI 서비스뿐 아니라, 의뢰인의 자유와 권리를 타인의 권리를 침해하지 않으면서 보호하는 변호사의 본질을 어떻게 지킬 것인지에 대한 근본적 고민이 필요하다”고 강조했다. 

양진영 변호사는 AI 법률 서비스가 법조 시장에 미치는 영향을 ‘디지털 격차’의 관점에서 분석했다. 양 변호사는 “변호사가 가장 우려하는 문제는 법률 서비스 시장의 독과점이었고, 다음으로 리걸테크 시스템의 불투명성과 할루시네이션, 개인정보 유출 순이었다”고 밝혔다. 반면 필요한 이유로는 업무 효율성 제고, 인건비 절감, 서비스 품질 개선을 꼽았다고 설명했다.

양 변호사는 격차 심화 요인으로 대형 로펌과 개인 변호사 간 기술·자본 투자 능력 차이, 양질의 데이터 확보 격차, 데이터 엔지니어 등 전문 인력 구성 불균형을 제시했다. 그는 “구독형 AI 서비스 대중화로 개인 변호사들도 저렴한 비용으로 AI를 활용하게 됐고, AI 플랫폼을 통한 고객 확보 채널 확대, 법률 서비스 품질 평준화로 격차가 좁혀지는 면도 있다”며 “이는 공정성 문제라기보다 AI 도입으로 인한 시장 재편으로 봐야 한다”고 분석했다. 

토론 세션에서는 AI 법률 서비스의 핵심 기술적·제도적 과제가 집중적으로 논의됐다. 할루시네이션 문제에 대해 이상직 변호사는 독특한 시각을 제시했다. 이 변호사는 “할루시네이션을 무조건 나쁜 것으로만 봐서는 안 된다. 창작의 세계에서는 할루시네이션이야말로 가장 중요하다”며 “온라인, 모바일, 메타버스는 기존에 없던 것이었다. 기존 데이터에만 의존하면 새로운 가치가 나올 수 없다”고 말했다. 다만 “법률 세계에서는 판례와 사실관계를 뒤바꾸면 안 되기에 진실 여부가 굉장히 중요하다”며 균형 잡힌 접근을 주문했다.

오정익 변호사는 법률 분야를 사실관계 확정과 법리 적용으로 구분하며 “사실관계 확정은 의뢰인의 진술, 관련 자료, 타인의 진술을 종합해 판단하는 영역인데, 이는 사회적 가치관과 판단 능력이 종합적으로 작용하는 부분”이라고 설명했다. 오 변호사는 “AI는 학습하지 않은 것 이상은 나오지 않는다. 할루시네이션도 그 범주 내에 있을 뿐”이라며 “사람이 예상하지 못한 사회적 가치를 반영하지는 못하기에 사실관계 확정은 여전히 변호사의 영역으로 남을 것”이라고 전망했다. 다만 법리 적용 부분에서는 할루시네이션이 있으면 안 되며, 최근 국내에서도 존재하지 않는 판례로 무혐의 판단이 내려진 사례가 있었기에, 리걸테크 기업의 출처 표시 기준을 국가나 정부, 변협 단체에서 명확하게 마련해야 한다고 강조했다. 

윤리 규범의 법제화에 대해 이상직 변호사는 “원자력, 의료, AI 등 굉장히 위험한 분야에서 윤리를 얘기한다. AI 딥러닝 구간에서 우리가 예측하지 못한 결과가 나올 수 있는데, 좋은 것만이 아니라 아주 나쁜 것도 나올 수 있다”고 지적했다. 이 변호사는 “현재 윤리 기준은 추상적이고 모호해 ‘윤리 워싱’의 가능성이 있다. 더 중요한 건 윤리에 대한 각성이다. 이 결과물에 대해 어떻게 통제하고 책임을 질지 끊임없이 고민해야 한다”고 강조했다.

오정익 변호사는 “개발자의 윤리도 필요하지만 사용자의 윤리가 더 중요하다. 기술이 발전하면 나오는 결과물에 의심을 안 품고 쓰는 사람들이 많아질 것”이라고 우려했다. 이어 그는 “학생들이 AI를 활용한 글을 제출하면서 내용을 제대로 검토하지 않아 막상 물어보면 잘 모르는 경우가 많다. 사용자 윤리 교육이 확실히 필요하다”고 말했다. 

세 번째 주제인 AI 생성 콘텐츠의 저작권에 대해 오정익 변호사는 “AI를 통해 나오는 저작 결과물은 인간이 창조하는 저작물과 유사한 수준의 것들이 엄청난 속도로 쏟아지고 있다”며 “과연 그것을 보호할 필요가 있을까에 대한 사회적 합의가 필요하다”고 제기했다. 그는 “현재는 어느 나라든 AI가 내놓은 결과물은 인간의 노력이 많이 포함되지 않는 한 인정하지 않는 추세”라며 “인정하더라도 기존 저작물과 동일한 수준의 저작권을 인정해줄 것인가는 의문”이라고 밝혔다. 

이상직 변호사는 학습 데이터 문제를 제기하며 “의료·건강 같은 민감한 데이터도 학습에 활용하려면 특정 데이터 주인에게 개별 보상은 어렵더라도 기금을 만들어 집단적으로 보상하는 시스템을 만들어야 한다”고 제안했다. 양진영 변호사는 “공공이 가진 리걸 데이터를 활용해 더 다양한 서비스를 개발할 수 있을 것”이라며 공공 데이터 활용 확대를 제안했다.