'AI가 이긴다고 했는데 왜 졌냐'를 읽고 – AI 시대의 법률 활용과 사법의 방향

‘AI가 이긴다고 했는데 왜 졌냐’고 묻는 의뢰인들 [세상에 이런 법이]

AI 시대의 법률 활용과 사법의 방향

최근 「'AI가 이긴다고 했는데 왜 졌냐'고 묻는 의뢰인들」이라는 칼럼을 읽으며 많은 생각을 하게 되었습니다.

생성형 AI가 법률 분야에 빠르게 확산되면서 변호사와 법원, 그리고 소송 당사자의 역할에도 변화가 나타나고 있습니다. 칼럼은 이러한 변화를 변호사의 시각에서 바라보며 AI 시대의 사법은 어떤 방향으로 나아가야 하는지를 이야기합니다.

칼럼이 제기하는 문제의식에는 충분히 공감합니다. 그러나 글을 읽으며 한 가지 아쉬움도 느꼈습니다.

AI를 실제로 활용하는 과정과 그 과정에서 인간이 어떤 역할을 해야 하는지에 대한 중요한 맥락이 충분히 담겨 있지 않았기 때문입니다.

이번 글에서는 해당 칼럼을 출발점으로 하여 AI 시대의 법률 활용과 사법이 어떤 방향으로 발전해야 하는지 정리해 보았습니다.

1. 칼럼이 말하는 핵심

칼럼은 생성형 AI가 법률 서비스에 가져온 변화를 여러 사례를 통해 소개합니다.

AI를 통해 변호사를 추천받아 찾아오는 의뢰인, 변호사가 작성한 서면을 AI로 다시 검토하여 수정 의견을 전달하는 의뢰인, 그리고 사건 기록을 AI에 입력해 "승소 가능성이 높다."는 답변을 받았음에도 실제 재판에서 패소하자 법원의 판단을 의심하는 의뢰인의 사례가 등장합니다.

또한 법원 역시 AI 활용을 시험적으로 도입하고 있으며, 예비 법조인들도 AI 활용 능력을 갖추어야 하는 시대가 되었다는 점을 설명합니다.

칼럼의 결론은 비교적 명확합니다.

AI 시대에도 재판은 결국 사람이 해야 하며, 법원의 판단은 이전보다 더욱 투명하고 구체적인 설명을 통해 국민을 설득할 수 있어야 한다는 것입니다.

이러한 문제의식에는 충분히 공감할 수 있습니다.

2. 칼럼에서 다루지 못한 중요한 맥락

그러나 칼럼에는 몇 가지 중요한 맥락이 생략되어 있습니다.

첫째, 사용자의 AI 활용 과정이 보이지 않습니다.

칼럼에서는 "AI가 수정 의견을 제시했다.", "AI가 승소한다고 했다."는 결과만 소개됩니다.

하지만 실제 AI 활용은 그보다 훨씬 복합적인 과정입니다.

사용자는 어떤 자료를 입력했는지, 어떤 질문을 했는지, AI의 답변을 어떻게 검토했는지, 반대 논리를 다시 검증했는지와 같은 과정이 전혀 드러나지 않습니다.

생성형 AI는 한 번 질문하고 끝나는 도구가 아니라, 질문과 검증을 반복하며 자신의 논리를 점검하는 과정에서 가장 큰 효과를 발휘합니다.

이 과정이 생략되면서 독자는 AI가 단순히 '정답을 제시하는 기계'처럼 받아들일 가능성이 있습니다.

둘째, AI의 판단 조건이 설명되지 않습니다.

칼럼에서는 사건 기록을 AI에 입력했더니 승소 가능성이 높다고 판단했다는 사례가 등장합니다.

그러나 AI는 입력된 자료만을 근거로 답변합니다.

반면 재판은 원고와 피고의 주장, 새롭게 제출되는 증거, 반대신문, 법정에서 형성되는 심증 등을 모두 종합하여 이루어집니다.

즉 AI와 법원이 동일한 정보를 보고 판단했다고 볼 수 없습니다.

이러한 전제가 설명되지 않은 상태에서 AI와 법원의 결론만 비교하는 것은 다소 단순한 접근이라고 생각합니다.

셋째, AI를 경쟁자로만 바라보고 있습니다.

칼럼에서는 AI가 변호사와 법원을 검증하는 존재처럼 묘사됩니다.

그러나 실제 사례들을 살펴보면 AI는 사람을 대신하는 존재보다 사람의 사고를 보조하는 도구로 활용되는 경우가 훨씬 많습니다.

이러한 관점이 함께 제시되었다면 논의가 더욱 균형 있게 전개될 수 있었을 것입니다.

3. 법률 분야에서 AI는 어디까지 활용되어야 할까요?

AI는 인간의 판단을 대신하는 기술이 아니라, 인간의 판단을 지원하는 기술로 이해하는 것이 현실적이라고 생각합니다.

예를 들어 AI는 다음과 같은 업무에서 높은 활용 가치를 가질 수 있습니다.

방대한 기록 정리
판례 검색 및 비교
주요 쟁점 추출
문서 초안 작성
논리 구조 점검
반론 구성
표현 개선

반면 다음과 같은 영역은 반드시 사람이 직접 담당해야 합니다.

증거의 신빙성 판단
사실 인정
가치 판단
최종 법적 결론
법적·윤리적 책임

특히 사법부에서는 AI가 재판의 결론을 내리는 존재가 되어서는 안 됩니다.

판사가 주문과 핵심 판단 근거를 직접 결정하고, AI는 이를 바탕으로 기록을 정리하거나 판결문 초안을 작성하는 보조 역할을 수행하며, 최종 검토와 책임은 판사가 부담하는 구조가 현재로서는 가장 현실적인 방향이라고 생각합니다.

즉 AI가 대신해야 하는 것은 판단이 아니라 반복적이고 방대한 실무입니다.

4. AI를 사용할 때 반드시 경계해야 할 점

생성형 AI는 매우 강력한 도구이지만 동시에 분명한 한계도 존재합니다.

첫째, AI는 입력된 정보만을 바탕으로 판단합니다. 입력 자료가 편향되어 있다면 결과 역시 편향될 가능성이 높습니다.

둘째, AI의 답변은 확률적 추론일 뿐입니다. 법원의 최종 판단을 대신할 수 없으며, 재판 결과를 보장하지도 않습니다.

셋째, AI 역시 환각(Hallucination) 현상을 일으킬 수 있습니다. 따라서 하나의 답변만으로 결론을 내려서는 안 되며, 역할을 바꾸어 질문하거나 다른 질문 방식으로 다시 검증하는 과정이 필요합니다. 가능하다면 다른 AI를 통한 검증도 유효합니다.

넷째, 개인정보 보호도 매우 중요합니다. 사건 관계인의 이름뿐 아니라 사건번호, 주소, 거래 금액 등 사건을 특정할 수 있는 정보는 충분히 비식별화한 뒤 활용하는 것이 바람직합니다.

5. AI를 활용한 승소 사례가 남긴 의미

최근에는 생성형 AI를 활용하여 소장을 작성하고 실제 승소한 사례도 소개되고 있습니다.

그러나 이러한 사례가 의미하는 것은 AI가 변호사를 대신했다는 사실이 아닙니다.

오히려 사용자가 사건을 정리하고, 관련 자료를 수집하고, 판례를 검토하며, AI를 반복적으로 활용해 자신의 논리를 점검하고 보완하는 과정을 거쳤다는 점이 더 중요합니다.

즉 승소를 만든 것은 AI의 한 번의 답변이 아니라 AI를 활용한 사용자의 사고 과정이었습니다.

이러한 사례는 생성형 AI가 정답을 제공하는 도구가 아니라, 인간의 사고를 확장하고 논리를 검증하는 도구임을 보여주는 대표적인 사례라고 생각합니다.

참고뉴스 : “‘챗GPT 변호사’로 전세사기 보증금 돌려받았다”

6. 맺으며

AI는 사법을 대신할 수 없습니다.

재판은 결국 사람이 수행해야 하며, 법적·윤리적 책임 역시 인간에게 귀속됩니다.

그러나 AI는 인간의 사고를 지원하고 방대한 정보를 효율적으로 처리하는 매우 강력한 도구가 될 수 있습니다.

사용자는 AI를 활용하여 자신의 논리를 검증하고, 변호사는 문서의 완성도를 높이며, 법원은 방대한 기록을 정리하고 문서 작성의 효율성을 높일 수 있습니다.

중요한 것은 AI 자체가 아니라 인간이 AI를 어떤 원칙 아래에서 활용하고 통제하느냐입니다.

AI 시대의 핵심은 AI가 판결하는 사회를 만드는 것이 아니라, 인간이 판단하고 AI가 이를 지원하는 체계를 확립하는 것입니다.

결국 AI 시대에 필요한 것은 AI를 신뢰할 것인가를 논의하는 것이 아니라, 인간이 AI를 어떤 원칙 아래에서 활용하고 통제할 것인가에 대한 기준을 마련하는 일입니다.

이러한 관점에서 소송 당사자와 사법부가 생성형 AI를 활용할 때 고려해야 할 최소한의 활용 원칙을 다음과 같이 정리해 보았습니다.

[소송 당사자(사용자)의 AI 활용 지침]

1. 정보 입력의 객관성과 엄격한 데이터 보안

균형 있는 정보 제공: 나에게 유리한 정황뿐만 아니라 불리한 사실관계, 상대방의 주장과 증거까지 모두 입력하여 AI가 편향된 결과를 도출하지 않도록 통제해야 합니다.
비식별화 범위의 구체화: 당사자 성명과 주민등록번호는 물론, 사건 번호, 구체적 지명, 거래 액수, 상호명 등 특정 사건을 추적·식별할 수 있는 모든 데이터는 가명 처리(또는 비식별화)한 후 제공해야 합니다.

2. 통계적 한계 인지 및 전문가 검증

맹신 금지: AI의 답변은 과거 판례와 법조문을 바탕으로 한 '통계적 추정'일 뿐, 해당 사건 재판부의 고유한 판단을 대체할 수 없습니다.
전문가 개입: 생성된 서면이나 법리 해석은 반드시 담당 변호사나 법조인의 최종 검토를 거쳐 실제 법정에서의 효력과 리스크를 점검받아야 합니다.

3. 불가피한 단독 활용 시 다중 검증(Cross-Check) 수행

경제적·시간적 이유로 법조인의 조력을 받을 수 없는 경우, 단일 세션에서 도출된 한 번의 결과로 결론을 내리지 않습니다.
논리를 반대로 뒤집어 질문하거나(역할극 기법), 새로운 세션에서 다른 프롬프트로 재검증하는 등 내부 검증 절차를 거쳐 오류(환각 현상) 발생 확률을 최소화해야 합니다.

[사법부(법원)의 AI 활용 지침]

1. AI의 '도구적 지위' 확립

사법 시스템 내에서 AI는 재판의 결론을 내리는 주체가 될 수 없으며, 방대한 기록을 정리하고 판결문 작성을 돕는 '보조 도구(Assistant)'로 그 지위와 역할을 엄격히 제한해야 합니다.

2. 가치 판단 개입 차단

AI를 재판에 투입할 경우, 원고와 피고(검사와 피의자) 양측의 주장을 대조하고 주요 쟁점을 추출·요약하는 기능에만 한정합니다.
누가 옳은지, 증거의 신빙성이 있는지를 가늠하는 '가치 판단'이나 '법적 결론'을 AI가 스스로 내리지 못하도록 시스템 가이드라인을 강제해야 합니다.

3. 인간 중심의 통제(Human-in-the-loop) 및 최종 책임 명시

주문 및 논리 통제: 판사가 직접 판결의 '주문(결론)'과 '핵심 판단 근거'를 설정하여 AI에 제공하고, AI는 이를 바탕으로 지정된 문체에 맞춰 판결문 초안만을 직조해야 합니다.
교차 검증의 한계와 판사 책임: 방대한 분량 검토 시 다른 AI 세션이나 알고리즘을 활용한 교차 검토(LLM-as-a-Judge)를 보조적으로 활용할 수 있으나, AI 간 공통된 오독이나 동일 알고리즘 편향의 한계가 존재함을 명심해야 합니다. AI의 지원을 받아 작성된 모든 판결 내용의 최종 검증과 법적·윤리적 책임은 오직 담당 판사 개인에게 완전히 귀속됩니다.

이 블로그 검색

Argument in Korea