AI가 틀린 것이 아니라, AI를 사용하는 방법이 문제였다- 생성형 AI 시대, 민원과 법률 활용에서 필요한 검증의 기준
제미나이가 맞다는데 당신이 왜 그래…AI로 기세등등 민원인에 공무원들 곤욕 [세상&]
최근 생성형 AI가 일상생활뿐 아니라 법률·행정 영역까지 빠르게 확산되고 있습니다.
과거에는 전문가의 도움을 받아야 했던 법률 정보 확인, 민원 내용 작성, 각종 문서 작성 등을 이제는 누구나 AI의 도움을 받아 진행할 수 있게 되었습니다.
이는 정보 접근성을 높인다는 점에서 긍정적인 변화입니다.
그러나 동시에 새로운 문제가 나타나고 있습니다.
생성형 AI가 제공한 답변을 충분한 검토 없이 절대적인 정답으로 받아들이고, 이를 근거로 행정기관이나 전문가의 판단을 부정하는 사례가 발생하고 있기 때문입니다.
최근 보도된 생성형 AI 관련 민원 사례를 통해 AI 시대에 필요한 활용 기준을 정리해 보고자 합니다.
1. 보도 내용 정리
최근 보도에서는 생성형 AI를 활용한 민원 과정에서 발생한 갈등 사례를 소개했습니다.
보도에 따르면 한 민원인은 생성형 AI인 제미나이의 답변을 근거로 공무원에게 문제를 제기했습니다.
민원인은 AI가 주차장법 위반이라고 답변했다는 점을 근거로 자신의 주장을 펼쳤고, 담당 공무원은 관련 법령을 확인한 결과 위반 사항이 아니라고 설명했습니다.
하지만 민원인은 AI 답변과 다르다는 이유로 설명을 받아들이지 않았고, 결국 장시간의 갈등으로 이어졌습니다.
또한 보도에서는 이러한 사례 외에도 생성형 AI를 활용하여 고소장 초안을 작성하거나, 특정 행위에 적용될 수 있는 죄명을 확인하려는 사례가 증가하고 있다고 설명했습니다.
AI를 활용하면 누구나 법률·행정 정보에 쉽게 접근할 수 있다는 장점이 있습니다.
하지만 법률과 행정 분야에서는 단순한 법조문 확인만으로 결론이 정해지는 것이 아니라 구체적인 사실관계와 적용 조건에 따라 판단이 달라질 수 있기 때문에 AI 답변을 그대로 정답처럼 받아들이는 것은 위험하다는 점을 지적하고 있습니다.
2. 보도 내용에서 놓친 중요한 맹점
AI 답변이 생성되는 과정에 대한 검토 부족
이번 보도는 생성형 AI 답변을 근거로 민원을 제기하면서 발생한 갈등을 보여주고 있습니다.
하지만 보도에서 상대적으로 부족하게 다뤄진 부분이 있습니다.
바로 AI가 어떠한 질문과 자료를 기반으로 답변을 생성했는가에 대한 검토입니다.
보도에서는 민원인이 "제미나이가 주차장법 위반이라고 했다"고 주장한 사례를 소개하고 있습니다.
하지만 해당 AI 답변이 어떤 질문을 통해 생성되었는지, 그리고 AI에게 어떤 사실관계와 자료가 제공되었는지는 공개되지 않았습니다.
생성형 AI는 법률 전문가처럼 사건 전체를 자동으로 파악하여 판단하는 방식이 아닙니다.
사용자가 입력한 질문과 제공한 정보, 그리고 요청한 검토 범위에 따라 답변의 방향이 달라질 수 있습니다.
예를 들어 같은 사안이라도,
- 단순히 "법 위반인가?"라고 질문하는 경우
- 구체적인 사실관계를 함께 제공하는 경우
- 적용 가능한 관련 법령과 예외 규정까지 검토하도록 요청하는 경우
- 반대 입장에서 문제가 될 가능성까지 확인하도록 요청하는 경우
AI가 검토하는 범위와 답변 내용은 달라질 수 있습니다.
따라서 AI 답변의 적절성을 판단하려면 결과만 확인할 것이 아니라 다음 과정을 함께 확인해야 합니다.
- 사용자가 AI에게 어떤 질문을 했는가
- 어떤 사실관계를 입력했는가
- 필요한 조건을 충분히 제공했는가
- 관련 법령과 예외 사항까지 검토하도록 요청했는가
- AI 답변을 다른 관점에서 다시 검증했는가
특히 법률과 행정 분야에서는 하나의 법령만으로 결론이 결정되지 않는 경우가 많습니다.
적용 대상, 구체적인 상황, 시행 시기, 관련 규정 등에 따라 결과가 달라질 수 있기 때문입니다.
따라서 이번 보도의 핵심 문제를 단순히 "AI가 틀린 답변을 했다"라고만 정리하기는 어렵습니다.
더 중요한 문제는 AI 답변이 어떠한 과정으로 만들어졌으며, 그 답변이 충분한 검증 과정을 거친 뒤 민원의 근거로 사용되었는가입니다.
생성형 AI는 행정기관이나 전문가의 판단을 대신하는 도구가 아니라, 사용자가 자신의 주장을 검토하고 정보를 정리하는 보조 도구입니다.
3. 생성형 AI의 한계
답변보다 판단 과정을 확인해야 합니다
생성형 AI는 매우 강력한 정보 처리 도구입니다.
하지만 AI는 인간처럼 사실을 직접 경험하거나 법적 판단을 내리는 존재가 아닙니다.
AI는 입력된 정보와 학습된 패턴을 기반으로 가장 가능성이 높은 답변을 생성합니다.
따라서 다음과 같은 한계를 가지고 있습니다.
첫째, 입력 정보의 영향을 받습니다.
AI는 사용자가 제공한 자료를 기반으로 답변합니다.
따라서 중요한 사실이 빠져 있거나 특정 방향의 정보만 제공된다면 결과 역시 제한될 수 있습니다.
둘째, 질문 방식에 따라 답변 방향이 달라질 수 있습니다.
사용자가 특정 결론을 전제로 질문하면 AI 역시 그 전제 안에서 답변할 가능성이 높습니다.
예를 들어,
"이것이 위법인지 확인해 달라"
와
"이것이 위법이 아닐 가능성과 반대 논리를 함께 검토해 달라"
는 서로 다른 결과를 만들 수 있습니다.
셋째, AI는 환각(Hallucination)을 발생시킬 수 있습니다.
존재하지 않는 법조문이나 판례를 제시하거나, 실제 사실관계와 맞지 않는 내용을 포함할 가능성이 있습니다.
넷째, 법률·행정 판단은 단순한 정보 검색이 아닙니다.
실제 판단에서는,
- 구체적인 사실관계
- 증거 자료
- 법령 적용 조건
- 예외 규정
- 기존 해석
등을 종합적으로 검토해야 합니다.
따라서 AI 답변은 검토의 출발점이 될 수 있지만 최종 판단 자체가 될 수는 없습니다.
4. 민원인이 생성형 AI를 올바르게 활용하는 방법
생성형 AI를 활용한 민원이 효과를 가지려면 AI를 "내 주장을 확인해 주는 도구"가 아니라 "내 주장을 검증하는 도구"로 활용해야 합니다.
1단계. 사실관계를 정확하게 정리합니다.
AI에게 질문하기 전에 먼저 사건 내용을 객관적으로 정리해야 합니다.
확인해야 할 내용은 다음과 같습니다.
- 발생 시점
- 대상
- 관련 자료
- 상대방 주장
- 본인이 알고 있는 문제점
가능하면 자신에게 불리한 내용도 함께 입력해야 균형 있는 검토가 가능합니다.
2단계. 관련 법령과 적용 조건을 검토합니다.
단순히 "위반인가?"라고 질문하는 것은 충분하지 않습니다.
다음 내용을 함께 요청해야 합니다.
- 적용 가능한 법령은 무엇인지
- 관련될 수 있는 다른 법령은 없는지
- 예외 규정은 무엇인지
- 시행 시기나 경과 규정이 영향을 주는지
- 반대 해석 가능성은 무엇인지
특히 사용자가 알고 있는 하나의 법령만 기준으로 질문하면 AI의 검토 범위 역시 제한될 수 있습니다.
따라서 AI에게 관련 가능성이 있는 다른 법령과 반대 관점까지 함께 검토하도록 요청하는 과정이 필요합니다.
3단계. AI 답변을 반대 관점에서 다시 검토합니다.
AI에게 다음과 같이 질문할 필요가 있습니다.
- 이 판단이 틀릴 가능성은 무엇인가?
- 행정기관은 어떤 근거로 다른 판단을 할 수 있는가?
- 상대방 입장에서는 어떤 반론이 가능한가?
이 과정은 AI의 오류뿐 아니라 사용자의 질문 오류도 줄여줍니다.
4단계. 최종 민원은 검증 후 작성합니다.
AI 답변을 그대로 복사하여 사용하는 것이 아니라,
- 법령 원문 확인
- 공식 자료 확인
- 관련 기관 문의
- 필요 시 전문가 검토
를 거친 뒤 민원 내용으로 활용해야 합니다.
5. 공공기관의 AI 활용 안내문에 대한 판단
보도에서는 공공기관이 시민들에게 생성형 AI 답변은 참고자료일 뿐 공식적인 법률 해석이 아니라는 안내를 강화할 계획이라고 소개했습니다.
이러한 방향은 필요합니다.
생성형 AI는 시민들의 정보 접근성을 높이는 유용한 도구입니다.
하지만 AI 답변은 공식적인 행정 해석이나 법원의 판단과 동일하지 않습니다.
따라서 공공기관 안내문에는 다음 내용이 포함될 필요가 있습니다.
- 생성형 AI는 참고자료로 활용해야 합니다.
- AI 답변이 항상 최신 법령을 반영하는 것은 아닙니다.
- 사실관계에 따라 결과가 달라질 수 있습니다.
- AI 답변은 공식적인 법률 판단을 대신하지 않습니다.
- 중요한 사항은 관련 기관 확인이 필요합니다.
다만 "AI를 믿지 말라"는 방식의 안내만으로는 충분하지 않습니다.
시민들이 AI를 잘못 활용하는 이유는 AI 자체가 아니라 AI 활용 방법에 대한 이해 부족 때문입니다.
따라서 공공기관은 AI 사용 제한보다 올바른 활용 방법을 안내해야 합니다.
6. 공공기관 AI 활용 안내문 제안
생성형 AI 활용 시 확인해야 할 사항
생성형 AI는 정보를 찾고 내용을 정리하는 데 도움을 줄 수 있는 유용한 도구입니다.
하지만 AI 답변이 항상 정확하거나 공식적인 판단을 의미하는 것은 아닙니다.
AI를 활용할 때는 다음 사항을 확인하시기 바랍니다.
1. AI 답변은 참고자료입니다.
생성형 AI의 답변은 법률 해석이나 행정 판단을 대신하지 않습니다.
2. 질문과 입력 정보에 따라 답변이 달라질 수 있습니다.
AI는 사용자가 제공한 정보와 질문 방식의 영향을 받습니다.
충분한 사실관계가 제공되지 않은 경우 정확한 판단이 어려울 수 있습니다.
3. 관련 조건을 함께 확인해야 합니다.
법률과 행정 사항은 하나의 기준만으로 판단되지 않을 수 있습니다.
적용 법령, 관련 규정, 예외 사항, 시행 시기 등을 함께 확인해야 합니다.
4. AI 답변은 반드시 검증해야 합니다.
중요한 민원이나 법률 문제는 공식 자료 확인과 관련 기관 문의 등을 통해 다시 확인하시기 바랍니다.
생성형 AI는 사람의 판단을 대신하는 도구가 아니라 더 나은 판단을 돕는 보조 도구입니다.
7. 결론
보도내용은 생성형 AI를 활용하여 민원을 제기하는 과정에서 발생할 수 있는 문제를 보여주는 사례입니다.
해당 사례의 핵심 문제는 AI를 사용했다는 사실 자체가 아닙니다. 문제는 AI가 제시한 답변을 충분한 검토 과정 없이 최종적인 근거처럼 받아들였다는 점입니다.
생성형 AI 서비스는 대부분 답변 하단에 다음과 같은 취지의 안내를 제공합니다.
"AI의 답변은 틀릴 수 있습니다."
이 문장은 단순히 표현이 부정확할 수 있다는 의미만을 말하는 것이 아닙니다. AI가 존재하지 않는 정보나 사실과 다른 내용을 생성할 가능성이 있다는 의미입니다.
다만 이러한 오류 가능성은 AI만의 문제가 아닙니다.
AI는 사용자가 제공한 정보와 질문의 조건을 기반으로 답변을 생성합니다. 따라서 사용자가 충분한 사실관계와 필요한 조건을 제공하지 않은 상태에서 질문한다면, AI 역시 제한된 정보 안에서 판단할 수밖에 없습니다.
예를 들어 특정 시설의 법 위반 여부를 확인하려는 경우에도 단순히 하나의 기준만 질문하는 것과, 해당 시설의 종류·설치 시점·적용 법령·예외 조건 등 판단에 필요한 정보를 함께 제공하는 것은 전혀 다른 결과를 가져올 수 있습니다.
AI는 사용자의 질문 안에 포함된 정보와 조건을 바탕으로 판단하기 때문에, 질문에 포함되지 않은 중요한 사실관계까지 자동으로 확인해 주는 존재가 아닙니다.
또한 AI가 모든 정보를 자동으로 찾아 판단한다고 생각하는 것도 주의해야 합니다.
일부 AI 서비스는 검색 기능을 통해 외부 정보를 활용할 수 있지만, 해당 기능이 항상 활성화되는 것은 아니며, 검색 가능한 정보 역시 공개 범위와 데이터 상태 등에 따라 한계가 있습니다.
검색 기능을 사용하지 않는 경우 AI는 학습된 정보와 사용자가 제공한 자료를 중심으로 판단합니다.
따라서 사용자는 AI를 "모든 정보를 알고 있는 전문가"가 아니라, 제공된 정보를 기반으로 분석을 돕는 도구로 이해해야 합니다.
AI 활용에서 중요한 것은 한 번의 답변을 얻는 것이 아니라, 그 답변이 만들어진 과정을 검토하는 것입니다.
- 내가 제공한 정보가 충분한가?
- 적용될 수 있는 다른 조건이나 법령은 없는가?
- AI가 놓친 예외 사항은 없는가?
- 반대되는 관점에서도 같은 판단이 나오는가?
이러한 검증 과정이 필요합니다.
앞서 제시한 AI 활용 방법은 절대적인 정답이라고 주장하는 것이 아닙니다. 다만 실제 AI 활용 과정에서 발생하는 문제를 줄이기 위한 하나의 기준이며, 사용자가 AI를 보다 정확하게 활용하기 위한 참고 방법입니다.
그리고 이러한 방식으로 AI를 활용했다면 보도에서 제시된 사례와 같은 문제는 상당 부분 예방할 수 있었다고 판단합니다.
그 이유는 "‘챗GPT 변호사’로 전세사기 보증금 돌려받았다"는 사례에서도 확인할 수 있습니다.
참고뉴스 : “‘챗GPT 변호사’로 전세사기 보증금 돌려받았다”
해당 사례에서 사용자는 AI가 제시한 답변을 그대로 믿은 것이 아닙니다. AI를 활용하여 필요한 절차를 확인하고, 증거를 수집하고, 자신의 상황에 맞게 검토했으며, 반대되는 논리까지 점검하는 과정을 거쳤습니다.
즉 문제 해결의 핵심은 AI가 정답을 제공했다는 것이 아니라, 사용자가 AI를 활용하여 자신의 판단 과정을 보완했다는 점입니다.
두 사례의 차이는 AI의 성능 차이가 아닙니다.
하나는 AI의 답변을 최종 결론처럼 받아들인 사례이고, 다른 하나는 AI를 검토와 분석을 위한 도구로 활용한 사례입니다.
생성형 AI의 활용은 이미 일상적인 단계로 들어서고 있습니다.
따라서 앞으로 중요한 것은 "AI를 사용할 것인가"가 아니라 "AI를 어떻게 제대로 사용할 것인가"입니다.
AI는 인간의 판단을 대신하는 존재가 아닙니다. 그러나 인간이 더 정확하게 판단할 수 있도록 자료를 정리하고, 논리를 검토하고, 놓친 부분을 찾아내는 강력한 도구가 될 수 있습니다.
결국 AI 시대에 필요한 능력은 AI에게 질문하는 능력만이 아닙니다.
AI의 답변을 검증하고, 필요한 정보를 제공하고, 결과를 현실에 적용하기 전에 다시 판단하는 능력입니다.
이번 보도는 AI를 잘못 활용했을 때 발생할 수 있는 문제를 보여주는 사례입니다.
그리고 이 글은 그 문제를 해결하기 위해 AI를 어떻게 활용해야 하는지에 대한 하나의 방향을 제시하고자 합니다.
AI는 답을 대신 결정하는 도구가 아니라, 인간의 판단을 더 나은 방향으로 이끄는 도구가 되어야 합니다.
댓글