그렇다면 우리네 일반인들은 하루하루를 어떻게 살아가야 할까? 우리가 복잡한 법 체계를 헤쳐나가기 위해 신뢰하는 변호사들이, 솔직히 말해, 지어낸 이야기를 가지고 업무를 처리하고 있다는 뜻이다. 당신의 이혼 합의나 개인 상해 소송이 완전히 날조된 법적 선례에 기반하고 있다고 상상해보라. 이제는 더 이상 공상과학 소설이 아니다. 빅로펌의 신성한 전당에 AI가 통합되면서 벌어진, 지저분하고 창피한 현실이다.
진보의 환상
법조계에서의 AI에 대한 뉴스가 연일 쏟아지고 있다. 대형 로펌들은 AI 도입, 효율성 증대, 미래로의 도약을 외치고 있다. 하지만 속을 들여다보면, 번지르르한 홍보 뒤에 근본적인 문제가 곪아가고 있다. 변호사들이 소장 초안 작성과 사건 조사를 돕도록 설계된 AI 도구들이, 명백히 내용을 지어내고 있다는 것이다. 단순히 사실을 잘못 해석하는 수준이 아니라, 존재하지도 않는 인용, 존재하지도 않는 판결을 완전히 창조해내고 있다. 이건 사소한 버그가 아니다. 법률 업무의 근간을 뒤흔드는 거대한 구멍이다.
법정에서의 할루시네이션
오글트리 디킨스(Ogletree Deakins)의 리즈 워쉬코(Liz Washko)는 지친 현실감으로 이를 명확히 설명한다. 그녀는 놀랍지 않다고 말한다. “변호사로서 우리는 전문가다. 우리가 인용한 내용이 실제로 존재하고, 우리가 인용한 대로 작성되었는지 확인하는 것은 우리의 책임이다. AI 이전에도 그랬다… 정확하게 인용했는지 확인하는 것 말이다. 이전에도 일어나지 않았던 일은 없다고 생각한다.” 이는 놀랍도록 직설적인 평가다. 기술은 새롭지만, 부실한 업무의 결과는 예전부터 있었던 일이다. 그럼에도 불구하고, 이 프레임은 너무나 쉽게 넘어가려는 느낌을 준다. AI는 단순히 약간 더 복잡한 철자 검사기가 아니다. 설득력 있게 그럴듯한 거짓말을 생성하는 능력은 새로운 차원의 위험을 초래한다.
하지만 나는 이것이 발생하지 않도록 모든 조치를 강구하겠다는 의지가 확고하다.
이는 선제적인 리더십을 보여주려는 의도겠지만, 근본적인 문제가 사용자를 적극적으로 속이는 도구라는 점을 고려하면 다소 공허하게 들린다. 각 로펌들은 ‘정책’과 ‘추가 절차’를 도입하며 부산스럽게 움직이고 있다. 다시 말해, 변호사들에게 AI가 생성한 내용을 두 번, 세 번 확인하라고 지시하고 있는 것이다. 이는 사실상 AI 도입으로 얻었다던 효율성 이득 대부분을 상쇄하는 조치다. 마치 자율 주행차를 샀는데도 계속 운전대를 잡고 도로를 주시해야 하는 것과 같다.
편리함의 대가
가장 분통 터지는 부분은 이것이다. AI 도입 추진은 종종 기계식 청구 시간(billable hours)을 줄여주겠다는 약속에서 비롯된다. 이는 더 적은 수의 변호사가 더 많은 사건을 더 빠르게 처리한다는 것을 의미한다. 하지만 AI가 결정적인 판례를 할루시네이션하고, 그 오류가 소장에 포함된다면, 청구 시간은 절약되지 않는다. 오히려 수정 작업, 잠재적인 징계, 평판 손상으로 인해 몇 배로 늘어난다. 의뢰인들은 잘못된 실험에 돈을 지불하고 있는 셈이다. 금융적으로나 윤리적으로나 지뢰밭이다.
이 문제는 특정 로펌이나 특정 소프트웨어만의 문제가 아니다. AI의 한계를 완전히 이해하거나 엄격한 안전장치를 마련하지 않고 AI를 섣불리 도입한 데서 비롯된 시스템적인 문제다. 전통적으로 변화에 더딘 법조계는 이제 기술 혁명의 소용돌이 속으로 무모하게 뛰어들고 있으며, 스스로 발에 걸려 넘어지고 있는 듯하다.
과거로부터의 반성?
워쉬코의 “이전에도 일어나지 않았던 일은 없다고 생각한다”는 주장은 다소 핑계에 가깝다. 변호사들은 항상 자신의 출처를 검증할 책임이 있었다. 하지만 AI는 탐욕스러운 자동화를 도입하여, 디지털 권위의 외피로 부실한 업무를 은폐할 수 있다. AI가 콘텐츠를 생성하는 엄청난 양과 속도는 오류가 전례 없는 속도로 확산될 수 있다는 것을 의미한다. 주니어 어소시에이트가 수동으로 인용 오류를 저지르는 것은 한 번의 사건이지만, AI가 수십 개의 가짜 판례를 쏟아내는 것은 완전히 다른 차원의 문제다. 잠재적 재앙의 규모가 기하급수적으로 커진다.
앞으로 나아갈 길: 과대 광고가 아닌 회의론
여기서 진정한 교훈은 특정 AI 도구에 관한 것이 아니다. 바로 사고방식에 관한 것이다. 각 로펌은 깊은 회의론을 가져야 한다. AI는 법률적 판단을 대체하는 것이 아니라 도구임을 이해해야 한다. 그리고 결정적으로, AI 결과물을 단순히 도장 찍듯 승인하지 않는 강력한 검증 프로세스에 투자해야 한다. 그렇지 않으면, 빅로펌을 위한 ‘AI 현실 점검’은 전면적인 법률 및 금융 위기로 변모할 것이다.
🧬 관련 인사이트
자주 묻는 질문
법률 분야에서 AI 할루시네이션이란 무엇인가요? AI 할루시네이션은 생성형 AI 모델이 사실인 것처럼 제시되지만, 부정확하거나 날조된 정보를 생성하는 것을 말합니다. 법률 분야에서는 존재하지 않는 판례 인용, 법률 원칙, 또는 전체 법원 판결을 만들어내는 것을 의미합니다.
이 가짜 판례가 진행 중인 제 법적 사건에 영향을 미칠까요? 잠재적으로 영향을 미칠 수 있습니다. 귀하의 법률 팀이 할루시네이션을 일으킨 AI 도구에 의존하고, 이러한 오류가 법원 제출 서류에 포함된다면, 이는 상당한 복잡성, 지연을 초래하거나 심지어 귀하를 대신하여 잘못된 법적 주장이 제기될 수도 있습니다.
로펌들은 AI 실수를 방지하기 위해 어떤 조치를 취하고 있나요? 많은 로펌들이 AI 사용에 대한 더 엄격한 정책을 시행하고 있으며, 변호사들에게 AI 생성 콘텐츠, 특히 판례 인용 및 법적 선례에 대해 꼼꼼하게 검증하도록 요구하고 있습니다. 여기에는 전통적인 법률 연구 데이터베이스와의 교차 검증이 포함되는 경우가 많습니다.
