2천 건의 허위 인용: AI 환각 사건이 법조계에 가르치는 것

문제의 윤곽

이 데이터베이스는 법조계가 가진 것 중 인구조사에 가장 가까운 자료이며, 그 증가 곡선이 이야기의 전부를 말해 줍니다. 2026년 5월까지 약 1,490건, 6월 초에 1,598건, 9월 중순에 2,041건입니다. 이러한 증가는 모델의 성능이 나빠지고 있다는 증거가 아닙니다. 대부분의 지표로 보면 모델은 오히려 좋아지고 있습니다. 이는 도입 속도가 검증 속도를 앞질렀다는 증거이며, 동시에 법원이 이 문제를 본격적으로 들여다보기 시작했다는 증거입니다.

총계보다 더 중요한 것은 관할별 분포입니다. 미국이 압도적인 이유는 변호사 수가 가장 많고, 소송이 가장 많으며, 제재 실무가 가장 적극적이기 때문입니다. 그러나 인구 대비로 보면 캐나다, 호주, 이스라엘의 수치가 매우 두드러지고, 영국의 69건에서는 전 세계에서 가장 날카로운 사법적 언사가 나왔습니다. 이들은 모두 인용 문화가 강하게 자리 잡은 보통법 체계이며, 준비서면의 성패가 권위 있는 선례에 달려 있는 곳입니다. 바로 그런 환경에서 허위 인용은 최대의 피해를 냅니다. 그리고 이 설명은 많은 튀르키예 법률가들이 인정하고 싶어 하는 것보다 훨씬 더 정확하게 튀르키예 민사 실무에도 들어맞습니다.

위험의 순서로 본 세 가지 유형의 허위 생성

'환각'을 하나의 현상으로 뭉뚱그려 다루면, 사실은 성격이 전혀 다른 세 가지 실패가 한데 묶여 있고 각각의 위험이 다르다는 점이 가려집니다.

존재하지 않는 판결. 그럴듯한 사건명, 법원명, 연도를 갖췄지만 실제로는 존재하지 않는 결정에 대한 인용입니다. 최초로 알려진 실패 유형이며, 가장 잡아내기 쉽습니다. 판례 데이터베이스에서 한 번만 검색해 보면 아무것도 나오지 않기 때문입니다.
존재하지 않는 법리. 실재하는 판결을 정확하게 인용하면서, 그 판결이 판시하지 않은 내용을 판시한 것처럼 설명하는 경우입니다. 인용 자체는 검증을 통과하므로 훨씬 잡아내기 어렵고, 판결문을 직접 읽어 본 사람만이 문제를 발견할 수 있습니다. 이 유형이야말로 법원의 판결문 안까지 살아남을 가능성이 가장 큰 변종입니다.
변조된 식별정보. 실재하는 결정이고 이유 설시도 진짜인데, 사건번호나 기록번호가 허위인 경우입니다. 이것이 바로 튀르키예 사건의 유형이며, 셋 중 가장 교묘합니다. 내용이 진짜이기 때문에 변호사는 그것을 읽고 올바른 법리라고 확인한 뒤 서명합니다. 오류는 정확히, 아무도 의미를 읽지 않지만 모두가 검증의 기준으로 삼는 바로 그 항목에 들어 있습니다.

세 번째 유형은 "그냥 결과물을 확인하면 된다"는 조언이 들리는 것만큼 강력하지 않은 이유를 설명해 줍니다. 내용을 검증하는 변호사는 변조된 식별정보를 그대로 통과시킵니다. 법원의 공식 데이터베이스에서 식별정보 자체를 확인하는 변호사만이 이를 잡아낼 수 있습니다.

기계는 왜 사건번호를 지어내는가

작동 원리를 이해하는 일은 학술적 유희가 아닙니다. 그것이 어떤 완화 조치가 실제로 작동하고 어떤 조치가 보여 주기에 불과한지를 결정하기 때문입니다.

언어 모델은 앞의 모든 내용을 전제로 다음에 무엇이 와야 하는지를 예측하는 방식으로 텍스트를 생성합니다. 모델의 관점에서 판례 인용은 매우 규칙적인 패턴입니다. 재판부 표시, 사선으로 구분된 두 개의 숫자, 날짜, 그리고 "같은 취지로"와 같은 정형 문구의 조합이지요. 그 패턴에 들어맞는 무언가를 만들어 내는 일은 대단히 쉽습니다. 그러나 데이터베이스에 실재하는 기록과 일치하는 무언가를 만들어 내는 일은 완전히 다른 과제이며, 기본 구조 안에는 그 과제를 수행하는 부분이 전혀 없습니다. 모델은 무언가를 조회하고 있는 것이 아니라 형태를 완성하고 있을 뿐입니다. 따라서 허위 인용은 오작동이 아닙니다. 패턴 일치와 진실이 우연히 어긋나는 맥락에서, 시스템이 자기가 하도록 되어 있는 일을 정확히 수행한 결과입니다.

이 점은 실무가들이 계속 오해하는 세 가지를 설명해 줍니다.

모델이 좋아진다고 위험이 사라지지는 않습니다. 좋아진 모델은 빈도를 낮출 뿐이며, 역설적이게도 그 때문에 더 위험해집니다. 쉰 번에 한 번 인용을 지어내는 도구는 이용자에게 확인하지 않는 습관을 길들이기 때문입니다.
검색 연동은 도움이 되지만, 실제로 보유한 말뭉치 안에서만 그렇습니다. 답변하기 전에 실제 데이터베이스를 검색하는 도구는 훨씬 안전하며, 법률 업무에는 그런 도구가 올바른 선택입니다. 그러나 검색증강생성(RAG)의 실패 양상은 더 미묘합니다. 시스템이 실재하는 결정을 찾아낸 뒤 그 내용을 느슨하게 요약하거나, 두 개의 결정을 하나의 명제로 뒤섞는 식입니다. 앙카라 사건의 양상 — 내용은 진짜인데 식별정보가 틀린 — 은 바로 부분적으로만 근거에 묶인 시스템이 만들어 내는 결과입니다.
모델에게 스스로 검증하라고 요구하는 것은 무의미합니다. "이 인용들이 정말 실재하는 것이 맞습니까?"라는 질문은 인용을 만들어 낸 것과 똑같은 과정을 통해 또 하나의 생성된 답변을 불러올 뿐입니다. 확신에 찬 어조는 정확성의 신호가 아닙니다.

신뢰할 수 있는 검증은 오직 외부적 검증뿐입니다. 식별정보를 권위 있는 공식 기록과 대조하는 것입니다. 그 밖의 모든 것은 확률을 조금 조정하는 조치에 지나지 않습니다.

튀르키예 사건: 앙카라, 2026년 6월

튀르키예 법조 언론이 보도한 사실관계는 정확하게 정리해 둘 가치가 있습니다. 미국 사례들보다 훨씬 더 시사하는 바가 크기 때문입니다.

앙카라 크즐자하맘에서 심리된 어느 민사 사건에서, 한 변호사가 주장을 뒷받침할 선례를 보강하기 위해 생성형 AI 도구를 사용했습니다. 도구는 서로 다른 세 건의 튀르키예 대법원 결정으로 보이는 것을 만들어 냈습니다. 내용 자체는 지어낸 것이 아니었고, 결정들은 실재하는 것이었습니다. 도구가 한 일은 잘못된 기록번호와 결정번호를 붙인 것이었고, 자세히 들여다보니 세 건의 "서로 다른" 선례는 사실 동일한 하나의 결정을 서로 다르게 인용한 변형들이었습니다.

문제는 공개 법정에서 드러났습니다. 상대방 대리인이 인용을 문제 삼았고, UYAP(전국사법정보시스템)에서 확인한 결과 인용된 번호들에 해당하는 결정이 존재하지 않는다는 사실이 확인되었으며, 사안은 즉시 두 방향으로 확대되었습니다. 앙카라 검찰청에 대한 고발과 앙카라 변호사회의 징계 절차 개시입니다.

해당 변호사의 방어 논리는 일관됩니다. 결정의 내용은 진정한 것이었고 틀린 것은 식별정보뿐이었으며, 기망의 고의는 없었고, 이는 의도적인 위조가 아니라 결함 있는 도구에 대한 과실에 의한 신뢰였다는 것입니다. 그는 또한 자신이 어떤 범죄를 저질렀다는 것인지조차 고지받지 못했다고 공개적으로 밝혔습니다. 법조계 일각에서는 애초에 형사 사건으로 입건한 것 자체가 비례성을 잃은 조치이며 변호인의 독립성을 훼손한다고 주장했습니다.

양쪽 입장 모두 나름의 설득력이 있고, 이 사건은 튀르키예 법조계가 아직 치르지 못했던 논쟁의 기준점으로 — 정당하게도 — 활용되고 있습니다.

실제로 위반된 의무는 무엇인가

이 지점은 정확하게 짚고 넘어갈 필요가 있습니다. 공론장의 논의가 자꾸 "변호사는 AI를 쓰면 안 된다"는 쪽으로 미끄러지는데, 그것은 규범도 아니고 실행 가능한 원칙도 아니기 때문입니다.

허위 인용으로 위반되는 의무는 기술에 관한 의무가 아닙니다. 그것은 언제나 서명에 따라붙어 온 의무, 즉 준비서면을 제출하는 변호사는 그 내용을 확인했음을 표명한다는 의무입니다. 이 의무는 변호사법과 성실·품위에 관한 직역 규범에서, 그리고 당사자가 소송을 정직하게 수행해야 한다는 일반적 의무에서 흘러나옵니다. 여기에 새로운 것은 하나도 없습니다. 새로운 것은, 조사·연구의 산물과 똑같이 보이는 자료를 몇 초 만에, 그것도 대충 확인해도 충분하게 느껴질 만한 분량으로 제조해 내는 도구가 등장했다는 사실입니다.

형사법적 문제는 더 어렵고, 제가 보기에는 너무 성급하게 그 단계로 넘어갔습니다. 튀르키예 형법에는 허위 문서의 사용과 공적 절차에서의 허위 진술을 겨냥한 구성요건들이 있습니다. 잘못된 인용 번호가 담긴 준비서면이 그중 어느 것에라도 해당하는지는 진지하게 의심스럽습니다. 준비서면이 해당 구성요건에서 말하는 종류의 문서인지에 관한 실질적인 의문이 있고, 고의에 관해서는 훨씬 더 큰 의문이 있습니다. 기망을 전제로 구성된 범죄는 기망을 요구합니다. 올바른 법적 내용을 그대로 옮겨 적었고 식별정보에 관해서는 자신이 도구에 속은 변호사라면, 통상적인 해석으로는 도구의 공범이라기보다 도구의 피해자에 훨씬 가깝습니다. 물론 신뢰할 수 없다는 사실을 알면서도 그 출처에 계속 의존하는 변호사는 그 스펙트럼의 다른 지점에 놓이게 되겠지요.

실제로 중요한 것은 징계법적 문제이며, 이쪽이 훨씬 명료합니다. 기준은 주의의무입니다. 검증되지 않은 선례를 제출한 변호사는 무엇이 그 오류를 만들어 냈든 그 기준에 미달한 것입니다. 이 사건이 놓여야 할 자리는 바로 그곳입니다.

다른 나라 법원들이 실제로 하고 있는 일

제재 실무는 이제 알아볼 수 있는 하나의 단계적 사다리로 성숙했으며, 특정한 실패가 그 사다리의 어느 칸에 놓이는지를 아는 것이 전문직 위험관리의 일부가 되었습니다.

정정과 경고. 특히 최초 발생이고 즉시 자진 신고한 경우에 여전히 가장 흔한 결과입니다. 금전적 흔적을 남기지 않고 공개 기록도 남지 않는 경우가 많습니다. 실제 발생 건수가 어떤 데이터베이스가 보여 주는 것보다 훨씬 많은 이유가 바로 이것입니다.
소송비용 부담과 소액 과태료. 일상적인 층위입니다. 데이터베이스에 수록된 최근 사례로는 2026년 8월 말 Booker v. Kroger의 약 8,000달러, 뉴멕시코주의 어느 형사 항소심에서의 5,000달러, 2026년 9월 9일 Beus Gilbert PLLC v. BYU의 3,000달러가 있습니다. 2026년 9월 15일 캘리포니아에서는 스테이트팜(State Farm)을 대리하던 변호사가 제출 서면에 일곱 건의 허위 인용이 나타난 뒤 999.99달러의 과태료를 부과받았다고 보도되었는데, 이는 의도적으로 상징성을 노린 액수로 읽힙니다.
상당한 금액의 제재. 제6연방항소구의 실무가들은 2026년 3월에 3만 달러를 부담했습니다. 현재까지 기록된 미국 최고액은 Couvrette v. Wisnovsky의 110,204.38달러로, 2025년 12월과 2026년 3월의 명령에 걸쳐 부과되었습니다.
업무 정지. 최초의 변호사 자격 정지는 2026년 1분기에 나왔습니다. 2026년 6월 Withers v. City of Aberdeen에서 미시시피주의 연방판사는 — 양측 모두 환각으로 만들어진 인용을 제출한 뒤 — 두 명의 주임 변호사에 대해 해당 관할 내 변호 업무를 2년간 정지시키고 재판기일을 취소했습니다.
판결 자체의 취소. 가장 중대한 결과는 변호사에 대한 제재가 아예 아닙니다. 허위 자료가 판결문 안으로 들어간 경우, 그 판결 자체가 위태로워집니다. 올해 보도된 인도의 실무는 판결문에 AI가 지어낸 선례가 포함되어 있다는 사실 자체를, 그 허위 자료가 결론에 얼마나 중요했는지와 무관하게, 판결 취소 사유로 다루었습니다.

이 사다리에서 두 가지 특징을 강조할 필요가 있습니다. 첫째, 금액 층위는 사실 돈의 문제가 아닙니다. 999.99달러가 보험사를 대리하는 로펌을 억제하지는 못합니다. 중요한 것은 공개된 결정문이며, 그것은 검색 가능하고, 영구적이며, 실명이 적힌 변호사에게 따라붙습니다. 둘째, 추세는 명백히 상승세입니다. 법원이 이를 낯선 기술의 문제로 다루어 주던 법조계의 유예 기간은 끝났습니다.

튀르키예의 연성법적 대응: TBB 지침

2026년 8월 28일 튀르키예 변호사협회연합(TBB)은 변호사의 인공지능 이용에 관한 권고 지침을 발표했습니다. 「변호사를 위한 AI 이용 권고 지침」은 구속력이 있는 규범이 아니라 권고에 해당하지만, 튀르키예어로 작성된 최초의 체계적인 직역 기대 수준 선언이며, 징계위원회들은 이 문서를 근거로 삼게 될 것입니다.

지침의 뼈대는 4단계 위험 모델입니다.

제한 없는 이용 — 일반적인 법률 조사·연구와 익명화된 기획 업무.
한정적·통제된 이용 — 초안 작성, 익명화된 요약.
엄격히 제한된 이용 — 민감한 사건 파일. 폐쇄형 시스템과 pipa-automated-decisions/">개인정보보호법(KVKK)에 부합하는 설정이 요구됩니다.
금지 — 의뢰인 데이터를 보안이 확보되지 않은 시스템으로 이전하는 행위, 그리고 사람의 감독 없이 법적 판단을 내리는 행위.

이 모델 주위에 실무적으로 중요한 원칙들이 배치되어 있습니다. 어떤 도구를 도입하기 전에 변호사는 데이터가 어디에 저장되는지, 국외로 나가는지, 어떤 재수탁자가 관여하는지, 자료가 얼마나 오래 보관되는지를 확인해야 합니다. 저희가 KVKK와 AI 거버넌스 가이드에서 정리한 실사(due diligence) 질문들과 동일한 항목입니다. 생성된 콘텐츠, 특히 판례 인용은 법원에 제출되기 전에 반드시 검증되어야 합니다. 일정한 이용에 대해서는 의뢰인의 사전 고지에 기초한 동의가 필요합니다. 최종 판단은 위임될 수 없습니다. 그리고 — 일부 로펌에게는 놀랍게 다가올 대목인데 — AI로 얻은 효율을 변호사 투입 시간으로 청구할 수 없으며, 일반적인 기술 비용을 합의 없이 의뢰인에게 전가해서는 안 됩니다.

이 지침은 세 가지 점에서 비판을 받아 왔고, 제가 보기에 그 비판은 타당합니다. 첫째, 권고와 의무를 뒤섞으면서, 금지의 법적 근거를 밝히지 않은 채 금지의 어법을 사용합니다. 둘째, 이미 사용되고 있는 다단계 과제를 자율적으로 수행하는 에이전트형 시스템에 대해 거의 아무 말도 하지 않습니다. 셋째, 프롬프트 인젝션 위험이나 딥페이크로 조작된 증거의 검증에 대해 유용한 내용을 담고 있지 않습니다. 이 문제들은 지침이 나오기 전에 이미 도착해 있던 문제들입니다.

반대 방향: 법원이 그 도구를 사용할 때

논의는 거의 전적으로 변호사에 관한 것인데, 이는 중대한 사각지대입니다. 판사와 법원 직원도 똑같은 압박을 받고 있으며, 변호사의 오류를 잡아 주는 대심 구조의 상호 검증이라는 안전장치가 그들에게는 없습니다.

튀르키예 실무에서는 이미 책임 있는 쪽의 초기 사례가 나왔습니다. 이스탄불의 어느 상사법원이 계산과 문서 대조의 보조 수단으로 AI 도구를 사용하면서 판단 자체는 확고하게 사람의 몫으로 남겨 둔 사례입니다. 그것이 올바른 모델입니다. 도구는 산술과 교차 확인에 손을 댈 뿐 추론에는 개입하지 않으며, 그 결과물은 눈으로 확인해 검증할 수 있습니다.

반대쪽 끝의 실패 양상은 어떤 변호사의 실수보다도 심각합니다. 준비서면의 허위 인용은 상대방이 잡아냅니다. 판결문의 허위 인용은 상소심에 이르기까지 아무도 잡아내지 못하며, 게다가 법원의 권위를 업고 있습니다. 판결 취소라는 구제수단이 등장한 이유가 바로 이것입니다. 그 피해에 비례하는 유일한 대응이기 때문입니다. 튀르키예 법원에는 이러한 도구의 사법적 이용에 관한 상설 규범이 없으며, 이 공백은 사고가 난 뒤가 아니라 사고가 나기 전에 메워져야 합니다. 행정적·사법적 의사결정이 알고리즘 오류를 어떻게 흡수하는지에 관한 더 큰 질문은 행정법과 AI의 교차점에 관한 저희 보고서에서 살펴보았습니다.

변호사가 아닌 사람들

기록된 사건 중 상당한 비중은 변호사가 전혀 관여하지 않은 사건입니다. 본인소송(변호사 없이 소송하는 당사자)을 하는 사람들이 챗봇에게 법이 무엇인지 물어본 뒤 그 답변을 그대로 법원에 제출한 경우들입니다.

이 부분은 지금 받는 것보다 훨씬 더 많은 관심을 받아야 합니다. 주의의무, 서명, 징계라는 직역 중심의 틀이 여기에는 전혀 적용되지 않기 때문입니다. 본인소송 당사자는 전문직 의무를 지지 않고, 보험도 없으며, 변호사회의 징계 절차에 놓이지도 않습니다. 대신 그들이 마주하는 것은 각하된 청구, 소송비용 부담 명령, 그리고 허위 선례 때문에 신뢰를 잃기 전까지는 이유 있었을지도 모를 사건의 패소입니다.

그 밑바닥에는 불편한 사법접근권의 문제가 깔려 있습니다. 이들은 압도적으로, 변호사를 선임할 형편이 되지 않아 새벽 세 시에 이용할 수 있는 유일한 조언자에게 손을 뻗은 사람들입니다. 도구는 그들에게 변호사가 만들어 내는 것과 똑같아 보이는 문서를 주었습니다. 그 결과, 법률 지식을 민주화한다고 홍보되는 기술이 바로 이 경로에서는 대리인 없는 사람들이 패소하는 새로운 방식을 만들어 내고 있습니다.

여기서의 완화책은 직역 규범이 아니라 설계와 제도의 문제입니다. 소비자용 어시스턴트가 법원 제출용 인용의 생성을 거부하거나 눈에 띄는 경고를 붙이도록 하는 것, 법원의 소송 안내 서비스가 AI가 생성한 선례는 반드시 검증되어야 한다고 당사자에게 명시적으로 알리는 것, 그리고 법원 직원이 접수 대신 문제 제기를 할 수 있도록 권한을 부여하는 것입니다. 이 가운데 어느 것도 아직 어디에서도 시행되고 있지 않으며, 도구가 좋아질수록 이 문제는 덜 중요해지는 것이 아니라 더 중요해질 것입니다.

오류를 만들어 내는 경제 구조

2천 건의 사건을 2천 번의 부주의로 읽고 싶은 유혹이 있습니다. 그것은 너무 손쉬운 해석이고, 아무것도 고치지 못할 것입니다.

허위 인용을 만들어 내는 업무는 거의 언제나 같은 종류의 업무입니다. 시간에 쫓기며 준비하는 제출 서면, 수임료가 몇 시간의 조사·연구를 감당하지 못하는 사건, 그리고 마침 손이 비어 있는 사람이 처리하는 일입니다. 도구는 정확히 그 틈으로 들어옵니다. 도구는 한 시간짜리 데이터베이스 작업을 90초짜리 초안 작성으로 바꿔 놓으며, 그리고 — 이것이 정말 중요한 대목인데 — 품질 신호가 잘된 작업물과 구별되지 않는 결과물을 만들어 냅니다. 서두르는 변호사는 눈으로 보아서는 그 선례가 지어낸 것인지 알 수 없습니다. 이것은 법조계가 지금까지 가졌던 모든 지름길과는 질적으로 다른 상황입니다.

그렇다면 해법은 도덕적인 것이 아니라 구조적인 것이어야 합니다. 이 문제에 "조심하라"고 당부하는 것으로 대응하는 로펌은 계속 같은 문제를 겪게 됩니다. 검증을 이름 붙은 별도의 공정으로 만들고, 거기에 시간을 배정하고, 채팅창에서 나온 인용이 문서로 들어가는 것을 금지하는 로펌은 그렇지 않을 것입니다. 같은 논리가 수임료 구조에도 적용됩니다. 조사·연구를 감당할 수 없는 가격으로 책정된 업무는 결국 도구가 하게 될 업무이며, 따라서 가격 결정은 곧 위험관리 결정입니다.

적발은 왜 불균등하게 이루어지는가

허위 인용이 적발되는 경로는 셋 중 하나입니다. 기민한 상대방, 성실한 법원 직원이나 판사, 또는 데이터베이스 대조입니다. 세 경로 모두 자원에 의존하며, 그 자원의 분포는 결코 중립적이지 않습니다.

자원이 충분한 상대 로펌은 모든 선례를 확인할 것입니다. 본인소송 당사자는 그러지 못합니다. 사건이 밀려 있는 상사법원도 그러지 못할 수 있습니다. 그 결과는 조용한 불평등입니다. 허위 선례는 상대방이 가장 취약한 바로 그곳에서 살아남을 가능성이 가장 큽니다. 소액 민사분쟁, 집행 절차, 한쪽 당사자에게 대리인이 없는 사건들이지요. 공개된 제재 사건들이 대형 상사소송에 편중되어 있는 이유는 그곳에서 문제가 가장 심각해서가 아니라, 그곳에서 문제가 발견되기 때문입니다.

튀르키예에는 언급할 만한 구조적 완화 요소가 하나 있습니다. UYAP 덕분에 검증이 정말로 빠르다는 점입니다. 영국 사무변호사에게는 유료 구독 데이터베이스와 몇 분이 필요한 인용 확인이, 튀르키예 변호사에게는 검색어 하나면 됩니다. 앙카라 사건이 공개 법정에서 몇 분 만에 정리된 것도 정확히 이 때문입니다. 이것은 분명한 장점이며, 그렇기 때문에 튀르키예에서 정당하게 기대할 수 있는 주의의무의 수준을 낮추는 것이 아니라 오히려 높입니다.

누가 부담하는가: 배상책임과 보험

제재를 넘어, 허위 인용에는 세 가지 책임 노출이 뒤따르는데, 로펌들은 그중 어느 것도 거의 생각해 보지 않았습니다.

의뢰인의 청구. 선례가 허위였던 탓에 사건에서 패소하거나, 서면이 각하되거나, 소송비용을 부담하게 되었다면 의뢰인에게는 명백한 전문직 과실 책임 청구권이 생깁니다. "도구가 그랬다"는 항변은 성립하지 않습니다. 의무는 변호사의 것이기 때문입니다.
전문직 배상책임보험. 2024년 이전에 인수된 보험계약은 이런 시나리오를 상정하고 있지 않습니다. 제재금이 보장 대상이 되는지는 그것이 벌과금(대개 면책)으로 성격 규정되는지 손해로 규정되는지에 달려 있습니다. 보험자들은 갱신 시점에 AI 이용 여부를 묻기 시작했습니다. 로펌들은 인수심사 질문을, 그리고 머지않아 인수 조건을 예상해야 합니다.
공급업체. 가장 자연스러운 표적, 즉 인용을 지어낸 도구의 제공자가 사실은 가장 어려운 상대입니다. 이용약관은 정확성에 관한 보증을 포괄적으로 배제하고 거의 언제나 전문가의 검증을 요구합니다. 제공자를 상대로 한 청구는 법조계를 겨냥한 마케팅에서 이루어진 구체적인 표시를 근거로 구성해야 할 텐데, 이는 좁고 아직 검증되지 않은 길이지만 완전히 비어 있는 길은 아닙니다. 특히 제품이 범용 어시스턴트가 아니라 법률 조사 도구로 판매된 경우에는 그렇습니다.

실제로 작동하는 검증 프로토콜

"결과물을 확인하라" 수준의 조언은 명백히 실패했습니다. 무엇을 확인해야 하는지, 누가 책임지는지를 아무에게도 말해 주지 않기 때문입니다. 실무와 접촉해도 살아남는 프로토콜은 다음과 같은 모습입니다.

도구가 해도 되는 일과 해서는 안 되는 일을 분리하십시오. 논증 구조 짜기, 내가 제공한 문서 요약하기, 문장 다듬기는 저위험입니다. 선례를 만들어 내는 일은 고위험입니다. 원칙은 이러해야 합니다. 어떤 인용도 생성형 도구에서 문서로 들어가지 않는다. 인용은 언제나 판례 데이터베이스에서 나오며, 도구의 역할은 무엇을 찾아봐야 할지 제안하는 데 그친다.
내용이 아니라 식별정보를 검증하십시오. UYAP이나 구독 데이터베이스에서 해당 결정을 열어 재판부, 기록번호, 결정번호, 날짜를 확인하십시오. 그럴듯하게 들리는 요약을 읽는 것은 검증이 아닙니다. 그것이 바로 튀르키예 사건의 실패 양상입니다.
의존하려는 그 부분을 직접 읽으십시오. 두 번째 실패 양상 — 실재하는 판결이 판시하지 않은 내용을 판시한 것처럼 설명되는 경우 — 은 오직 여기서만 잡힙니다.
초안 작성 중에 AI 도움을 받은 부분을 표시하십시오. 생성된 문장은 검증이 끝날 때까지 표시해 두는 내부 관행, 그리고 제출 전에는 그 표시가 모두 사라져 있어야 한다는 규칙이 필요합니다.
검토자를 지정하십시오. 두 사람 이상이 관여하는 사건이라면, 선례 검증은 막연한 기대가 아니라 이름이 붙은 배정된 업무여야 합니다.
프롬프트와 출력을 보관하십시오. 문제가 생겼을 때 법원에 정확히 무슨 일이 있었는지 보여 줄 수 있는지 여부가 과실과 기망 혐의를 가르는 차이입니다. 앙카라의 그 변호사도 기록이 보존되어 있었다면 훨씬 유리한 위치에 있었을 것입니다.
도구를 설정하십시오. 제공자가 허용하는 경우 데이터 보관 기능을 끄고, 의뢰인 자료에는 소비자용이 아닌 기업용 계정을 사용하며, 식별 가능한 사건 정보는 범용 어시스턴트에 아예 붙여 넣지 마십시오. 여기서의 KVKK 분석은 다른 모든 이전에 적용되는 것과 동일하며, 이는 학습 데이터: 먼저 정리해야 할 KVKK·GDPR 쟁점 글에서 정리한 바 있습니다.
문서로 남기십시오. 로펌 차원의 AI 이용 정책은 위의 모든 것을 선한 의도에서 감사 가능한 규칙으로 바꿔 놓습니다. 저희 기업 AI 이용 정책 가이드가 출발점이 되는 틀을 제공합니다.

3년의 경과: 법조계는 어떻게 여기까지 왔나

출발점은 이제 잘 알려져 있습니다. 2023년 뉴욕의 한 인신사고 사건에서, 어느 변호사가 존재하지 않는 여러 판결이 담긴 준비서면을 제출했습니다. 그는 챗봇에게 뒷받침할 선례를 물었고, 그런 다음 같은 챗봇에게 그 사건들이 실재하는지 되물었습니다. 법원의 대응 — 제재, 그리고 믿을 수 없다는 어조로 쓰인 공개 의견 — 은 이 사건을 유명하게 만들었고, 그 후 약 1년 동안 법조계는 이를 한 사람의 어리석음에 관한 경고담으로 취급했습니다.

그 해석은 마음 편한 것이었지만 틀린 것이었고, 데이터베이스의 증가 곡선이 이를 증명합니다. 이 현상이 개인의 어리석음에 관한 것이었다면 언론 보도가 그것을 억제했을 것입니다. 그러나 오히려 숫자는 도입이 확산되면서 가속했고, 이는 일화적 실패가 아니라 체계적 실패의 특징입니다.

사법적 대응은 세 단계를 거쳐 왔습니다. 첫째는 경악입니다. 초기의 결정문들은 언어 모델이 무엇인지 설명하는 데 여러 문단을 할애했습니다. 다음은 분노입니다. 법원들은 법조계가 이미 경고를 받았다는 점을 지적하기 시작했고, 제재는 상징적인 수준에서 실질적인 수준으로 옮겨 갔습니다. 이제는 일상입니다. 최근의 결정문들은 짧고, 기술에 대한 설명은 더 이상 없으며, 쟁점은 그 실패가 과실이었는지 부정직이었는지, 그리고 발각되기 전에 스스로 밝혔는지로 좁혀졌습니다.

튀르키예는 이 흐름에 첫 단계가 아니라 두 번째 단계에서 진입했고, 이는 장점입니다. 앙카라 사건은 위험이 존재한다는 사실을 이미 알고 있는 법조계에 도착했습니다. 징계라는 틀이 사용 가능하고 형사라는 틀이 필요하지 않은 이유가 바로 그것입니다.

의뢰인이 물어야 할 것들

사내 법무책임자와 개인 의뢰인은 이 논의에서 빠져 있는 행위자입니다. 그들이 비용을 지불하고, 패소의 결과를 감당하며, 그럼에도 거의 아무도 이에 관해 묻지 않습니다.

제 사건에 생성형 AI를 사용하십니까, 그리고 어떤 용도로 사용하십니까? "아니요"라는 답변은 이제 가벼운 회의로 받아들여져야 합니다. 유용한 답변은 어떤 업무에 쓰는지를 설명하는 답변입니다.
제 기밀 정보는 어디로 갑니까? 이 질문의 실체는 도구의 브랜드가 아니라 소비자용 계정 여부, 데이터 보관 설정, 국외 이전입니다.
제출 전에 누가, 어떻게 선례를 검증합니까? 그 공정을 이름 붙여 말하지 못하는 로펌에는 그런 공정이 없는 것입니다.
전문직 배상책임보험이 AI 관련 오류를 보장합니까? 법원의 명령이 나온 뒤가 아니라 수임 계약 전에 물어볼 가치가 있습니다.
효율의 이익이 저에게도 돌아옵니까? 세 시간 걸리던 업무가 이제 20분에 끝난다면, 그 차이를 어떻게 처리할지 보수 약정에 적혀 있어야 합니다. TBB 지침이 명시적으로 지적하는 지점입니다.

기업 의뢰인에게는 여기에 깔끔한 대칭이 있습니다. 이 질문들은 그들 자신의 구매 담당 조직이 AI 공급업체에 던지는 바로 그 질문들입니다. 이를 외부 대리인에게도 적용하는 것은 적대적인 태도가 아니라 일관성의 문제입니다.

법원과 규제기관이 해야 할 일

법조계 혼자서는 이 문제를 해결할 수 없으며, 세 가지 개입이 대부분의 일을 해낼 것입니다.

확인서 제출 요건. 여러 미국 법원은 이제 AI의 도움을 받은 제출 서면의 경우 그 선례를 사람이 검증했다는 서명된 진술을 요구합니다. 비용이 거의 들지 않고, 성실한 사람에게는 아무것도 바뀌지 않으며, 막연한 의무를 결과가 따르는 구체적인 표시로 전환합니다. 이런 종류의 법원 규칙이나 통일된 실무 지침은 현재 튀르키예에서 취할 수 있는 가장 효과적인 단일 조치가 될 것입니다.

공개된 제재 단계 정책. 앙카라 사건이 위기가 된 데에는, 허위 인용의 결과가 무엇이어야 하는지 아무도 말할 수 없었다는 사정도 한몫했습니다. 최초 발생, 반복 발생, 부정직한 사안을 각각 어떻게 다룰지 미리 밝혀 두는 변호사회는 회원들에게 기준을, 징계위원회에 판단 틀을 제공하게 됩니다.

사법적 이용에 관한 지침. 법원에 관한 규범 없이 변호사에 관한 규범만 두는 것은 이 문제의 더 위험한 절반을 방치하는 일입니다. 사법적 지침은 허용되는 용도 — 사건 기록의 요약, 산술 계산, 번역, 문서 비교 — 를 이유 설시의 작성 및 선례의 조달과 구분해야 합니다.

더 넓은 입법 의제는 어차피 이 방향으로 움직이고 있습니다. AI 행동계획의 거버넌스 구조와 국회에 계류 중인 법안들이 그렇고, 이는 저희가 튀르키예 인공지능법 초안 연구에서 분석한 바 있습니다. 그러나 위의 세 가지 조치 가운데 어느 것도 입법을 필요로 하지 않으며, 실무 지침으로 충분한 일에 법률 제정을 기다리는 것은 잘못된 본능입니다.

앞으로 지켜볼 것

네 가지입니다. 첫째, 앙카라 검찰청의 수사가 기소로 이어지는지 여부입니다. 이는 튀르키예 형사법이 이 부류의 오류를 어떻게 다룰지에 관한 기조를 정하게 됩니다. 둘째, TBB 지침이 권고에서 구속력 있는 직역 규범으로 격상되는지, 혹은 이미 그런 것처럼 징계위원회에 의해 원용되는지 여부입니다. 셋째, 해외의 제재 곡선이 계속 상승하는지 아니면 검증 관행이 자리 잡으면서 완만해지는지 여부입니다. 넷째, 허위 인용이 담긴 최초의 튀르키예 판결이 드러나는지 여부입니다. 현재의 추세로 보면 그것은 시기의 문제이며, 그에 대한 상소심의 대응은 변호사에 대한 어떤 제재보다도 훨씬 더 중요할 것입니다.

자주 묻는 질문

법률 업무에 AI를 사용하는 것이 직무상 비위인가요?

아닙니다. TBB 지침도, 튀르키예의 어떤 규범도 이를 금지하지 않습니다. 제재의 대상이 되는 것은 검증되지 않은 자료를 제출하는 행위이며, 이 의무는 기술보다 훨씬 앞서 존재해 온 것입니다.

앙카라 사건에서 정확히 무엇이 잘못되었나요?

도구가 실재하는 튀르키예 대법원 결정들을 그대로 옮기면서 잘못된 기록번호와 결정번호를 붙였고, 실질적으로는 하나의 결정의 변형에 불과한 것들을 서로 다른 세 건의 선례인 것처럼 제시했습니다. 상대방 대리인이 변론기일에 이를 문제 삼았고, UYAP 확인 결과 인용된 번호에 해당하는 결정이 존재하지 않는다는 점이 확인되었습니다.

튀르키예에서 이런 일로 변호사가 형사처벌을 받을 수 있나요?

앙카라 사건에서는 수사가 개시되었지만, 어떤 구성요건에 해당하는지는 진지하게 의심스럽습니다. 무엇보다 이런 부류의 범죄는 기망의 고의를 요구하기 때문입니다. 결함 있는 도구에 대한 과실에 의한 신뢰는, 제가 보기에 형사 문제가 아니라 징계 문제입니다.

TBB 지침은 구속력이 있나요?

권고적 성격입니다. 그러나 권고적 직역 지침은 징계위원회에서 적용 가능한 주의의무 수준의 증거로 일상적으로 다루어지므로, 그 실질적 무게는 형식적 지위를 넘어섭니다.

지금까지 부과된 최고액의 제재는 무엇인가요?

기록된 미국 최고액은 Couvrette v. Wisnovsky의 110,204.38달러로, 2025년 12월과 2026년 3월의 명령에 걸쳐 부과되었습니다. 다만 Withers v. City of Aberdeen에서의 2년간 관할 내 업무 정지와 같은 자격 정지가 직역상으로는 더 중대한 결과입니다.

판결문 자체에 허위 인용이 들어 있으면 어떻게 되나요?

상소심에서 취약해집니다. 올해 보도된 인도의 실무는 판결문에 AI가 지어낸 선례가 존재한다는 사실 자체를, 그 허위 자료가 얼마나 중심적이었는지와 무관하게, 판결 취소 사유로 다루었습니다.

전문직 배상책임보험이 이를 보장하나요?

보험계약의 내용과, 해당 금액이 벌과금으로 성격 규정되는지 손해로 규정되는지에 달려 있습니다. 로펌은 법원의 명령이 나온 뒤에 답을 알게 되기보다, 갱신 시점에 보험중개인과 이 문제를 논의해야 합니다.

판례 조사에 안전하게 쓸 수 있는 도구는 무엇인가요?

질문 자체가 잘못 설정되어 있습니다. 어떤 범용 어시스턴트도 인용의 출처가 되어서는 안 됩니다. 출처는 판례 데이터베이스이며, 어시스턴트의 정당한 역할은 무엇을 검색할지 정하도록 돕고 찾아낸 것을 설명해 주는 데 있습니다.

부르한 도우쉬 아이파를라르의 견해

이 섹션은 본 사이트의 설립자이자 AI 윤리·컴플라이언스 자문가인 부르한 도우쉬 아이파를라르의 개인적 견해입니다.

앙카라 사건에 대한 저의 첫 반응은 형사 입건이 잘못되었다는 것이었습니다. 변호사가 특별한 보호를 받아야 해서가 아니라, 그 행위가 범죄의 구성요건과 맞지 않기 때문입니다. 허위성을 겨냥한 형벌 규정은 누군가가 그 허위성을 의도할 것을 요구합니다. 여기서 벌어진 일은, 기계가 올바른 법적 명제에 잘못된 번호를 붙여 내놓았고 전문가가 그 번호를 확인하지 않았다는 것입니다. 그것은 과실이며, 과실에는 그에 맞는 무대가 있습니다. 변호사회입니다. 이런 사건에서 검찰로 손을 뻗는 것은 법조계에 잘못된 교훈을 가르칩니다. 공개보다 은폐를 부추기기 때문입니다. 이 문제 전체에서 가장 가치 있는 단 하나의 행동은 오류를 발견한 변호사가 상대방보다 먼저 법원에 알리는 것인데도 말입니다.

저의 두 번째 반응은, 법조계가 이것을 기술 이야기로 다루어 왔지만 사실은 규율 이야기라는 것입니다. 3년에 2천 건은 모델에 관한 이야기가 아닙니다. 모델은 그럴듯한 텍스트를 만들어 냅니다. 그것이 모델의 기능이고, 성능이 아무리 개선되어도 검증되지 않은 인용에 서명하는 일이 안전해지지는 않습니다. 이 이야기의 본질은, 모든 것이 권위 있어 보이게 된 탓에 선례 확인이 선택 사항이 되어 버린 서명 문화에 관한 것입니다. 오하이오에서, 앙카라에서, 텔아비브에서 제재를 받은 변호사들은 AI를 쓰는 데 실패한 것이 아닙니다. 그들은 이 직업에서 가장 오래된 의무를 지키는 데 실패한 것입니다.

제가 가장 우려하는 것은 준비서면이 아니라 판결문입니다. 비대칭은 극명합니다. 준비서면의 허위 인용은 상대방을 만나지만, 판결문의 허위 인용은 아무도 만나지 않습니다. 튀르키예에는 법원이 이러한 도구를 어떻게 사용할 수 있는지에 관한 규범이 없고, 공개적으로 무언가가 잘못되기 전까지는 생기지 않을 것입니다. 저는 그것을 지금 써 두는 편이 낫다고 생각하며, 단순하게 유지하고 싶습니다. 산술 계산, 번역, 요약, 대조에는 허용하고, 이유 설시나 선례의 조달에는 허용하지 않는 것입니다.

TBB 지침에 관해서는, 그 발표 자체가 옳은 판단이었고 내용도 합리적인 초안이라고 생각하지만, 대부분의 연성법이 그렇듯 약점이 있습니다. 의무의 언어로 말하면서 정작 어떤 의무도 부과할 수 없다는 점입니다. 제가 선호하는 방향은, 검증에 관한 짧고 구속력 있는 규범과 준비서면에 들어가는 확인 문구, 그리고 회원들이 최초 위반의 대가를 알 수 있도록 공개된 제재 단계 정책을 함께 두는 것입니다. 그 조합은 집행 가능하고, 비례적이며, 기소와 달리 우리가 실제로 원하는 행동을 겨냥합니다.

마지막으로 동료들을 위한 실무적인 한마디를 덧붙이겠습니다. 여기서 논의한 모든 사건을 예방했을 습관이기 때문입니다. 인용이 채팅창에서 문서로 들어가게 하지 마십시오. 무엇을 찾아봐야 할지는 도구에게 물으십시오. 인용은 판례 데이터베이스에서 가져오고, 결정문을 열어, 의존하려는 그 문단을 읽은 다음 서명하십시오. 2분이면 됩니다. 그리고 그 2분이 여기서 문제 되는 전문직 의무의 전부입니다.

이 글은 정보 제공 목적이며 법률 자문에 해당하지 않습니다. 사건 건수와 제재 금액은 2026년 9월 14일 기준으로 공개 운영되는 AI 환각 사건 데이터베이스(다미앵 샤를로탱)와 언론 보도에서 가져온 것이며, 개별 수치는 이후 변경되었을 수 있습니다. 앙카라 사건은 2026년 6월 튀르키예 법조 언론의 보도를 토대로 서술한 것으로, 수사는 진행 중인 것으로 보도되었으며 어떠한 위법 사실도 확정된 바 없습니다. 튀르키예의 형사·직역·민사 법제에 관한 설명은 일반적인 내용이며, 구체적 사안은 개별적인 검토가 필요합니다. 분석과 평가는 필자의 견해입니다.