2천 건의 허위 인용: AI 환각 사건이 법조계에 주는 교훈

정정 (2026년 10월 19일): 변호사 자격 정지에 관한 설명(최초 사례는 2026년이 아니라 2023년 콜로라도), Withers v. City of Aberdeen, 999.99달러의 스테이트팜 제재, 이스탄불 법원 사례에 관한 서술을 바로잡고, 앙카라 사건의 인용 경위는 해당 변호사의 설명으로 명시했으며, 앙카라 변호사는 제재가 아니라 수사를 받는 중임을 분명히 하고, 철회된 글로 연결되는 링크를 삭제했습니다.

문제의 윤곽

이 데이터베이스는 법조계가 가진 자료 가운데 전수조사에 가장 가까운 것이며, 증가 곡선만 보아도 상황을 모두 알 수 있습니다. 2026년 5월까지 약 1,490건, 6월 초에 1,598건, 9월 중순에 2,041건입니다. 이 증가는 모델 성능이 나빠졌다는 뜻이 아닙니다. 대부분의 지표에서 모델은 오히려 나아지고 있습니다. 증가가 보여 주는 것은 도입 속도가 검증 속도를 앞질렀다는 사실, 그리고 법원이 이 문제를 본격적으로 들여다보기 시작했다는 사실입니다.

총계보다 더 중요한 것은 관할별 분포입니다. 미국이 압도적인 이유는 변호사 수가 가장 많고, 소송이 가장 많으며, 제재 실무가 가장 적극적이기 때문입니다. 그러나 인구 대비로 보면 캐나다, 호주, 이스라엘의 수치가 매우 두드러지고, 영국의 69건에서는 세계에서 가장 신랄한 판결 문구가 나왔습니다. 이들은 모두 선례 인용 문화가 뿌리 깊은 보통법 국가로, 준비서면의 성패가 권위 있는 선례에 달려 있습니다. 허위 인용의 피해가 가장 큰 곳이 바로 이런 환경입니다. 그리고 이 설명은 튀르키예 법률가 다수가 인정하고 싶어 하는 것보다 훨씬 정확하게 튀르키예 민사 실무에도 들어맞습니다.

위험도순으로 본 허위 생성의 세 유형

'환각'을 하나의 현상으로 뭉뚱그리면, 실은 성격도 위험도 전혀 다른 세 가지 실패가 섞여 있다는 사실이 가려집니다.

• 존재하지 않는 판결. 그럴듯한 사건명, 법원명, 연도를 갖췄지만 실제로는 존재하지 않는 결정에 대한 인용입니다. 최초로 알려진 실패 유형이며, 가장 잡아내기 쉽습니다. 판례 데이터베이스에서 한 번만 검색해 보면 아무것도 나오지 않기 때문입니다.
• 존재하지 않는 법리. 실재하는 판결을 정확하게 인용하면서, 그 판결이 판시하지 않은 내용을 판시한 것처럼 설명하는 경우입니다. 인용 자체는 검증을 통과하므로 훨씬 잡아내기 어렵고, 판결문을 직접 읽어 본 사람만이 문제를 발견할 수 있습니다. 판결문에까지 흘러 들어갈 가능성이 가장 큰 것이 바로 이 유형입니다.
• 변조된 식별정보. 실재하는 결정이고 이유 설시도 진짜인데, 사건번호나 기록번호가 허위인 경우입니다. 앙카라 사건의 변호사가 설명하는 오류가 이 유형이며, 셋 중 가장 교묘합니다. 내용이 진짜이므로 변호사는 이를 읽고 법리가 맞다고 확인한 뒤 서명합니다. 오류는 하필 아무도 내용을 따져 읽지 않지만 모두가 검증의 기준으로 삼는 항목에 숨어 있습니다.

세 번째 유형을 보면 "그냥 결과물을 확인하면 된다"는 조언이 생각만큼 효과적이지 않은 이유를 알 수 있습니다. 내용만 검증하는 변호사는 변조된 식별정보를 그대로 통과시킵니다. 법원의 공식 데이터베이스에서 식별정보 자체를 확인하는 변호사만이 이를 잡아낼 수 있습니다.

기계는 왜 사건번호를 지어내는가

작동 원리를 이해하는 것은 한가한 학문적 관심사가 아닙니다. 어떤 완화 조치가 실제로 효과가 있고 어떤 조치가 보여 주기에 그치는지가 여기서 갈리기 때문입니다.

언어 모델은 앞의 모든 내용을 전제로 다음에 무엇이 와야 하는지를 예측하는 방식으로 텍스트를 생성합니다. 모델의 관점에서 판례 인용은 매우 규칙적인 패턴입니다. 재판부 표시, 빗금으로 구분된 두 숫자, 날짜, 그리고 "같은 취지로"와 같은 정형 문구의 조합이지요. 이 패턴에 맞는 결과물을 만들기는 아주 쉽습니다. 그러나 데이터베이스에 실제로 있는 기록과 일치하는 결과물을 만드는 일은 전혀 다른 과제이고, 모델의 기본 구조에는 그 일을 맡는 부분이 아예 없습니다. 모델은 무언가를 조회하는 것이 아니라 형식을 채워 넣을 뿐입니다. 그러므로 허위 인용은 오작동이 아닙니다. 패턴에 맞는 것과 사실인 것이 우연히 어긋나는 상황에서, 시스템이 설계된 대로 정확히 작동한 결과입니다.

이 점을 이해하면 실무가들이 거듭 오해하는 세 가지가 풀립니다.

• 모델이 좋아진다고 위험이 사라지지는 않습니다. 좋아진 모델은 빈도를 낮출 뿐이며, 역설적이게도 그 때문에 더 위험해집니다. 쉰 번에 한 번꼴로 인용을 지어내는 도구는 이용자를 확인하지 않는 습관에 길들이기 때문입니다.
• 검색 연동은 도움이 되지만, 실제로 보유한 말뭉치 안에서만 그렇습니다. 답변하기 전에 실제 데이터베이스를 검색하는 도구는 훨씬 안전하며, 법률 업무에는 그런 도구가 올바른 선택입니다. 그러나 검색증강생성(RAG)의 실패 양상은 더 미묘합니다. 시스템이 실재하는 결정을 찾아낸 뒤 그 내용을 느슨하게 요약하거나, 두 개의 결정을 하나의 명제로 뒤섞는 식입니다. 앙카라 사건의 변호사가 설명하는 양상, 즉 내용은 진짜인데 식별정보가 틀린 경우는, 근거 자료에 부분적으로만 연결된 시스템에서 나오는 전형적인 결과입니다.
• 모델에게 스스로 검증하라고 요구하는 것은 무의미합니다. "이 인용들이 정말 실재하는 것이 맞습니까?"라고 물어도, 인용을 만들어 낸 것과 똑같은 과정을 거쳐 생성된 답변이 하나 더 나올 뿐입니다. 확신에 찬 어조는 정확성의 신호가 아닙니다.

믿을 수 있는 검증은 외부 검증, 즉 식별정보를 공식 기록과 직접 대조하는 방법뿐입니다. 그 밖의 조치는 확률을 조금 바꾸는 데 그칩니다.

튀르키예 사건: 앙카라, 2026년 6월

튀르키예 법조 언론이 보도한 사실관계는 정확하게 정리해 둘 가치가 있습니다. 미국 사례보다 시사하는 바가 훨씬 크기 때문입니다.

앙카라 크즐자하맘에서 심리된 어느 민사 사건에서, 한 변호사가 주장을 뒷받침할 선례를 보강하기 위해 생성형 AI 도구를 사용했습니다. 도구는 서로 다른 튀르키예 대법원 결정 세 건처럼 보이는 결과물을 내놓았습니다. 변호사의 설명에 따르면 내용 자체는 지어낸 것이 아니었고 결정도 실재했으며, 도구가 잘못된 기록번호와 결정번호를 붙였을 뿐 "서로 다른" 세 건의 선례는 사실 하나의 결정을 각기 다르고 틀린 번호로 인용한 것이었습니다.

문제는 공개 법정에서 드러났습니다. 상대방 대리인이 인용에 이의를 제기했고, UYAP(전국사법정보시스템)으로 확인해 보니 인용된 번호에 해당하는 결정은 존재하지 않았습니다. 사안은 곧바로 앙카라 검찰청 고발과 앙카라 변호사회의 징계 절차 개시라는 두 갈래로 번졌습니다.

해당 변호사의 해명은 일관됩니다. 결정 내용은 진짜였고 틀린 것은 식별정보뿐이며, 기망의 고의가 없었고, 의도적인 위조가 아니라 결함 있는 도구를 과실로 신뢰한 것이라는 주장입니다. 그는 또한 자신이 어떤 범죄를 저질렀다는 것인지조차 고지받지 못했다고 공개적으로 밝혔습니다. 법조계 일각에서는 애초에 형사 사건으로 입건한 것 자체가 비례성을 잃은 조치이며 변호인의 독립성을 훼손한다고 주장했습니다.

양쪽 입장 모두 나름의 설득력이 있으며, 이 사건은 튀르키예 법조계가 미뤄 왔던 논쟁의 기준점이 되고 있습니다. 충분히 그럴 만한 사건입니다.

실제로 위반된 의무는 무엇인가

이 부분은 정확히 짚어야 합니다. 공개 논의가 자꾸 "변호사는 AI를 쓰면 안 된다"는 쪽으로 흐르는데, 이는 현행 규범도 아니고 실행 가능한 원칙도 아니기 때문입니다.

허위 인용으로 위반되는 것은 기술에 관한 의무가 아닙니다. 서명에 늘 따라붙어 온 의무, 즉 준비서면을 제출하는 변호사는 그 내용을 확인했음을 표명한다는 의무입니다. 이 의무는 변호사법, 성실·품위에 관한 직역 규범, 그리고 당사자는 소송을 정직하게 수행해야 한다는 일반 의무에서 나옵니다. 여기에 새로운 것은 없습니다. 새로운 것은 조사·연구 결과물과 똑같아 보이는 자료를 몇 초 만에, 그것도 대충 확인해도 충분하다고 느껴질 만한 분량으로 쏟아 내는 도구가 등장했다는 사실입니다.

형사법적 문제는 더 어렵습니다. 제가 보기에는 너무 성급하게 형사 절차로 넘어갔습니다. 튀르키예 형법에는 허위 문서의 사용과 공적 절차에서의 허위 진술을 겨냥한 구성요건이 있습니다. 잘못된 인용 번호가 담긴 준비서면이 그중 어느 것에라도 해당하는지는 상당히 의문입니다. 준비서면이 해당 구성요건상 문서에 해당하는지부터 실질적인 의문이 있고, 고의에 관해서는 의문이 훨씬 큽니다. 기망을 전제로 구성된 범죄는 기망을 요구합니다. 법적 내용은 정확히 옮겼고 식별정보에 관해서는 오히려 도구에 속은 변호사라면, 통상적인 해석상 도구의 공범이라기보다 피해자에 훨씬 가깝습니다. 물론 믿을 수 없는 출처임을 알면서도 계속 의존한 변호사라면 평가가 달라질 것입니다.

실제로 중요한 것은 징계법적 문제이며, 이쪽이 훨씬 명료합니다. 기준은 주의의무입니다. 검증하지 않은 선례를 제출한 변호사는 오류의 원인이 무엇이든 그 기준을 충족하지 못한 것입니다. 이 사건은 바로 이 틀에서 다뤄져야 합니다.

해외 법원의 실제 대응

제재 실무는 이제 뚜렷한 단계적 사다리 형태로 자리를 잡았고, 어떤 실패가 사다리의 어느 칸에 해당하는지 아는 것이 전문직 위험관리의 일부가 되었습니다.

• 정정과 경고. 특히 처음이고 즉시 자진 신고한 경우라면 지금도 가장 흔한 결과입니다. 금전 제재도 없고 공개 기록도 남지 않는 경우가 많습니다. 실제 발생 건수가 어느 데이터베이스에 나타난 것보다도 훨씬 많은 이유가 여기에 있습니다.
• 소송비용 부담과 소액 과태료. 통상적인 단계입니다. 데이터베이스에 수록된 최근 사례로는 2026년 8월 말 Booker v. Kroger의 약 8,000달러, 뉴멕시코주의 어느 형사 항소심에서의 5,000달러, 2026년 9월 9일 Beus Gilbert PLLC v. BYU의 3,000달러가 있습니다. 2026년 9월 중순 보도에 따르면, 캘리포니아에서는 로스앤젤레스 상급법원의 엘리자베스 브래들리(Elizabeth Bradley) 판사가 스테이트팜(State Farm)을 대리하던 변호사에게 존재하지 않는 판례 일곱 건을 인용한 책임을 물어 999.99달러의 제재금을 부과했습니다. 이는 법원이 주 변호사협회(State Bar)에 의무적으로 통지해야 하는 1,000달러 기준에서 1센트 모자란 금액입니다.
• 상당한 금액의 제재. 제6연방항소구의 실무가들은 2026년 3월에 3만 달러를 부담했습니다. 현재까지 기록된 미국 최고액은 Couvrette v. Wisnovsky의 110,204.38달러로, 2025년 12월과 2026년 3월의 명령에 걸쳐 부과되었습니다.
• 업무 정지와 대리 자격 박탈. 변호사 자격 정지는 새로운 일이 아닙니다. 콜로라도주는 2023년 11월 ChatGPT가 지어낸 판례를 제출한 변호사의 자격을 정지했고, 2026년 4월에는 네브래스카주 대법원이 허위 인용 때문에 상고이유서가 각하된 오마하의 변호사에게 임시 자격 정지 처분을 내렸습니다. 2026년 6월 Withers v. City of Aberdeen에서는 양측이 모두 환각으로 만들어진 인용을 제출하자, 미시시피주의 연방판사가 변호사 네 명 전원의 대리 자격을 박탈하고, 다른 주 출신 변호사 두 명에게는 해당 관할에서 2년간 변론을 금지했으며, 네 명 모두에게 합계 약 8,000달러의 제재금을 부과하고 사건 진행을 중단시켰습니다.
• 판결 자체의 취소. 가장 중대한 결과는 변호사 제재가 아닙니다. 허위 자료가 판결문에 들어가면 판결 자체가 흔들립니다. 올해 보도된 인도 사례에서는, 허위 자료가 결론에 얼마나 중요했는지와 관계없이 판결문에 AI가 지어낸 선례가 들어 있다는 사실만으로 판결 취소 사유로 보았습니다.

이 사다리에서 눈여겨볼 점이 두 가지 있습니다. 첫째, 금전 제재 단계는 사실 돈의 문제가 아닙니다. 999.99달러로 보험사를 대리하는 로펌을 억제할 수는 없으며, 이 금액의 의미는 주 변호사협회 통지 기준보다 1센트 낮다는 데 있습니다. 중요한 것은 공개된 결정문입니다. 결정문은 누구나 검색할 수 있고, 영구히 남으며, 실명이 적힌 변호사를 따라다닙니다. 둘째, 제재 수위는 분명히 높아지고 있습니다. 법원이 이를 낯선 기술 탓으로 너그럽게 보아 주던 유예 기간은 끝났습니다.

튀르키예의 연성법적 대응: TBB 지침

2026년 8월 28일 튀르키예 변호사협회연합(TBB)은 변호사의 인공지능 이용에 관한 권고 지침을 발표했습니다. 「변호사를 위한 AI 이용 권고 지침」은 구속력이 있는 규범이 아니라 권고에 해당하지만, 변호사에게 기대되는 직업적 기준을 튀르키예어로 처음 체계화한 문서이며, 징계위원회는 이 문서를 판단 근거로 삼게 될 것입니다.

지침의 뼈대는 4단계 위험 모델입니다.

• 제한 없는 이용 — 일반적인 법률 조사·연구와 익명화된 기획 업무.
• 한정적·통제된 이용 — 초안 작성, 익명화된 요약.
• 엄격히 제한된 이용 — 민감한 사건 파일. 폐쇄형 시스템과 개인정보보호법(KVKK)에 부합하는 설정이 요구됩니다.
• 금지 — 의뢰인 데이터를 보안이 확보되지 않은 시스템으로 이전하는 행위, 그리고 사람의 감독 없이 법적 판단을 내리는 행위.

이 모델을 중심으로 실무상 중요한 원칙들이 제시되어 있습니다. 어떤 도구를 도입하기 전에 변호사는 데이터가 어디에 저장되는지, 국외로 나가는지, 어떤 재수탁자가 관여하는지, 자료가 얼마나 오래 보관되는지를 확인해야 합니다. 저희가 KVKK와 AI 거버넌스 가이드에서 정리한 실사(due diligence) 질문들과 동일한 항목입니다. 생성된 콘텐츠, 특히 판례 인용은 법원에 제출하기 전에 반드시 검증해야 합니다. 일정한 용도에는 의뢰인의 사전 고지에 기초한 동의가 필요합니다. 최종 판단은 도구에 맡길 수 없습니다. 또한 일부 로펌에는 뜻밖일 수 있는 대목인데, AI로 얻은 효율을 변호사 투입 시간으로 청구할 수 없고, 일반적인 기술 비용을 합의 없이 의뢰인에게 떠넘겨서도 안 됩니다.

이 지침은 세 가지 점에서 비판을 받아 왔고, 제가 보기에 그 비판은 타당합니다. 첫째, 권고와 의무를 뒤섞어, 법적 근거를 밝히지 않은 채 금지의 어법을 씁니다. 둘째, 여러 단계의 작업을 자율적으로 수행하는 에이전트형 시스템이 이미 쓰이고 있는데도 이에 관해서는 거의 언급이 없습니다. 셋째, 프롬프트 인젝션 위험이나 딥페이크로 조작된 증거의 검증에 관해 쓸 만한 내용이 없습니다. 모두 지침이 나오기 전부터 이미 현실이 된 문제들입니다.

반대편의 문제: 법원이 도구를 쓸 때

논의가 거의 변호사에게만 집중되어 있는데, 이는 중대한 사각지대입니다. 판사와 법원 직원도 똑같은 압박을 받지만, 변호사의 오류를 걸러 주는 대심 구조의 상호 검증 장치가 이들에게는 없습니다.

튀르키예 실무에서도 바람직한 초기 사례가 이미 나왔을 수 있습니다. 한 실무가의 소개에 따르면, 이스탄불의 한 상사법원은 2025년 5월 판결 이유에서 당사자가 원용한 네덜란드 판례를 확인하고 번역하는 데에만 AI를 사용했으며 법적 판단은 판사가 맡았다고 밝혔습니다. 이 소개가 정확하다면 이것이 올바른 모델입니다. 도구는 번역과 교차 확인만 맡고 추론에는 관여하지 않으며, 그 결과물은 사람이 직접 보고 검증할 수 있습니다.

반대로 법원 쪽에서 실패하면 그 결과는 어떤 변호사의 실수보다도 심각합니다. 준비서면의 허위 인용은 상대방이 잡아냅니다. 그러나 판결문의 허위 인용은 상소심에 이르기 전까지 아무도 잡아내지 못하고, 법원의 권위까지 등에 업고 있습니다. 판결 취소라는 구제수단이 등장한 것도 그래서입니다. 피해의 크기에 걸맞은 대응은 그것뿐입니다. 튀르키예 법원에는 이러한 도구의 사법적 이용에 관한 상설 규범이 없으며, 이 공백은 사고가 나기 전에 메워야 합니다.

변호사가 아닌 사람들

기록된 사건 가운데 상당수는 변호사가 전혀 관여하지 않은 사건입니다. 변호사 없이 본인소송을 하는 당사자가 챗봇에게 법을 물어본 뒤 그 답변을 그대로 법원에 제출한 경우입니다.

이 부분은 지금보다 훨씬 더 주목받아야 합니다. 주의의무, 서명, 징계라는 직역 중심의 틀이 여기에는 전혀 들어맞지 않기 때문입니다. 본인소송 당사자는 전문직 의무를 지지 않고, 보험도 없으며, 변호사회 징계 대상도 아닙니다. 대신 이들은 청구 각하, 소송비용 부담 명령, 그리고 허위 선례로 신뢰를 잃지 않았다면 이길 수도 있었을 사건의 패소를 떠안습니다.

그 밑바닥에는 사법접근권이라는 불편한 문제가 깔려 있습니다. 이들 대부분은 변호사를 선임할 형편이 안 되어, 새벽 세 시에도 답해 주는 유일한 조언자에게 기댄 사람들입니다. 도구는 이들에게 변호사가 쓴 것과 똑같아 보이는 문서를 건넸습니다. 그 결과 법률 지식을 민주화한다고 홍보되는 기술이, 바로 이 경로에서는 대리인 없는 사람들이 패소하는 새로운 길을 열고 있습니다.

여기서 해법은 직역 규범이 아니라 설계와 제도에 있습니다. 소비자용 어시스턴트가 법원 제출용 인용 생성을 거부하거나 눈에 띄는 경고를 붙이도록 하고, 법원의 소송 안내 창구가 AI가 생성한 선례는 반드시 검증해야 한다고 당사자에게 분명히 알리며, 법원 직원이 서면을 그대로 접수하지 않고 문제를 지적할 수 있도록 권한을 주는 것입니다. 이 가운데 아직 시행되는 곳은 없습니다. 그리고 도구가 좋아질수록 이 문제는 오히려 더 중요해질 것입니다.

오류를 만들어 내는 경제 구조

2천 건의 사건을 2천 번의 부주의로 치부하고 싶어지기 쉽습니다. 그러나 그것은 지나치게 손쉬운 해석이고, 그렇게 보아서는 아무것도 바로잡을 수 없습니다.

허위 인용이 나오는 업무는 거의 언제나 비슷합니다. 시간에 쫓겨 준비하는 서면, 수임료로는 몇 시간의 조사·연구를 감당할 수 없는 사건, 그리고 마침 손이 비어 있는 사람에게 맡겨진 일입니다. 도구는 바로 그 틈을 파고듭니다. 한 시간짜리 데이터베이스 작업을 90초짜리 초안 작성으로 바꿔 놓을 뿐 아니라, 무엇보다 겉보기 품질이 잘된 작업물과 구별되지 않는 결과물을 내놓습니다. 서두르는 변호사는 눈으로 보아서는 그 선례가 지어낸 것인지 알 수 없습니다. 법조계가 지금까지 써 온 어떤 지름길과도 질적으로 다른 상황입니다.

그렇다면 해법은 도덕이 아니라 구조에서 찾아야 합니다. "조심하라"는 당부로 대응하는 로펌은 같은 문제를 되풀이할 것입니다. 반면 검증을 별도의 공정으로 명시하고, 그 공정에 시간을 배정하고, 채팅창에서 나온 인용을 문서에 넣지 못하게 하는 로펌은 그렇지 않을 것입니다. 수임료 구조에도 같은 논리가 적용됩니다. 조사·연구 비용을 감당할 수 없는 가격으로 수임한 업무는 결국 도구가 떠맡게 되므로, 가격 결정이 곧 위험관리 결정입니다.

적발은 왜 불균등하게 이루어지는가

허위 인용이 적발되는 경로는 기민한 상대방, 꼼꼼한 법원 직원이나 판사, 데이터베이스 대조, 이 세 가지 중 하나입니다. 세 경로 모두 자원이 있어야 가능하며, 그 자원은 결코 고르게 분포되어 있지 않습니다.

자원이 충분한 상대 로펌은 모든 선례를 확인할 것입니다. 본인소송 당사자는 그럴 수 없습니다. 사건이 밀린 상사법원도 그러지 못할 수 있습니다. 결국 눈에 띄지 않는 불평등이 생깁니다. 허위 선례는 상대방이 가장 취약한 곳, 즉 소액 민사분쟁, 집행 절차, 한쪽 당사자에게 대리인이 없는 사건에서 걸러지지 않을 가능성이 가장 큽니다. 공개된 제재 사건이 대형 상사소송에 몰려 있는 것은 그곳의 문제가 가장 심각해서가 아니라, 그곳에서 문제가 발견되기 때문입니다.

튀르키예에는 짚어 둘 만한 구조적 이점이 하나 있습니다. UYAP 덕분에 검증이 매우 빠르다는 점입니다. 영국 사무변호사라면 유료 데이터베이스를 구독하고 몇 분을 들여야 하는 인용 확인이, 튀르키예 변호사에게는 검색 한 번이면 끝납니다. 앙카라 사건의 잘못된 사건번호가 변론기일 당일 법정에서 바로 드러난 것도 그 덕분입니다. 이는 분명한 장점이며, 그렇기에 튀르키예에서 변호사에게 기대할 수 있는 주의의무 수준은 낮아지는 것이 아니라 오히려 높아집니다.

누가 부담하는가: 배상책임과 보험

허위 인용에는 제재 외에도 세 가지 책임 위험이 따르는데, 로펌들은 대부분 이를 제대로 따져 보지 않았습니다.

• 의뢰인의 청구. 선례가 허위였던 탓에 사건에서 패소하거나, 서면이 각하되거나, 소송비용을 부담하게 되었다면 의뢰인은 전문직 과실을 이유로 한 손해배상청구권을 분명히 갖게 됩니다. "도구가 그랬다"는 항변은 통하지 않습니다. 의무를 지는 사람은 변호사이기 때문입니다.
• 전문직 배상책임보험. 2024년 이전에 인수된 보험계약은 이런 상황을 상정하지 않았습니다. 제재금이 보상 대상인지는 그것이 벌과금(대개 면책)으로 분류되는지, 손해로 분류되는지에 달려 있습니다. 보험사들은 갱신 때 AI 이용 여부를 묻기 시작했습니다. 로펌은 인수심사 질문에, 그리고 머지않아 인수 조건에 대비해야 합니다.
• 공급업체. 가장 먼저 떠오르는 책임 상대, 즉 인용을 지어낸 도구의 제공자가 실은 가장 까다로운 상대입니다. 이용약관은 정확성 보증을 포괄적으로 배제하고 거의 예외 없이 전문가의 검증을 요구합니다. 제공자에 대한 청구는 법조계를 겨냥한 마케팅에서 한 구체적인 표시를 근거로 구성해야 할 텐데, 좁고 아직 검증되지 않은 길이지만 아예 막힌 길은 아닙니다. 특히 제품이 범용 어시스턴트가 아니라 법률 조사 도구로 판매된 경우라면 더욱 그렇습니다.

실제로 작동하는 검증 프로토콜

"결과물을 확인하라" 수준의 조언은 분명히 실패했습니다. 무엇을 확인해야 하는지, 누가 책임지는지 알려 주지 않기 때문입니다. 실무에서 실제로 버틸 수 있는 프로토콜은 다음과 같습니다.

• 도구가 해도 되는 일과 해서는 안 되는 일을 분리하십시오. 논증 구조 짜기, 직접 제공한 문서 요약하기, 문장 다듬기는 위험이 낮습니다. 선례를 만들어 내는 일은 위험이 높습니다. 원칙은 이렇습니다. 생성형 도구가 내놓은 인용은 어떤 것도 문서에 넣지 않는다. 인용은 언제나 판례 데이터베이스에서 가져오고, 도구는 무엇을 찾아볼지 제안하는 역할에 그친다.
• 내용이 아니라 식별정보를 검증하십시오. UYAP이나 구독 데이터베이스에서 해당 결정을 열어 재판부, 기록번호, 결정번호, 날짜를 확인하십시오. 그럴듯한 요약을 읽는 것은 검증이 아닙니다. 튀르키예 사건이 바로 그렇게 실패했습니다.
• 의존하려는 그 부분을 직접 읽으십시오. 두 번째 실패 유형, 즉 실재하는 판결이 판시하지 않은 내용을 판시한 것처럼 설명하는 경우는 이 방법으로만 잡아낼 수 있습니다.
• 초안 작성 중에 AI 도움을 받은 부분을 표시하십시오. 생성된 문장은 검증이 끝날 때까지 표시해 두는 내부 관행, 그리고 제출 전에는 그 표시가 모두 사라져 있어야 한다는 규칙이 필요합니다.
• 검토자를 지정하십시오. 두 사람 이상이 맡은 사건이라면, 선례 검증은 막연한 기대가 아니라 담당자가 정해진 업무여야 합니다.
• 프롬프트와 출력을 보관하십시오. 문제가 생겼을 때 무슨 일이 있었는지 법원에 정확히 보여 줄 수 있느냐가 과실로 끝나느냐, 기망 혐의를 받느냐를 가릅니다. 앙카라의 그 변호사도 기록을 남겨 두었다면 훨씬 유리했을 것입니다.
• 도구를 설정하십시오. 제공자가 허용하는 경우 데이터 보관 기능을 끄고, 의뢰인 자료에는 소비자용이 아닌 기업용 계정을 사용하며, 식별 가능한 사건 정보는 범용 어시스턴트에 아예 붙여 넣지 마십시오. 이 경우에도 KVKK 분석은 다른 데이터 이전과 똑같이 적용되며, 이는 학습 데이터: 먼저 정리해야 할 KVKK·GDPR 쟁점 글에서 정리한 바 있습니다.
• 문서로 남기십시오. 로펌 차원의 AI 이용 정책이 있으면 위의 모든 사항이 선의의 다짐에서 점검 가능한 규칙으로 바뀝니다. 저희 기업 AI 이용 정책 가이드가 출발점이 되는 틀을 제공합니다.

3년의 경과: 법조계는 어떻게 여기까지 왔나

출발점은 널리 알려져 있습니다. 2023년 뉴욕의 한 인신사고 사건에서 한 변호사가 존재하지 않는 판결 여러 건을 담은 준비서면을 제출했습니다. 그는 챗봇에게 근거 선례를 물었고, 이어 같은 챗봇에게 그 판결들이 실재하는지 되물었습니다. 법원은 제재를 가하고 황당하다는 어조의 의견을 공개했으며, 이로써 사건은 유명해졌습니다. 그 뒤 약 1년 동안 법조계는 이를 한 사람의 어리석음을 보여 주는 경고담 정도로 여겼습니다.

그 해석은 마음은 편했지만 틀렸고, 데이터베이스의 증가 곡선이 이를 증명합니다. 개인의 어리석음 문제였다면 언론 보도만으로도 억제되었을 것입니다. 그러나 수치는 오히려 도입이 확산될수록 빠르게 늘었고, 이는 우발적 실패가 아닌 구조적 실패의 특징입니다.

사법부의 대응은 세 단계를 거쳤습니다. 처음은 경악이었습니다. 초기 결정문은 언어 모델이 무엇인지 설명하는 데 여러 문단을 할애했습니다. 다음은 분노였습니다. 법원은 법조계가 이미 경고를 받았다는 점을 지적하기 시작했고, 제재는 상징적인 수준에서 실질적인 수준으로 올라갔습니다. 지금은 일상이 되었습니다. 최근 결정문은 짧고 기술 설명도 없으며, 쟁점은 과실이었는지 부정직이었는지, 그리고 발각되기 전에 스스로 밝혔는지로 좁혀졌습니다.

튀르키예는 이 흐름에 첫 단계가 아니라 두 번째 단계에서 들어섰고, 이는 이점입니다. 앙카라 사건이 터졌을 때 법조계는 이미 위험을 알고 있었습니다. 징계라는 틀로 충분하고 형사 절차까지 갈 필요가 없는 이유가 바로 여기에 있습니다.

의뢰인이 물어야 할 것들

사내 법무책임자와 개인 의뢰인은 이 논의에서 빠져 있는 당사자입니다. 비용을 대고 패소의 결과를 떠안는 것은 이들인데도, 이에 관해 묻는 사람은 거의 없습니다.

• 제 사건에 생성형 AI를 사용하십니까, 그리고 어떤 용도로 사용하십니까? "아니요"라는 답은 이제 어느 정도 의심해 볼 만합니다. 쓸모 있는 답은 어떤 업무에 쓰는지 설명하는 답입니다.
• 제 기밀 정보는 어디로 갑니까? 핵심은 도구의 브랜드가 아니라 소비자용 계정인지, 데이터 보관 설정이 어떤지, 국외 이전이 있는지입니다.
• 제출 전에 누가, 어떻게 선례를 검증합니까? 그 절차를 구체적으로 설명하지 못하는 로펌에는 사실상 그런 절차가 없습니다.
• 전문직 배상책임보험이 AI 관련 오류를 보장합니까? 법원 명령이 나온 뒤가 아니라 수임 계약 전에 물어 두어야 합니다.
• 효율의 이익이 저에게도 돌아옵니까? 세 시간 걸리던 업무가 이제 20분에 끝난다면, 그 차이를 어떻게 처리할지 보수 약정에 적혀 있어야 합니다. TBB 지침이 명시적으로 지적하는 지점입니다.

기업 의뢰인이라면 익숙한 질문일 것입니다. 자사 구매 부서가 AI 공급업체에 던지는 질문과 똑같기 때문입니다. 같은 질문을 외부 대리인에게 하는 것은 적대적인 태도가 아니라 일관성의 문제입니다.

법원과 규제기관이 해야 할 일

법조계만으로는 이 문제를 해결할 수 없습니다. 다음 세 가지 조치가 대부분의 몫을 해낼 것입니다.

확인서 제출 요건. 미국의 여러 법원은 이제 AI의 도움을 받아 작성한 서면에 대해, 선례를 사람이 검증했다는 서명 진술을 요구합니다. 비용이 거의 들지 않고, 성실한 변호사에게는 달라질 것이 없으며, 막연한 의무를 책임이 따르는 구체적인 확인으로 바꿔 줍니다. 이런 법원 규칙이나 통일된 실무 지침은 지금 튀르키예에서 취할 수 있는 가장 효과적인 조치가 될 것입니다.

공개된 제재 단계 정책. 앙카라 사건이 위기가 된 데에는, 허위 인용의 결과가 무엇이어야 하는지 아무도 말할 수 없었다는 사정도 한몫했습니다. 첫 위반, 반복 위반, 부정직한 사안을 각각 어떻게 다룰지 미리 밝혀 두면, 변호사회는 회원들에게는 예측 가능한 기준을, 징계위원회에는 판단 틀을 제공할 수 있습니다.

사법적 이용에 관한 지침. 법원에 대한 규범 없이 변호사에 대한 규범만 두면 문제의 더 위험한 절반을 방치하게 됩니다. 사법부 지침은 사건 기록 요약, 산술 계산, 번역, 문서 비교 같은 허용 용도를 판결 이유 작성이나 선례 조달과 구분해야 합니다.

보다 넓은 입법 논의도 어차피 이 방향으로 가고 있습니다. AI 행동계획의 거버넌스 구조와 국회에 계류 중인 법안들이 그렇고, 이는 저희가 튀르키예 인공지능법 초안 연구에서 분석한 바 있습니다. 그러나 위 세 가지 조치는 모두 입법 없이도 가능하며, 실무 지침으로 충분한 일을 두고 법률 제정을 기다리는 것은 잘못된 접근입니다.

앞으로 지켜볼 것

지켜볼 것은 네 가지입니다. 첫째, 앙카라 검찰청의 수사가 기소로 이어지느냐입니다. 그 결과가 이런 유형의 오류를 튀르키예 형사법이 어떻게 다룰지 가늠하는 기준이 될 것입니다. 둘째, TBB 지침이 권고에서 구속력 있는 직역 규범으로 격상되느냐, 아니면 이미 구속력이 있는 것처럼 징계위원회가 원용하게 되느냐입니다. 셋째, 해외의 제재 곡선이 계속 가팔라지느냐, 아니면 검증 관행이 자리 잡으면서 완만해지느냐입니다. 넷째, 허위 인용이 담긴 튀르키예 판결이 처음으로 드러나느냐입니다. 지금 추세라면 시간문제이며, 이에 대한 상소심의 대응은 변호사에 대한 어떤 제재보다도 훨씬 중요할 것입니다.

자주 묻는 질문

법률 업무에 AI를 사용하는 것이 직무상 비위인가요?

아닙니다. TBB 지침도, 튀르키예의 어떤 규범도 이를 금지하지 않습니다. 제재 대상은 검증하지 않은 자료를 제출하는 행위이며, 검증 의무는 이 기술이 등장하기 훨씬 전부터 있었습니다.

앙카라 사건에서 정확히 무엇이 잘못되었나요?

변호사의 설명에 따르면, 도구가 실재하는 튀르키예 대법원 결정의 내용을 옮기면서 잘못된 기록번호와 결정번호를 붙였고, 서로 다른 선례 세 건처럼 보인 것은 사실상 한 결정을 달리 인용한 것이었습니다. 상대방 대리인이 변론기일에 이를 문제 삼았고, UYAP으로 확인한 결과 인용된 번호에 해당하는 결정은 존재하지 않았습니다.

튀르키예에서 이런 일로 변호사가 형사처벌을 받을 수 있나요?

앙카라 사건에서는 수사가 개시되었지만, 어떤 구성요건에 해당하는지는 상당히 의문입니다. 무엇보다 이런 유형의 범죄는 기망의 고의를 요구하기 때문입니다. 결함 있는 도구를 과실로 신뢰한 것은, 제가 보기에 형사 문제가 아니라 징계 문제입니다.

TBB 지침은 구속력이 있나요?

권고적 성격입니다. 그러나 권고적 직역 지침은 징계위원회에서 요구되는 주의의무 수준을 가늠하는 근거로 흔히 쓰이므로, 실제 무게는 형식적 지위보다 큽니다.

지금까지 부과된 최고액의 제재는 무엇인가요?

기록된 미국 최고액은 Couvrette v. Wisnovsky의 110,204.38달러로, 2025년 12월과 2026년 3월의 명령에 걸쳐 부과되었습니다. 다만 변호사 자격 정지(2023년 콜로라도, 2026년 네브래스카)나 Withers v. City of Aberdeen에서 내려진 2년간의 관할 내 변론 금지가 변호사에게는 더 중대한 결과입니다.

판결문 자체에 허위 인용이 들어 있으면 어떻게 되나요?

상소심에서 취약해집니다. 올해 보도된 인도 사례에서는 허위 자료가 판단에 얼마나 핵심적이었는지와 관계없이, 판결문에 AI가 지어낸 선례가 들어 있다는 사실만으로 판결 취소 사유로 보았습니다.

전문직 배상책임보험이 이를 보장하나요?

보험계약의 내용, 그리고 해당 금액이 벌과금으로 분류되는지 손해로 분류되는지에 달려 있습니다. 법원 명령이 나온 뒤에야 답을 알게 되는 일이 없도록, 로펌은 갱신 시점에 보험중개인과 이 문제를 논의해야 합니다.

판례 조사에 안전하게 쓸 수 있는 도구는 무엇인가요?

질문의 전제가 잘못되었습니다. 범용 어시스턴트는 어떤 것이든 인용의 출처가 되어서는 안 됩니다. 출처는 판례 데이터베이스여야 하며, 어시스턴트는 무엇을 검색할지 정하는 데 도움을 주고 찾아낸 자료를 설명하는 역할에 그쳐야 합니다.

부르한 도우쉬 아이파를라르의 견해

이 섹션은 본 사이트의 설립자인 튀르키예 변호사 부르한 도우쉬 아이파를라르의 개인적인 견해를 담고 있습니다.

앙카라 사건을 접하고 제가 먼저 든 생각은 형사 입건이 잘못되었다는 것이었습니다. 변호사가 특별히 보호받아야 해서가 아니라, 그 행위가 범죄 구성요건에 들어맞지 않기 때문입니다. 허위를 처벌하는 규정은 행위자가 허위임을 의도했을 것을 요구합니다. 변호사 본인의 설명에 따르면 이 사건에서는 기계가 올바른 법적 명제에 잘못된 번호를 붙여 내놓았고, 변호사가 그 번호를 확인하지 않았습니다. 이는 과실이고, 과실을 다룰 곳은 따로 있습니다. 바로 변호사회입니다. 이런 사건에 검찰을 끌어들이면 법조계는 잘못된 교훈을 얻게 됩니다. 오류를 밝히기보다 숨기려 들게 되기 때문입니다. 이 문제에서 가장 바람직한 행동은 오류를 발견한 변호사가 상대방보다 먼저 법원에 알리는 것인데도 말입니다.

두 번째로 든 생각은, 법조계가 이를 기술 문제로 다뤄 왔지만 실은 직업 규율의 문제라는 것입니다. 3년간 2천 건이라는 숫자는 모델에 관한 이야기가 아닙니다. 그럴듯한 텍스트를 만드는 것이 모델의 기능이고, 성능이 아무리 좋아져도 검증하지 않은 인용에 서명하는 일이 안전해지지는 않습니다. 문제의 본질은 서명 문화에 있습니다. 모든 결과물이 권위 있어 보이게 되면서 선례 확인이 선택 사항처럼 되어 버린 것입니다. 오하이오와 텔아비브에서 제재를 받은 변호사들이 실패한 것은 AI 활용이 아니라, 이 직업의 가장 오래된 의무를 지키는 일이었습니다. 아직 수사가 진행 중인 앙카라 사건도 같은 의무를 둘러싼 문제입니다.

제가 가장 우려하는 것은 준비서면이 아니라 판결문입니다. 둘의 차이는 극명합니다. 준비서면의 허위 인용은 상대방의 검토를 거치지만, 판결문의 허위 인용은 누구의 검토도 거치지 않습니다. 튀르키예에는 법원이 이런 도구를 어떻게 쓸 수 있는지에 관한 규범이 없고, 공개적으로 사고가 나기 전에는 만들어지지 않을 것입니다. 저는 지금 규범을 마련해 두는 편이 낫다고 보며, 내용은 단순하면 됩니다. 산술 계산, 번역, 요약, 대조에는 허용하고, 판결 이유 작성이나 선례 조달에는 허용하지 않는 것입니다.

TBB 지침은 발표 자체가 옳은 판단이었고 내용도 합리적인 초안이라고 생각합니다. 다만 대부분의 연성법처럼, 의무의 언어를 쓰면서도 정작 어떤 의무도 부과하지 못한다는 약점이 있습니다. 제가 바라는 방향은 검증에 관한 짧고 구속력 있는 규범, 준비서면에 넣는 확인 문구, 그리고 첫 위반의 대가를 회원들이 미리 알 수 있도록 공개한 제재 단계 정책을 함께 두는 것입니다. 이 조합은 집행할 수 있고 비례적이며, 기소와 달리 우리가 실제로 바라는 행동을 이끌어 냅니다.

마지막으로 동료들에게 실무적인 당부를 하나 덧붙입니다. 여기서 다룬 모든 사건을 막을 수 있었던 습관입니다. 채팅창의 인용을 문서로 옮기지 마십시오. 도구에는 무엇을 찾아볼지만 물으십시오. 인용은 판례 데이터베이스에서 가져오고, 결정문을 열어 근거로 삼을 문단을 직접 읽은 뒤 서명하십시오. 2분이면 됩니다. 여기서 문제 되는 전문직 의무는 그 2분이 전부입니다.

이 글은 정보 제공 목적이며 법률 자문에 해당하지 않습니다. 사건 건수와 제재 금액은 2026년 9월 14일 기준으로 공개 운영되는 AI 환각 사건 데이터베이스(다미앵 샤를로탱)와 언론 보도에서 가져온 것이며, 개별 수치는 이후 변경되었을 수 있습니다. 앙카라 사건은 2026년 6월 튀르키예 법조 언론의 보도를 토대로 서술한 것으로, 수사는 진행 중인 것으로 보도되었으며 어떠한 위법 사실도 확정된 바 없습니다. 튀르키예의 형사·직역·민사 법제에 관한 설명은 일반적인 내용이며, 구체적 사안은 개별적인 검토가 필요합니다. 분석과 평가는 필자의 견해입니다.