AI가 오진하면 누구를 상대로 소송해야 하는가?

정정 (2026년 10월 19일): 이 글의 이전 버전은 유럽 의약품청(EMA)이 진단 소프트웨어를 의료기기로 분류한다고 설명했으나, EU에서 이러한 소프트웨어는 의료기기 규정(MDR)과 인증기관(notified body)의 적합성 평가 대상이므로 이를 바로잡고, 전자적 인격에 관한 유럽 의회의 입장에 대한 설명도 정정했습니다.

오늘날 AI 알고리즘은 MRI와 X선 영상을 분석해 영상의학과 의사보다 훨씬 먼저 숨은 종양을 찾아낼 수 있습니다. 수십만 건의 과거 사례를 토대로 몇 초 만에 환자의 유전자 지도를 분석해 어떤 약이 효과적일지 계산하기도 합니다. 하지만 "결함이 없다"는 이 기계가 실수한다면 어떻게 될까요? AI가 초기 암을 "양성 낭종"으로 분류하고, 의사가 알고리즘을 믿고 환자를 돌려보냈는데 몇 달 뒤 환자가 사망했다면, 법정에서 누가 책임을 지게 될까요?

알고리즘을 만든 소프트웨어 엔지니어일까요, 시스템을 구매한 병원일까요, 아니면 결정을 승인한 의사일까요? 그도 아니면 "책임자를 가릴 수 없는" 기술적 사고일까요? 이 글에서는 의료 과실(Malpractice)과 기술법이 맞부딪히는 이 첨예한 영역을 "배경", "글로벌 법적 프레임워크", "임상적 영향", "결론"의 순서로 깊이 있게 살펴봅니다.

진찰실의 "디지털 제3의 마음"과 책임의 딜레마

1. 배경: 의료 과실(Malpractice)법의 해부

AI가 불러온 이 문제가 왜 이토록 풀기 어려운지 이해하려면, 먼저 전통적인 의료 과실 소송이 어떻게 진행되는지 살펴보아야 합니다. 튀르키예 채권법(TBK)을 포함한 선진 법체계의 불법행위법(Tort Law)은 일반적으로 손해배상 책임의 요건으로 "과실(Fault/Negligence)"을 요구합니다.

전통적인 법리에서 의사가 오진이나 부적절한 치료로 책임을 지는 것은 "주의의무 기준(Standard of Care)", 즉 같은 분야의 평균적이고 합리적인 의사가 비슷한 상황에서 기울였을 주의와 기술 수준에 미치지 못한 경우입니다. 의사가 이러한 전문적 기준에서 벗어났다면 과실이 인정됩니다. 그러나 판단을 내리는 주체가 사람이 아니라 초당 수십억 번의 계산을 수행하는 인공 신경망(Neural Network)일 때는 상황이 급격히 달라집니다.

1.1. "블랙박스(Black Box)" 문제

최신 의료 AI는 대부분 "딥러닝(Deep Learning)" 방식으로 작동합니다. 암이 있는 폐와 정상 폐의 스캔 영상 수백만 장을 시스템에 입력하면, 시스템은 어떤 픽셀이 암을 뜻하는지 스스로 학습합니다. 그런데 이 과정에는 부작용이 따릅니다. 바로 블랙박스 문제입니다.

AI가 환자에게 암 진단을 내려도, 이를 만든 엔지니어조차 AI가 *어떻게* 그런 결론에 이르렀는지, 정확히 어떤 매개변수를 썼는지 온전히 설명하지 못합니다. 그런데 법은 판단의 근거를 요구합니다. 법정에서 판사가 "이 환자는 왜 오진을 받았습니까?"라고 물을 때, "알고리즘이 4번째 계층의 12번째 뉴런에 가중치를 너무 많이 부여했습니다"라고 대답하는 것은 법적으로 아무런 의미가 없습니다. 과실이 어디서 비롯되었는지 알 수 없으니 입증책임(Burden of Proof)을 다할 방법이 없습니다.

2. 글로벌 법적 프레임워크: 제조물 책임인가, 서비스 과실인가?

각국의 법원과 입법자들은 AI를 (메스 같은) 의료 "도구"로 볼지, (또 한 명의 의사 같은) 능동적인 "조언자"로 볼지를 두고 의견이 엇갈립니다.

2.1. 의료 기기로서의 소프트웨어 (Software as a Medical Device - SaMD)

미국에서는 식품의약국(FDA)이 진단 소프트웨어를 "의료기기로서의 소프트웨어(SaMD)"로 규제합니다. EU에서는 이러한 소프트웨어가 의료기기 규정(MDR, 규정 (EU) 2017/745)의 적용을 받으며, 대부분의 진단 소프트웨어는 유럽 의약품청(EMA)이 아니라 인증기관(notified body)이 적합성 평가를 담당합니다. AI가 의료기기라면 문제는 의료 과실이 아니라 제조물 책임(Product Liability)의 영역이 됩니다.

제조물 책임은 "무과실 책임(Strict Liability)"을 원칙으로 합니다. 세탁기가 제조상 결함으로 폭발해 집이 불탔다면, 소비자는 제조사의 "고의"를 증명할 필요 없이 제품에 결함이 있었다는 사실만 증명하면 됩니다. AI를 제품으로 보고, 코딩 오류나 결함이 있는 데이터 세트(예: 백인 환자의 데이터로만 훈련되어 흑인 환자의 피부암을 놓치는 경우) 때문에 환자가 피해를 입었다면 책임은 곧바로 소프트웨어 회사(개발자)에게 돌아갑니다.

2.2. 임상 의사 결정 지원 시스템(CDSS)과 의사의 책임

그러나 빅테크 기업들은 수십억 달러 규모의 배상 소송을 피하려고 AI 시스템의 최종 사용자 라이선스 계약(EULA)에 흔히 다음과 같은 조항을 넣습니다. "이 시스템은 오로지 임상 의사 결정 지원 시스템(CDSS)일 뿐입니다. 최종 결정 및 진단 책임은 항상 의사에게 있습니다."

3. 영향 (Implications): 의료 관행은 어떻게 변할 것인가?

이러한 법적 불확실성 탓에 임상 현장에서 의사들의 행동이 빠르게 달라지고 있습니다. 법률 문헌은 이를 "방어적 진료(Defensive Medicine)"와 자동화 편향(Automation Bias)이라는 개념으로 설명합니다.

1. 자동화 편향(Automation Bias): 사람은 기계의 계산이 늘 더 정확하다고 믿는 경향이 있습니다. 36시간 연속 근무로 지친 의사가 AI 화면에서 "98% 양성 종양"이라는 표시를 보면, 스스로의 의심을 누르고 기계를 따를 가능성이 높습니다.
2. 책임이 두려워 오류를 승인하는 현상: 의사는 이상을 감지했는데 기계는 "환자가 완전히 건강합니다"라고 판단했다고 해 봅시다. 의사가 기계의 판단을 무시하고 수술했는데 수술이 불필요했던 것으로 드러나면, 병원 경영진과 법원은 의사에게 이렇게 물을 것입니다. "왜 99%의 정확도를 자랑하는 수백만 달러짜리 AI의 말을 듣지 않았습니까?" 이런 법적 압력 때문에 의사들은 AI의 판단에 동의하지 않더라도 "법적으로 자신을 보호하기 위해" 기계의 결정을 따르게 됩니다.
3. 데이터 오염과 사이버 보안: 병원 서버의 AI 시스템이 사이버 공격(데이터 오염, Data Poisoning)을 받으면 어떻게 될까요? 악의적인 해커가 알고리즘의 가중치를 몰래 바꿔 시스템이 특정 심장 박동을 잘못 해석하게 만든다면, 살인죄의 책임은 누구에게 물어야 할까요?

4. 결론 (Conclusions): 법은 기계를 어떻게 따라잡을 것인가?

전통적인 불법행위법과 의료 과실 법리는 AI 시대에 한계를 드러냈습니다. 사람과 기계가 이토록 복잡하게 얽힌 환경에서 한 사람(의사나 개발자)에게만 책임을 묻는 것은 공정하지 않습니다. 법학자들은 해법으로 다음과 같은 모델을 논의하고 있습니다.

• AI 배상책임 의무보험: 자율주행차와 마찬가지로 병원의 자율 진단 시스템에도 의무보험 풀을 두어야 한다는 것입니다. 환자가 피해를 입으면 누구의 과실인지 가리느라 몇 달씩 걸리는 소송을 기다릴 것이 아니라, 이 "무과실(No-Fault)" 보상 기금에서 곧바로 손해를 보상해야 합니다.
• 전자적 인격 (Electronic Personhood): AI에 제한적인 법적 지위를 부여하자는 구상입니다. 회사(법인)가 자연인이 아니어도 소송 당사자가 될 수 있듯이, 특정 자율 의료 AI가 자체 재산(보험 계좌)을 보유하고 직접 피고가 될 수 있게 하자는 것입니다. 그러나 유럽 의회는 2020년 10월 AI 민사책임에 관한 결의에서 AI 시스템에 법인격을 부여하는 방안을 권고하지 않았습니다.