AI가 의학적으로 오진을 내리면 누구를 고소해야 하는가?

오늘날 AI 알고리즘은 인간 영상의학과 의사보다 훨씬 앞서 MRI 및 X-ray 이미지를 분석하여 숨겨진 종양을 발견할 수 있습니다. 수십만 건의 과거 사례를 바탕으로 몇 초 만에 환자의 유전자 지도를 스캔하여 어떤 약이 효과적일지 계산할 수 있습니다. 하지만 이른바 "결함이 없다"는 이 기계가 실수를 한다면 어떻게 될까요? AI가 초기 암을 "양성 낭종"으로 분류하고, 의사가 이 알고리즘을 신뢰하여 환자를 집으로 돌려보냈는데 몇 달 후 환자가 사망한다면, 법정에서 누가 책임을 지게 될까요?

알고리즘을 작성한 소프트웨어 엔지니어입니까? 시스템을 구매한 병원입니까? 결정을 승인한 의사입니까? 아니면 이것은 "범인을 알 수 없는" 기술적 사고입니까? 이 방대한 기사에서는 의료 과실(Malpractice)과 기술법이 교차하는 이 피비린내 나는 전쟁터를 "배경", "글로벌 법적 프레임워크", "임상적 영향", "결론"의 축을 통해 심층적으로 분석합니다.

진찰실의 "디지털 제3의 마음"과 책임의 딜레마

1. 배경: 의료 과실(Malpractice)법의 해부

AI 위기가 왜 그렇게 해결하기 어려운지 이해하려면 전통적인 의료 과실 소송이 어떻게 운영되는지 먼저 살펴보아야 합니다. 튀르키예 채권법(TBK)을 포함한 선진 법체계의 불법행위법(Tort Law)은 일반적으로 손해 배상을 위해 "과실(Fault/Negligence)"을 요구합니다.

전통적인 법률에서 의사가 오진이나 부적절한 치료에 대해 책임을 지려면 "주의 의무 기준(Standard of Care)", 즉 동일한 전문 분야의 평균적이고 합리적인 의사가 유사한 상황에서 발휘할 주의와 기술 수준을 보여주지 못했어야 합니다. 의사가 전문적인 기준에서 벗어난 경우 과실이 있는 것입니다. 그러나 의사 결정자가 인간이 아니라 초당 수십억 번의 계산을 수행하는 인공 신경망(Neural Network)일 때는 상황이 급격히 달라집니다.

1.1. "블랙박스(Black Box)" 문제

대부분의 최신 의료 AI는 "딥러닝(Deep Learning)" 논리로 작동합니다. 수백만 장의 암 및 정상 폐 스캔 이미지가 시스템에 업로드됩니다. 시스템은 어떤 픽셀이 암을 나타내는지 독립적으로 학습합니다. 그러나 이 과정에는 부작용이 있습니다. 바로 블랙박스 문제입니다.

AI가 환자에게 암 진단을 내릴 때, 창조자인 엔지니어조차도 그것이 *어떻게* 그 결정에 도달했는지 또는 정확히 어떤 매개변수를 사용했는지 완전히 설명할 수 없습니다. 법은 정당화를 기반으로 구축됩니다. 법정에서 판사가 "이 환자는 왜 오진을 받았습니까?"라고 물을 때, "알고리즘이 4번째 계층의 12번째 뉴런에 가중치를 너무 많이 부여했습니다"라고 대답하는 것은 법적으로 아무런 의미가 없습니다. 과실의 근원을 알 수 없기 때문에 입증 책임(Burden of Proof)은 무너집니다.

2. 글로벌 법적 프레임워크: 제조물 책임인가, 서비스 과실인가?

전 세계의 법원과 입법자들은 AI를 (메스와 같은) 의료 "도구"로 취급해야 할지, 아니면 (다른 의사와 같은) 적극적인 "컨설턴트"로 취급해야 할지를 두고 의견이 분분합니다.

2.1. 의료 기기로서의 소프트웨어 (Software as a Medical Device - SaMD)

미국 식품의약국(FDA)과 유럽 의약품청(EMA)은 자율적으로 진단을 내리는 소프트웨어를 "의료 기기(SaMD)"로 분류하기 시작했습니다. AI가 의료 기기라면 법적 영역은 의료 과실에서 제조물 책임(Product Liability)으로 넘어갑니다.

제조물 책임 원칙에서는 "무과실 책임(Strict Liability)"이 필수적입니다. 즉, 세탁기가 제조 결함으로 폭발하여 집을 태운 경우 소비자는 공장의 "고의"를 증명할 필요가 없습니다. 제품에 결함이 있었다는 것을 증명하는 것만으로 충분합니다. AI가 제품이고 코딩 오류나 결함이 있는 데이터 세트(예: 백인 환자의 데이터로만 훈련되어 흑인 환자의 피부암을 놓치는 경우)로 인해 환자에게 해를 끼친다면, 책임은 소프트웨어 회사(개발자)에게 직접 있습니다.

2.2. 임상 의사 결정 지원 시스템(CDSS)과 의사의 책임

그러나 기술 거대 기업들은 수십억 달러의 보상 소송을 피하기 위해 종종 AI 시스템의 최종 사용자 라이선스 계약(EULA)에 다음과 같은 조항을 삽입합니다. "이 시스템은 오로지 임상 의사 결정 지원 시스템(CDSS)일 뿐입니다. 최종 결정 및 진단 책임은 항상 의사에게 있습니다."

3. 영향 (Implications): 의료 관행은 어떻게 변할 것인가?

이러한 법적 불확실성은 임상 현장에서 의사들의 행동을 급격하게 바꾸고 있습니다. 법률 문헌에서는 이를 "방어적 진료(Defensive Medicine)" 및 자동화 편향(Automation Bias)이라고 부릅니다.

1. 자동화 편향(Automation Bias): 인간의 심리는 기계가 항상 더 정확하게 계산한다고 믿는 경향이 있습니다. 36시간 교대 근무로 지친 의사가 AI 화면에서 "98% 양성 종양"이라는 레이블을 보게 되면, 자신의 의심을 억누르고 기계에 순응할 가능성이 높습니다.
2. 책임에 대한 두려움으로 인한 오류 승인: 의사가 이상을 감지했지만 기계는 "환자가 완전히 건강합니다"라고 말한다고 가정해 보겠습니다. 의사가 기계의 의견을 무시하고 수술을 결정했는데 수술이 불필요했던 것으로 판명되면, 병원 경영진과 법원은 의사에게 물을 것입니다. "왜 99%의 정확도를 자랑하는 수백만 달러짜리 AI의 말을 듣지 않았습니까?" 이러한 법적 압력은 의사들이 AI에 동의하지 않더라도 "법적으로 자신을 보호하기 위해" 기계의 결정에 굴복하도록 밀어붙입니다.
3. 데이터 중독 및 사이버 보안: 병원 서버의 AI 시스템이 사이버 공격(데이터 중독 - Data Poisoning)을 받으면 어떻게 될까요? 악의적인 해커가 알고리즘의 가중치를 비밀리에 변경하여 시스템이 특정 심장 박동을 잘못 해석하게 만든다면 살인죄는 누구의 탓으로 돌아갈까요?

4. 결론 (Conclusions): 법은 기계를 어떻게 따라잡을 것인가?

전통적인 불법행위법과 의료 과실 규칙은 AI 시대에 파산했습니다. 인간과 기계의 상호작용이 이렇게 복잡해진 생태계에서 단 한 사람(의사나 코더)에게 책임을 묻는 것은 불공평합니다. 해결책으로 법학자들은 다음 모델을 논의하고 있습니다.

• 의무적인 AI 재정적 책임 보험: 교통 체계의 자율 주행 차량과 마찬가지로 병원의 자율 진단 시스템에도 필수 보험 풀이 있어야 합니다. 환자가 피해를 입었을 때, (누구의 과실인지) 과실을 입증하는 데 수개월이 걸리는 소송을 기다릴 것이 아니라, 이 "무과실(No-Fault)" 보상 기금에서 환자의 손해를 즉시 보상해야 합니다.
• 전자적 인격 (Electronic Personhood): AI에 제한적인 법적 지위를 부여하는 것입니다. 기업(법인)이 사람이 아님에도 불구하고 고소를 당할 수 있는 것처럼, 특정 자율 의료 AI가 자체적인 법적 자산(보험 계좌)을 보유하고 직접 고소당할 수 있도록 하는 것입니다. 그러나 유럽 의회는 현재 이 아이디어를 "비윤리적"이라고 간주하여 보류했습니다.