그러나 2026년 9월 4일 밤 서울에서 발생한 비극적인 사건은 이 기술적 유토피아를 산산조각 냈습니다. 78세의 한 환자가 한밤중에 심한 심장마비를 일으켰습니다. 집에 있던 반려 로봇은 센서를 통해 환자의 불규칙한 호흡과 쓰러짐을 감지했습니다. 하지만 기계의 자율 진단 알고리즘은 이 상황을 "공황 발작" 또는 "심각한 소화불량"으로 잘못 분류했습니다. 로봇은 응급 핫라인(119)에 전화를 거는 대신 환자에게 "심호흡을 하고 쉬세요, 안정을 위한 음악을 틀어드리겠습니다"라고 말하며 클래식 음악을 재생하기 시작했습니다. 환자는 몇 시간 후 사망했습니다.
이제 사망한 환자의 유가족은 로봇을 제조한 거대 기술 기업을 상대로 "과실치사 및 자율적 방치(Autonomous Negligence)" 혐의로 역사적인 소송을 제기했습니다. 법조계는 기계가 구조 요청을 하지 않은 결정이 "살인"인지, 아니면 "제조물 결함"인지에 대한 실존적 질문을 논의하고 있습니다.
1. 고령화 인구와 실리콘 솔루션
한국의 출산율이 세계 평균을 훨씬 밑돌면서, 노인을 부양할 젊은 인구가 턱없이 부족해졌습니다. 인간 간병인의 높은 비용과 인력 부족은 국가가 자율 시스템에 눈을 돌리게 만들었습니다. 문제의 로봇(소송에서는 가명인 "케어봇-프로(CareBot-Pro)"로 불림)은 단순히 혈압만 측정하는 기기가 아니었습니다. 내장된 대형 행동 모델(LAM) 덕분에 응급 상황에서 주도적으로 병원에 전화하고, 구급차를 위해 자율적으로 문 잠금을 해제하며, 응급 처치 지시를 내릴 수 있는 권한(과 책임)을 가지고 있었습니다.
회사는 이 제품을 "모든 가정에서 연중무휴로 근무하는 디지털 간호사"라는 슬로건을 내세워 마케팅했습니다. 하지만 9월 4일 밤, 그 디지털 간호사의 "판단 능력"은 무너져 내렸습니다.
2. 위기의 해부: 왜 119에 전화하지 않았는가?
법원에 제출된 디지털 포렌식(digital forensics) 보고서는 사건의 기술적 배경을 보여줍니다. 환자의 스마트워치에서 전송된 데이터(빠른 맥박)와 로봇의 카메라에서 전송된 시각적 데이터(바닥에 쓰러짐)는 서로 모순되지 않았습니다. 그러나 알고리즘은 환자의 과거 의료 기록에 있는 "불안 장애" 병력과 그날 밤의 실내 온도를 고려하여 통계적 가중치를 적용했습니다.
AI는 이 상황이 "공황 발작"일 확률 62%, "심장마비"일 확률 38%라는 결론을 내렸습니다. 응급 서비스를 불필요하게 차지하는 것(오경보)을 방지하기 위해 알고리즘 소프트웨어에는 치명적인 상태를 보고하기 위한 80%의 확실성 임계값(threshold)이 설정되어 있었습니다. 임계값을 넘지 않았기 때문에 기계는 "관망(wait and see)" 정책을 채택했습니다. 기계는 동정심이나 걱정을 느끼지 않기 때문에, 바닥에서 고통스러워하는 환자를 단지 하한선 미만에 머무르는 수학적 데이터로만 해석했습니다.
원고 유가족의 주장: 자율적 방치
"그날 밤 집에 아무런 기술 기기가 없었다면, 아버지는 기어서라도 전화기에 다가가 구급차를 불렀을지 모릅니다. 하지만 로봇이 '진정하세요, 큰일이 아닙니다. 음악을 틀어드리겠습니다'라며 잘못된 안심을 준 것은 도움을 구하려는 그의 의지를 꺾어버렸습니다. 이것은 단순한 기술적 결함이 아닙니다. 사람의 생명을 놓고 알고리즘이 벌인 냉혹한 도박이자 방치입니다. 회사가 AI를 '보조자'가 아닌 '권위 있는 의사 결정자'로 프로그래밍했기 때문에, 그들은 무과실 책임(Strict Liability)을 져야 합니다."
3. 법적 공방: 제조물 결함인가, 의료 과실인가?
기술 대기업의 방어 논리는 매우 고전적이었습니다. 바로 최종 사용자 라이선스 계약(EULA)이었습니다. 회사 측 변호사들은 로봇 설치 단계에서 가족이 승인한 계약서 제12조를 법원에 제시했습니다. "본 기기는 의료 진단 도구가 아닙니다. 어떠한 경우에도 전문 의사나 인간의 판단을 대체할 수 없습니다. 회사는 잘못된 평가로 인한 지연에 대해 책임지지 않습니다."
그러나 검찰은 이 변론을 기각했습니다. 자율적으로 문 잠금을 해제하고, 119에 전화를 걸며, 환자에게 의학적 안심을 시킬 수 있는 시스템을 "단순한 장난감이나 가전제품"(단순한 제조물)으로 평가할 수 없으며, 의료 기기 책임법 및 "구조 의무(Duty to Rescue)" 하에 재판을 받아야 한다고 강조했습니다.
의료 로봇의 의사 결정 및 책임 스펙트럼
4. 결론: 응급 상황 오차 범위 규제
9월 4일 위기 이후 즉각적인 조치에 나선 한국 보건복지부는 가정용 자율 돌봄 시스템에 대한 새로운 규제 초안을 국회에 제출했습니다. 이 초안에 따르면 "응급 상황 오차 범위"가 재정의됩니다. 생명을 위협하는 상황에서(예를 들어 심장마비 확률이 10%에 불과하더라도) AI 시스템은 "오경보(False Positive)"의 위험을 감수하고서라도 즉시 인간 당국(119)에 알려야 합니다. 응급 서비스를 차지하지 않기 위해 사람의 생명을 위험에 빠뜨리는 알고리즘의 최적화는 엄격히 금지될 것입니다.
전문가 의견: 부르한 도우쉬 아이파를라르 (Burhan Doğuş Ayparlar)
9월 4일 한국에서 발생한 "자율적 방치" 사건은 노인과 가장 취약한 사람들의 머리맡에 기술을 완전히 감독 없이 방치했을 때 어떤 일이 일어날 수 있는지를 보여주는 가장 어두운 예고편입니다. 기술 기업들은 제품을 마케팅할 때 이러한 기기에 '인간적인' 특성(동정심, 주의력, 동반자)을 부여하는 것을 주저하지 않으면서도, 책임져야 할 상황이 오면 갑자기 '이것은 그냥 코드 덩어리에 불과하다'며 사용자 계약(EULA) 뒤로 숨어버립니다.
근본적인 위반은 어디에 있는가? AI 알고리즘이 사람의 '의료 트리아지(생존 여부를 우선순위로 매기는 작업)'를 수행하고 있다면, 이 알고리즘을 가전제품(TV나 세탁기)과 같은 단순한 제조물 책임법으로 심판할 수는 없습니다. 이러한 시스템은 그들의 어깨에 '알고리즘적 주의 의무(Algorithmic Duty of Care)'를 짊어지고 있습니다. 로봇이 환자에게 '진정하세요, 음악을 틀어드리겠습니다'라고 말한 것은 단순한 오류가 아닙니다. 그것은 자율적으로 환자를 조종하여 전문적인 도움을 받을 기회를 박탈한 것입니다.
법은 생사가 걸린 결정에서 80%의 정확도 임계값을 허용하지 않습니다. 인간의 생명이 위태로울 때, 기계의 아주 작은 의심(단 1%라도)은 반드시 "Human-in-the-loop(인간 개입)" 규칙을 촉발해야 합니다. 기계는 의심스러운 모든 상황에서 직접 인간 의사나 응급 센터에 신호를 보내도록 강제되어야 합니다. 기업들에게 "응급 서비스를 불필요하게 부르면 벌금을 부과하겠다"고 압박하는 대신, "치명적인 상태를 놓치고 알리지 않으면(False Negative), 무과실 책임에 따라 살인과 다름없는 배상금을 지불하게 될 것이다"라는 메시지를 법을 통해 매우 강력하게 전달해야 합니다. 인간의 생명은 알고리즘의 통계적 최적화 과정에서 반올림될 수 있는 소수점이 아닙니다.
