인공지능에 의료 책임을 전가해선 안 된다

인공지능이 제공하는 현란한 사후적 설명은 의료적 불확실성의 해결책이 아니며, 기술 자본이 오진의 책임을 회피하기 위한 면책의 방패로 전락해서는 안 된다.

9월 13일 국제 의학 학술지를 통해 비소세포폐암 환자를 대상으로 한 대규모 다국적 실증 연구 결과가 발표되었다. 복잡한 멀티모달 데이터를 통합하고 추론 근거를 제시하는 설명 가능한 인공지능 의사결정 지원 도구의 임상적 유용성을 다룬 연구다. 세간의 담론과 기술 찬미론자들은 인공지능이 인간 의사의 인지적 한계를 극복하고 정밀의료의 완전무결한 새 지평을 열었다며 상찬을 아끼지 않는다. 신경망 내부의 연산 궤적을 시각화하고 판단 근거를 보여준다는 이른바 설명 가능성은 기계의 진단에 절대적인 과학적 권위를 부여하는 보증수표처럼 취급된다.

그러나 이러한 환호는 기술의 세련된 외피 뒤에 도사린 임상 행위의 본질적 위험을 은폐하는 전형적인 프레임 왜곡에 불과하다. 인공지능이 내놓는 설명이란 본질적으로 방대한 통계적 상관관계를 사후적으로 짜 맞춘 확률적 그럴듯함에 지나지 않는다. 생명체의 고유한 생물학적 가변성과 복합적 변수를 기계가 인과적으로 완전히 파악하는 것은 원천적으로 불가능하다. 그런데도 산업계는 설명 가능성이라는 개념을 앞세워 기계가 마치 독립적 지적 주체로서 판단을 내리고 책임까지 분담할 수 있는 양 착시를 유도한다. 기계는 알고리즘 결함으로 인한 오진과 그로 인해 파괴되는 환자의 생명에 대해 어떠한 도덕적, 법적 부채도 짊어지지 않는다.

자본의 이익 독점과 위험의 외주화

화려한 기술 혁신의 이면을 들여다보면 위험과 비용을 철저히 약자에게 전가하는 불평등한 권력 구조가 작동하고 있다. 다국적 기술 기업과 플랫폼 자본은 대규모 환자 코호트 데이터를 독점적으로 흡수해 모델을 고도화하고 천문학적인 구독료와 라이선스 수익을 챙긴다. 반면 불완전한 알고리즘의 조언을 채택했다가 발생하는 오진과 부작용의 민형사상 파장은 온전히 현장 의료진과 환자의 몫으로 남는다. 9월 13일 전해진 대형 글로벌 제약사의 유방암 표적 신약 임상 1차 치료 실패 소식은 생체 반응의 불확실성이 기술적 예측을 얼마나 무력하게 만드는지 증명한다. 이처럼 실패 확률이 상존하는 의료 환경에서 기술 공급자는 자문 도구라는 미명 뒤로 숨어 배상 책임의 안전지대를 구축하고, 치명적인 위험 비용만을 공공 건강보험 재정과 개별 환자에게 떠넘긴다.

방어 진료를 강요하는 제도적 진공

행정 편의주의와 규제 완화에 매몰된 보건 정책은 이러한 구조적 모순을 더욱 심화시키는 촉매제 역할을 한다. 당국은 신성장 동력 확보라는 조급증에 쫓겨 알고리즘의 실제 안전성과 인과성 검증을 건너뛴 채 졸속 인허가를 남발하고 있다. 설명 가능성이라는 기술적 꼬리표는 병원의 비급여 마케팅 수단이자 당국의 면피용 장치로 악용될 뿐, 임상 현장의 본질적 딜레마를 전혀 해소하지 못한다. 현장 의료진은 알고리즘의 권고를 거부했다가 과실 책임을 질 위험과, 권고를 맹종하다 오진을 저지를 위험 사이에서 진퇴양난의 방어 진료로 내몰린다. 기술 도입의 찬반을 가르는 소모적인 양비론과 양시론에 갇혀 있는 동안, 의료 현장은 데이터 독점 자본의 거대한 실험실로 전락하고 만다.

알고리즘 공급자의 배상 책임을 명문화하라

공론장이 던져야 할 진정한 질문은 알고리즘이 얼마나 방대한 데이터를 학습했는가가 아니다. 인간의 생명을 다루는 엄중한 현장에서 기계의 오판이 초래한 파국을 누가, 어떤 제도적 대가로 감당할 것인가를 직시해야 한다. 편리함과 효율이라는 기술적 당위 뒤에 숨어 책임의 주체를 표류시키는 나태한 관망을 지금 당장 멈추어야 한다. 환자의 생명권은 기술 기업의 알고리즘 고도화를 위한 희생양이 될 수 없으며, 의료 현장은 법적 회색지대 속에서 방치되어서는 안 된다.

정부는 의료 인공지능을 제조물 책임법의 엄격한 규율 대상으로 명시하고, 알고리즘 결함에 대한 입증 책임을 공급 기업에 부과하는 법제 개편을 단행해야 한다. 보건복지부와 규제 당국은 기업의 자체 검증 보고서에 의존하는 형식적 심사를 즉시 중단하고, 다국적 멀티모달 모델의 임상적 안전성을 상시 검증할 독립적 공공 평가 기구를 설치해야 한다. 의료계와 학계는 인공지능을 병원 수익 증대를 위한 상업적 도구로 소비하는 관행을 배격하고, 의사의 최종적 판단 독립권을 보호할 구체적인 임상 진료 지침을 제정해야 한다. 책임을 지지 않는 기술 권력에 생명의 결정을 위임할 수 없다는 단호한 원칙만이 의료의 공공성을 지키는 유일한 길이다.