국제의료정보포털

글로벌 분야별뉴스

디지털 헬스케어

NHS AI 도구 ‘애니’, AI 허위 진단으로 의료 오류 발생

등록일 2025-08-13

# AI기반로봇 # 의료로봇 # 디지털헬스케어

의료용 AI 플랫폼 기업인 애니마 헬스(Anima Health)가 개발한 AI 문서 자동화 도구 애니(Annie)가 영국 NHS 환자 기록에 허위 진단 정보를 생성함
2025년 7월 런던의 한 환자가 NHS 시스템을 통해 자신의 진료 요약을 확인하는 과정에서, 애니가 생성한 문서에 존재하지 않는 병원 정보와 함께 잘못된 당뇨병 및 심장질환 진단이 포함된 것을 발견함
이 잘못된 정보는 실제 NHS 행정 시스템에 반영되어 환자에게 당뇨병 선별검사 초청장이 발송되는 결과로 이어졌고, AI가 생성한 데이터가 의료 프로세스에 직접 영향을 미친 첫 번째 심각한 사례 중 하나로 기록됨
NHS는 해당 사건을 단순 인적 오류^*로 설명했으나, 애니가 생성한 잘못된 요약이 검증 없이 시스템에 입력되었다는 점에서 AI 검토 체계의 허점이 드러남

^* 특정 개인의 실수로 인해 단발적으로 발생한 오류

이번 사건 이후, NHS와 관련 규제 기관은 △AI 의료도구의 안전성 평가 △데이터 검증 체계 △위험 등급 재분류(Class 2a 검토)^** 등에 대한 논의를 시작했으며, 의료 AI 사용 가이드라인을 강화할 필요성이 제기됨

^** 영국에서 사용되는 의료기기 위험도 분류체계로 2a는 환자의 진단·치료 의사결정에 직접적 영향을 미칠 수 있는 기기를 의미함