영국 NHS 환자권익 감시기구인 헬스워치 잉글랜드가 AI 진료 기록 작성 도구가 약물명과 질병명을 틀려 환자 안전을 위협할 수 있다고 경고했다. 가디언(The Guardian)은 8월 31일 헬스워치 잉글랜드 조사에서 환자들이 의사들이 놓친 AI 기록 오류를 발견한 사례가 여러 건 확인됐다고 보도했다.
한 여성 환자는 MRI 결과를 정리한 AI 기록에 다발성경화증으로 이어질 수 있는 심각한 신경 손상인 탈수초화(demyelination)가 있다고 잘못 적혀 크게 동요했다. 환자가 기록을 직접 확인해 문제를 제기한 뒤 병원은 결과를 탈수초화가 없다는 뜻의 《null demyelination》으로 바로잡았지만, 환자는 잘못된 진단을 받은 뒤 단순한 오타라는 설명을 들은 경험이 매우 충격적이었다고 말했다.
다른 사례에서는 AI 기록 도구가 의사가 처방한 약을 이름이 비슷한 다른 약으로 잘못 바꿔 적었고, 이 역시 의사가 아니라 환자가 오류를 찾아냈다. 병원 전문의가 편두통 치료를 위해 주치의에게 반복 처방을 요청하라고 안내한 사실이 AI가 만든 요약 편지에서 빠진 경우도 있었다. 환자가 이를 알아채지 못했다면 필요한 약을 받지 못할 수 있었다는 것이다.
법정 NHS 환자권익 대변기관인 헬스워치 잉글랜드는 이런 오류가 환자 의료기록에 남아 이후 진료에 영향을 줄 수 있다고 지적했다. 영국 잉글랜드의 GP와 병원 의사들은 이미 27종의 AI 기록 도구를 사용하고 있다. 정부의 NHS 10년 보건계획은 AI 기록 도구가 의료진의 문서·행정 부담을 덜어 환자 돌봄에 더 많은 시간을 쓰게 할 것이라고 보고 있다. 그러나 의약품·의료제품규제청(MHRA)이 AI 기록 도구를 의료기기로 분류하지 않기로 하면서 잉글랜드 전역에서 안전성과 효과를 감독할 체계가 없다는 우려도 나왔다.
헬스워치 잉글랜드는 환자가 AI 기록 도구나 이를 사용하는 의료진이 만든 오류를 어떻게 신고하고 수정할 수 있는지 시급히 명확히 해야 한다고 밝혔다. 환자협회 최고경영자인 레이철 파워는 이 기술에 대한 신뢰는 충분한 소통과 환자와의 실질적인 협력에 달려 있지만 현재는 둘 다 부족하다고 말했다. 정부에는 AI 오류로 NHS와 의료진이 소송을 당할 수 있다는 경고도 전달됐다.
AI 기록의 정확성 문제는 발음 인식에서도 드러났다. 로더럼 지역 환자들은 일부 GP 진료소가 사용한 AI 접수 시스템이 강한 요크셔 억양을 알아듣지 못했다고 지역 헬스워치에 호소했다. 런던 GP 시어 지저 다우드는 지난해 의학 학술지에서 AI 기록 도구가 상담에서 언급되지 않은 약을 기록하는 《환각》을 일으킬 수 있다며 양날의 검이 될 수 있다고 지적했다. 그는 한 도구가 자신이 환자에게 프로작을 계속 복용하라고 말했다고 잘못 기록했다고 전했다.
다우드는 의사가 모든 기록을 검토해야 오류를 잡을 수 있다면 AI가 시간을 절약하지 못한다고 분석했다. 스웨덴 웁살라대의 의료 AI 전문가 샬럿 블리스의 연구에서는 여러 사람이 함께 상담하거나 병력이 복잡한 환자, 영어가 모국어가 아닌 환자를 진료할 때 오류가 생길 가능성이 크다고 GP들이 답했다. 다만 1003명의 영국 GP를 대상으로 한 지난해 조사에서는 절반 이상이 AI 음성 기록이 자신이 직접 작성한 기록보다 정확하다고 평가했다. 블리스는 의사도 AI 없이 실수하지만 AI 도입으로 오류율이 더 높아질 가능성도 있다고 말했다.