호주 의료진이 진료 기록을 자동 생성하는 ‘AI 스크라이브’(AI 필기 도우미)를 쓰면서도 오류와 개인정보 취급 불투명성이 문제로 제기됐다. 더컨버세이션(The Conversation)이 ‘오프 더 레코드(Off the Record)’의 디지털 권리 감시단체 ‘디지털 라이츠 워치(Digital Rights Watch)’ 보고를 인용해 8월 3일 보도한 내용에 따르면, 호주 의사 40% 이상이 AI 스크라이브를 활용하는 것으로 전해졌다. 이 도구는 상담 내용을 듣고 챗GPT(ChatGPT)나 클로드(Claude) 같은 대형언어모델에 넣어 의료 메모를 만든다. 다만 생성 과정에서 실제로 일어나지 않은 내용을 사실처럼 적는 ‘환각’과 인종·민족·계층·성별 관련 편향이 나타날 수 있다고 지적됐다. 연구에선 AI가 만든 메모의 최대 90%가 수정이 필요했으며, 최근 연구에선 환자 진단에 영향을 줄 만큼 중요한 오류가 약 20% 포함된 것으로 나타났다고 매체는 전했다. 오류를 제때 찾아내기 어렵고, 개인정보가 어디로 가는지·누가 접근하는지·어떤 모델이 쓰였는지조차 제대로 공개되지 않는다고도 했다. 디지털 라이츠 워치는 호주의 치료제 관리기관(TGA)이 AI 스크라이브를 일반 의료기기처럼 규제해야 한다고 주장했다. 글은 또 AI 서비스 제공자가 데이터 접근 범위와 활용 방식, 접근 가능한 주체를 명확히 공개하고 안전·공정성에 대한 독립 시험이 필요하다고 지적했다.