이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
디지털 건강 앱과 AI 진단 도구의 편향은 코드를 쓰기 전 설계 단계에서 이미 생길 수 있다는 분석이 나왔다. 더컨버세이션(The Conversation)은 10월 8일 게재한 개발에 쓰이는 데이터와 건강에 대한 설계자의 가정이 도구의 판단을 좌우하며, 대표성이 낮은 집단에 실제 피해를 줄 수 있다고 지적했다.
건강 데이터의 편향이 진료 격차로
피부 질환 진단 알고리즘은 밝은 피부를 중심으로 학습된 사례가 많아 어두운 피부를 가진 사람을 오진할 수 있다고 설명했다. 이런 문제는 거의 10년 전부터 알려졌지만, 편향은 한 번의 오진에 그치지 않을 수 있다. 알고리즘이 의료 제공 방식에 영향을 미치고, 그 결과가 다시 후속 모델의 개발에 반영되면 기존 격차가 되풀이되거나 커질 수 있다는 것이다.
미국 병원에서 복합적인 의료 지원이 필요한 환자를 찾아 추가 돌봄 프로그램에 연결하는 데 사용된 알고리즘 사례도 제시됐다. 연구자들이 확인한 결과, 알고리즘이 추가 돌봄 대상으로 분류한 환자 중 흑인은 18% 미만이었다. 해당 환자 집단에서 흑인 비율은 46%를 넘어야 했다는 게 글의 설명이다. 알고리즘은 연간 의료비 지출을 바탕으로 위험 점수를 매겼는데, 흑인 환자는 사회경제적 여건과 의료 체계에 대한 불신 등으로 의료비를 적게 쓰는 경향이 있었다. 그 결과 흑인 환자는 백인 환자보다 훨씬 더 아파야 추가 돌봄 대상으로 분류될 수 있었다.
개발 결정에 지역사회 참여 필요
건강과 웰빙의 의미, ‘정상적인’ 신체가 무엇인지, 어떤 지식을 중요하게 볼지를 서구 중심 관점이 좌우하는 경우가 많다고 짚었다. 기술 기업과 자금 지원 기관, 연구기관이 어떤 문제를 우선할지와 어떤 지식을 인정할지에 영향력을 행사하지만, 건강을 형성하는 사회적·역사적 맥락은 고려되지 않을 수 있다는 것이다. 소외된 공동체는 기술의 주요 결정이 끝난 뒤에야 의견을 묻거나 아예 참여 기회를 얻지 못하기도 한다. ‘디지털 활용 능력이 낮을 것’ 또는 ‘기술을 쓰지 않을 것’이라는 선입견도 참여를 가로막을 수 있다.
개발 단계에서 공동체가 중시하는 가치와 기술의 목적을 맞추고, 어떤 문제에 디지털 기술이 적합한지부터 함께 따져야 한다고 제안했다. 많은 원주민 공동체에서 건강은 몸뿐 아니라 마음과 영성, 공동체, 환경의 관계까지 아우를 수 있다. 이런 지식과 사람들의 실제 경험이 서구에서 생산된 주류 정보를 보완하면, 서구 중심 정보만으로는 드러나지 않는 위험이나 회복력의 양상을 살필 수 있다는 설명이다.
데이터의 수집·분석·연결·해석·공유·관리 방식을 공동체가 결정하는 데이터 주권도 중요 과제로 꼽혔다. 원주민과 여러 소외 집단에 데이터는 정체성뿐 아니라 주권과 집단적 권리에 연결된 문화적·경제적 자산일 수 있기 때문이다. 캐나다와 호주, 미국 원주민을 대상으로 한 보조 기술 연구에서는 가족·공동체의 돌봄 참여와 의료진과의 관계를 강화하는 기술에 대한 선호가 확인됐다. 건강 기술을 더 공정하게 만들려면 접근성과 기술적 정확성만이 아니라 건강, 지식, 권력, 가치에 대한 판단을 코드 작성 전부터 다시 살펴야 한다고 강조했다.
