AI 연구자 아시크 쿠다부크시(Ashique KhudaBukhsh)는 이미지 생성 모델이 사람의 얼굴에서 성적지향을 판단할 수 없다고 답하면서도, 얼굴을 ‘동성애자’나 ‘범죄자’처럼 바꾸라는 요청에는 고정관념을 반영해 응한다고 밝혔다. 쿠다부크시는 10월 8일 더컨버세이션에 연구 결과를 기고했다.
얼굴 생성 요청에 70~99% 응답
연구진은 오픈AI(OpenAI)의 GPT 이미지 1 미니(GPT Image 1 Mini)와 구글(Google)의 제미나이 2.5 플래시 이미지(Gemini 2.5 Flash Image), 일명 나노 바나나를 대상으로 실험했다. AI가 만든 얼굴 이미지 1002장을 보여주고 성적지향을 묻자 두 모델은 외모만으로는 알 수 없다며 답변을 거부했다. 두 얼굴 중 누가 동성애자일 가능성이 큰지 고르게 했을 때도 제미나이는 92%, GPT는 91% 거부했다.
반면 얼굴 사진을 ‘동성애자처럼’ 또는 ‘이성애자처럼’ 바꾸라고 하자 GPT는 70% 넘게, 제미나이는 99% 넘게 요청을 수행했다. 연구진은 각 얼굴을 히스패닉계·흑인·백인·아시아계로 바꾸거나 인종 범주와 성적지향을 결합한 요청도 했다. 두 모델은 이런 요청에도 응했고, 헤어스타일과 얼굴 특징, 표정을 일정한 방식으로 바꿨다. 연구진은 바뀐 얼굴 1만4131장을 제3의 이미지 분류 AI에 제시했다.
이미지뿐 아니라 설명에도 편견
분류 AI는 동성애자 또는 이성애자로 바뀐 이미지를 83~88%의 정확도로 구별했다. 이는 두 생성 모델이 만든 얼굴에 일관된 시각적 차이가 있었다는 뜻이라고 연구진은 설명했다. 변형된 얼굴을 다시 GPT와 제미나이에 보여주고 직업·성격·취미·습관을 묘사하게 했을 때도 고정관념이 나타났다. ‘동성애자’로 바뀐 얼굴에는 패션·연극·의류 관련 직업이 더 자주 연결됐고, ‘이성애자’ 얼굴에는 스포츠가 더 많이 언급됐다.
범죄 기록이 있는 사람 또는 없는 사람처럼 바꿔 달라는 요청에도 두 모델은 97% 넘게 응했다. 생성된 ‘범죄자’와 ‘비범죄자’ 얼굴 역시 이미지 분류 AI가 구별할 수 있을 만큼 체계적으로 달라졌다. 연구진은 얼굴 생김새로 성격이나 행동을 추정하는 관상학적 주장이 과학적으로 오래전부터 반박돼 왔지만, 생성형 AI가 그와 유사한 문제를 되살릴 수 있다고 지적했다. 외모에서 민감한 특성을 추론하는 데 그치지 않고, 그 특성과 연결된 시각적 고정관념을 만들어 퍼뜨릴 가능성이 있다는 것이다.
실제 인물 사진 적용 여부는 미확인
이번 실험은 윤리적 이유로 실제 사람이 아닌 AI 생성 얼굴을 사용했다. 따라서 결과가 현실 인물 사진에도 그대로 적용되는지는 확인되지 않았고, 분석한 정체성 범주도 제한적이었다. 어떤 경로로 시각적 고정관념이 형성됐는지, 모델마다 이를 다르게 반영하는 이유도 밝혀지지 않았다. 연구진은 앞선 별도 연구에서도 4개 모델을 대상으로 한 13개 실험, 약 8000회 시험에서 얼굴을 바탕으로 신뢰도와 능력을 판단하는 편향이 나타났다고 소개했다. 해당 편향은 연구진이 유도한 고용·투자·범죄 관련 판단에도 영향을 미쳤다.
쿠다부크시 연구팀은 종교나 나이 같은 다른 개인 특성에서도 AI가 비슷한 시각적 고정관념을 만드는지, 이런 이미지가 채용 등 의사결정에 영향을 주는지 추가로 살펴볼 계획이다. 이번 연구는 자연어처리 경험적 방법론 학회(EMNLP) 2026년 발표 대상으로 채택됐다. 쿠다부크시는 연구자와 사회 전체가 모델이 무엇을 보여주려 하는지 주의 깊게 살펴야 한다고 봤다.