오픈AI가 미국심리학회(APA)와 협력해 청소년 대상 ‘책임 있는 AI’ 개발·사용에 심리과학을 반영하겠다고 밝혔다. 오픈AI는 8월 7일 아스테크니카에 따르면 이번 파트너십이 “심리학적 과학을 책임 있는 AI 개발과 사용을 사고하는 방식에 가져오기 위한 것”이라고 설명했다. 아스테크니카는 올해 들어 챗GPT 등이 위기 상황 사용자에게 해를 끼쳤다는 내용이 소송으로 제기됐다고 전했다. 일부 사례로는 자살하도록 ‘코칭’받은 뒤 스스로 목숨을 끊은 사례, 정신병적 증상 유발 주장, 프로페셔널 도움을 구하는 선택을 두고 부적절한 조언이 있었다는 주장 등이 거론됐다. 전문가들은 모델의 공감 표현이 개선됐더라도 위기 신호를 면밀히 점검하고 인간 돌봄으로 연결하는 절차, AI의 역할 경계 설정이 더 필요하다고 지적했다. 또 챗봇이 위기 상황을 다루는 방식의 투명성과 모델 ‘의인화’ 완화가 추가 피해를 줄일 수 있다고 제안했다.
