오픈AI 챗봇 챗GPT에서 성적인 대화를 허용하는 '성인 모드' 도입 검토와 관련한 논란이 커지고 있다. 사진은 오픈AI 로고. /로이터=뉴스1


오픈AI가 챗봇 챗GPT에서 성적인 대화를 허용하는 '성인 모드' 도입을 검토하고 있다.

지난 15일(이하 현지시각) 월스트리트저널(WSJ)에 따르면 오픈AI가 구성한 '웰빙·AI 자문위원회'는 지난 1월 회의에서 챗GPT 성인 모드 도입 계획을 반대했다.


자문위원들은 "성적인 대화를 허용할 경우 이용자가 챗봇에 정서적으로 과도하게 의존하거나 미성년자가 성적 콘텐츠에 접근할 위험이 있다"고 우려했다. 특히 한 위원은 챗봇과 강한 유대 관계를 형성한 후 스스로 목숨을 끊은 이용자 사례를 언급하며 "오픈AI가 '매혹적인 자살 코치'를 만들 위험이 있다"고 지적했다.

오픈AI 내부에서는 성인 모드 도입에 대한 논쟁이 뜨겁다. 샘 올트먼 오픈AI CEO는 과거 챗GPT에서 성적 기능을 배제한 점에 대해 "우리가 그 유혹에 흔들리지 않는 점이 자랑스럽다"고 전했다. 하지만 최근 그는 "성인을 성인답게 대할 필요가 있다"며 성인 대화 허용 가능성을 시사했다.


하지만 미성년자 노출을 막기 위한 연령 예측 시스템에 대한 과제가 있다. 오픈AI가 개발 중인 해당 시스템은 내부 테스트에서 미성년자를 성인으로 잘못 분류한 비율이 약 12％에 이른다. 챗GPT에는 매주 약 1억명 18세 미만 이용자가 있는 것으로 추정된다. 따라서 시스템이 개선되지 않을 경우 상당수 미성년자가 성인 대화에 노출될 수 있다.

성인 모드 도입 논란이 여전하자 오픈AI는 당초 올해 1분기로 예정됐던 성인 모드 출시를 연기했다. 다만 회사는 기능 도입 자체는 유지한다는 입장이다.