네이버는 29일 클린봇이 생명 경시 조장, 피해자, 유족 2차 가해 표현을 보다 적극적으로 탐지하고 차단할 수 있도록 고도화했다고 밝혔다. /사진=네이버


네이버가 악성 댓글 근절, 건전한 댓글창 마련을 위해 지속적인 노력을 이어간다. 네이버는 생명 경시 및 2차 가해 표현 탐지를 집중 강화한 인공지능(AI) 기반 악성 댓글 탐지 시스템 'AI 클린봇 3.0' 개편을 완료했다고 29일 밝혔다.


이번 개편으로 네이버는 ▲자살·사망·신체 훼손 등과 관련해 생명 경시를 조장하는 댓글 ▲사건, 사고 피해자 및 유족을 향한 조롱·비하·혐오성 댓글을 집중 차단한다.

이번 모델은 기사 맥락과 결합해 악성 댓글 탐지 능력을 강화했다. 네이버는 뉴스 댓글과 함께 기사 제목, 본문을 종합해 악성 댓글을 탐지할 수 있도록 최적화 과정을 거쳤다. 클린봇은 맥락에 따라 더욱 정확하게 악의적 의도를 탐지하도록 고도화됐다.


2019년 업계 최초로 선보인 AI 클린봇은 댓글 서비스 전반의 기술적, 정책적 노력과 더불어 급변하는 신조어, 혐오 표현 등에 대응하기 위해 탐지 범위, 정확도가 향상됐다.

2020년에는 악성 키워드 기반 욕설, 비속어를 자동 탐지하는 초기 수준을 넘어 '문장 맥락'으로 악성 댓글 판단 기준을 확대해 모욕적 표현을 적극 탐지했다. 이와 함께 2023년 KISO(한국인터넷자율정책기구) 혐오 표현 자율정책 가이드라인도 반영했다.


김수향 네이버 리더는 "욕설, 비속어와 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다"며 "다양한 의견을 청취하며 클린봇 성능을 고도화할 예정"이라고 말했다.