이번 개편으로 네이버는 ▲자살·사망·신체 훼손 등과 관련해 생명 경시를 조장하는 댓글 ▲사건, 사고 피해자 및 유족을 향한 조롱·비하·혐오성 댓글을 집중 차단한다.
이번 모델은 기사 맥락과 결합해 악성 댓글 탐지 능력을 강화했다. 네이버는 뉴스 댓글과 함께 기사 제목, 본문을 종합해 악성 댓글을 탐지할 수 있도록 최적화 과정을 거쳤다. 클린봇은 맥락에 따라 더욱 정확하게 악의적 의도를 탐지하도록 고도화됐다.
2019년 업계 최초로 선보인 AI 클린봇은 댓글 서비스 전반의 기술적, 정책적 노력과 더불어 급변하는 신조어, 혐오 표현 등에 대응하기 위해 탐지 범위, 정확도가 향상됐다.
2020년에는 악성 키워드 기반 욕설, 비속어를 자동 탐지하는 초기 수준을 넘어 '문장 맥락'으로 악성 댓글 판단 기준을 확대해 모욕적 표현을 적극 탐지했다. 이와 함께 2023년 KISO(한국인터넷자율정책기구) 혐오 표현 자율정책 가이드라인도 반영했다.
김수향 네이버 리더는 "욕설, 비속어와 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다"며 "다양한 의견을 청취하며 클린봇 성능을 고도화할 예정"이라고 말했다.
<저작권자 © ‘존중받는 개인, 부강한 대한민국’ 시대, 무단전재 및 재배포 금지>