스캐터랩 '이루다' 이미지 /사진=스캐터랩

최근 차별·혐오 발언과 개인정보 무단활용 논란에 휩싸였던 인공지능(AI) 챗봇 ‘이루다’가 결국 서비스를 일시 중단했다.

‘이루다’ 개발사 스캐터랩은 입장문을 통해 “일부 혐오와 차별에 대한 대화 사례와 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”며 이같이 밝혔다.


스캐터랩 측은 “이루다의 차별적 발언에 동의하지 않으며 그런 발언은 회사의 생각을 반영하지 않고 있다”며 “기존에 알려진 사례들은 이미 개선을 완료했고, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중”이라고 설명했다.

개인정보 유출 의혹에 대해서는 “사전에 동의가 이뤄진 개인정보 취급방침 범위 내에서 활용했다”며 “‘연애의 과학’ 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해 책임을 통감하며 진심으로 사과한다”고 말했다. 이어 “구체적 개인정보는 이미 제거돼있으며, 개인을 특정할 수 있는 정보는 유출되지 않았다”고 해명했다.


스캐터랩이 지난달 23일 출시한 대화형 AI ‘이루다’는 문맥을 이해하고 자연스럽게 대화하는 능력으로 주목받았다. 오픈도메인 대화기술 성능 평가 지표인 SSA 점수 기준으로 구글이 지난해 내놓은 챗봇 ‘미나’를 상회한다. 그러나 일부 악성 이용자의 이용 행태와 특정 소수집단에 대한 차별·혐오 발언 사례가 나와 논란을 빚었다.

특히 스캐터랩의 다른 앱 ‘연애의과학’ 이용자들이 연애 관계 분석을 위해 제공한 카톡 대화 등에서 수집된 개인정보가 비식별화되지 않은 채 ‘이루다’의 답변을 통해 유출되고 있다는 의혹도 제기됐다. 이용자들에 데이터 수집·활용에 대해 안내하고 동의를 구하는 과정도 부족했다. 이와 관련해 한국인터넷진흥원(KISA)과 개인정보보호위원회도 조사에 착수할 예정이다.


스캐터랩에 따르면 이루다는 출시 후 약 2주 동안 75만여명의 이용자와 대화를 나눴다. 회사는 “데이터 사용 동의 절차를 명확하게 하고 식별 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”며 “그동안 받은 다양한 의견을 반영해 부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵐 예정”이라고 말했다.