최근 성희롱과 차별·혐오 논란에 휩싸인 인공지능(AI) 챗봇 ‘이루다’에 개인정보 유출 논란도 불거지면서 정부가 조사에 나선다. 12일 개인정보보호위원회와 한국인터넷진흥원(KISA)은 스캐터랩의 AI 챗봇 ‘이루다’와 관계분석 서비스 ‘연애의 과학’에 대해 개인정보 유출·침해 및 개인정보보호법 위반 여부 조사에 나선다고 밝혔다. 이날 오후까지 양 기관에 실제 접수된 개인정보 유출·침해 신고는 아직 없는 것으로 알려졌다.
지난 2016년 출시된 ‘연애의과학’은 카카오톡 등 메신저 기반 관계분석 서비스를 제공한다. 인터넷 커뮤니티와 SNS 등에 따르면 이 모바일 앱 이용자들이 유료 서비스 이용을 위해 제공했던 개인정보 일부가 AI챗봇 ‘이루다’의 답변을 통해 유출되고 있다. 연애 관계 분석을 위해 제공한 카톡 대화 내용 등에서 수집된 데이터가 비식별화 등을 거치지 않고 노출돼, 질문에 따라 실명·주소 및 은행계좌 정보까지 답변했다는 것이다.
이루다 대화 내용 /사진=인터넷 커뮤니티 캡처
앞서 스캐터랩은 100억건 이상의 실제 메신저 대화를 수집·분석해 챗봇 빌더의 성능을 끌어올렸다고 밝힌 바 있다. 전날 회사는 공지를 통해 “이루다의 학습은 연애의 과학 데이터를 기반으로 이뤄진 게 맞다”며 “스캐터랩의 신규 서비스로서 개인정보취급방침의 범위 내에서 활용한 것이기는 하지만, 그럼에도 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”고 사과했다. 이어 “학습에 사용된 모든 데이터에 대해서는 비식별화과 진행됐다”며 “데이터에서 한 개인을 특정할 수 있는 정보가 제거된 상태다. 이런 비식별화 과정은 모두 알고리즘을 통해 진행됐으며, 현재에도 추가적인 알고리즘 업데이트를 통해 강화해나가고 있다”고 해명했다.
현재 ‘연애의 과학’ 서비스 가입 시에는 카카오스토리 글 목록과 작성 권한을 선택적으로 동의할 수 있다. 해당 서비스 내 이용자 식별과 회원관리 및 서비스 제공 목적이며, 탈퇴 시 바로 파기한다고 명시돼있다. 카톡 대화 데이터에 대한 개인정보 처리 방침은 최초 가입 시 안내하지 않는다.
앱 내 유료 서비스를 이용해보니, ‘카카오톡’ 앱 설정에서 ‘대화 내용 보내기’로 카톡 대화를 ‘연애의 과학’ 앱으로 전송하는 방식이다. 이때 추가로 정보 제공 동의를 구하지 않으며 사용자 단말기의 미디어 공유 권한 설정만 필요로 한다. 다른 서비스에 이용자 메신저 대화 데이터가 활용될 수 있다는 내용의 동의를 구하는 절차도 없었다.
개인정보위 관계자는 “해당 서비스 이용자 동의가 있었다고 해도 개인정보 제공자 동의 없이 목적 외 용도로 이용하는 것을 금지하는 개인정보보호법 18조에 위배되므로 위법이 될 수 있다”고 설명하면서도 “이번 건이 개인정보 유출·침해에 해당하는지는 정확한 조사를 거칠 필요가 있다”고 덧붙였다.
