[기자수첩] '이루다'가 전화위복이 되려면

새해 벽두부터 인공지능(AI) 챗봇 ‘이루다’가 일으켰던 태풍이 이제 좀 가라앉은 것 같다. 관련 업계 종사자 모두 이렇게 홍역을 치를 것이라곤 얼마 전까지만 해도 상상하지 못했을 것이다. 우리에게 AI의 존재감이 그만큼 커졌다는 방증이기도 하다.

하지만 이 20살 여대생 콘셉트의 AI는 논란 끝에 20일 만에 자취를 감췄다. 일부 이용자가 ‘이루다’에게 성적인 발화를 유도하며 잡음이 일더니 성소수자나 장애인 등에 대한 차별·혐오 발언 사례가 잇따르면서 뭇매를 맞았다.
결정타는 개인정보 유용·유출이었다. 이 회사의 다른 모바일 앱 이용자가 연애 관계 분석 서비스 이용을 위해 제공한 카카오톡 대화 내용을 해당 이용자의 충분한 동의 없이 이루다에게 학습시켰다. 이루다의 대화를 통해 이들의 개인정보가 비식별화되지 않은 채로 유출된다는 의혹도 제기되면서 결국 서비스 중단에 이르렀다.

이루다 사태는 스타트업과 데이터·AI 업계에 개인정보보호 관련 경종을 다시 한번 울린 사례다. 개인정보보호위원회의 조사 결과에 따라 응당한 조치가 취해질 전망이다. 다만 그에 앞서 불거졌던 논란에 대해서는 다소 의문이 남는다. 과연 이루다만의 문제일까.


5년 전 마이크로소프트(MS)가 트위터로 선보였던 챗봇 ‘테이’(Tay)는 겨우 16시간 만에 서비스를 중단했다. 이용자의 차별·혐오 발언을 딥러닝으로 실시간 학습한 결과다. 스캐터랩도 이루다에 앞서 이런 문제를 겪었기에 학습시킬 데이터를 선별하는 전처리 과정을 거쳤다. “(성별과 무관하게) 인간이 AI에게 사회적으로 용인되지 않는 상호작용을 한다는 건 너무 자명한 사실이었다”고 밝혔음에도 결과적으로 문제가 발생하는 것을 막지 못했다.

방송통신위원회가 최근 발표한 실태조사 결과에 따르면 우리나라 성인 3명 중 2명(65.8%)이 사이버폭력 경험자다. 이 중 대다수(92.4%)는 피해자인 동시에 가해자이기도 한 것으로 나타났다. 물론 이루다의 발언 수위에 대한 개발사의 필터링 노력이 부족했거나 알고리즘 자체가 편향됐을 가능성도 있다. 하지만 이루다의 단면이 우리의 일그러진 자화상이라는 사실에는 변함이 없다.

정부와 업계에서는 이루다 사태가 갓 새싹을 틔우는 AI 산업에 악영향을 끼칠까 걱정하고 있다. 그러면서 한편으로는 ‘매도 먼저 맞는 게 낫다’며 반기는 이들도 있다. AI 윤리 문제를 일찍이 공론화할 수 있는 장이 마련됐기 때문이다. AI의 윤리에는 우리 사회의 윤리가 반영된다. 윤리는 사회적 공감대를 바탕으로 하며 이를 먼저 갖춰야 하는 것은 아직 미완성된 도구에 불과한 AI가 아니라 기업과 이용자다.


전 세계에서도 AI 윤리는 이제 논의가 시작되는 단계다. 주요 글로벌 기관·기업이 저마다 AI 윤리 기준을 갖췄으나 구체적이고 광범위한 합의에 이르진 않았다. 다행스러운 점은 최근 네이버와 카카오 등 우리 IT기업이 AI 윤리 기준을 마련하고 공유하는 모습을 보인다는 것이다. AI 윤리에 대한 사회적 합의가 이뤄지고 장차 법·제도로 정착된다면 세계적으로도 앞선 환경을 조성할 수 있게 될 것이다. 이루다 사태로 전화위복을 이루길 바란다.