포르노·가짜뉴스… '딥페이크'의 깊어지는 고민

인공지능(AI) 기반 딥페이크(Deepfakes) 영상이 확산되면서 정보통신기술(ICT)업계의 고민도 깊어지고 있다. 딥페이크 원천기술의 활용가치가 높은 대신 악용될 우려가 높아 섣불리 도입하지 못하는 실정이다.
18일 ICT업계에 따르면 딥페이크 결과물이 한층 정교해짐과 동시에 구동 매개체인 ‘생성적 적대 신경망(GAN)’도 빠르게 발전했다.

GAN은 2014년 구글 브레인 소속 이안 굿펠로우가 논문을 통해 발표한 기술로 서로 다른 두 알고리즘 경쟁이 새로운 결과물을 만들어 내는 방식이다. ‘생성자’ 알고리즘은 원본에 가까운 ‘가짜’를 만들고 ‘감별자’가 대상의 진위여부를 가려내며 점차 정교한 물체를 만든다. 원본과의 오차확률을 줄이는 원리다.


일일이 데이터를 입력하고 수정했던 방식과 달리 AI 스스로 알고리즘간 경쟁으로 결과물을 도출하기 때문에 대량작업이 가능하다. 간단한 밑그림만으로 완벽한 제품의 형태를 만들어내 컴퓨터그래픽(CG)도 대체할 수 있다. 관련 기술이 발전을 거듭할수록 디자인·영상 직군의 생산 효율성도 높아질 전망이다.

문제는 GAN 기술이 온전히 딥페이크 영상을 만드는데 사용된다는 점이다. 사진과 음성 정보만 있으면 얼굴과 몸을 감쪽같이 합성할 수 있다. 정교한 딥페이크 영상이 만들어질수록 GAN 알고리즘도 진화를 거듭했다. 기술의 발전이 포르노 영상이나 가짜뉴스를 양산하는 형태로 변질된 것.

유튜브에 올라온 버락 오바마 전 미국 대통령의 딥페이크 영상은 AI가 얼마나 발전했는지 보여주는 단적인 사례다. 악용할 경우 각종 범죄나 정치적인 목적으로 활용될 수 있어 신중한 접근이 필요하다는 평가다.


IT업계 관계자는 “AI의 경우 자가학습으로 발전하지만 대부분 사람이 직접 데이터 입력과 수정을 거치기 때문에 발전속도가 느린 편”이라며 “GAN알고리즘의 경우 엔터테인먼트산업에서 큰 잠재력을 갖고 있지만 부작용에 대한 우려가 심각해 추이를 지켜보고 있다”고 말했다.