총선 파고 든 '딥페이크'… AI 가짜뉴스 기승

/일러스트=여누

▶글 쓰는 순서
①총선 파고 든 '딥페이크'… AI 가짜뉴스 기승
②딥페이크 몸살에… 공동차단 나선 해외 빅테크
③총선 허위 정보… 효과적으로 대응하려면
4월10일로 예정된 제22대 국회의원 선거를 앞두고 포털 및 사회관계망서비스(SNS)를 통해 허위 선거정보를 담은 딥페이크 콘텐츠가 확산하고 있다. 중앙선거관리위원회가 전담팀을 구성하는 등 단속에 나섰지만 한정된 인력과 기술 등으로 선거의 최대 위협 요인으로 떠올랐다.

선거에 파고든 딥페이크

사진은 제14차 통신심의소위원회 회의에서 한 위원이 틱톡에 올라온 '가상으로 꾸며본 윤석열 대통령 양심고백' 딥페이크 영상 게시물 관련 자료를 살펴보고 있는 모습. /사진=뉴스1

딥페이크는 '딥러닝'과 '가짜'(fake)의 합성어다. 실제 인물의 이미지·영상·음성을 학습한 인공지능(AI)을 이용해 현실 세계에 있는 것과 매우 유사한 가짜를 만들어 낸다. 정치권은 총선을 앞두고 딥페이크 된 가짜뉴스 확산에 촉각을 세운다.


최근 틱톡과 메타 등 사회관계망서비스(SNS)에는 '가상으로 꾸며본 윤 대통령 양심고백 연설'이라는 제목의 게시글이 퍼져 논란이 일었다. 46초 분량 영상에는 윤 대통령이 등장해 "무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다"며 "저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다"고 발언하는 모습이 담겼다. 해당 게시글은 딥페이크 영상으로 2022년 2월 윤 대통령이 대선후보였던 시절 나선 TV 연설 장면을 악의적으로 짜깁기한 것이다.

경찰은 방송통신심의위원회에게 관련 게시글의 삭제 및 차단을 요청했다. 방송통신심의위원회는 지난 2월 23일 이들 영상에 대한 차단 조치를 만장일치로 의결했다. 국민의힘도 이달 초 영상을 올린 성명불상자를 정보통신망법상 명예훼손 혐의로 고발한 것으로 알려졌다. 경찰은 해당 딥페이크 영상을 올린 혐의자에 대한 수사를 진행하고 있다.


2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 SNS를 통해 확산돼 논란이 됐다.

이에 방송통신위원회는 지난 1월23일 딥페이크 허위 정보 대응 관련 회의를 개최하고 국내외 주요 플랫폼 기업에게 적극적이고 선제적인 자율규제에 나서달라고 당부했다.

'한 발 늦은' 딥페이크와의 전쟁

사진은 경기도선거관리위원회 사이버공정선거지원단실에서 관계자들이 사이버선거범죄 근절 퍼포먼스를 실시하고 있는 모습. /사진=뉴스1

딥페이크는 누구나 쉽고 저렴하게 생산할 수 있고 SNS를 통해 빨리 확산한다. 선거철엔 공정성을 해치고 민주주의 위협 요소로까지 작용할 수 있다는 우려가 나온다. 앞서 세계경제포럼(WEF)은 향후 2년간 가장 큰 위험 요인으로 AI를 활용한 허위 조작 정보에 의한 선거 개입을 꼽았다.


이번 총선에선 선거 90일 전부터 딥페이크 영상 등을 활용한 선거운동이 전면 금지된다. 지난해 12월 개정된 공직선거법은 '선거일 90일전부터 딥페이크(AI로 만든 영상·이미지 합성 조작물) 활용 선거 운동을 금지'하는 내용이 담겼다. 위반 시 7년 이하 징역이나 1000만~5000만 벌금에 처한다.

선거관리위원회는 AI 전담팀을 꾸려 딥페이크 선거 게시물을 적발하고 삭제 조치하고 있다. 선관위에 따르면 1월29일부터 2월16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다. 모두 선관위 자체 모니터링을 통해 인지한 사례고 대부분 삭제가 완료됐으나 현재 조치가 진행 중인 건도 있다.


AI 딥페이크 제재 법안이 일찌감치 발의돼 제정이 추진 중인 해외와 달리 한국은 관련 법안 마련이 답보 상태다. 'AI 기본법'(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)은 국회 과학기술정보방송통신위원회(과방위)에 1년 넘게 계류중이다.

검토도 안된 상황에서 개정안도 발의됐다. 지난해 5월 이상헌 의원(더불어민주당)이 발의한 콘텐츠산업진흥법 개정안 및 김승수 의원(국민의힘)의 정보통신망법 개정안은 AI 저작물에 일종의 워터마크 표시를 의무화하는 내용을 담고 있다.

업계 관계자는 "선거를 앞두고 급하게 딥페이크 관련 조치를 취하는 것은 시간이 부족으로 실효성이 떨어질 수밖에 없다"면서 "딥페이크는 이전부터 논의돼 온 사안인 만큼 앞으로 규제나 처벌을 강화하는 방향으로 대안을 마련해야 한다"고 주장했다.