[시대리포트]성적 의도 없는 딥페이크, 영국선 징역 1년…한국에선?

국회의원에 대한 모욕적 딥페이크 유포 사건이 최근 논란이 되면서 이른바 '디지털 인격테러'에 대한 해외 선진국의 제재 방식에 관심이 쏠린다. 유럽연합(EU)은 온라인 플랫폼의 책임을 강화하는 등 자율적인 관리·감독에 집중하는 반면 영국은 성적인 의도가 없는 딥페이크라도 타인에게 심각한 정신적 피해를 줄 경우 징역형에 처하는 등 형사 처벌에 무게를 두고 있다.
15일 정치권에 따르면 서울경찰청 사이버수사과는 지난 8일 압수수색을 통해 확보한 국회의원 딥페이크 사건 피의자의 디지털 기기에 대한 포렌식 작업을 진행하고 있다. 경찰은 포렌식을 마친 뒤 확보한 증거를 토대로 기소 여부를 결정할 방침이다. 이번 사건에는 성폭력범죄의 처벌 등에 관한 특례법이 적용돼 유죄가 인정되면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처할 수 있다. 영리 목적으로 이를 유포한 경우에는 3년 이상의 유기징역에 처한다.

AI 기술 발전과 함께 전 세계적으로 딥페이크 등 디지털 인격테러가 급증하고 있다. SNS 등 온라인 플랫폼이 활성화되면서 유통 속도도 빨라지고 있다. 지난해 EU 자료에 따르면 딥페이크는 2023년 약 50만개에서 지난해 약 800만개로 늘며 2년 사이 16배 증가했다.
EU는 디지털 인격테러에 대응하기 위해 온라인 유통망 관리와 AI 규제를 병행하고 있다. 먼저 디지털서비스법(DSA)을 통해 온라인 플랫폼의 불법 콘텐츠 삭제 의무와 이용자 기본권 보호, 플랫폼 사업자의 책임을 강화했다. 서비스 제공업체를 중개 서비스, 호스팅 서비스, 온라인 플랫폼, 초대형 온라인 플랫폼 등으로 세분화하고 의무를 위반한 플랫폼에는 전 세계 매출액의 최대 6%를 과징금으로 부과한다.
온라인 유통 관리만으로 해결하기 어려운 AI 기반 디지털 인격테러는 인공지능법(AI Act)으로 별도 규율할 계획이다. 유럽의회는 내년 인공지능법 시행을 앞두고 AI를 악용한 디지털 인격테러를 막기 위한 법 개정 작업을 진행하고 있다. 지난 3월에는 성적 착취물을 생성할 수 있는 시스템인 '누디파이어'를 전면 금지하는 개정안을 통과시켰다.


반면 영국은 가해자에 대한 처벌에 중점을 두고 있다. 온라인안전법을 통해 성적 의도 유무와 관계없이 딥페이크 범죄를 엄격하게 처벌한다. 당사자 동의 없이 성적 딥페이크를 유포하거나 공유하면 최대 징역 2년, 성적 목적이 없더라도 정신적·신체적 위해를 가할 의도가 인정되면 최대 징역 1년에 처한다. 불법 딥페이크를 제작한 행위만으로도 벌금형을 받을 수 있다.

플랫폼에 대한 제재도 EU보다 강하다. 영국 온라인안전법은 과징금 부과를 넘어 기업 임원에게 형사 책임을 묻고 서비스 중단까지 명령할 수 있도록 했다. 최대 과징금은 1800만파운드(약 360억원) 또는 전 세계 매출액의 10%다. 아동 보호 의무를 고의로 위반하거나 자료 제출·정보 요구 명령을 이행하지 않을 경우 고위 임원을 기소해 형사처벌할 수 있다. 과징금을 내지 않거나 시정명령을 이행하지 않으면 영업정지 처분이나 서비스·광고 차단 등 제재도 가능하다.

딥페이크에 대한 고강도 규제에 대해선 국가적으로 공감대가 형성돼 있다. 영국 보수당과 노동당은 지난 2월 시행된 성적 딥페이크 제작 처벌법을 초당적으로 처리했다. 정당들은 디지털 인격테러를 저지른 당원에게 당원권 정지 등 무관용 원칙을 적용하고 있다. 학교에서도 딥페이크 성착취물을 제작하면 퇴학이나 무기정학 등 중징계를 내리는 사례가 일반적이다.
한편 한국은 지난 1월 세계 최초로 AI 기본법을 시행했지만 AI 오남용과 인격권 침해를 막기 위한 규정은 충분히 담지 못했다는 지적이 나온다. AI 기본법은 산업 진흥에 초점이 맞춰져 있고, 인간의 기본권에 영향을 미칠 수 있는 고위험 AI에 대해서도 사업자가 정부 검토를 받도록 하는 수준에 그친다. 적용 대상도 광범위해 실제 규제 범위가 불명확하다는 평가다.
지난 7일부터 시행된 정보통신망법 개정안은 온라인 플랫폼 규제를 담고 있지만 허위조작정보 대응에 초점이 맞춰져 있다. 허위조작정보 유포를 금지·처벌하고 대규모 플랫폼 사업자에게 불법·허위정보 삭제 의무를 부과하는 것이 핵심이다. AI 기본법과 정보통신망법 개정안 모두 AI를 악용한 디지털 인격테러를 막기에는 한계가 있다는 분석이 나온다.


대응 체계도 성범죄에 집중돼 있다. 2020년 N번방 사건 이후 성폭력처벌법이 개정되면서 2024년부터 딥페이크 성범죄 처벌이 강화됐다. 성범죄 관련 딥페이크는 방송통신심의위원회 산하 디지털성범죄심의소위원회가 24시간 안에 심의·삭제한다. 반면 성범죄와 관련성이 낮은 디지털 인격테러는 일반 심의를 거쳐야 해 처리 속도가 느리다. 처벌도 모욕죄나 명예훼손죄를 적용받는 경우가 많아 피해자가 입증 책임을 져야 한다.

딥페이크 규율 강화를 위한 법안들은 국회에 계류 중이다. 차지호 더불어민주당 의원(경기 오산시)이 지난 2월 대표 발의한 '딥페이크 피해 방지 및 삭제 의무에 관한 법률안'은 현재 국회 과학기술정보방송통신위원회에서 심사 중이다. 해당 법안은 성인 피해자는 48시간, 미성년 피해자는 24시간 안에 콘텐츠를 삭제하도록 의무화하고 이를 위반하면 매출액의 1%를 과징금으로 부과하는 내용을 담고 있다.

유현재 서강대 신문방송학과 교수는 "한국이 AI 기본법을 세계 최초로 만들었지만 자세히 보면 산업진흥법에 가깝다"며 "AI 부작용으로 인한 피해가 커지고 있는데 이를 규율하는 내용이 사실상 없다"고 말했다. 이어 "(AI를 활용한) 피해를 입어도 처벌이 무겁지 않고 규정도 모호하다"며 "이런 추세가 이어지면 사람들이 AI 악용에 점차 무감각해질 수 있다"고 덧붙였다.