기시다도 당했다… '음란한 말' 가짜 동영상에 日관방장관, 경고

생성형 AI(인공지능)를 사용해 만든 기시다 후미오 일본 총리의 가짜 동영상이 사회관계망서비스(SNS)에 확산되자 관방장관이 경고하고 나섰다.


지난 6일 NHK에 따르면 마쓰노 히로카즈 관방장관은 이날 오전 기자회견에서 "개별 SNS상의 게시물에 대한 코멘트는 하지 않겠다"면서도 "정부의 정보를 거짓으로 발신하는 것은 경우에 따라 민주주의의 기반을 손상시킬 수도 있기 때문에 행해져서는 안 된다"고 지적했다. 그는 "가짜 정보 게시물은 사회를 혼란스럽게 하거나 다른 사람에게 피해를 주거나 죄가 되는 경우도 있으므로 부디 삼가해 달라"고 당부했다.

또 그는 국제적 논의와 AI전략 회의에서 지식인 논의 등을 바탕으로 "우리나라(일본)도 관계 성·청(기관)과 연계해 가짜 정보에 대한 대책을 검토할 것"이라고 덧붙였다.


지난 4일 요미우리신문은 생성형 AI를 사용해 기시다 총리의 목소리를 재현한 것으로 보이는 가짜 동영상이 SNS를 통해 확산되면서 논란이 일었다고 보도했다. 기시다 총리가 음란한 말 등을 하는 것처럼 보이게 만든 가짜 동영상은 일본 민영 니혼TV의 실제 뉴스 프로그램과 유사한 로고와 자막 등을 표시했다.

NHK는 동영상이 생성형 AI를 사용해 인터넷에 공개된 기시다 총리의 음성을 AI에 학습시켜 음성을 가공한 것으로 보인다고 밝혔다. 결국 가짜 동영상을 올린 게시자는 해당 동영상을 삭제하고 SNS에 사과문을 게재했으나 프로그램 로고를 도용당한 니혼테레비(닛테레)는"도저히 용서할 수 없다"며 "페이크 동영상에 대해 앞으로 응당한 대응을 하겠다"고 강조했다.