블랙핑크 리사가 19금 크레이지 호스 쇼에서 상체를 노출했다는 영상이 확산된 가운데, 본지 취재 결과 해당 영상이 '딥페이크(deepfake)' 영상임이 드러났다. 딥페이크 영상은 고도화된 AI 기술을 통해 만들어진 가짜 영상이다. AI 관련 기술이 발전하면서 점점 가짜와 진짜를 구별하기 힘든 수준이 됐다. 이 때문에 수 많은 연예인들이 딥페이크 범죄로 피해를 입고 있다. 하지만 추적의 어려움 등을 이유로 실제 처벌받는 사례가 거의 없다보니, 범죄가 반복적으로 일어나고 있는 상황이다.
15일 리사가 프랑스 파리 크레이지 호스 쇼에서 상의를 탈의했다는 의혹이 제기됐다. 의혹이 불거진 영상 속 리사는 상반신을 노출한 채 춤을 추고 있다. 이 같은 영상은 성인사이트와 일부 커뮤니티를 중심으로 급격히 퍼졌다. 해당 영상이 '크레이지호스' 상표까지 붙이고 있다보니 실제 공연 영상으로 착각하는 누리꾼들이 많았다. 텐아시아가 카이스트에서 개발한 '딥페이크 검사 어플리케이션(앱)"인 '카이캐치(KaiCatch)'를 통해 확인한 결과 이는 100% 딥페이크 영상이라는 판독 결과를 받아냈다. 이 프로그램은 딥페이크 영상일 가능성을 확률로 보여주는데 100%는 딥페이크 영상의 조건들을 모두 갖췄다는 얘기가 된다.
리사는 지난 10월 레이지 호스 쇼 출연한 바 있다. 크레이지 호스는 물랑루즈, 리도와 함께 프랑스 파리 3대 카바레로 꼽힌다. 카바레란 큰 무대를 갖추고 다양한 공연을 보며 술과 식사를 즐길 수 있는 유흥업소로, 파리를 대표하는 3대 카바레 중에서도 크레이지 호스는 여성 무용수들의 높은 노출 수위와 파격적인 퍼포먼스를 관람할 수 있는 곳으로 알려져 있다.
딥페이크는 AI 기술인 딥러닝과 '가짜'를 의미하는 단어인 페이크의 합성어다. AI기술을 이용해 실제 같은 가상 정보를 생성하는 데, 이 기술이 악용될 경우 신분사칭, 생체인증 우회, 사기, 명예훼손 등 뿐만 아니라 가짜 뉴스·광고까지 기승을 부리며 사회를 혼란에 빠트릴 수 있다.
관계자들에 따르면 한 불법사이트에서는 소녀시대, 트와이스, 레드밸벳, 뉴진스, 아이브, 블랙핑크, 아이유, 에스파 등 가수들의 얼굴을 불법으로 합성되고 있다. 유명 연예인들은 누구든 범죄의 대상이 될 수 있다는 지적이다.
불법 합성 영상 제작은 성폭력범죄의 처벌 등에 따라 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있다. 또 판매할 경우 7년 이하 징역형에 처할 수 있다. 다만, 음란물 유포 등 AI 기술이 악용된 사례 자체를 찾아내기 어렵다. 또 AI 이미지 제작 사이트가 해외에 서버를 두고 있는 경우가 많아, 음란물 제작자를 적발하기 어렵다.
윤준호 텐아시아 기자 delo410@tenasia.co.kr
© 텐아시아, 무단전재 및 재배포 금지