르세라핌→아이브…딥페이크 성범죄 타겟된 K팝 걸그룹 왜 뿌리 못 뽑나 TEN스타필드

르세라핌 / 사진=쏘스뮤직

《윤준호의 불쏘시개》

연예계 전반의 이슈에 대해 파헤쳐 봅니다. 논란과 이슈의 원인은 무엇인지, 엔터 업계의 목소리는 무엇인지 이야기해 보겠습니다.

인공지능(AI) 기술 발전의 산물인 딥페이크 탓에 그룹 르세라핌, 아이브 등 K팝 걸그룹이 피해의 대상이 되고 있다. 멤버 사진을 도용해 학습시킨 인공지능 모델 데이터가 온라인상에 유포돼 충격을 주고 있다.

27일 관련 업계에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 인기 K팝 걸그룹 멤버의 이미지를 학습시킨 데이터가 다수 올라왔다.

해당 인공지능 모델은 '스테이블 디퓨전'이라 불리며 딥페이크 이미지를 생성한다. 딥페이크는 '딥러닝(Deep Learning)' 기술과 '가짜(Fake)'의 합성어. 인공지능 기술을 기반했기에, 가짜와 진짜를 구분하기 어렵다. 특히 '스테이블 디퓨전'은 일반인도 자기 집 PC에서 손쉽게 사용할 수 있는 특징을 갖고 있다.

딥페이크 성범죄의 주된 피해자는 연예인이다. 이들의 이미지를 이용해 제작된 음란물은 온라인상에서 수요가 많기 때문. 해당 범죄 건수가 계속해서 올라가는 이유이기도 하다.

일부 아이돌의 이미지를 사용한 음란물 제작 등 해당 기술의 악용 사례가 늘자 앞서 국회에서는 '딥페이크 처벌법'을 개정했다. 이 법안에 따르면 딥페이크 영상물을 제작·유포한 사람은 '5년 이하의 징역 또는 5000만원 이하의 벌금'에 처한다. 영리 목적으로 유포하면 '7년 이하의 징역'으로 가중 처벌된다.

딥페이크에 의한 음란물 제작은 사회적 문제로 떠오른 지 오래다. 해당 범죄에 대한 처벌 수위는 높아지고 있지만, 실질적 예방에 대한 의문이 지속되고 있다. 가장 큰 문제는 일단 제작 플랫폼 자체가 해외 서버인 경우가 대다수라, 근본적인 적발과 처벌이 어렵다는 데 있다.

지난해 방송통신심의위원회가 허은아 국민의힘 의원실에 제출한 시정 요구 및 자율 규제 조치한 성적 허위 영상물은 2020년 548건, 2021년 2988건, 2022년(7월 기준) 2723건으로 매년 증가 추세다. 2022년 기준 관련 범죄는 146건이 신고됐다. 약 5%의 범죄만 수면 위에 올라온 것이다. 이 가운데 검거 건수는 63건으로 그 수는 미미한 수준이다.

범죄의 그늘에 놓인 상황에서 연예계 관계자들은 실질적인 대처에 난항을 겪고 있다. 디지털 성범죄에 대해 민·형사상 고소로 대응하고 있지만, 실제로 가해자를 처벌할 수 있는 경우는 드물다는 것.업계 관계자 A 씨는 "소속사가 디지털 성범죄에 법적으로 대응하기 쉽지 않지 않다. 수사기관의 협조와 실질적인 법적 조치가 필요하다"고 호소했다.

더불어 엔터사가 계속해서 벌어지는 디지털 성범죄를 감당하기 어렵다는 의견도 나왔다. 연예 관계자 B 씨는 "일개 소속사에서 대응하는 데는 한계가 있다"며 "공적 기관에서 디지털 성범죄 대응 가이드를 명확하게 마련하는 것이 시급하다"고 말했다.

윤준호 텐아시아 기자 delo410@tenasia.co.kr

르세라핌→아이브…'딥페이크 성범죄' 타겟된 K팝 걸그룹, 왜 뿌리 못 뽑나 [TEN스타필드]