딥페이크 | 텐아시아

본문 바로가기

르세라핌→아이브…'딥페이크 성범죄' 타겟된 K팝 걸그룹, 왜 뿌리 못 뽑나 [TEN스타필드]

《윤준호의 불쏘시개》 연예계 전반의 이슈에 대해 파헤쳐 봅니다. 논란과 이슈의 원인은 무엇인지, 엔터 업계의 목소리는 무엇인지 이야기해 보겠습니다. 인공지능(AI) 기술 발전의 산물인 딥페이크 탓에 그룹 르세라핌, 아이브 등 K팝 걸그룹이 피해의 대상이 되고 있다. 멤버 사진을 도용해 학습시킨 인공지능 모델 데이터가 온라인상에 유포돼 충격을 주고 있다. 27일 관련 업계에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 인기 K팝 걸그룹 멤버의 이미지를 학습시킨 데이터가 다수 올라왔다. 해당 인공지능 모델은 '스테이블 디퓨전'이라 불리며 딥페이크 이미지를 생성한다. 딥페이크는 '딥러닝(Deep Learning)' 기술과 '가짜(Fake)'의 합성어. 인공지능 기술을 기반했기에, 가짜와 진짜를 구분하기 어렵다. 특히 '스테이블 디퓨전'은 일반인도 자기 집 PC에서 손쉽게 사용할 수 있는 특징을 갖고 있다. 딥페이크 성범죄의 주된 피해자는 연예인이다. 이들의 이미지를 이용해 제작된 음란물은 온라인상에서 수요가 많기 때문. 해당 범죄 건수가 계속해서 올라가는 이유이기도 하다. 일부 아이돌의 이미지를 사용한 음란물 제작 등 해당 기술의 악용 사례가 늘자 앞서 국회에서는 '딥페이크 처벌법'을 개정했다. 이 법안에 따르면 딥페이크 영상물을 제작·유포한 사람은 '5년 이하의 징역 또는 5000만원 이하의 벌금'에 처한다. 영리 목적으로 유포하면 '7년 이하의 징역'으로 가중 처벌된다. 딥페이크에 의한 음란물 제작은 사회적 문제로 떠오른 지 오래다. 해당 범죄에 대한 처벌 수위는 높아지고 있지만, 실질적 예방에 대한 의문이 지속되고 있다. 가장 큰 문제는 일단 제작
中 짝퉁 아이유 '차이유' 등장…딥페이크 '충격'

중국에서 딥페이크를 이용해 '짝퉁 아이유'가 등장했다. 최근 온라인 커뮤니티를 중심으로 '대륙의 짝퉁 아이유'란 게시물이 게재됐다. 해당 글에는 가수 아이유의 얼굴을 꼭 닮은 여성이 귀여운 표정을 지으면서 안무를 선보이고 있다. 해당 여성은 여러 SNS 플랫폼에 해당 동영상을 게재했고, 실제 얼굴은 아이유와 전혀 다른 모습이라는게 공개돼 더욱 충격을 안겼다. 아이유와 닮지 않은 여성이 아이유의 얼굴로 동영상을 ...
[TEN 이슈] 알페스는 안되고 딥페이크는 된다?

알페스는 안되고 딥페이크는 된다? 알페스를 잘 모르는 사람들은 변태 성행위가 주제인 음란 소설이라고 말한다. 알페스가 이상하다고 말한 손심바라는 래퍼도 이 논리를 바탕으로 인터뷰했다. 이 래퍼를 시발점으로 알페스 국민청원이 올라왔고, 알페스 청원은 '성 노리개' 등 자극적인 단어를 선택해 어그로를 끌었다. 개념을 잘 모르는 약 21만 명이 분위기에 휩쓸려 동의했다. 일단 알페스는 한국어가 아니라 영어다. Real Person ...
아이돌 딥페이크물, 텔레그램방 전용방서 확인…이번엔 뿌리 뽑혀야

여성 아이돌 그룹 멤버의 사진을 합성한 '딥페이크물'이 텔레그램 내에서 전용방을 통해 공유되고 있음이 확인됐다. 27일 뉴스1은 텔레그램에서 연예인을 소재로한 딥페이크물 전용방을 4개 확인했다고 보도했다. 이 중 여성 아이돌 그룹 멤버를 대상으로한 딥페이크물 방에는 최대 2000명이 넘는 회원들이 있는 것으로 파악됐다. 가장 인원이 많은 채팅방은 지난 16일 '박사방' 운영자 조주빈이 검거되기 3일 전에 새로 만들...