SM엔터테인먼트에서 6년 만에 새로운 걸그룹 ‘에스파’를 선보였다. 데뷔 전부터 에스파의 독특한 세계관은 대중들의 이목을 집중시켰다. 현실과 가상을 넘나들며 교류한다는 이제껏 보지 못한 설정이었기 때문이다. 에스파의 멤버 구성 역시 독특하다. 에스파는 현실 멤버 카리나, 지젤, 윈터, 닝닝과 이들이 가상 세계에서 발현한 ‘또 다른 자아’ 아바타 멤버들로 이뤄진다. 사람들의 눈길을 끌었던 건 단연 아바타 멤버들이다. 인공지능을 가진 이들은 스스로 생각할 수 있으며 현실 멤버들과 자유로운 소통도 가능하다. 하지만 아바타 멤버들을 향한 우려 섞인 시선도 존재한다. 최근 딥페이크 범죄가 사회적 문제로 대두된 가운데 이들이 피해 대상이 될 수 있기 때문이다.

인공지능 기반의 딥페이크로 쉬운 영상 조작 가능해

딥페이크란 인공지능의 자체 학습 기술인 딥러닝(deep learning)에 가짜(fake)를 덧붙여 만든 신조어다. 인공지능 기반의 딥페이크는 사진이나 동영상에 다른 사람의 얼굴을 합성해 새로운 영상을 만들어낸다. 이전까지 이미지 합성이나 영상 편집을 위해서는 사람이 직접 소프트웨어를 통해 작업해야 했다. 수작업으로 이뤄지는 기존 방식에 비해 딥페이크는 인공지능이 사람을 대신해 영상을 합성한다. 따라서 알고리즘에 대한 기초적인 지식만 있으면 누구나 손쉽게 합성 영상을 만들 수 있다.

여기에 그래픽 기술과 인공지능 기술의 발전으로 딥페이크 영상 수준은 한층 더 정교해졌다. 한동안 인터넷을 뜨겁게 달군 오바마 전 미국 대통령이 도널드 트럼프 미국 대통령을 비난하는 영상 역시 딥페이크 영상으로 전해져 충격을 안겼다. 논란이 된 영상에서 오바마 전 미국 대통령은 “트럼프 대통령은 완전히 쓰레기입니다”라고 말한다. 딥페이크 기술을 통해 조작된 영상이었지만 영상 속 오바마 미국 전 대통령의 얼굴과 음성은 실제와 매우 흡사했다. 영화감독 조던 필이 딥페이크 경고용으로 만든 이 영상은 고도화된 기술 수준을 실감케 했다.

가짜뉴스·음란물 제작으로 쓰이는 딥페이크

조던 필의 경고와 무관하게 최근 딥페이크 악용 사례는 계속 늘고 있다. 선거 직전 특정 후보에 대한 안 좋은 소문을 퍼뜨리기 위해 가짜 뉴스를 만들거나 유명인의 얼굴을 합성한 영상을 만들어 허위 사실을 유포하는 식이다. 실제로 지난 2018년 멕시코에서는 대통령 후보를 깎아내리기 위한 딥페이크 영상이 온라인에 게시돼 논란을 빚었다.

딥페이크 기술은 음란물 제작으로도 사용된다. 특히 데이터 확보가 쉬운 여자 연예인이 주요 피해 대상이다. 네덜란드 사이버 보안 연구 회사 ‘딥트레이스’에 따르면 지난 2018년 약 8천 개로 집계됐던 딥페이크 비디오가 지난해 1만 4698개로 늘었는데 이 중 96%가 포르노였으며 얼굴 합성 피해자의 상당수는 여자 연예인인 것으로 나타났다. 피해자는 미국과 영국 여배우(46%)가 가장 많았으며 다음으로 케이팝(K-POP) 여자 가수(25%)가 그 뒤를 이었다. 연예인 얼굴을 합성한 ‘딥페이크물’은 인터넷과 SNS를 통해 일파만파로 퍼져나간다. 인터넷 포털 사이트에 연예인 이름과 함께 딥페이크라는 키워드를 넣어 검색하면 딥페이크 영상을 어렵지 않게 찾을 수 있다. 최근 들어 딥페이크 범죄의 피해 대상은 더욱 확장되는 양상을 보인다. ‘n번방’과 ‘박사방’을 비롯한 텔레그램 비밀방에서 지인의 얼굴을 합성한 딥페이크물이 공유되면서 일반인도 딥페이크 범죄로부터 자유로울 수 없게 됐다.

가상 아이돌, 딥페이크 범죄 노출될 수도

딥페이크 범죄가 극성인 현 상황에서 에스파를 비롯한 가상 아이돌의 등장으로 범죄 피해 규모와 양상은 더 심각해질 것으로 예상된다. 가상 아이돌은 대중문화와 가상 세계를 접목하려는 시도로써 현재 대중문화계의 새로운 흐름으로 자리 잡고 있다. 문제는 디지털 이미지인 가상 아이돌은 조작이 간편해 딥페이크 범죄의 표적이 될 가능성이 높다는 것이다. 이에 가상 아이돌을 이용한 2차 창작물이 쏟아질 것이라는 우려가 제기되고 있다.

하지만 법조계에서는 이들이 디지털 성범죄에 노출되더라도 실질적인 처벌은 어렵다고 말한다. 딥페이크 영상 제작·배포 행위를 처벌하는 규정인 『성폭력범죄의 처벌 등에 관한 특례법』 제14조의2 제1항이 ‘사람’의 얼굴, 신체 또는 음성을 대상으로 한 촬영물, 영상물, 또는 음성물만을 규제하기 때문이다. 따라서 사람이 아닌 아바타 멤버들은 보호대상에서 제외된다. 가상 캐릭터의 모델이 되는 실제 인물의 구제 방안도 미비하다. 정신적 피해로 인한 위자료 청구나 합성 영상을 가지고 협박한 사안에 한해서는 협박죄를 검토해볼 수 있지만 성범죄에 대한 처벌은 불가능하다.

딥페이크 범죄, 대안은 무엇일까

국회 입법 조사처의 「인공지능의 윤리적 사용을 위한 개선과제」에 따르면 “딥페이크 범죄의 가장 최선의 대안은 딥페이크 식별기술의 발전”이라고 말한다. 실제로 딥페이크 범죄가 가시화되고 영상 조작 여부를 판단하는 기술이 개발돼 상용화 단계에 이르렀다. 주목할 점은 딥페이크 영상 판별에 이용하는 기술이 바로 인공신경망 즉 인공지능이라는 것이다. 인공지능으로 나타난 딥페이크 범죄를 다시 인공지능을 통해 해결할 수 있는 셈이다.

따라서 인공지능 기술의 올바른 사용을 위한 사회적 논의가 필요하다는 지적도 나온다. 한국인공지능윤리협회 전창배 이사장은 “인공지능 기술은 급속도로 발달하고 전 세계 많은 국가와 기업들이 개발에 열중하고 있지만 기술 이면의 부작용, 위험성, 그리고 윤리적인 문제는 간과하고 있는 상황”이라며 “인공지능 윤리 기준을 마련해 전 세계가 공동의 인식을 가져야 하며 그 이후에 상세한 실천방안과 해결방안도 나올 수 있을 것”이라고 전했다.

신현지 기자 hghg98@uos.ac.kr