한컴이노스트림

 ✔ 프롤로그 

“분명 영상에서 목소리랑 얼굴까지 똑같았어요.”

홍콩에서 금융기업의 직원들이 회사에서 화상회의 도중, 이사님 번호로 걸려 온 영상통화를 가장한 딥페이크에 속아 약 340억원을 잃었다는 기사를 보셨나요?

뭐 딥페이크라고 해봤자 고작 AI일뿐이고 기계에 속는 사람이 바보인 것이라며, 진짜와 거짓쯤은 육안으로 쉽게 구분할 수 있을 것이라 생각했던 생각들이 점점 사라지고 잇따라 계속해서 들려오는 충격적인 소식들에 오늘은 어떤 새로운 방식으로 기술을 악용하여 사용할지 두려움만 커집니다.

대체 얼마나 대단한 구조로 만들어진 AI를 활용하는 것이길래 이런 말도 안 되는 사건들이 자꾸만 일어나는 걸까요?

◼  1.딥페이크란? 

◼  2. 딥페이크의 활용 사례 

딥페이크를 부정적인 기사들로 처음 접해봐서 그런지 몰라도 딥페이크를 사용해 본 적없는 줄 알았지만, 생각해 보니 예전 한창 카메라 앱과 관련한 인스타그램 필터와 스냅쳇이 유행했을 당시, 우리도 모르게 일상에서도 딥페이크를 사용하고 있었습니다.

그저 재미로 사용한 앱이었고, 찍어 놓은 결과 또한 누가 봐도 합성인 것이 티가 나는 퀄리티였지만 지금은 정말 속아 넘어갈 정도로 완벽한 제작이 가능해졌습니다. ‘양날의 검’이라고 불리는 딥페이크의 다양한 활용 사례부터 살펴보겠습니다.

2-1. 영화 산업 

현재 딥페이크를 가장 활발하게 사용하고 있는 분야 중 하나는 바로 영화 산업입니다. 딥페이크를 이용해서 출연한 배우의 과거를 연출하거나 새로운 인물을 만들어내 제작 비용과 시간을 절약하며, 영상에서 표현할 수 있는 예술의 범위가 확장되어 영화 산업 발전에 큰 역할을 담당하고 있습니다. 

2-2. 감동의 재회 

AI 음악 프로젝트 ’다시 한번’의 첫 주인공으로, 2008년 심근경색으로 떠난 거북이의 터틀맨의 모습을 복원하여 멤버들과 함께 무대를 꾸리며 가족들은 물론 시청자들에게도 많은 감동과 눈물을 안겨주었습니다. 딥페이크의 기술 발전으로 인해 보지 못하는 사람들의 모습까지 생생하게 볼 수 있다는 것이 가장 큰 감동인 것 같습니다.

2-3 의료기술의 발전  

2019년 7월, 독일 뤼벡대 의료정보학연구소 연구진은 딥러닝 알고리즘의 이미지 패턴매칭 기능을 접목해 인공지능이 질병을 학습하고 원본 영상과 진위 여부를 구별할 수 없을 만큼 완벽한 딥페이크 영상을 만들어 CT, MRI 등의 이미지를 분석으로 다양한 암의 종류와 이상 징후를 인공지능이 판단하여 정확하게 진단할 수 있게 되었습니다.

2-4 새로운 추모 방식

온라인의 가계도 서비스를 제공하는 마이헤리티지(MyHeritage) 플랫폼에서 딥러닝 전문 기업 디아이디(D-ID)의 딥노스텔지아(DeepNostalgia)기술을 이용하여 고인이 된 가족들과, 조상과 순국열사의 모습을 움직이는 고화질의 생동감 넘치는 생생한 영상으로 제공하고 있어 많은 사람의 호평을 받았습니다. 

그 외에도 실제로 지난 2021년 2월 ‘SBS 그것이 알고 싶다’에서 모자이크를 대신해 딥페이크 기술을 활용하여 완전히 다른 사람으로 나타나 피해자들의 신변 보호와 안전한 익명성을 증명하였고, 싸이더스 스튜디오에서 3D기술과 결합하여 만든 ‘로지’라는 모델도 인스타그램 팔로워 약 5만명과 수입 또한 수십억에 달하는 가상 모델로 딥페이크의 기술로 직접 카메라에 나서지 않아도 되는 다양한 방법들이 나오고 있습니다. 

◼  3. 딥페이크, 혹시 내 얼굴도?

앞서 프롤로그에도 잠시 언급했던 것처럼 딥페이크라고 검색만 해도 인터넷에는 자극적인 기사들로 가득합니다. 실제로 딥페이크의 영상 96%는 음란물 영상이 대부분이고 그중 영상 피해자 98%는 연예계 종사자입니다. 그 이유는 앞서 말했다시피 2가지의 신경망이 서로 감지할 수 없을 때까지 학습을 수행하기 때문에 이미지나 영상의 자료가 많을수록 수준 높은 결과물을 만들어내기 때문입니다. 하지만 문제는 여기서 끝나지 않습니다. 지난 2019년 N번방 사건은 당시에 일반인을 대상으로 범죄가 일어나 전 국민 여성들은 ‘내가 모르는 사이에 혹시 내 사진도?’라는 불안함과 공포심, 두려움으로 가득 찼습니다. 이제는 유명인들에게만 해당하는 것이 아닌 모두의 타깃이 되어버린 딥페이크의 현실입니다.

3-1 엄마, 나 OO인데…

영상뿐만 아니라 음성 딥페이크를 통한 보이스 피싱 범죄도 발생하고 있습니다. SBS ’그것이 알고싶다’ 방송에서 실제로 이를 실험하기 위해 20대 실험자 부모님들에게 사진을 합성한 가짜 영상을 전송하여 신용카드 정보를 요구하는 실험을 진행했습니다. 실험자 부모님들은 처음엔 의심하는 질문 몇 가지를 하더니 세 명 중에 두 명은 결국 신용카드 정보가 담긴 사진을 전송했습니다.

프롤로그에서 언급한 사건 그 외에도 비슷하게 지난 2019년 3월 영국의 기업에서는 딥페이크 음성조작으로 걸려 온 전화에서 상사의 목소리로 거액의 돈을 송금하라는 명령에 3억원을 사기당하는 사건도 일어났습니다. 

◼  4. 문제 대응 방안

 

이제는 급속도로 발전해 나가는 기술 속도에 맞는 규제와 법이 필요합니다. 이에 따른 법이 국내에서는 지난 N번방의 사건에 대한 국민 청원 결과로 딥페이크 성폭력 처벌법이 2020년부터 신설되어 시행되고는 있지만, 한 사람의 무너져버린 인생과 비교한다면 5년 이하의 징역과 5000만원 이하의 벌금형은 터무니없는 솜방망이 처벌로 느껴지는 암울한 현실입니다. 이미 조작된 영상과 사진은 어디인지도 모를 곳까지 퍼져나간 후이기 때문에 이러한 처벌법은 단지 후속 조치일 뿐이라는 말도 나오고 있습니다. 

대응 방안이라는 말이 무색할 만큼 아직은 많이 부족합니다. 현재로서는 개인이 보호받을 수 있는 명확한 대응 방안은 나오지 못한 상태이지만, 계속해서 이 문제점들을 막기 위해 더 나은 해결 방안들이 계속해서 나오고 있습니다. 예를 들면 인공지능 기술 기업 ‘딥브레인AI’는 딥페이크로 조작된 영상과 이미지 음성을 탐지할 수 있는 딥페이크 탐지 솔루션을 고도화하여 악용으로 인한 피해 예방에 앞설 것이라는 포부를 밝혔습니다.  

 

 

 

◼  에필로그  

딥페이크에 대한 최근 뉴스 기사들만 잠깐 본다면, 사람들이 왜 좋지 않은 시선으로 바라보는지 이유가 충분한 딥페이크, 

 

현재까지 딥페이크의 결과물을 보면 선한 영향력을 끼쳤다고는 결코 말할 수 없습니다. 이런 좋은 기술로 대단한 영향력을 끼칠 만큼 멋진 결과물을 남길 수 있음에도 불구하고 부정적인 단면의 모습, 우리는 딱 거기까지만 알고 마음의 문을 닫아버리니 좋은 기술이 더 커질 수 있는 여력과 기회마저 사라져 버리는 게 아닐까요? 

 

딥페이크의 음지에서의 활동과 기술 발전은 지금도 여전히 계속해서 커져 나가고 있습니다. 하지만 딥페이크 범죄에 대한 해결 방안과 현명한 대응법, 그리고 더 다양한 분야에서 활용으로 선한 영향력을 넓게 펼쳐 나가 이제는 그다음 스텝으로 넘어가야 할 때입니다.