딥페이크는 범죄에만 악용되는 나쁜 기술일까?

최근 한국 사회에 큰 파장을 일으킨 사건이 하나 있었다. 여학생들의 사진을 딥페이크 기술로 조작해 영상을 만들어 공유한 범죄가 발생한 것이다. 이는 단순히 기술의 남용을 넘어 피해자들의 사생활이 심각하게 침해된 문제로, 딥페이크의 어두운 단면을 다시금 드러냈다.

 

오늘날 딥페이크 기술은 매우 빠르게 발전하고 있으며, 그 진입장벽도 낮아져 일반인뿐만 아니라 학생들조차 손쉽게 접근할 수 있는 도구가 되었다. 이러한 기술적 진보는 흥미로운 가능성을 열어주지만, 동시에 예상치 못한 사회적 위험을 불러오고 있다.

 

범죄뿐 아니라 정보 조작, 명예 훼손, 신뢰 붕괴와 같은 부작용이 속속 드러나고 있는 상황에서 딥페이크 기술은 나쁜 기술일지 긍정적인 부분은 없을지 그리고 이 기술은 어떻게 발전해야 할지 등을 살펴보고자 한다. 

 

딥페이크는 무엇인가?

딥페이크(deepfake)는 "딥러닝(Deep Learning)"과 "페이크(fake)"의 합성어로, 인공지능(AI) 기술을 통해 이미지나 동영상을 조작하여 실존하지 않는 인물이나 상황을 사실처럼 보이게 만드는 기술이다.

 

특히 얼굴, 목소리, 몸짓 등을 매우 정교하게 조작할 수 있어 원본 영상과 거의 구별하기 어려울 정도로 현실감 있는 결과물을 만들어낸다.

처음 등장한 딥페이크 기술은 우리에게 새로운 즐거움을 선사했다. 좋아하는 배우가 다른 영화에 출연하거나 이미 떠난 전설적인 가수의 새 노래를 듣는 등 이런 상상을 현실로 만들어주는 신기한 기술이었다.

 

아래는 백투더퓨처에 톰 홀랜드와 로버트 다우니 주니어를 딥페이크로 처리한  영상이다. 생각보다 너무 잘어울린다.

 

 

 

프레디 머큐리가 부른 아이유의 내 손을 잡아

 

하지만 가짜 뉴스나 허위 정보 유포, 음란물, 사기 등 범죄 목적으로도 악용되고 있다. 최근에는 중국인 부모에게 딸이 손발이 묶인 채 울고있는 영상을 보내며 협박하기도 했다. 이는 짜집기가 아닌 잘 만들어진 딥페이크 영상이었고 전문가들조차 가짜의 여부를 알아내기 어려었다. 

 

딥페이크 기술의 긍정적인 측면

하지만 딥페이크 기술이 범죄의 목적으로 만들어진 것은 아니다. 기술의 지향점은 영화나 마케팅은 물론 교육이나 의료 등 다양한 분야에 긍정적인 효과를 만들어낼 수 있다.

 

가장 쉽게 떠올릴 수 있는 쪽은 영화나 엔터테인먼트 분야다. 배우의 나이나 고인의 복원, 대역 배우 활용, 목소리 합성 등 다양한 방식으로 활용될 수 있으며 창의적인 연출과 높은 몰입감을 제공할 수 있다.

살인자 o난감에서 배우 손석구의 어린 시절 모습은 그의 실제 사진 여러 장을 이용하여 딥페이크로 얼굴을 만든 후 아역 배우에게 이미지를 입혔다고 한다. 감독은 이렇게 작업한 이유가 극강의 리얼리티를 위해서 였다고 하는데 실제로 손석구 배우의 어린시절 모습같다. 

 

또한, 월컴투 삼달리라는 드라마에서는 설정을 재현하기 위해 1994년 전국노래자랑 제주도 편을 만들어 고인이 된 국민MC 송해 선생님의 젊은 시절 모습이 등장하기도 했다. 실제로 해당 년도에 행사를 진행하지 않았어도 기술적으로 다 만들어낼 수 있다는 것이다. 

 

 

고려거란전쟁에서 귀주대첩 같은 대규모 병력전투도 디지털 군중을 만들 때 딥페이크 기술이 사용되었다고 한다. 단순 CG 처리가 아니라 배우들의 표정들이 살아있어야 하기 때문에 딥페이크는 대규모 씬에도 적합하고 더욱 몰입도 높은 환경을 제공한다. 

 

 

이미 우리가 소비하고 있는 콘텐츠에서도 활발하게 딥페이크 기술을 이용하여 보다 높은 리얼리티를 제공하고 있는 것이다.

 

교육에 있어서도 더 높은 몰입감을 제공하여 학습 능률을 최대화 할 수도 있다. 아인슈타인이 직접 물리를 가르친다던지 학습자들의 언어 수준에 맞는 유명인이 원어민 교사가 되어 다양한 대화를 나누며 성장시킬 수도 있다.

 

의료 분야에서도 실어증을 겪는 환자의 목소리를 복원하거나 맞춤형 의사소통 장치를 제공하는데 활용될 수 있다. 또한, 실제로 Team Gleason은 루게릭병 환자들의 목소리를 복제해 환자들이 본인의 목소리로 소통할 수 있도록 돕는 프로젝트를 진행했다. 이를 통해 그들의 가족과 감정적인 대화를 이어나갈 수 있도록 도움을 주기도 했다. 

 

미래의 딥페이크 작동 방식과 그에 따른 변화

물론 아직은 상상의 영역이긴 하지만 다양한 분야에서 변화가 있을 수 있다.

예를들어 특정 배우의 '브랜드'만을 캐스팅해 그 배우의 얼굴과 목소리로 대역이나 AI가 연기를 대신하는 세상이 올지도 모른다. 기술이 발전한다면, 배우의 컨디션에 영향을 받지 않고도 높은 리얼리티를 갖춘 콘텐츠를 제작할 수 있을 테니, 영화와 광고는 물론 그 외의 영역에서도 활용도가 무궁무진할 것 같다.

 

또한, 이 기술을 활용해 나를 대신해 활동하는 '디지털 대역'을 만드는 것도 가능할 것이다. 실제로 BBC의 한 기자는 자신의 목소리와 얼굴을 딥페이크로 대체해 보는 실험을 했다.

 

 

물론 아직은 부자연스러운 면이 많아 사람들에게 쉽게 간파되긴 했지만, 이론적으로 내 얼굴과 목소리뿐 아니라 사고와 의견까지도 AI가 학습해 내 대표 역할을 할 수 있는 시대가 다가올 수 있다.

 

이러한 가상의 대역이 회의에 참석해 내 입장을 대변하고, 주요 사항을 요약해 보고한다면, 나는 중요한 결정을 내리는 데만 집중할 수 있다.

이런 기술이 사회에 긍정적이고 효율적으로 활용된다면, 우리는 일의 방식뿐만 아니라 시간과 에너지를 소비하는 방식을 완전히 새롭게 재구성할 수 있을 것이다.

 

어떻게 다뤄야 할까?

딥페이크 기술은 분명 다양한 분야에서 혁신적인 가능성을 제공하지만, 지금도 범죄에 악용되는 케이스가 많아지고 있으므로 가짜를 구별해낼 수 있어야 한다.

 

기술적으로는 머신러닝, 신경망, 포렌식 분석을 활용한 딥페이크 탐지 시스템이 계속 발전하고 있다. 실시간 분석이 가능하고 자동화된 탐지 도구의 개선은 필수적이며, 이는 딥페이크 콘텐츠의 급증에 대응하기 위한 핵심적인 요소가 될 것이다.

 

정책적 측면에서는 국제적 협력을 통해 AI 규제와 책임성을 강화하려는 노력이 이어지고 있다. 특히 AI가 생성한 콘텐츠에 대한 라벨링 의무화가 논의되고 있으며, 딥페이크 콘텐츠에 대해 추적 가능성을 높이고 워터마크 삽입과 같은 안전 장치가 마련되고 있다. 이러한 정책적 노력이 없다면, AI가 생성한 콘텐츠가 현실 세계에 미치는 영향을 제어하기 어려울 것이다.

 

또한, 대중 인식의 제고도 중요하다. 미디어 리터러시 교육을 강화하여 대중의 비판적 사고력과 정보 검증 능력을 향상시키는 것이 AI 기반 허위 정보에 대한 대응력 강화를 위해 필요하다. 디지털 시대에는 모든 정보를 의심하고 검증하는 ‘제로 트러스트’ 마인드셋이 필수적인데, 특히 가상 현실과 메타버스처럼 몰입형 환경에서는 이러한 의심과 검증의 태도가 더욱 중요해질 것이다.

 

결국, 모든 기술은 양면성을 가지고 있으며, 장점만큼이나 그로 인해 발생하는 문제들도 면밀히 다뤄져야 한다. 딥페이크 기술이 사회에 건강하게 뿌리내릴 수 있도록, 기술의 발전과 함께 윤리적 가이드라인, 법적 보호장치, 그리고 기술의 올바른 활용을 위한 교육이 함께 이루어져야 할 것 같다.