오늘은 어플로 만든 딥페이크(deepfake) 영상이 어디까지 처벌 가능한지에 대해 알아보겠습니다.
딥페이크(deepfake) 영상이란 무엇일까요? 딥페이크란 인공지능의 학습법인 딥러닝(deep learning)과 '속이다'란 뜻의 페이크(fake)가 만난 합성어입니다. 말 그대로 인공지능에게 특정 인물의 얼굴과 신체부위를 학습 시켜서 영상을 진짜처럼 속인다는 거에요.
딥페이크(deepfake)는 어떤 원리로 만들어질까요?
위의 사진을 봐주세요. 배우 에이미 아담스가 니콜라스 케이지의 얼굴로 바뀝니다. 예를 들면 이런겁니다. 우선 A라는 대상의 얼굴이 나오는 사진이나 영상 자료를 모읍니다. 그리고 합성하고자 하는 영상을 가져옵니다. 이제 A와 관련된 자료들과 합성하고자 하는 영상을 인공지능 프로그램에 입력합니다. 인공지능은 합성할 영상에 나오는 인물의 눈, 코, 입과 대상A의 눈, 코, 입의 위치를 계산해서 가장 알맞은 자리에 두 자료를 겹쳐 넣습니다. 프레임 단위로요. 프레임이란 영상을 만들기 위해 모여진 한장한장의 사진이라고 보시면 되겠습니다.
쉽게 애니메이션을 생각하면되요. 우리가 보는 영화들도 사실은 한장한장 프레임이 넘어가서 생기는 것들이거든요. 보통 1초에 24프레임이 들어갑니다. 1초에 우리는 24장의 사진을 보는 셈이지요. 이 사진 하나하나를 인공지능이 합성을 시킨다음 빠르게 재생시켜 영상으로 보여준다고 생각하시면 됩니다. 예전에는 포토샵으로 한장한장 합성했기 때문에 동영상은 꿈도 못꿨었는데 이제는 인공지능(AI)의 발달로 엄청난 양의 사진을 합성할 수 있게 된 거에요. 그 많은 합성된 사진이 모여 영상이 된 것이 바로 딥페이크입니다.
말론 브란도가 살아돌아온다면?
딥페이크(deepfake) 기술의 장점이라고 할 수 있는 부분입니다.
영화 산업에서 더 다양한 연출을 할 수 있도록 도와줄 수 있습니다. 예를들면 영화 대부(god father)로 유명한 말론 브란도라는 전설적인 배우가 있죠. 지금은 사망한 배우입니다. 그런데 영화감독이 말론 브란도를 꼭 자기 영화에 다시 출연시키고 싶은 겁니다. 이 씬에서는 이 배우가 너무나 필요한 거에요. 이때 딥페이크 기술은 감쪽같은 연출을 가능하게 해줍니다. 비싼 배우를 캐스팅하지 않고 이목구비 위치만 어느정도 비슷한 사람을 고용해서 그 씬을 연출할 수 있는 겁니다. 또한 어떤 배우의 아주 어릴적 모습이라던가, 아주 늙었을 때의 모습을 재현할수도 있습니다. 관객들의 입장에서는 풍성한 볼거리를 기대할 수 있겠죠.
딥페이크(deepfake)의 문제는 무엇일까요?
첫번째, 음란물 합성의 도구로 사용된다는 겁니다. 유명 연예인들의 경우 인터넷 상에 많은 사진과 영상들이 많아요. 당장에 유튜브만 가도 직캠영상들이 널리고 널렸죠. 이런 환경은 딥페이크 영상을 만들기 딱 좋은 환경입니다. 어느 유명 여자연예인이 인터넷 음란물에 자신의 얼굴이 합성된 것을 보고 놀라서 신고한 사례도 있었죠. 하지만 현실적으로 외국에서 만들어진 영상을 국내에서 추적하는건 굉장히 힘든 상황입니다.
두번째, 딥페이크 영상의 문제는 누군가가 마음만 먹으면 의도를 가지고 여론을 왜곡할 수 있다는 것이에요.
오바마가 트럼프를 욕하는 영상입니다. 그런데 실제로 이런 말을 했을까요? 아니요 전혀 그런 욕을 한 적이 없습니다. 지금 정치 뉴스를 보면 활자로 된 신문에서 가짜뉴스가 천지입니다. 그런데 앞으로 가짜 영상이 널리 보급되어 버린다면 어떻게 될까요? 어떤 정치인이 좋은 정치인인지, 어떤 정치를 펼치는지 제대로 확인하기가 더더욱 어려워지게 됩니다. 앞으로 이런 딥페이크를 선별해 낼 수 있는 프로그램을 만드는게 절실해질 거에요.
세번째, 어플로 일반인들이 손쉽게 딥페이크 영상을 만들 수 있는 환경까지 왔다는 것입니다.
요즘은 포토샵 말고도 훨씬 간단하게 사진을 편집하는 프로그램이 많이 나왔죠? 딥페이크 영상도 마찬가지입니다. 처음에는 고사양의 컴퓨터가 있어야 가능했던 일이 이제는 간단하게 어플 하나로 해결되는 수준이 되었습니다. 이건 앞으로 더욱 간소화되고 편해질거에요. 가까운 지인중에 누군가 내가 나왔던 사진이나 영상을 이용해 나쁜 마음을 먹는 경우 자신의 얼굴이 합성된 음란물이 떠돌아다닐수도 있습니다. 사진이나 영상도 마음대로 찍고 공유하기 힘든 세상이 되어버린거죠 ㅠㅠ
그렇다면 딥페이크 영상을 처벌할 수 있는 방법은 없을까요?
최근에 법무부에서 발표한 자료에 따르면 딥페이크 영상과 관련된 [성폭력범죄의 처벌 등에 관한 특례법]이 개정됐다고 합니다. 2020년 6월 25일부터 딥페이크 영상을 올릴 경우
1. 반포, 판매 등의 목적으로 사람의 얼굴, 신체, 음성에 대한 촬영물, 영상물 등을 성적 욕망, 수치심이 유발될 수 있게 편집, 합성, 가공하면 5년 이하 징역 또는 5천만원 이하 벌금을 받게 됩니다.
2. 편집물, 합성물, 가공물 또는 복제물을 반포, 판매 등을 한 자는 5년 이하 징역 또는 5천만원 이하 벌금을 받게 됩니다.
3. 영리를 목적으로 정보통신망을 이용해 반포, 판매하면 7년 이하 징역으로 가중처벌 하도록 하였습니다.
라고 말하고 있습니다. 그 전에는
1. '허위사실 적시로 인한 명예 훼손죄- 5년 이하 징역, 10년 이하 자격정지 또는 1천만원 이하 벌금'
2. '음화 반포죄 - 1년 이하 징역 또는 500만원 이하 벌금'
등이 있었는데 이 처벌이 약했다고 판단한 것이지요. 그래도 이렇게 강화가 되서 다행입니다.
지금까지 딥페이크란 무엇이고 불법적인 일에 사용될 경우 어디까지 처벌될 수 있는가에 대해 알아보았습니다. 솔직히 좀 무섭기도 하고, 어떤 범죄가 일어날지 걱정이 되기도 합니다. 기술의 발전에는 그만큼의 책임이 따르는 법인데 현재 우리가 그 책임을 감당할만한 능력이 되는지에 대해 물어보는 게 필요 할 것 같아요. 읽어주셔서 감사합니다. 뿅!
