딥페이크(Deepfake)의 장점과 문제점 | 가짜 뉴스와 디지털 부활

달리로 만든 딥페이크로 만들어진 가짜뉴스에 놀란 사람

 

2022년 2월 러시아가 우크라이나를 침공한 지 불과 며칠 만에 젤렌스키 우크라이나 대통령이 러시아에 항복하는 영상이 SNS에 등장했어요.
영상에서 젤렌스키 대통령은 자국 군인들에게 항복하라 말해 많은 이들이 혼란스러워했지만, 흔들리는 카메라와 흐릿한 화면 덕분에 딥페이크(deepfake)로 만든 가짜영상임을 빠르게 알아낼 수 있었어요.

해당 영상이 가짜임을 발견했지만 사건을 통해 많은 사람에게 딥페이크가 위험하고 두려운 AI 기술로 기억된 것 같아요.
하지만 사실 딥페이크 자체는 위험한 만큼 신비로움이 많은 고도로 발전한 컴퓨터 기술이랍니다.
딥페이크를 통해 우리는 고인의 모습을 다시 본다거나 더 창의적인 작품을 경험할 수도 있어요!

빛과 그림자, 양면의 모습이 존재하는 딥페이크에 대해 더 자세히 알아볼까요?

 

 

---

 

1. 딥페이크(deepfake)란?

 

딥페이크의 가짜, 모조품, 위조, 사기를 뜻하는 페이크(fake)와 인공 지능 기술인 딥 러닝(Deep Learning)의 합성어로 인공지능 기술을 이용해 진위를 구별하기 위해 어렵게 만든 뉴스, 이미지, 영상 등을 뜻해요.
생성형 인공지능을 통해 더 쉽고 정교하게 '페이크'를 생산하는 것, 이것이 딥페이크라고 할 수 있어요.

딥페이크를 가능하게 하는 건, 생성적 적대 신경망(GAN, Generative Adversarial Networks)이라는 알고리즘이 두 개의 신경망을 경쟁 학습시켜 점점 정교한 결과물을 생산하기 때문이에요.

이걸 좀 더 쉽게 이야기해 보자면, CAN에는 두 명의 플레이어가 있어요.
하나는 진짜 같은 가짜 데이터를 만들어내는 '생산자'고, 다른 하나는 생산자가 만들어낸 데이터와 실제 데이터를 비교해 무엇이 진짜인지 구별하는 '판별자'인데요.
생산자는 판별자가 진짜와 가짜를 구별하기 어려울 때까지 계속 가짜를 생성해 내고 그 과정에서 데이터가 점점 리얼하게 만들어지는 거죠.

 

---

 

2. 디지털 부활 | 딥페이크로 살아나는 역사들

 

1) 갤럭시 초콜릿 광고에 출연한 오드리 헵번
오드리 헵번이 TV에 나와 이탈리아 시장을 거닐며 초콜릿을 먹는 모습을 상상해 볼 수 있나요?
벌써 10년 전이 된 2014년에, 영국 갤럭시(Galaxy) 초콜릿 광고에서 버스를 타고, 운전기사와 눈짓을 주고받고, 초콜릿을 먹는 오드리 헵번의 젊은 모습을 볼 수 있어요.

오드리 헵번의 아들들이 이 광고에 어머니의 이미지를 사용하는 걸 허락했는데, 그들은 어머니가 초콜릿을 정말 좋아했을 거라고 생각했기 때문에 이 광고에 나오는 걸 자랑스러워했다고 하네요.

 

2) "스타워즈: 로그 원"에서의 디지털 재현
딥페이크와는 조금 다르지만, 마찬가지로 등장인물의 얼굴을 달리 보이게 해주는 고급 CGI(컴퓨터 생성 이미지)와 VFX(시각 효과) 기술을 이용한 '스타워즈: 로그 원'이라는 영화도 있어요.
딥페이크가 기존의 데이터(사진, 비디오 등)를 가지고 다른 인물에게 합성하는 방식이라면 위 기술은 실제 사람의 얼굴 등을 캡처해 합성한다고 볼 수 있겠죠?

 

3) "더 아이리시맨"에서의 디지털 화장 기술
이 영화에서는 배우들의 젊은 모습을 재현하기 위해 디지털 화장 기술을 사용했어요.
ILM(Industrial Light & Magic)에서 개발한 이 기술은 배우들의 얼굴에 특수 장비를 부착하지 않고도 고급 3D 스캔과 CGI를 결합하여 나이를 조정하는 데 사용됐답니다.
물론 이 또한 딥페이크는 아닙니다만, 영상의 인물을 실제와 다르게 만든다는 목표는 같아요!

 

---

 

3. 현실과 가상이 허물어진 경계 | 딥페이크가 불러오는 윤리적 딜레마

 

딥페이크는 예술적 목적으로는 재밌는 결과를 만들 수 있지만, 문제는 이 기술이 잘못된 손에 들어갔을 때 생겨요.

예를 들어, 유명인들의 얼굴을 이용한 가짜 포르노 영상이나, 정치인들의 가짜 연설 영상을 만들어서 사람들을 속이는 일이 벌어질 수 있어요.
이런 것들이 인터넷에 퍼지면, 사람들이 진짜인지 가짜인지 구별하기 위해 어려워져요..
게다가 이런 가짜 콘텐츠는 누군가의 명예를 심각하게 해칠 수 있고, 심지어는 선거 같은 중요한 사회적 이벤트에 영향을 미칠 수도 있어요.

 

1) 술에 취한 정치인
2019년에 미국의 정치인 낸시 펠로시가 술에 취해 연설을 얼버무리는 영상이 큰 논란이 됐죠.
안타깝게도 그 영상은 딥페이크로 만든 가짜영상이었는데, 당시에 소셜미디어를 통해 빠르게 확산하며 낸시 펠로시가 이유 없는 비난을 받기도 했습니다.

 

2) 유명인들의 명예 훼손
유명 배우나 가수들은 얼굴과 목소리 데이터가 많은지라 딥페이크의 피해 대상이 되기 더 쉬운데요.
가장 흔한 명예 훼손 영상으로는 유명 여성 인물들의 얼굴을 부적절한 영상에 합성하는 거예요.
이미 갤 가돗, 스칼렛 요한슨과 같은 할리우드 배우들이 자신들이 딥페이크의 피해자임을 주장했다고 합니다.

 

---

 

4. 우리가 고민해야 할 대응 방안

 

진짜 같은 가짜를 만들어내는 기술.
딥페이크는 분명 미래가 기대되는 멋진 기술임은 틀림없지만 우리가 가짜를 판별할 수 있을까 하는 두려움을 주기도 해요.
이 기술이 사회에 미칠 영향들을 생각해 보면, 대응 방안을 마련하는 게 정말 중요해 보여요.

우리가 생각해 볼 수 있는 첫 번째 대응 방안은 기술적인 대응 방법이에요.
인공지능을 이용해서 딥페이크를 찾아내는 거죠.

둘째로는 법정 대응이 있어요.
이미 여러 나라에서 딥페이크를 사용한 범죄가 늘어나고 있고, 이 범죄에 대처하기 위한 법률도 만들고 있답니다.
특히 사생활을 침해하거나 허위 정보를 유포하는 행위를 금지하는 방향으로 빠르게 논의가 이뤄지고 있는데요.
이런 법들이 실제로 잘 적용된다면 딥페이크로 인한 피해를 줄이는 데 도움이 될 것 같아요.

셋째로는 교육과 인식의 개선이에요.
딥페이크로 만든 유해한 영상이나 정보가 정말 옳지 못하다는 생각이 중요하다는 것이죠!
이 모든 딥페이크를 범죄행위로 인지하고 그것에 맞게 우리가 대응하는 자세가 점점 요구될 거예요.
그래서 많은 기관에서 이런 교육 프로그램을 실시하고 있다고 해요.

마지막으로 커뮤니티의 노력도 중요해요.
기술 전문가, 정부, 일반 시민 모두가 딥페이크 문제에 대응하기 위해 협력하는 거죠.
SNS를 보다가 딥페이크 콘텐츠가 보이면 바로 신고하는 것! 우리가 할 수 있는 쉽고 강력한 대응 방법이랍니다.

 

---

 

📧 마무리 인사

최근에 온라인 동영상 플랫폼에서 윤석열 대통령이 '영상으로 꾸며본 윤 대통 양심고백 연설'이라는 자막과 함께 영상으로 등장해서 화제였는데요.
모두 딥페이크 기술로 만든 위조된 목소리와 영상이었습니다.

중앙선거관리위원회에 따르면 2024년 1월 29일부터 2월 16일, 겨우 19일 동안 국내에 딥페이크 기술을 이용한 선거 운동행위를 한 영상이 무려 129건에 달했다고 해요.
분명 나날이 딥페이크를 이용한 범죄가 늘고 있지만, 영상 제작 방법이 날이 갈수록 빠르고 정교해져서 그 속도를 따라잡기 어려운 상황이라고 합니다.

인공지능 기술로 만든 가짜들이 무분별하게 퍼지고 있는 지금, 우리의 확실한 대응책이 무엇일지 곰곰이 생각하고 발 빠르게 행동해야 할 때인 것 같습니다.