딥 페이크(Deep Fake)와 디지털 포렌식(Digital Forensic)
7기 진희주
아래 사진 중 무엇이 실제 오바마의 사진일까?
네 장 모두 딥 페이크 기술을
통해 인공지능이 만든 오바마의 사진이다. 딥 페이크(Deep Fake)는 Deep Learning과 Fake의 합성어이다. 딥 페이크는 AI를 이용해 특정인의 얼굴이나 목소리를 합성한 사진, 영상, 음성 편집물 및 그 기술을 통칭하는 단어이다. 딥 페이크 기술은 새로운 유형의 신경망(머신러닝 알고리즘) 발전으로 가능해졌다.
딥 페이크 기술을 활용하면 유명인의
얼굴을 대역에 합성해 손쉽게 영상을 만들거나 세상에서 사라진 멸종 위기 종이나 과거의 사람들을 생생하게 재현할 수도 있게 된다. 여러 사람의 얼굴을 통해 가상의 얼굴을 제작하여 사용하거나 스타일 트랜스퍼(Style
transfer)[1]를 활용해 겨울을 여름으로, 또는 화창한 날을 비 오는 날로 묘사하는 등 이미지의 환경적 맥락을 바꿀 수 있는 등 딥페이크 기술의 영상 • 사진 산업 분야의 활용도와
가치는 무궁무진하다.
하지만 딥 페이크는 엄청난 힘에
걸맞게 악용 가능성이 높아 그 위험성에 대한 논란이 최근 활발하게 이뤄지고 있다. 대표적인 악용사례는 유명 연예인을
합성한 불법 포르노, 전•현직 대통령의 얼굴을 합성한 가짜뉴스 영상 등으로 사회를 큰 혼란에 빠뜨릴 수
있음을 보여준다. 딥 페이크 범죄의 대상은 유명인을 넘어 점차 일반인에게까지 확장되고 있다. 헤어진 연인, 또는 지인의 얼굴을 다른 나체 사진이나 성인물 동영상과 합성하여 만든 딥 페이크 제작물을
온라인 상에서 유통하거나 이를 통해 협박하는 등 딥 페이크 영상은 점차 심각한 사회적 문제로 대두되고 있다. 2019년 4월 국내에서 큰 논란이 되었던 텔레그램 N번방 사건에서도 딥페이크를 악용한 사진이 거래, 유포된 정황이 확인되어 그 심각성이
전면으로 드러나게 되었다.
딥 페이크 기술의 악용 가능성에
따라 법무부는 딥페이크 처벌 강화법을 국회 본회의에 통과시켰고, 해당 법안에 따르면 딥페이크 포르노를
제작 및 배포한 자는 ‘5년 이하의 징역 또는 5천만 원 이하의 벌금형’을 선고받는다. 또한, 영리 목적의 악용이 밝혀지면 가중
처벌 대상에 해당해 7년 이하의 징역이 가능하다.
그러나 사회적 규범의 마련과 더불어
딥 페이크 영상임을 입증할 수 있는 기술의 발전이 필요하다. 최근 딥 페이크의 악용 여부를
판별하기 위해 ‘디지털 포렌식(Digital
forensic)’ 개념이 주목을 받고 있다. 디지털 포렌식 전문기업 ‘KDFT 한국 디지털 포렌식 기술표준원㈜’ 최규종 대표이사는 “점점 고도화되며 높은 파급력으로 사회적 혼란을 야기하는 딥 페이크 기술에 대해 적극적인
대처를 해야 할 시점”이라며 “데이터 역추적으로 위·변조를 판별할 수 있는 디지털 포렌식이 범용화되며 딥 페이크 범죄에 대응하는 방안으로 주목받는 추세”라고 덧붙였다. 디지털 포렌식을 통해 딥 페이크 악용이 의심되는 영상을 탐지하고 위·변조 여부를 판별하여 사건의 스모킹 건을 찾아내는 것이다. 실제로, KDFT 한국 디지털 포렌식 기술표준원㈜에서는 최근 피해자의 카카오톡 프로필 사진과 다른 여성의 나체사진과 합성한 제작물로 협박, 강제적인 만남을 이어간 사건에 대하여 해당 사진의 딥 페이크 여부 판별과 더불어 타 경로로의 유출 정황까지 디지털 포렌식으로 파악하여
사건의 실마리를 제공, 수사망을 좁히는 것에 조력하기도 했다.[2]
인공지능(AI) 기업 ‘머니브레인(MoneyBrain)’은 다양한 베이스 모델에게 진짜와
가짜 영상을 반복 재생시키는 학습법을 통해 영상의 진위를 판단할 수 있는 딥러닝 모델을 개발하고 있다. 특히 연구의 객관성을 높이고자 독일 뮌헨 공대와 이탈리아 나폴리 페데리코 2세 대학 연구진이 개발한 ‘페이스포렌식++(FaceForensics)’ 데이터를 학습용 데이터베이스로
활용하고 있다. 이를 통해 머니브레인의 딥러닝 모델은 ‘페이스포렌식++’에 적용된 네 가지 합성 방법(DeepFakes, Face2Face, FaceSwap,
NeuralTexture) 영역에서 모두 약 99%의 높은 판별 능력을 보인다고 한다.[3]
한국과학기술원(KAIST) 전산학부 이흥규 교수 연구팀이 KAIST 창업기업인 디지탈이노텍과 함께
인공신경망을 이용해 디지털 사진의 변형 여부를 탐지하는 소프트웨어 '카이캐치'(KAICATCH)를 개발했다. 연구팀은 2015년 6월부터 '디지털 이미지 위·변조 식별 웹서비스'를 통해 수집한 30여만 장의 이미지 데이터, 포렌식 영상 데이터, 딥 페이크 실험 영상 자료 등을 정밀 분석해 다양한 변형을 탐지해낼 수 있는 소프트웨어를
개발했다. 특히 잘라 붙이기, 복사 붙이기, 지우기, 이미지 내 물체 크기 변화와 이동, 리터칭 등 변형들에서 발생하는
변이를 분류한 뒤 '필수 변이'로 정의해 탐지하도록 했다. 이를 통해 학습한 인공지능 엔진은 전통적인 영상 포렌식 기술 등에 쓰이는 픽셀 단위의 미세한 변화를 탐지하는 기술을 응용해 사진이
변형된 영역을 추정할 수 있다.[4]
카이캐치를 이용해 사진 변형 여부를 탐지한 결과 / 필수 변이 탐지 결과, 왼쪽부터 원본, 변형 적용 이미지, 분석 결과
딥 페이크로 발생하는 심각한 범죄를
해결할 수 있는 디지털 포렌식 및 AI 기술의 발달은 지속 가능한 발전을 위해 반드시 요구된다. Sustainable Development Goals의 측면에서 디지털 포렌식과 AI 기술로 딥 페이크의 악용을 검출하는
것의 중요성을 살펴보았다.
지속 가능한 개발 목표의 3번은 모든 연령층의 모든 사람을 위한 건강한 삶 보장과 복지증진이다. 현재 딥 페이크로 신체적이나 정신적으로
고통이 심각한 사람들을 고려했을 때 범죄 발생 시 추적 및 검증을 위해 디지털 포렌식 등의 기술 발전이 지속 가능한 개발을 위해 필요함을 알 수
있다.
지속 가능한 개발 목표의 9번은 회복력 있는 사회기반시설 구축, 포용적이고 지속 가능한 산업화
증진 및 혁신 촉진의 방향이다. 산업 발전 과정에서 딥 페이크 기술이 지닌 가능성을 제한하지 않기 위해서라도 그 악용을
제한할 수 있는 능력이 필요하다.
지속 가능한 개발 목표의 12번은 지속 가능한 소비 및 생산 양식의 보장이다. 딥 페이크는 하나의 상품으로 소비되고
생산되기 때문에 지속 가능한 소비와 생산을 위해서는 합법적인 딥 페이크 상품을 구별할 수 있어야 할 것이다.
지속 가능한 개발 목표의 16번은 모든 수준에서 지속 가능한 개발을 위한 평화롭고 포용적인 사회 증진, 모두에게 정의에 대한 접근 제공
및 효과적이고 책임 있으며 포용적인 제도 구축이다. 디지털 포렌식 등 관련 기술은
책임 있고 포용적인 사회 제도로 구축되어 딥 페이크를 활용한 범죄로부터 평화로운 사회를 만들어갈 수 있기에 지속 가능한 개발을 위해 필요하다.
[1] 이미지의 시간이나 날씨, 계절 혹은 예술적
편집 등과 같은 배경을 사진과 같이 현실적으로 변환시켜주는 기술을 의미한다. (참조자료:Fujun Luan, Sylvain Paris, Eli Shechtman & Kavita Bala (2017).
Deep photo style transfer. arXiv:1703.07511. Retrieved from
https://arxiv.org/abs/1703.07511)
[2] http://www.newsworker.co.kr/news/articleView.html?idxno=91029
[3] https://www.fintechpost.co.kr/news/articleView.html?idxno=116631
[4] https://www.yna.co.kr/view/AKR20201102134600063
Comments
Post a Comment