딥페이크 방지 캠페인

딥페이크 캠페인이 시작되었다. 

1. 딥페이크 캠페인이란?

인공지능(AI)기술의 악용을 방지하는 캠페인 입니다. 

전세계적으로 인공지능 기술을 악용한 가짜 영상과 가짜 음성 등 문제가 심각한 수준에 달하고 있다고 한국인공지능윤리협회가 발표했습니다.

이 캠페인은, 인공지능 사용자와 소비자들을 대상으로 딥페이크 기술을 사용해서 악의적인 콘텐츠를 만들거나 배포하지 않겠다는 서명운동으로 시작합니다. 

더불어 딥페이크 기술을 잘못 이용할 때의 위험성을 알리며 이러한 위험을 방지하기 위해 기술 개발 지원도 나설 계획이라고 합니다.

 

https://news.naver.com/main/read.nhn?mode=LS2D&mid=shm&sid1=105&sid2=230&oid=028&aid=0002480641

Q&A

딥페이크 기술?

딥페이크 기술이란 인공지능 기술로 만들어진 가짜 영상이나 음성을 말합니다. 더불어 인공지능 기술로 가짜 뉴스들을 만들어 내는 것도 이에 속합니다.

 

딥페이크를 만드는 원리는 GAN(생성적 적대 신경망)을 이용하는 것 입니다.  

이를 풀어서 설명하자면, 두 가지 머신러닝 모델을 만드는 것입니다. 하나의 머신러닝 모델은 여러 데이터 세트를 훈련시켜 가짜 동영상을 만듭니다. 다른 하나는 이러한 가짜 동영상을 탐지하는 모델을 만듭니다. 

가짜 동영상을 탐지하는 모델이 가짜 동영상을 탐지할 수 없을 때 까지 계속해서 학습시켜서 정말로 탐지할 수 없은 가짜 동영상을 만들어 내는 것입니다. 

딥페이크 감지 기술?

GAN이 자체적인 훈련으로 계속해서 학습되고 있기 때문에 이를 감지하는 것은 어렵습니다. 

이 때문에 전세계적으로 많은 투자를 해서 해결하려고 노력하고 있지만 완벽한 탐지 기술은 아직 인 것 같습니다.