진화하는 ‘딥페이크' 주의보...사기ㆍ안보위협 가능성

박은결 기자(kyul8850@goodtv.co.kr)

등록일:2019-12-08 13:09:07

  • 인쇄하기
  •  크게
  •  작게
  • 페이스북
  • 트위터
4차 산업시대의 가장 주목받는 혁신 기술 중 하나인 ‘딥페이크'가 시간이 흐를수록 정교화되면서 이에 대한 경각심이 높아지고 있다. MS, 구글 등과 AI 전문가들이 딥페이크 영상 탐지 기술 발전을 위해 뛰어들고 있지만, 딥페이크 기술도 함께 진화하면서 잠재적 악용 가능성에 대한 우려를 표명하는 목소리가 높다.
 
 ▲빌 헤이더의 얼굴이 몇 초 후 아널드 슈워제네거로 바뀌는 딥페이크 영상(사진=유튜브 캡처)

정교화되는 기술에 진위 구별 어려워...'사기', '안보위협' 가능
 
딥페이크란 기계학습 방식인 ‘딥러닝'과 가짜 뉴스를 뜻하는 ‘페이크 뉴스'의 합성어로, 인공지능(AI) 기술을 활용한 정교한 딥러닝 알고리즘으로 조작된 이미지나 동영상을 말한다. 문제는 학습이 고도화되면서 동영상의 진위를 구별하기가 거의 불가능하다는 점이다.
 
실제로 오바마 전 미국 대통령 등 정치인을 대상으로 한 딥페이크 영상이 온라인에 확산돼 파장을 일으켰다. 이뿐만 아니라 유명인의 얼굴을 포르노에 합성한 콘텐츠들이 늘면서 딥페이크의 위험성이 사회문제로 떠올랐다.
 
딥페이크로 리벤지 포르노를 제작해 유포하는 경우, 소셜미디어를 통해 순식간에 전 세계로 확산되고 당사자는 되돌릴 수 없는 피해를 입게 된다. 유명 할리우드 배우 스칼렛 요한슨과 엠마 왓슨은 이로 인해 곤혹을 치렀고, 딥페이크 포르노 웹사이트에서 표적이 된 사람의 25%는 한국 여성 연예인으로 나타났다.
 
이 기술을 사기에 악용한 사례도 속속 등장하고 있다. 월스트리트저널의 보도에 따르면 영국에서 범죄자들이 이 기술을 이용해 한 에너지 회사의 최고경영자 목소리를 합성한 후 직원에게 전화를 걸어 22만 유로(약 3억 원)의 자금을 이체하게 한 사건이 있었다. 합성된 목소리는 물론 억양까지 실제와 매우 유사해 직원들도 알아채기 어려웠다고 한다.
 
세계 각국은 딥페이크가 국가 안보를 위협하고, 선거에 상당한 영향을 미칠 수 있다는 데 주목한다. 기술과 영상 기술로 권위자를 가장하면 대규모 금융거래나 군사적 명령을 승인할 수 있기 때문이다.
 
선거에 출마한 정치인의 말과 행동은 여론과 표심을 크게 좌우한다. 선거투표 전날 의도적으로 조작된 정보와 결합시켜 후보자에게 불리한 영상을 생성해 유포할 경우, 사실을 바로잡을 시간이 부족해 돌이킬 수 없는 결과를 가져올 수 있다.
 
신뢰할 수 없는 뉴스...‘진실의 종말'로 이어질 수 있어


이미지 편집 소프트웨어 포토샵으로 유명한 어도비의 부사장 데이나 라오는 "가짜 동영상을 만드는 기술의 진보가 워낙 빨라서 기술을 이용해 딥페이크를 적발하는 게 곧 매우 힘들어질 것”이라고 말했다.
 
사이버 보안 스타트업 딥트레이스에 따르면 올해 8월 온라인의 딥페이크 숫자는 작년 12월과 비교했을 때 거의 2배인 1만 4천678건으로 증가했다.
 
전문가들은 무분별하게 확산하는 가짜 동영상이 감지할 수 없는 수준까지 발전한다면 우리가 보고 듣는 모든 것을 신뢰할 수 없게 될 것이라고 우려한다. 트위터 관계자는 "이런 부류의 합성 미디어나 가짜 정보는 대중의 신뢰를 약화시키고 핵심적 이슈에 대해 생산적 토론을 할 역량을 갉아먹는다”며 무분별한 콘텐츠 양산과 범죄의 악용을 막기 위한 관련 법안의 필요성도 강조했다.
저작권자(c) 데일리굿뉴스. 무단전재-재배포금지
댓글작성0 / 최대600바이트(한글300자)선거실명확인
    goodtvICGICGCCMLOVE굿피플KCMUSA기독뉴스GoodPeople아멘넷