영상에 얼굴을 합성하는 기술인 딥페이크(인공지능 영상 합성). 이를 자동 탐지하는 시스템을 개발한 팀이 있다. 본교 사이버보안전공 학생들이 모인 프로젝트 팀 ‘딥트(DEEP't)’다. 딥페이크 자동방지 시스템을 개발해 2020 스타트업 스토리텔링 경진대회에서 대상을 탄 딥트의 강미현(사이버·17)씨, 김연희(사이버·17)씨, 유현선(사이버·17)씨를 1월 학교에서 만났다. 팀원인 백현정(사이버·17)씨와 유예린(사이버·17)씨는 개인 일정상 인터뷰에 참여하지 못했다.
최근 유명인의 얼굴을 음란 영상물에 합성하는 딥페이크 기술이 사회 문제로 대두됐다. 이에 1월13일 ‘여성 아이돌 딥페이크 반대청원’이 올라왔고 39만명이 동의했다. 딥페이크란 실존하는 인물의 얼굴이나 특정 부위를 인공지능 기술을 활용해 합성한 영상 제작 기술을 뜻한다. 기술의 발전으로 영상이 점점 더 자연스럽고 정교해지는 수준에 도달하면서 진위 여부를 가리기 어려워지고 있다. 이제는 딥페이크 기술을 악용해 유명인뿐만 아니라 지인들의 얼굴을 음란물에 합성해 유포하는 일도 빈번하게 일어나고 있다.
딥트는 딥페이크 기술이 범죄에 악용되는 것을 막기 위해 인공지능을 활용한 자동 탐지 시스템을 개발했다. 딥트팀에서 개발한 시스템이 영상을 프레임 별로 판단해 영상이 딥페이크로 만들어졌는지 여부를 가려낸다. 딥트 웹페이지에 영상을 첨부하면 해당 영상의 진위 여부를 알 수 있다. 시스템은 일반인에게 공개될 웹페이지와 기업에게 제공될 서비스로 나뉘어 있다.
이들은 사이버보안전공 졸업 프로젝트에서 팀을 이뤘다. 프로젝트 주제를 고민하던 중 AI에 대한 이야기가 나왔다. 이후 다른 팀원이 사이버 범죄 예방에 관한 주제를 제안해 딥페이크 자동방지 시스템을 구상하기 시작했다. 강씨는 “딥페이크라는 주제가 보안뿐만 아니라 영상처리, AI와도 관련이 있다고 생각했다”고 말했다.
시스템 기획은 2019년 11월에 시작해 약 1년의 시간이 걸렸다. 긴 시간이었지만 5명의 팀원은 큰 이견 없이 프로그램을 만들 수 있었다. 이들은 입학 후 전공 수업에서 다양한 프로젝트를 함께 진행해 각자의 강점을 잘 알고 있었다. 강씨는 “사이버보안전공은 프로젝트 수업이 많다”며 “매번 프로젝트를 하니 팀원이 모이자 마자 누가 뭘 잘하는지 알고 있어 바로 역할 분담을 할 수 있었다”고 말했다.
전에 배워보지 않았던 분야에서 프로젝트를 진행하는 게 쉽지만은 않았다. 동영상의 딥페이크 여부를 감지하는 시스템을 만드는 작업은 처음이었기 때문이다. 유씨는 “학부 수업에서는 문자열 정보만 데이터 베이스로 다뤄 사진과 동영상을 비교적 적게 다룬다”고 말했다. 또 “사진은 관련 자료를 찾는게 어렵지 않지만 동영상은 참고 자료가 거의 없어 개발 문서를 보면서 하나하나 만들어야 했다”며 당시를 회상했다.
동영상을 다루는 작업이 쉽지 않았지만, 시스템 개발과 관련된 다양한 수업을 들었던 것이 도움이 됐다. 사이버보안전공은 보안, 인공지능, 블록체인 등 여러 분야를 접할 수 있는 커리큘럼이 갖춰져 있다. 이들은 “3, 4학년 때 인공지능, 생체 보안 수업을 들었기에 시스템 개발을 좀 더 수월하게 진행할 수 있었고, 수업을 통해 같은 지식을 공유하고 있어 팀원 간의 이해도도 높았다”고 답했다.
이렇게 오랜 시간을 투자해 만든 시스템을 졸업 프로젝트로만 끝내기 아쉬웠던 이들은 산학협동재단이 주최한 2020 스타트업 스토리텔링 경진대회에 도전했다. 그리고 대학(원)생들로 구성된 20팀을 제치고 지난 2020년 12월14일 대상을 수상했다.
대회에서 딥페이크 자동방지 시스템은 타 서비스 대비 2배나 빠른 탐지 속도와 99.9%의 탐지 성공률을 보여 주목을 받았다. 이에 더해 인공지능 공격에 대비할 수 있다는 게 큰 차별점이다. 강씨는 “인공지능을 공격하는 보안 이슈가 있는데, 시스템에 그런 공격을 방어하는 기술을 적용했다”고 말했다.
시스템이 차별점을 갖게된 데에는 지도 교수의 역할이 컸다. 김씨는 “양대헌 지도 교수님이 기술적 조언과 더불어 현실적인 문제도 많이 짚어주셨다”고 답했다. 이어 강씨는 “인공지능을 공격에 대비하기 위한 기술을 적용할 때에도 도움을 얻었다”고 덧붙였다.
이들은 수상팀에게 주어지는 혜택인 투자설명회는 진행했지만, 기업의 투자는 받지 않았다. 올해부터 기술을 좀 더 고도화하기 위해서다. 딥트팀의 시스템 외부 투자 유치는 잠시 미뤄졌지만 내년으로 기획한 상태이다.
투자 대신 기술의 고도화를 선택한 이유는 무엇일까. 이들은 당장의 이익보다 시스템의 정확도를 높이는 게 더 중요하다고 답했다.
“저희가 만든 시스템이 디지털 성범죄 영상의 딥페이크 탐지를 더 정확하게 할 수 있도록 기술을 보강하고 싶어요. 그리고 딥페이크 관련 자료를 통해 저희 시스템을 최적화할 수 있는 방향으로 나아가려 합니다.”