제4차 산업 혁명기에 살아가고 있는 지금 AI는 우리 생활 곳곳에서 함께 하고 있다. 대표적인 예로 최근 이슈가 되고 있는 챗GPT 부터 의료기술, 금융 분야, 로봇산업까지.  그중에서도 딥페이크(Deepfa-ke)는 AI시대의 중심에 자리 잡고 있다. 딥페이크는 인공지능 학습 기술의 주축인 딥러닝(Deep Learning)과 가짜(Fake)의 합성어다.  기술이 처음 등장했을 때는 주로 연예나 예술 분야에서 창의적인 목적으로 사용됐지만 점차 정치, 사회적 문제에 악용되는 사례가 증가하고 있다. 최근에는 현실과 구분하기 어려울 정도로 정교한 가짜 이미지나 동영상이 선거과정에 이용되면서 정치적·사회적으로 큰 혼란을 야기하고 있다.  선거에까지 침투한 AI기술, 어떻게 악용되고 어떤 부작용을 낳을까?    지난 1월 뉴햄프셔주(州) 프라이머리(예비선거)를 앞두고 민주당 소속인 조 바이든 대통령을 사칭해 해당 경선에 불참할 것을 권하는 딥페이크 음성이 유포돼 주 정부가 수사에 착수했다. AI의 위협이 현실이 된 것을 증명한 사례다.  이처럼 선거운동에서 AI기술은 후보자가 부적절한 행동을 하는 것처럼 보이는 영상이나 후보자가 논란이 될 만한 정치적 발언을 하는 것처럼 조작된 영상을 만드는 데 이용되고 이렇게 만들어진 영상은 무분별하게 유포돼 허위정보를 양산하고 후보자의 이미지를 심각하게 훼손시킬 수 있다.  뿐만 아니라 딥페이크 기술이 점차 정교해지면서 진짜와 가짜를 구별하기 어려워지고 이로 인해 유권자들이 잘못된 정보에 기반 한 결정을 내릴 위험도 있다. 가짜 뉴스와 조작된 콘텐츠가 유권자의 올바른 판단을 방해함으로써 이는 선거 결과에 대한 신뢰를 떨어뜨리고 민주주의 과정에 대한 불신을 조장하기에까지 이른다.    이러한 AI기술의 부작용을 우려해 지난해 말 공직선거법이 개정됐으며 개정 선거법에 따르면 누구든지 선거일 전 90일부터 선거일 까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없다.    이에 따라 선관위는 제22대 국회의원선거를 앞두고 지난 1월부터 AI모니터링 전담요원을 지정해 모니터링을 강화하는 등 AI 기술을 이용한 위법 게시물에 대응하고 있다.  최근에는 플랫폼 기업들이 총선에서 악의적 선거운동용 딥페이크 사용 방지를 위한 공동선언을 채택했다. 업체간 공동 대응을 통한 자정노력으로 악성 딥페이크 영상 유통을 효율적으로 필터링 할 수 있을 것이라는 전망이 나온다. AI기술 발달이 사회문제로 부각되고 있는 현 시점에서 딥페이크 영상에 대한 규제조치가 마련된 것과, 기업 스스로 자정노력을 기울이는 등 사회 전반에 딥페이크의 부작용에 대한 대책 논의가 확산되는 것은 고무적이다.  하지만 콘텐츠 탐지 기술보다 생성 기술이 더 빠른 속도로 발전하기 때문에 이러한 규제와 딥페이크 사용 방지를 위한 노력에도 한계가 있을 수 밖에 없다.  조작된 정보로부터 민주주의를 지키는 데 종국적으로는 진짜와 가짜 사이에서 올바른 정보를 선별하려는 유권자 스스로의 노력이 필수적이다.    출처가 불분명한 콘텐츠는 무분별하게 받아들이기 앞서 진위여부에 대해 스스로 의구심을 가져볼 필요가 있다.  그 다음 허위정보나 위반게시물로 의심되는 콘텐츠는 피해 확산을 위해 선관위로 신속하게 제보해 주길 바란다.  딥페이크를 활용한 허위 정보, 뉴스, 비방 게시물을 배척하고 올바른 정보를 양산하는 데 유권자 모두 함께 힘을 모음으로써 제22대 총선이 가짜(Fake)가 아닌 사실(Fact)에 기반한 선거가 될 수 있길 기대한다.
주메뉴 바로가기 본문 바로가기