사이버보안학과

[아시아타임즈=김보연 기자] 정부가 제21대 대통령선거를 2달 앞두고 인공지능(AI)을 활용해 정치인에 대한 비방·허위 정보를 유포하는 '딥페이크'와의 전쟁에 나섰다. 선거관리위원회는 포털·SNS사들과 긴밀한 협력을 통해 딥페이크에 강력 대응할 방침이다.

전문가들은 생성형 AI를 이용한 딥페이크 품질이 뛰어나 딥페이크 판별 및 처벌 프로세스가 늦어질 수 밖에 없는 점을 강조하며, 대선기간 딥페이크 모니터링 및 처벌 강화가 필요하다고 강조했다. 

15일 업계에 따르면 인스타그램, 틱톡 등 소셜네트워크서비스(SNS)과 인터넷 커뮤니티를 중심으로 유력 대선후보들을 풍자·비방하는 딥페이크 영상들이 올라오고 있다. 틱톡에는 한 대선후보가 유치장에 갇혀있는 딥페이크 영상이 올라오는가 하면, 수의를 입은 가짜사진 등이 빠르게 유포되고 있다. 

딥페이크는 인공지능의 딥러닝(Deep Learnig) 기술과 페이크(fake)의 합성어로, 실제와 구분이 어려울 정도로 정교하게 만들어진 이미지 음성, 영상 등을 말한다. 

미국 대선에서도 딥페이크 영상이 큰 논란이 됐다. 대표적으로 작년 미국 대선 경선에서는 바이든 대통령의 위조 음성 목소리로 유권자들에게 “투표하지 말라”는 전화가 왔다. 이 전화는 AI의 딥페이크 음성으로 밝혀져 미 연방통신위원회는 형사처벌과 함께 벌금 82억원을 피의자에게 부과했다.

미국은 현재 연방차원의 입법은 없으나, 주별로 딥페이크 제작·유통을 규제하고 있다. 공직선거 관련 최초로 딥페이크 법률을 통과시킨 텍사스주는 선거일 30일 이전엔 선거운동을 위해 딥페이크를 제작·유포하는 행위를 전면 금지하고 있다. 캘리포니아주는 작년 10월 AI 관련 18개 법률을 제정했고 선거기간 AI 활용한 선거홍보물 모두 공개, 허위 사실 콘텐츠를 악의로 배포하는 행위 금지 등을 규정했다.

국내에서는 선거운동 기간 중에는 딥페이크 영상을 전면 금지하지만, 선거운동 기간이 아닐 경우 딥페이크 영상을 표시하는 일정한 제한 하에 허용하고 있다. 

공직선거법은 선거운동을 목적으로 선거일 전 90일부터 선거일까지 AI 기술 등을 활용한 딥페이크 정보 제작·유포 행위를 전면 금지하고 있다. 이를 위반하는 경우에는 부정선거운동죄에 해당해 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금을 처벌받게 된다.

중앙선관위원회 공보과 관계자는 "딥페이크 영상이 공직선거법에 위배됐는지는 '선거운동을 위하여'라는 규정요건에 맞는지를 봐야한다"며 "아직 처벌 사례는 없다"고 말했다. 중앙선관위는 작년 국회의원 선거 때엔 딥페이크 삭제 388건, 준수종용 2건, 경고 1건 등 391건의 행정조치를 했다.

중앙선관위는 사이버조사과에서 딥페이크 판별을 전담하고 있으며, 특히 조기 대선을 앞두고 행정안전부, 대검찰청, 경찰청 등 10개 기관 및 온라인 플랫폼과 긴밀히 공조 중이다.

중앙선관위는 지난 11일 선거기간 법 위반 게시물에 대한 삭제 요청에 한국인터넷자율정책기구(KISO) 회원사들이 적극 협조해줄 것을 당부했다. 이날 간담회에는 네이버, 카카오, 네이트, 이스트에이드, 뽐뿌 등 국내 주요 포털사와 커뮤니티, AI 챗봇 관련 사업자 실무진이 참석했다. 선관위 측은 “‘실제와 구분하기 어려운’이라 함은 직관적으로 유권자가 일반적인 상식을 가지고 구별이 가능해야 함을 의미한다”며 “조금이라도 (실제로) 오인할 가능성이 있다면 법 위반에 해당된다”고 설명했다.

중앙선관위는 시각적 탐지와 범용 프로그램 활용, AI 자문위원 감별 등 3단계로 세분화된 감별을 실시할 예정이다. 포털·커뮤니티사이트 초기화면에 신고·제보 배너 게시 등 AI 콘텐츠의 선거운동 활용여부에 대한 감시도 강화하고 있다.

곽진 아주대 사이버보안학과 교수는 "페이스북, 인스타 등 SNS에 올라오는 후보자 비방 딥페이크는 바로 판별하는게 쉽지 않아 처벌이나 규제가 흐지부지되고 있다"며 "플랫폼들의 자체 정화 노력과 법제도의 처벌 강화 노력이 동시에 수반되야 한다"고 말했다.

일각에서는 딥페이크 정보들이 쏟아지는 AI 일상화 시대에 법제도 개선 및 관련 기술 개발에 앞서 디지털 리터러시 교육에 나서야된다는 의견도 제기됐다.

김태원 한국지능정보사회진흥원 수석연구원은 2월 발표된 보고서에서 “디지털 리터러시는 정보를 비판적으로 수용하고, 허위정보에 현명하게 대처하며 자신의 디지털 자산을 보호하는데 필수적인 역량”이라며 "대중이 직관적이고 효과적으로 딥페이크를 탐지·차단할 수 있는 디바이스 및 디지털 서비스 개발 방안이 필요하다"고 분석했다.

https://www.asiatime.co.kr/article/20250414500331#_enliple%23_mobwcvr#_mobwcvr