제9회 전국동시지방선거를 앞두고 인공지능(AI) 기술을 악용한 딥페이크 허위정보 확산 우려가 커지는 가운데, 선거의 공정성과 민주주의 질서를 훼손하는 불법 선거 콘텐츠에 대한 각별한 주의가 요구되고 있다.

최근 실제 후보자의 얼굴과 음성을 정교하게 합성한 딥페이크 영상이 사회적 문제로 떠오르면서 선거관리당국은 유권자들에게 “검증되지 않은 영상은 공유하지 말고 반드시 사실 여부를 확인해 달라”고 당부했다.

중앙선거관리위원회는 온라인과 사회관계망서비스(SNS)를 통해 유포되는 가짜 영상이나 허위정보 게시물을 발견할 경우 신고·제보를 적극 활용해달라고 안내하고 있다.

특히 공직선거법은 선거운동을 목적으로 한 AI 기반 딥페이크 영상·음성·이미지의 제작과 유포를 엄격하게 제한하고 있다.
 
현행 공직선거법에 따르면 선거일 전 90일부터 선거일까지 선거운동을 위해 인공지능 기술로 제작한 가상 음향·이미지·영상 등을 제작·편집·유포·게시·상영하는 행위는 전면 금지된다.

규제 대상은 실제와 구분하기 어려운 수준의 AI 생성 콘텐츠 전반이며, 후보자 관련 허위정보를 확산하거나 특정 후보의 당락에 영향을 줄 목적으로 악용될 경우 강력한 처벌 대상이 된다.

당선 또는 낙선을 목적으로 허위 사실을 공표하거나 비방성 허위 콘텐츠를 유포할 경우 허위사실공표죄 등이 적용될 수 있으며, 최대 7년 이하 징역 또는 수천만 원대 벌금형이 가능하다.

선거 제한 기간이 아니더라도 AI 기술로 만든 콘텐츠를 선거운동에 활용할 경우에는 반드시 ‘인공지능 기술 등을 활용해 제작된 가상 정보’라는 사실을 유권자가 명확히 인식할 수 있도록 표시해야 한다.

표시 의무를 위반하거나 허위 정보와 결합된 악의적 콘텐츠를 유포하는 경우 역시 선거법 위반으로 처벌받을 수 있다.
 
딥페이크는 선거뿐 아니라 보이스피싱, 메신저 피싱, 지인 사칭 범죄 등 각종 범죄 수단으로 악용되는 사례도 늘고 있다. 전문가들은 “AI 기술 발전 속도만큼 정보 검증 능력과 시민의 디지털 경계심도 함께 높아져야 한다”고 지적한다.

선거관리당국은 유권자들에게 “자극적인 영상이나 음성을 접했을 때 즉시 공유하기보다 언론 보도나 공식 기관 등을 통해 사실 여부를 확인하는 태도가 중요하다”며 “가짜뉴스를 만들지도, 퍼뜨리지도 않는 책임 있는 시민의식이 공정한 선거를 지키는 힘”이라고 강조했다.

한편 위반행위 신고와 제보는 중앙선거관리위원회 홈페이지 또는 전국 어디서나 전화 1390을 통해 가능하다.