국내 이슈 분석
AI 딥페이크 제작물이 선거에 끼치는 영향
장한일 교수(국민대학교 정치외교학과)
hanilchang@kookmin.ac.kr
AI 딥페이크 제작물과 선거
2022년 6월 1일 제8회 전국동시지방선거를 하루 앞둔 5월 31일 윤석열 대통령이 국민의힘 남해군수 후보 박영일의 선거운동 동영상에 등장하여 ‘박영일 남해군수와 함께합시다!’라는 자막과 함께 “남해안 신문화관광벨트 구축”, “남해의 문화적 특성과 자연환경을 바탕으로 국립문화관광 SOC 유치 추진” 등의 말을 하였다. 이에 대하여 민주당 선거대책위원회 공명선거본부는 박 후보를 선거법 위반 혐의로 고발하였고, 박지현 민주당 공동비대위원장은 페이스북에서 윤석열 대통령이 자신의 이미지 사용을 허락하지 않았다고 하더라도 알고도 묵인했다면 대통령의 선거중립 의무를 명백히 위반한 것이므로 탄핵의 사유로 충분하다고 주장하였다. 그리고 바로 다음날 있었던 지방선거에서 장충남 더불어민주당 후보가 당선되었다.
출처: 위클리오늘(https://www.lawtimes.co.kr/LawFirm-NewsLetter/195759)
이상의 사건은 인공지능(Artificial Intelligence, AI)에 의해서 만들어진 딥페이크(deepfake) 영상이 한국의 선거에서 사용될 수 있음을 증명한 사건이었다. 당시 남해군 선거관리위원회는 해당 동영상이 AI라고 표기된 데다 대통령 선거운동 당시 이미 제작된 것이며 특정 후보를 지지한다는 ‘멘트’가 없으므로 선거법에 저촉되지 않는다고 판단했다(서울신문, 2022; AI Times, 2022). 그렇지만 이 사건은 딥페이크 영상 관련 법규 정비의 필요성에 대한 논의를 촉발시켰다.
이와 비슷한 사건들은 비단 한국에 국한되지 않고 세계적으로 나타나고 있다. 예를 들어, 작년 5월에 튀르키예에서 대통령 선거가 있었는데 야당 후보의 우세가 예상되고 있었다. 그런데 선거 운동 기간 동안 테러집단으로 간주되는 쿠르디스탄노동자당이 야당의 후보를 지지하는 영상이 갑작스럽게 확산되었고 여당 후보자의 당선으로 선거는 마무리 되었다. 그리고 선거가 끝난 이후 그 영상이 AI에 의해서 만들어진 딥페이크 영상이라는 것이 밝혀져 선거 결과에 대한 큰 논란이 발생한 바 있다. 슬로바키아 역시 몇 달 후 국회의원 선거 이틀 전에 야당 대표가 선거승리를 위해서는 돈을 뿌려야 한다는 딥페이크 음성이 퍼졌다. 이 음성이 딥페이크 기술로 만들어진 조작물이었음이 드러난 것은 튀르키예의 경우처럼 그 야당 대표가 이미 선거에서 진 뒤였다. 그리고 올해는 전 세계적으로 76개국에서 선거가 실시된다. 미국, 인도, 인도네시아 등 선거가 이미 치러졌거나 앞으로 실시될 예정인 나라들에서 정치인들의 딥페이크 영상/음성이 광범위하게 퍼지고 있는 실정이다.
AI 기반 딥페이크 선거 제작물에 대한 한국의 법적규제
각국은 AI 기반 딥페이크 제작물이 선거에 끼칠 영향력을 대비하기 위하여 관련 법규를 정비 중이며, 한국 역시 2023년 12월 28일 공직선거법의 제82조의8 신설 등 인공지능 기반 딥페이크 영상 등에 대한 규제조치를 만들었다. 신설된 법조항은 AI 기반 딥페이크 제작물의 사용과 관련하여 선거일 전 90일부터 선거일까지의 규제 내용과 그 기간이 아닌 때의 규제 내용으로 구분된다. 먼저 선거일 전 90일부터 선거일까지는 누구든지 선거운동을 위하여 “인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지, 또는 영상 등(이하 ‘딥페이크영상등’이라 함)을 제작·편집·유포·상영 또는 게시하는 행위를 할 수 없다”고 규정하고 있다. 즉, 선거운동과 관련하여 AI 기반 딥페이크 제작물의 사용을 전면 금지한다. 다음으로, 이상의 기간이 아닌 경우에는 선거운동을 위하여 AI 기반 딥페이크 제작물을 사용할 수는 있으나 그것이 “가상의 정보라는 사실을 명확하게 인식할 수 있도록 중앙선거관리위원회규칙으로 정하는 바에 따라 해당 사항을 딥페이크영상등에 표시하여야 한다”고 명시하고 있다. 따라서,선거일 전 90일부터 선거일까지는 선거운동을 위한 AI 기반 딥페이크의 제작물 사용이 허용되나 딥페이크 제작물임을 밝히지 않을 경우에는 법 제250조(허위사실공표죄)에 따라 처벌받을 수 있으며, 설사 밝혔다고 하더라도 허위사실을 공표하거나 비방하는 경우 법 제250조(허위사실공표죄)나 제251조(후보자비방죄)에 의거해 처벌받을 수 있다(법률신문, 2024).
신설된 법 조항은 2024년 1월 29일부터 AI 기반 딥페이크 제작물을 이용한 선거운동을 금지하는데, 중앙선거관리위원회는 한 달이 지난 2월 27일까지 총 129건을 적발하였다(한국기자협회, 2024). 다만 중앙선거관리위원회는 적발된 129건 모두에 대하여 경찰로 넘기지 않았다. 이는 적발된 경우들이 유권자를 속이기보다는 개인적인 표현행위 수준이라고 판단했기 때문이며, 다만 선거가 임박하여 악의적이고 조직적인 여론조작이 적발될 시 실제로 고발할 것임을 밝혔다(한국기자협회, 2024).
민주주의에 대한 위협 가능성과 표현의 자유 사이의 충돌
AI 기반 딥페이크 제작물이 선거에 끼치는 영향력에 대하여 한국을 포함하여 많은 나라들이 우려하는 이유는 선거가 민주주의 체제의 근간이며 통치의 정당성을 부여하는 핵심적인 과정이기 때문이다. 유권자들은 정치에 관한 정보를 의식적으로 혹은 적극적으로 수집하기도 하고 무의식적으로 혹은 수동적으로 접하게 되며, 이 과정에서 자신의 정치적 태도를 형성한다. 그리고 이는 선거에 관한 정보와 관련해서도 마찬가지이다. 따라서 유권자들에게 제공되는 정보는 투표 선택에 있어서 상당한 영향을 끼칠 수 있고, 왜곡된 혹은 거짓된 정보는 사실적 정보에 기반한 선택과는 다른 선택으로 유권자를 이끌 수 있다. 바로 이 지점이 일부 시민이나 정치적 세력들이 자신들이 원하는 혹은 자신들에게 유리한 선거 결과를 만들기 위하여 AI 기반 딥페이크 제작물을 활용하는 이유이다.
물론, 이미 허위사실공표에 대한 처벌조항이 제정되어 있는 것만 봐도 선거기간 동안 거짓된 정보가 유통되는 것을 막아야 할 필요성은 AI 기반 딥페이크 기술이 만들어지기 이전부터 존재했다. 그럼에도 불구하고 각국 정부가 AI 기반 딥페이크에 대하여 특별히 염려하는 이유는 누구나 적은 비용으로 가짜인지 분간하기 어려울 정도의 제작물을 매우 단기간에 생산할 수 있으며 이렇게 생산된 제작물이 소셜미디어를 통해서 단 몇 시간 만에 선거결과를 뒤바꿀 정도로 빠르게 유통될 수 있기 때문이다.
그러나 한편에서는 이번에 새롭게 신설된 규제 조항들이 표현의 자유를 제약할 가능성이 있다는 점에서 반대하는 의견도 존재한다(세계일보, 2024). 즉, 사실적 정보에 기반하여 개인의 의견을 효과적으로 표출·전달하기 위하여 AI 기반 딥페이크 기술을 사용하는 것조차도 선거일 90일 전부터 금지하는 것은 과도하다는 것이다. 게다가 AI 기반 딥페이크 기술을 적절히 사용하기만 한다면 후보자들에 관한 정확한 정보를 다른 시민들에게 효과적으로 전달할 수 있게 되므로 시민들이 올바른 투표 선택을 도울 수도 있다.
공직선거법 개정의 필요성
따라서 작년 말에 신설된 공직선거법 제82조의8은 표현의 자유를 보장하는 방향으로 개선될 필요가 있다. 이러한 개선의 필요성은 지난 2월 중앙선거관리위원회가 적발한 129건의 위반에 대하여 경찰로 넘기지 않기로 한 결정과도 일관적이다. 즉 중앙선거관리위원회조차도 신설된 조항이 개인의 표현의 자유를 침해하지 않는 범위 내에서만 적용하려 한다는 것이다. 그러나 그때처럼 공직선거법 제82조의8의 근본적인 개정없이 중앙선거관리위원회가 위반 사례에 대하여 선택적으로 그 조항을 적용하는 방식을 고수하는 결코 바람직하지 않다. 왜냐하면 그 과정에서 자의적 적용의 가능성이 열리게 되고, 이로 인하여 시민들 사이에서의 혼란과 선거 결과의 정당성에 대한 의심이 발생할 수 있기 때문이다.
개정의 내용은 선거운동에 AI 기반 딥페이크 기술을 사용할 수 있는 범위를 명확히 하거나 사용 금지 기간을 줄이는 방식이 가능하다. 구체적으로, 사실적 내용을 전달하거나 개인의 의견을 표현할 경우 AI 기반 딥페이크 제작물을 선거운동에 활용할 수 있도록 하는 것이다. 혹은 현행법상 선거일로부터 90일 전부터는 사용이 전면 금지되는데 그 기간을 줄이는 것이다. 2026년 제9회 전국동시지방선거가 있기 전에 공직선거법이 개정될 수 있길 희망한다.
참고문헌
- https://www.seoul.co.kr/news/politics/local1/2022/06/01/20220601003022
- https://www.segye.com/newsView/20240228521165
- https://www.lawtimes.co.kr/LawFirm-NewsLetter/195759
- https://www.weeklytoday.com/news/articleView.html?idxno=492099
- http://m.journalist.or.kr/m/m_article.html?no=55321
- https://www.aitimes.com/news/articleView.html?idxno=144922
|
본 글은 저자 개인의 의견이며, 한국행정연구원의 공식견해가 아님을 밝힙니다.
|
