【브레이크뉴스 대구】이성현 기자=경북 안동시선거관리위원회는 인공지능(AI)을 이용해 지방자치단체장을 찬양하는 노래를 제작·유포한 행위에 대해 제작자를 경찰에 고발하고, 제작자와 유포자에게 각각 과태료 500만 원을 부과하기로 결정했다.

안동시선관위에 따르면 A씨는 AI 기술을 활용해 특정 지자체장을 찬양하는 노래를 제작한 뒤, 선거운동기간 이전에 공개된 장소에서 이를 선거구민에게 들려준 혐의로 '공직선거법'상 사전선거운동 위반으로 경찰에 고발됐다.

또한 A씨와 해당 노래를 전달받아 단체 대화방에 유포한 B씨는 딥페이크 영상·음향물에 대한 표시 의무를 위반한 혐의로 각각 과태료 500만 원을 부과받았다. 이번 조치는 2023년 12월 28일 딥페이크 영상 등을 제한하는 규정이 신설된 이후 최초로 과태료가 부과된 사례다.

현행 공직선거법 제82조의8은 선거일 전 90일 이내 선거운동을 목적으로 인공지능 기술 등을 이용해 실제와 구분하기 어려운 음향·이미지·영상물(딥페이크 영상 등)을 제작·편집·유포·게시하는 경우, 해당 콘텐츠가 AI로 생성된 가상 정보임을 명확히 표시하도록 규정하고 있다. 이를 위반할 경우 최대 1천만 원 이하의 과태료가 부과될 수 있다.

아울러 공직선거법 제254조에 따르면, 선거운동기간 전에 법에서 허용하지 않은 방법으로 선거운동을 할 경우 2년 이하의 징역 또는 400만 원 이하의 벌금에 처해질 수 있다.

한편 중앙선거관리위원회는 제9회 전국동시지방선거를 앞두고 딥페이크 영상 등 위법 행위 확산을 차단하기 위해 지난 12월 5일부터 ‘딥페이크 등 허위사실공표·비방 특별대응팀’을 운영하고 있다.

특별대응팀은 SNS, 유튜브, 포털 및 온라인 커뮤니티 등과 협력 체계를 구축해 위법 게시물을 상시 모니터링하고, 삭제 요청 등 신속 대응 조치를 병행하고 있다.

중앙선관위 관계자는 “딥페이크 영상 등을 이용한 선거운동과 허위사실공표, 비방 행위는 유권자의 올바른 판단을 저해하고 선거의 공정성을 심각하게 훼손할 수 있다”며 “특별대응팀 운영을 통해 제9회 전국동시지방선거가 깨끗하고 투명하게 치러질 수 있도록 모든 역량을 집중하겠다”고 밝혔다.

<구글 번역으로 번역한 영문 기사의 전문 입니다. 번역에 오류가 있을 수 있음을 밝힙니다.>

 Andong City Election Commission Reports Person Who Created and Distributed a Song Praising Local Government Leader Using AI

First Fine Imposed Since New Deepfake Regulations

The Andong City Election Commission in North Gyeongsang Province has filed a police report against a producer who used artificial intelligence (AI) to create and distribute a song praising a local government leader. Both the producer and the distributor will be fined 5 million won each.

According to the Andong City Election Commission, Person A was reported to the police for violating the Public Official Election Act's Early Campaign Act by using AI technology to create a song praising a local government leader and then playing it to voters in a public location prior to the election campaign period.

Person A and Person B, who received the song and distributed it in a group chatroom, were each fined 5 million won for violating the labeling requirements for deepfake video and audio. This measure marks the first fine imposed since regulations restricting deepfake videos were enacted on December 28, 2023.

Article 82-8 of the Public Official Election Act stipulates that anyone who produces, edits, distributes, or posts audio, image, or video content (such as deepfake videos) that are difficult to distinguish from reality using AI technology for election campaign purposes within 90 days before Election Day must clearly indicate that the content is virtual information generated by AI. Violations of this provision may result in a fine of up to 10 million won.

Furthermore, Article 254 of the Public Official Election Act stipulates that anyone who conducts election campaigns using methods not permitted by law prior to the election period may be subject to imprisonment of up to two years or a fine of up to 4 million won.

Meanwhile, the National Election Commission (NEC) has been operating a "Special Response Team for Deepfake and False Information Dissemination and Defamation" since December 5th to prevent the spread of illegal activities, including deepfake videos, ahead of the 9th Nationwide Simultaneous Local Elections.

The Special Response Team has established a cooperative system with social media, YouTube, portals, and online communities to continuously monitor illegal posts and take swift action, including requesting their deletion.

A NEC official stated, "Electioneering activities, including the use of deepfake videos, and the dissemination of false information and defamation can hinder voters' right judgment and seriously undermine the fairness of the election. Through the operation of the Special Response Team, we will dedicate all our capabilities to ensuring the 9th Nationwide Simultaneous Local Elections are conducted in a clean and transparent manner."