2024미국 대선에 AI악용 사례 발생! 대선, 대응 방안은?

2024년, 미국이 변한다!

​올해 미국엔 두 가지 중요한 정치적 이슈가 있는데 대통령 선거 양원, 주지사 선거가 있다. 이 중 우리에게 큰 영향을 미치는 건 대통령 선거다.

​이번 60번째 대통령 선거는 46대 대통령인 바이든이 재선이 되거나 제47대 대통령이 선출된다.

미국의 주요 정당은 공화당과 민주당인데 현재 대통령은 민주당 소속이다. 현재 바이든에 대적할 공화당 대통령 후보는 45대 대통령이었던 도널드 트럼프다.

출처: wikipedia

선거권을 가진 국민이 후보에게 직접 투표하는 우리나라와 달리 미국의 선거 제도는 복잡한데 이를 간단히 설명해 보면 다음과 같다.

​1. 각 당별 전당대회를 통해 대통령 후보 선출

2. 선거인단 선출 (주별 일반 투표를 통해 538명 선출)

3. 선거인단 대선 투표

4. 투표 결과 발표

5. 대통령 취임

​각 주(state)에서 일반투표를 통해 선출된 선거인단이 투표하는 복식 투표 방식으로 대통령을 선출하며 한 표라도 표가 많은 쪽이 모두 표를 가져가는 ‘승자독식제도'를 채택 중이다. 이 간접선거를 비판하는 사람들이 많지만 어쩌겠는가, 미국 수정헌법에 명시되어 있고 헌법을 바꾸는 건 너무나 어려운 일인 것을.

바이든 목소리가 가짜라고?!

​지난 1월, 민주당은 뉴햄프셔 프라이머리에서 후보자 경선을 진행했는데 이 과정에서 AI를 악용하는 사례가 발생했다. AI로 조 바이든 대통령 목소리를 사칭해 가짜 메시지를 만들어 조 바이든 대통령을 예비선거에서 투표하지 말라고 지지자들에게 자동 녹음 전화를 돌렸다. 녹음된 음성이 궁금하다면 아래 링크를 눌러보길 바란다.

출처: NBC

이 여파로 인해 OpenAI는 ChatGPT를 기반으로 음성을 복제하는 스타트업 Delphi가 민주당 대통령 후보 딘 필립스의 대선 캠페인을 지원하기 위해 만든 챗봇 Dean.Bot의 개발을 정지시켰다. 이 일로 바로 조치를 취했지만 OpenAI는 이미 OpenAI를 활용해 잘못된 정보를 방해 및 확산시킬 수 있는 봇을 금지하고 있다.

​아직까지 범인을 찾지 못한 상황이며 자동 녹음 메시지뿐만 아니라 딥페이크를 악용한 영상을 유출하여 의도적으로 지지자들의 신뢰를 떨어뜨릴 수도 있기 때문에 이를 규제할 수 있는 법안을 마련할 필요가 있다. 다행인 것은 양당의 지지를 받아 규제를 위한 법안을 빠르게 통과시키고 있다는 것이다. 5, 6월쯤이면 모든 주에 법안이 통과될 것으로 예상하고 있다. 다만 이 통과 시점이 대선 레이스가 반환점을 맞이하는 타이밍이라 너무 늦게 대책을 마련한다는 지적도 나오고 있다. 이미 연예계에서 딥페이크 악용 논란이 지속적으로 나왔음에도 늦장 대응을 한다는 비판도 피할 수 없고 말이다.

AI 악용 사례, 우리나라는 어떨까?

​우리나라도 올해 4월 총선을 앞두고 AI 악용을 막기 위해 적극 대응 중이다.

​선관위는 지난 29일 인공지능(AI) 기능을 가진 프로그램으로 만든 영상, 사진, 음향을 본인 당선이나 상대 후보 낙선을 위해 사용하는 것을 금지했다. 물론 제 3자가 특정 후보의 당선, 낙선을 위해 조작하는 것도 배포하면 안 된다. 즉 네거티브에 AI를 활용하지 말라는 얘기다. 일단 허위사실 공표죄 등 기존 법률을 보완하여 빠르게 대처하려는 움직임을 보이고 있긴 하지만 미봉책에 지나지 않기 때문에 처벌을 위한 기준을 빠르게 정립할 필요가 있다.

출처: 딥브레인AI 홈페이지

기업도 이 문제를 해결하기 위해 서비스를 개발하고 있는 상황인데, 국내 생성형 인공지능(AI) 전문 기업 ‘딥브레인AI’에선 지난 1월 12일 SaaS 기반의 딥페이크 탐지 솔루션을 출시했다. 딥브레인AI는 AI 가상 인간을 만드는 곳인데 이 기능을 역으로 활용하여 딥페이크를 감지하는 방식이다. 페이스 스와프(face swap), 음성까지 모두 잡아낼 수 있어 AI를 악용한 딥페이크를 막아낼 수 있는 솔루션인데 활용을 검토해 볼 필요가 있어 보인다.

​과연 미국은 딥페이크 악용을 벗어나 공정한 선거를 치를 수 있을지, 지켜보도록 하자