Macro

무디스, AI 딥페이크 정치광고 경고…미국 선거 신뢰 위협

By Mackenzie Crow

7/10, 11:13 EDT
S&P 500
iShares 20+ Year Treasury Bond ETF
iShares 7-10 Year Treasury Bond ETF
article-main-img

핵심 요약

  • 무디스는 AI 딥페이크가 정치 광고에서 미국 기관의 신뢰성을 훼손하고 선거 결과에 영향을 미칠 수 있다고 경고했다.
  • FCC는 정치 광고에서 AI 공개를 요구하는 새로운 규칙을 제안했지만, 소셜 미디어는 여전히 규제되지 않고 있다.
  • 메타와 구글 같은 주요 플랫폼은 자체 규제를 하고 있지만, AI의 빠른 발전으로 인해 포괄적인 감시가 어려운 상황이다.

AI 정치광고 조작 우려

선거 시즌이 다가오고 인공지능(AI)이 빠르게 발전함에 따라 정치 광고에서 AI 조작에 대한 우려가 커지고 있다. 무디스의 새로운 보고서는 생성형 AI와 딥페이크가 미국 기관의 신뢰성을 위협할 수 있는 선거 무결성 문제 중 하나라고 강조했다. 무디스의 부사장 겸 애널리스트 그레고리 소벨과 수석 부사장 윌리엄 포스터는 이번 선거가 치열하게 진행될 가능성이 높아 AI 딥페이크가 유권자를 오도하고 분열을 심화시키며 불화를 조장할 수 있다고 우려했다. 보고서는 성공적인 허위 정보 캠페인이 유권자를 흔들고 선거 결과에 영향을 미치며 궁극적으로 정책 결정에 영향을 미쳐 미국 기관의 신뢰성을 훼손할 수 있다고 경고했다.

연방통신위원회(FCC)는 이러한 우려를 해결하기 위해 적극적으로 나서고 있다. 5월 22일, FCC 의장 제시카 로젠워셀은 정치 TV, 비디오, 라디오 광고에서 AI 생성 콘텐츠 사용 여부를 공개하도록 요구하는 새로운 규칙을 제안했다. 그러나 소셜 미디어는 FCC의 규제 범위 밖에 있다. 연방선거위원회(FEC)도 모든 플랫폼에 적용될 수 있는 광범위한 AI 공개 규칙을 고려하고 있다. 이러한 노력에도 불구하고 AI 기술의 빠른 발전과 산업 표준의 부재로 인해 AI 조작 콘텐츠를 효과적으로 감시하는 것이 어려운 상황이다.

소셜미디어 자율 규제

일부 소셜 미디어 플랫폼은 잠재적 규제에 앞서 AI 공개 정책을 이미 시행하고 있다. 예를 들어, 메타는 모든 광고에 AI 공개를 요구하며, 11월 선거를 앞둔 일주일 동안 새로운 정치 광고를 금지했다. 구글은 "실제 또는 실제처럼 보이는 사람이나 사건을 부정확하게 묘사한" 정치 광고에 대해 공개를 요구하지만, 모든 정치 광고에 대해 AI 공개를 요구하지는 않는다. 이러한 조치는 구글과 메타가 2024년 미국 디지털 광고에 예상되는 3,069억 4000만 달러 중 47%를 차지할 것으로 예상되기 때문에 중요하다.

이러한 자체 규제 노력에도 불구하고, AI 조작 콘텐츠는 매일 게시되는 방대한 양의 콘텐츠로 인해 라벨 없이 플랫폼에 올라오고 있다. 시큐어웍스 카운터 위협 유닛의 수석 위협 연구원 토니 아담스는 산업 표준의 부재와 기술의 빠른 발전으로 인해 이 노력이 어려워지고 있다고 말했다. 플랫폼들은 AI로 구동되는 기술적 통제를 통해 가장 해로운 콘텐츠를 감시하는 데 성공했다고 보고했지만, 쉽게 접근할 수 있고 저렴한 생성형 AI 도구로 정교한 딥페이크를 만드는 것이 문제를 악화시키고 있다.

입법 및 규제 노력

미국 정부는 딥페이크와 AI 조작 콘텐츠에 대처하기 위한 노력을 강화하고 있다. 주 및 지방 정부는 딥페이크와 라벨이 없는 AI 콘텐츠를 차단하기 위한 조치를 취하고 있지만, 자유 언론법과 기술 발전에 대한 우려로 인해 일부 주 의회에서는 이 과정이 지연되고 있다. 2월 기준으로, 주 의회에서는 딥페이크에 중점을 둔 AI 관련 법안이 매주 50건씩 도입되고 있다. 13개 주는 선거 간섭 및 딥페이크에 관한 법률을 가지고 있으며, 이 중 8개 주는 1월 이후에 제정되었다.

무디스는 미국 선거 시스템의 분산된 특성과 기존의 사이버 보안 정책이 AI 남용에 대한 일부 보호를 제공한다고 언급했다. 그러나 미국은 여전히 사이버 리스크에 취약하며, 유엔 전자정부 개발 지수에서 192개국 중 10위를 차지하고 있다. 딥페이크가 정치적 결과에 영향을 미칠 수 있다는 인식만으로도 구체적인 사례가 없어도 선거 과정과 정부 기관의 신뢰성에 대한 대중의 신뢰를 훼손할 수 있으며, 이는 신용 리스크라고 무디스는 지적했다.

전문가 의견: AI와 선거

  • 무디스의 그레고리 소벨과 윌리엄 포스터 (미국 기관 신뢰성에 대해 비관적):

    "이번 선거는 치열하게 진행될 가능성이 높아 AI 딥페이크가 유권자를 오도하고 분열을 심화시키며 불화를 조장할 수 있다는 우려가 커지고 있다... 성공적인 허위 정보 캠페인은 유권자를 흔들고 선거 결과에 영향을 미치며 궁극적으로 정책 결정에 영향을 미쳐 미국 기관의 신뢰성을 훼손할 수 있다."

  • 웨드부시 증권의 댄 아이브스 (FCC의 제안된 규칙에 대해 신중한 낙관론):

    "이 규칙은 정치 캠페인에 대한 전통 미디어의 공개와 광고를 수년간 변화시킬 수 있는 획기적인 규칙이 될 것이다... 문제는 이 규칙이 의도치 않은 결과를 초래할 수 있다는 점이다."

  • 시큐어웍스 카운터 위협 유닛의 토니 아담스 (소셜 미디어 플랫폼의 노력에 대해 중립적):

    "산업 표준의 부재와 기술의 빠른 발전으로 인해 이 노력이 어려워지고 있다... 다행히도 이러한 플랫폼들은 AI로 구동되는 기술적 통제를 통해 가장 해로운 콘텐츠를 감시하는 데 성공했다고 보고했다."
    "법 집행 기관과 FCC의 대응은 다른 국내 행위자들이 AI를 사용해 유권자를 속이는 것을 막을 수 있을 것이다... 그러나 외국 행위자들은 계속해서 활동할 것이다... 유권자들에게: 침착하게, 경계하며, 투표하라."