인공지능이 선거 결과에 영향을 미칠 수 있을까요?

인공지능(AI)은 대량 허위 정보의 무기가 될 수 있지만, 최근 보고서에 따르면 지금까지는 그 영향이 제한적이라는 사실이 밝혀졌습니다.

올해 대만, 미국, 세네갈 등 거의 100개국에서 유권자들이 투표에 참여했으며, 선거운동 기간 동안 AI가 자주 사용되었습니다. 이 기술은 딥페이크나 챗봇과 같은 악의적인 방식으로 사용될 경우 TV, 온라인, 소셜 미디어 등 뉴스 매체가 제공하는 정보에 대한 시민들의 신뢰를 약화시킵니다. AI 기반 프로그램은 우리가 받는 정보의 신뢰성에 분명 영향을 미쳤지만, 이것이 선거 결과에도 영향을 미쳤을까요? 스위스 취리히 연방공과대학교(EPFL)의 미디어 혁신 이니셔티브(IMI) 연구팀은 2024년 전 세계 선거에 AI가 미칠 영향을 조사하기 위한 연구를 수행했습니다. 이 연구 결과는 IMI의 Décryptage 매거진 창간호(프랑스어만 제공)에 실렸습니다. 이 호는 스위스 저널리스트 질 라바르테(Gilles Labarthe)가 IMI의 무니르 크리샤네(Mounir Krichane), 줄리 슈프바흐(Julie Schüpbach), IMI의 과학위원회 위원장 겸 스위스 방송사 RTS의 디지털 뉴스 조정 책임자인 크리스토프 셴크와 함께 저술한 기사입니다.

부활한 정치인

연구진은 현지 전문가들과 협력하여 다양한 선거 캠페인과 결과를 분석했습니다. 그 결과, AI 기반 프로그램은 미미한 영향력만 미쳤을 뿐 선거를 어느 한쪽으로 기울이지 않았다는 사실을 발견했습니다. 하지만 알고리즘에 의해 조작된 콘텐츠가 확산되면서 정치적 의견이 더욱 분열되고 불신 분위기가 만연해졌다는 사실을 발견했습니다. 예를 들어, 딥페이크(실제 사람이 등장하는 것처럼 보이도록 디지털 방식으로 조작된 동영상)는 미국과 스위스에서 선거 캠페인에 사용되었습니다. 한편, 인도와 인도네시아에서는 프로그래머가 유권자의 마음을 움직일 수 있는 아바타를 만들어 정치인을 죽음에서 되살리는 등 제너레이티브 AI가 완전히 새로운 차원으로 발전했습니다.

이 연구의 저자들은 선전 목적으로 디지털로 조작된 콘텐츠를 사용하는 것은 새로운 일이 아니며, AI가 이러한 관행을 증폭시켰을 뿐이라고 강조합니다. 선거운동 기간 동안 동영상, 이미지, 텍스트 형식의 가짜 콘텐츠가 대규모로 생산되고 빠르게 유포되면서 시민들의 신뢰가 약화되었습니다. 저자들은 또한 이러한 콘텐츠가 자유롭게 유통될 수 있었던 규제 공백을 지적합니다.

EPFL의 멀티미디어 신호 처리 그룹 책임자인 투라지 에브라히미 교수는 잡지 인터뷰에서 딥페이크가 전례 없는 기술적, 사회적, 윤리적 문제를 야기하고 있다고 말합니다. “딥페이크를 생성하는 AI 기술 개발자와 이를 탐지하는 소프트웨어 개발자들 사이에 고양이와 쥐의 게임이 벌어지고 있습니다.” 그의 연구 그룹은 조작된 콘텐츠의 유포를 식별하고 제한하는 시스템을 개발하기 위해 노력하고 있습니다(아래 참조).

공동의 노력

IMI 잡지는 AI가 선거 캠페인에 미칠 수 있는 위험에 대한 포괄적인 시각을 제공합니다. 또한 허위 정보의 영향을 줄이기 위한 과학자, 기타 전문가 및 미디어 전문가들의 구체적인 권장 사항을 제시하고 시민들이 취할 수 있는 조치를 제안합니다. 한 가지 권장 사항은 에브라히미 그룹에서 개발 중인 것과 같은 가짜 콘텐츠 탐지 및 추적 시스템을 구현하는 것입니다.

이 잡지는 국제 규정을 도입하고 미디어에 책임을 묻는 것의 중요성을 강조합니다. 에브라히미는 허위 정보와의 싸움에서 강력한 동맹으로서 협력적인 사실 확인을 장려하고 교육을 장려하는 것이 필수적이라고 말합니다. “기술만으로는 충분하지 않습니다.”라고 그는 말합니다. “사용자들이 가짜 뉴스의 위험성을 인식하고 그들이 받은 정보의 출처를 확인할 수 있는 리소스를 제공해야 합니다.”라고 말합니다.

마지막으로, 이 잡지는 디지털 공간을 윤리적이고 안전하게 만들기 위해 정부, 기업, 시민 사회가 할 수 있는 중요한 역할을 강조합니다. 이를 위해서는 AI가 점점 더 널리 보급됨에 따라 민주적 절차에 대한 신뢰를 회복하기 위한 공동의 노력이 필요할 것입니다.

허위 정보와의 싸움에서 승리하기 위해서는 올바른 기술을 개발하는 것뿐만 아니라 과학자와 엔지니어, 정부, 기업, 시민 모두가 함께 노력해야 한다고 IMI 잡지는 설명합니다. 우리는 함께 정보를 다시 신뢰할 수 있게 만들고 민주적 절차에 대한 신뢰를 회복할 수 있습니다.

원본 작성자: Mélissa Anchisi 출처: EPFL