(애틀랜타 AP= 27일(현지시간) 미국 조지아주 애틀랜타 CNN 스튜디오에서 열린 미 대선 후보 첫 TV 토론에 참석한 조 바이든 대통령(오른쪽)과 도널드 트럼프 전 대통령이 격돌하고 있다. 이날 토론에서 두 후보는 경제, 낙태, 불법 이민, 외교, 민주주의, 기후변화, 우크라이나·가자 전쟁 등 주제마다 날선 공방을 벌였다. 2024.6.28

이신영 기자 = 오는 11월 미국 대선을 앞두고 27일(현지시간) 조 바이든 대통령과 도널드 트럼프 전 대통령의 첫 TV 토론이 열린 가운데 인공지능(AI) 챗봇들이 이와 관련한 허위 정보를 쏟아냈다고 미국 NBC 방송이 보도했다.

NBC에 따르면 오픈AI의 챗GPT와 마이크로소프트(MS)의 코파일럿은 CNN이 주최한 대선 후보 토론 방송이 생방송이 아니라 편집을 거쳐 1∼2분가량 지연 송출될 것이라는 잘못된 정보를 제공했다.

챗GPT는 '대선 후보 토론 방송이 1∼2분가량 지연 방송되느냐'는 NBC의 질문에 '네, 1∼2분 정도 지연 송출될 예정입니다. 이는 부적절하거나 예기치 못한 사건이 발생하는 것을 방송 전 관리하기 위한 차원입니다'라고 답했다.

코파일럿도 같은 질문에 대해 '네, 오늘 밤 토론 방송은 지연 송출될 예정입니다. CNN은 1∼2분가량 시차를 두고 방송을 송출할 예정이며 이는 방송 전 편집 시간을 확보하기 위한 것입니다'라고 답했다.

그러나 이 같은 답변은 허위로 CNN은 이날 토론을 생방송으로 내보냈다.

NBC는 AI 챗봇의 이런 잘못된 답변이 한 보수 성향 사회관계망서비스(SNS) 사용자의 근거 없는 주장에서 시작됐다고 분석했다.

토론 전 한 SNS 사용자가 아무런 근거도 없이 CNN이 편집 시간을 확보하기 위해 방송을 1∼2분가량 지연 송출할 것이라는 글을 올렸고, 이 글이 트럼프 전 대통령의 장남인 트럼프 주니어와 보수 성향 인플루언서들 사이에 퍼져나갔다.

CNN은 즉각 이런 주장을 부인했지만 보수 성향 블로그 등을 중심으로 급속히 확산했고, 특정 후보에게 유리하게 하기 위해 편집을 하려는 것이라는 음모론까지 더해졌다.

실제로 코파일럿은 지연 송출 답변을 뒷받침하기 위해 한 웹사이트 링크를 제공했는데, 이는 친(親)트럼프 성향의 폭스뉴스 진행자 출신인 루 돕스의 사이트였다.

트럼프 전 대통령의 친구이기도 한 돕스는 2020년 대선에서 트럼프 전 대통령이 패배하자 전자투표 시스템 조작 탓이라는 음모론을 내보낸 방송의 진행자이기도 했다.

NBC는 세부 정보를 덜 제공하고 단순히 '오늘 밤 토론이 지연 방송되느냐'라고만 물었을 때는 챗 GPT는 정확한 답변을 내놨지만, 코파일럿은 여전히 잘못된 주장을 반복했다고 설명했다.

NBC의 코멘트 요청에 마이크로소프트는 즉답을 내놓지 않았고, 오픈AI는 챗GPT가 지금은 제대로 된 답변을 하고 있다고 했다.

그러나 챗GPT는 '오늘 밤 토론 방송이 편집을 위해 지연 송출되느냐'는 질문에 대해서는 여전히 잘못된 답변을 내놨다.

메타의 AI와 엑스(X·옛 트위터)의 그록은 제대로 된 답변을 했고, 구글의 제미니는 해당 질문이 너무 정치적이라며 답을 거부했다.

NBC는 이번 사안이 인기 있는 챗봇이 어떻게 잘못된 정보를 재생산하는 데 이용될 수 있는지를 잘 보여준다고 짚었다.

AI가 생성한 이미지와 영상 외에도 선거와 같은 중요한 행사에서 AI가 어떻게 활용될 수 있는지에 관해서는 다양한 우려가 제기돼왔다.

최근의 한 연구 결과에 따르면 AI는 종종 선거와 관련한 중요한 질문에서 잘못된 답변을 내놓기도 했다.