미국 정치권에서 후보들이 인공지능(AI) 챗봇의 답변을 바꾸기 위해 웹사이트와 공개 정보를 손보는 움직임이 확산하고 있다. 유권자의 후보 인식이 검색 결과뿐 아니라 챗봇이 요약하고 추천하는 정보에도 좌우될 수 있기 때문이다.
19일 뉴욕타임스(NYT)에 따르면 미주리주 의회 민주당 경선 후보인 더스틴 로이드는 오픈AI의 챗GPT와 구글의 제미나이는 그에 관한 기본적인 정보만 제공했다. 로이드가 중소기업 지원을 주요 정책으로 내세우고 있다는 사실도 제대로 설명하지 못했다. 이에 그는 선거운동 웹사이트에 자신의 이력과 정책을 담은 질의응답을 게시했고, 이후 챗봇은 그의 개인적 경험을 정책 목표와 연결해 답하기 시작했다.
수정 전 챗봇은 로이드의 중소기업 정책에 대해 상세한 답변을 제공할 정보가 부족하다고 밝혔다. 웹사이트 수정 이후에는 세금 감면과 자금 접근성 확대, 지역 기업인에 대한 규제 장벽 완화를 통해 중소기업을 지원한다고 구체적으로 설명했다. 현로이드는 "AI 답변 관리가 예상보다 쉬웠다며 이후 매일 관련 작업을 하고 있다"고 말했다.
로이드는 진보 성향 청년 후보 지원단체 ‘런 포 섬싱 액션 펀드’가 지난달 출시한 캠프사이트의 AI 분석 보고서를 활용했다. 캠프사이트는 그의 선거 홈페이지와 위키피디아, 정치인 정보 사이트 밸럿피디아의 내용이 부족하다고 평가하고 수정을 권고했다. 챗봇이 온라인 커뮤니티 정보를 답변에 포함하도록 레딧에 글을 게시하라는 조언도 내놨다.
이 같은 산업은 ‘답변 엔진 최적화’(AEO)로 불린다. 초기 챗봇은 이미 온라인에 공개된 대규모 자료를 학습해 최신 뉴스에 관한 답변이 빠르게 낡는 문제가 있었다. 최근 챗봇은 인터넷을 직접 검색해 중간선거와 후보자 등 시사 현안에 관한 새로운 정보를 답변에 반영한다. 현재 캠프사이트와 같은 AEO 도구의 권고는 후보자 홈페이지를 다시 쓰거나 위키피디아 정보를 최신 상태로 유지하는 수준이다. 하지만 자금력이 있는 후보들은 챗봇에 노출될 목적으로 더 많은 콘텐츠를 온라인에 게시할 수 있다.
하지만 AI 답변을 통제하기 어렵다는 지적도 나온다. 민주주의와 대규모언어모델(LLM)을 연구하는 베스 시몬 노벡 노스이스턴대 교수는 "기술에 대한 이해가 부족하고 변화 속도도 빨라 정치권에 불안이 존재한다"고 말했다. 일부 기법을 익히더라도 LLM의 변화와 예측 불가능성 때문에 답변 생성 과정을 관리하기는 어렵다는 설명이다.
후보들에게 불리한 정보가 노출되는 데 그치지 않고 사실과 다른 내용이 생성될 위험도 있다. 영국 싱크탱크 데모스가 지난 5월 스코틀랜드 의회 선거를 앞두고 실시한 실험에서는 선거 관련 AI 답변의 3분의 1 이상이 부정확한 것으로 나타났다. 여러 챗봇은 존재하지 않는 후보를 만들어내거나 족벌주의 의혹과 금융 스캔들을 조작했다. 출마하지 않는 현직 정치인이 선거에 나선다고 답하거나 후보자의 정책 입장을 잘못 설명한 사례도 확인됐다.
그럼에도 정치 정보를 챗봇에서 찾는 유권자는 늘고 있다. 정치 분야 AEO 연구기업 코커스AI는 챗봇이나 검색 결과의 AI 생성 답변을 통해 선거 정보를 얻는 유권자가 최소 1600만명에 달한다고 추산했다. 코커스AI 공동창업자이자 카멀라 해리스 대선 캠프의 전 최고분석책임자인 메그 슈웬츠파이어는 "챗봇 사용과 정보 신뢰도가 높아질수록 2028년 이후 이용자가 크게 증가할 것"으로 전망했다.
김동현 기자 3code@hankyung.com