미국에서 과제에 인공지능(AI)을 사용하고도 적발되지 않는 등의 부정행위 기술이 소셜미디어를 통해 빠르게 확산하고 있다. AI 탐지 도구를 판매하는 회사가 학생의 부정행위를 가능케 하는 앱도 만드는 아이러니한 상황이 벌어지고 있다. 학교와 학생 모두 AI 서비스에 비용을 지불하는 것을 두고 ‘탐지와 회피의 군비경쟁’이라는 지적이 나온다.
22일 뉴욕타임스(NYT)에 따르면 휴머나이저, 오토타이퍼 등 AI 도구를 이용해 부정행위를 하는 방법이 틱톡, 유튜브 등 소셜미디어에서 유통되고 있다. 휴머나이저는 AI가 생성한 글을 사람이 쓴 것처럼 재구성해주는 프로그램이다. 오토타이퍼는 단어나 문장을 문서에 천천히 입력하고 일부러 오타를 내기도 한다. 사람이 직접 입력한 것처럼 꾸며내기 위한 것으로, 문장을 수정한 흔적까지 가짜로 만들어 낸다.
이들 도구를 사용하면 학생의 AI 사용을 탐지하도록 설계된 소프트웨어를 회피할 수 있다. 대학교, 고등학교 등 미국의 교육기관들은 이러한 기술을 따라잡기 위해 AI 탐지에 상당한 비용을 투자하는 것으로 전해진다. 하지만 탐지기가 학생이 직접 쓴 글까지 AI가 작성한 것으로 잘못 판정하기도 한다. 정직한 학생들조차 제출 전에 미리 검사해보기 위해 AI 도구에 매달 10~20달러를 지불하게 되는 배경이다.
NYT가 인용한 설문조사에 따르면 미국 학생 세 명 중 두 명은 학교 과제에 AI를 정기적으로 사용하는 것으로 나타났다. 칼리지보드가 교수들을 대상으로 실시한 설문조사에서는 응답자의 4분의 3이 ‘학생들이 글을 쓰는 데 AI를 사용한다’고 답했다. 90% 이상은 표절과 부정행위를 우려하는 것으로 나타났다.
일부 교육 기술 스타트업은 학생들에게 부정행위 방법을 노골적으로 가르치기도 한다. NYT에 따르면 팔로어 수가 650만명에 이르는 한 IT(정보기술) 인플루언서는 ‘그러비 AI’라는 자동 입력 및 휴머나이징 앱 사용 영상을 틱톡에 업로드했다. 챗GPT가 만든 에세이를 사람이 작성한 것처럼 자연스럽게 바꿔주는 서비스다. 영상에 광고 표시가 붙어있진 않았지만, 그는 과거 그러비 AI의 유료 파트너라고 밝힌 바 있다.
교묘하게 홍보하는 사례도 적지 않다. GPT제로는 학교를 대상으로 AI 탐지 프로그램을 제공하는 업체다. 휴머나이저, 오토타이퍼 등 AI 콘텐츠를 99% 정확도로 찾아낸다는 게 관계자의 설명이다. 최근 자신을 대학원 조교라고 소개한 한 소셜미디어 사용자는 ‘교수만 알고 있는 GPT제로 사용법’이라는 영상을 업로드했다. AI 탐지 기술을 역이용해 좋은 점수를 받을 수 있는 과제를 작성할 수 있다는 내용이다.
NYT 보도에 따르면 영상 속 남성은 마케팅 전문가 제이크 오스틴 시빌라였다. 그는 링크드인에 “GPT제로를 위해 가상의 인물을 만들었다”고 썼다가 삭제한 바 있다. 에드워드 톈 GPT제로 공동창업자는 “시빌라와 더 이상 협업하지 않으며, 앞으로는 실제 교육자나 학생인 소셜미디어 콘텐츠 제작자들과만 일하는 방향으로 전환하고 있다”고 말했다.
손주형 기자 handbro@hankyung.com