미국 대학가에서 생성형 인공지능(AI)을 둘러싼 학생과 학교 간 '두뇌 싸움'이 격화되고 있다.
28일(현지시간) 미 NBC 뉴스에 따르면 미국에서 학생들은 AI를 활용해 과제를 완성하고, 대학은 AI 탐지기를 동원해 이를 적발하는 가운데 최근에는 탐지 기능을 사실상 무력화하는 회피용 AI까지 등장했다.
턴틴(Turnitin), GPT제로(GPTZero) 등 AI 탐지 도구가 확산됐지만, 학생들 역시 이를 피해 가는 방법을 빠르게 익히고 있다는 분석이다.
대표적인 사례가 이른바 '휴머나이저(humanizer)'로 불리는 생성형 AI다. 휴머나이저는 AI가 작성한 문장을 인간이 쓴 것처럼 자연스럽게 바꿔주는 도구로, 문장 구조와 표현을 미세하게 수정해 AI 탐지기에 걸리지 않도록 돕는다.
휴머나이저는 과제물을 먼저 스캔한 뒤 수정 방향을 제시하고, 사용자가 그에 맞춰 글을 고치는 방식으로 작동한다. 이렇게 완성된 과제물은 기존 AI 탐지기를 통과하는 경우가 많다고 NBC는 전했다.
이에 맞서 탐지 기업들도 대응에 나섰다. 일부 AI 탐지 서비스는 학생들의 브라우저 검색 기록이나 글쓰기 과정 데이터를 추적해 부정행위를 가려내는 기능을 제공하고 있다. 그러나 휴머나이저 역시 진화 중이다. 일부 서비스는 추적을 피하기 위해 수정 문구를 자동 입력하지 않고 사람이 직접 타이핑한 것처럼 구현하기도 한다.
NBC는 "휴머나이저의 등장은 이제 AI가 대학에서 피할 수 없는 존재가 됐다는 것을 보여주는 사례"라고 짚었다. 문제는 적발의 정확성이다. AI를 사용했는데도 잡아내지 못하는 경우는 물론, AI를 쓰지 않았는데도 '양성 반응'이 나오는 경우도 발생한다는 게 외신들의 분석이다.
특히 문장 패턴이 반복적이거나 정형화된 표현을 쓰는 비영어권 학생들이 오탐지의 주요 피해자로 꼽힌다. 샌디에이고 캘리포니아대에서 AI 탐지 기술을 연구하는 스페인 출신 대학원생 알단 크레오는 "제대로 글을 쓰면 오히려 AI를 썼다는 소리를 듣는다"며 AI 탐지를 피하기 위해 일부러 철자 오류나 어색한 문장을 고치지 않고 과제를 제출한다고 말했다.
실제 피해 사례도 있다. 버지니아주 리버티대 온라인 과정에 재학 중이던 브리트니 카는 AI를 사용했다는 이유로 과제에서 낙제점을 받은 뒤 결국 학교를 떠났다고 밝혔다. 그는 손글씨 노트와 이메일 캡처, 교수와의 메시지 기록 등 AI를 쓰지 않았다는 증거를 제출했지만 성적은 복구되지 않았다.
이 같은 논란이 이어지자 대학의 AI 탐지기 사용 자체를 금지해야 한다는 주장도 나온다. 지난해 뉴욕 버펄로대에서는 학교 측에 AI 탐지기 사용 중단을 요구하는 온라인 청원이 등장했고, 여기에 학생 1,500여 명이 서명했다.
전문가들은 단순한 적발 경쟁을 넘어 교육 방식 자체를 바꿔야 한다고 지적한다. 휴머나이저 개발 기업 퀼봇의 에릭 왕 연구 부문 부사장은 "교육자들은 점수를 깎는 데 집중하기보다 학생들이 AI를 어떻게 활용해야 하는지, 인간성과 창의성을 잃지 않으면서 기술을 쓰는 법을 가르쳐야 한다"고 말했다.
(사진=연합뉴스)