AI 의존 따른 능력 저하 우려…인간 '정신 근육' 덜 쓰게 될 수도
WP "기계가 과거 기록 관리하게 되면 어떤 일 벌어질지 질문 제기"
(서울=연합뉴스) 임화섭 기자 = 인공지능(AI)이 사람들의 기억 내용을 왜곡해 실제로 일어나지 않은 일인데도 일어났다고 잘못 확신하도록 만들 수 있다는 연구 결과들이 나오고 있다.
이 때문에 만약 기계가 과거 기록을 관리하게 될 경우 어떤 일이 벌어질지에 대한 질문들이 제기되고 있다고 미국 일간 워싱턴포스트(WP)가 15일(현지시간) 보도했다.
WP는 이런 위험을 보여주는 연구로 미국 매사추세츠공과대(MIT) 미디어랩의 패티 마스 교수 연구팀이 200명을 상대로 실시한 실험을 소개했다.
연구진은 결혼식, 도시 거리, 경주 등을 찍은 평범한 일상적 사진 24장을 실험 대상자들에게 보여줬다.
이어 잠시 휴식 시간을 준 후 일부 참가자에게는 원래 사진들을 그대로 다시 보여줬고 다른 참가자들에게는 AI로 수정된 사진들을 제시했다.
사진 수정 내용은 얼굴 표정이 바뀌거나, 원래 사진에 없던 군인이 삽입되거나, 기후변화 징후가 추가되는 등 다양했다.
그 후에 기억력 검사를 해봤더니 AI로 수정된 이미지를 본 참가자들 사이에서 잘못된 기억이 크게 늘었다.
게다가 AI로 수정된 이미지를 본 참가자들은 잘못된 기억에 대한 확신도 더 강했다.
마스는 "기본적으로 나는 이 모든 것들이 매우 위험하다고 생각한다"고 WP에 말했다.
WP는 "지금까지 대중의 불안은 주로 일부 연구자들이 '인지적 항복'(cognitive surrender)이라고 부르는 현상에 집중돼 왔다. 기계가 사고 활동을 더 많이 떠맡을수록, 사람들이 기계가 제시하는 내용을 꼼꼼히 따져보려는 의지나 능력을 잃을 수 있다는 것이다. 하지만 이보다 훨씬 적게 주목받은 또 다른 가능성이 있다. AI가 우리가 기억하는 내용을 바꾸고 있을 수 있다는 점"이라고 설명했다.
WP는 "정치적 사건과 범죄, 심지어 새로 나온 영화에 대한 인식을 다룬 최근 연구들은 AI가 생성한 이미지와 대화가 우리의 뇌에 사실과 다른 세부 내용을 심어줄 수 있음을 시사한다. 실제로는 일어나지 않은 일이 일어났다고 확신하게 만들 수도 있다"고 지적했다.
마스 교수 연구팀의 다른 실험은 AI에 대한 의존이 기억력에 어떤 영향을 미치는지 보여준다.
지난해 공개돼 동료심사가 진행되고 있는 한 실험에서 연구팀은 54명에게 자신에게 행복이란 무엇인지 등의 주제로 미국 대학입학자격시험인 SAT 형식의 에세이를 쓰도록 했다.
연구팀은 실험 참가자들을 3개 집단으로 나눴다.
한 집단은 온라인 도구의 도움을 아예 받을 수 없었고, 다른 집단은 구글 검색은 이용할 수 있었지만 AI가 생성한 답변은 사용할 수 없었다.
세 번째 집단은 챗GPT를 사용할 수 있었다.
연구팀은 참가자들이 글을 쓰는 동안 두피에 부착한 전극으로 뇌의 전기 활동을 기록했다.
차이는 뚜렷했다.
도움 없이 글을 쓴 사람들에게서 뇌의 서로 다른 영역 사이의 연결성이 가장 강하고 광범위하게 나타났다.
구글 사용자는 중간 정도였고 챗GPT 사용자는 연결성이 가장 약했다.
이후 참가자들에게 방금 쓴 에세이의 문구를 인용해 보라고 하자, 챗GPT에 의존했던 사람들은 자신이 쓴 문장을 떠올리는 데 훨씬 더 큰 어려움을 겪었다.
AI가 인간의 인지에 미치는 영향을 연구하는 기디언 네이브 펜실베이니아대 와튼스쿨 교수는 WP에 "AI가 지배권을 장악하기보다는 인간의 능력이 퇴화하기 시작하는 모습을 보게 될 가능성이 더 크다"며 "생각하는 일이 선택 사항이 되는" 세상이 두렵다고 덧붙였다.
2025년 의학 학술지 '랜싯 소화기학·간장학'에 실린 연구에 따르면 숙련된 의사 19명이 AI 없이 대장내시경 검사를 시행한 환자 1천441명에 대해 내린 평가를 분석한 결과, 의사들이 AI를 일상적으로 사용하기 시작한 시점을 전후로 AI 없이 스스로 전암성 병변을 발견하는 능력이 낮아졌다.
2025년 의학 학술지 '랜싯 소화기학·간장학'에 실린 연구에는 폴란드의 4개 내시경 검사센터에 근무하는 숙련된 의사 19명이 AI 없이 시행한 대장내시경 검사 1천443건에 대한 분석이 실렸다.
분석 대상 검사 중 795건은 AI 도입 전, 648건은 AI 도입 후에 실시됐다.
AI 도입을 전후로 의사들이 AI 도움 없이 선종을 발견하는 비율은 28.4%에서 22.4%로 낮아져, 약 20%의 상대적 감소세를 보였다.
펜실베이니아대에 박사후연구원으로 재직 중인 스티븐 쇼는 이런 결과에 대해 "그들은 그 정신적 근육을 예전과 같은 방식으로 쓰지 않고 있다"며 "쓰지 않으면 잃게 된다"고 분석했다.
쇼는 특히 어린이들의 경우 인지 능력이 충분히 발달하기도 전에 그와 관련된 작업을 외부에 맡겨버릴 수도 있다며 "애초에 그런 핵심적이거나 기초적인 비판적 사고 능력을 전혀 기르지 못할 수도 있다"고 우려했다.
다만 WP는 이런 연구 결과들이 일상적인 AI 사용이 필연적으로 인지 기능 저하나 영구적인 기억력 상실을 일으킨다는 점을 입증하는 것은 아니며 관련 연구는 아직 초기 단계라고 설명했다.
solatido@yna.co.kr
(끝)
ADVERTISEMENT
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT