인공지능(AI)이 스스로 더 나은 AI를 만드는 기술이 예상보다 빠르게 현실화하고 있다. AI가 연구·개발을 주도하는 비중이 급증하면서 기술 발전에 대한 기대와 함께 통제력을 잃을 수 있다는 우려도 커지고 있다.
ADVERTISEMENT
월스트리트저널(WSJ)의 벤 코언 칼럼니스트는 2일 ‘성공의 과학’ 칼럼에서 AI가 스스로 성능을 개선하는 ‘재귀적 자기개선(Recursive Self-Improvement·RSI)’이 인간의 예상보다 빠르게 다가오고 있다고 진단했다.
앤트로픽이 클로드 AI 에이전트를 활용해 사내 슬랙 메시지와 내부 문서에 담긴 연구·개발 과제 1만5000개를 분석한 결과, AI가 인간의 감독 아래 연구·개발 업무 대부분을 수행하는 6단계 중 5단계의 비중은 1년 전 1%에서 지난 8월 26%로 늘었다. 차세대 클로드 개발 업무의 4분의 1 이상을 AI가 주도한 셈이다.
ADVERTISEMENT
앤트로픽 공동 창업자 잭 클라크도 AI의 발전 속도에 주목했다. 그는 지난해 11월 육아휴직을 떠났다가 올해 2월 복귀한 뒤 엔지니어들이 코딩 업무를 AI에 전적으로 의존하는 모습을 보고 큰 충격을 받았다고 최근 국제통화기금(IMF) 연설에서 밝혔다.
클라크는 AI가 스스로를 구축하는 능력에 도달하는 순간이 왔다며, RSI가 본격화할 시점을 기존 2028년 말에서 2027년으로 앞당겨 전망했다.
AI의 자기개선 가능성에 대한 경고는 오래전부터 제기됐다. 수학자 I.J. 굿은 1956년 다트머스 워크숍에서 “최초의 초지능 기계는 인간이 만들어야 할 마지막 발명품이 될 것”이라며 기계가 인간의 통제를 벗어날 가능성을 경고했다.
AI가 스스로 학습하고 성능을 개선하는 기술은 기업의 경쟁력을 좌우할 핵심 요소로 꼽힌다. 하지만 기술 발전 속도가 빨라질수록 인간이 AI를 통제할 수 있을지에 대한 우려도 커지고 있다. 실제로 AI의 위험성을 경고하며 연구 현장을 떠나는 과학자들도 나오고 있다.
ADVERTISEMENT
다리오 아모데이 앤트로픽 최고경영자(CEO) 역시 AI 통제의 중요성을 강조하고 있다. 코언은 아모데이 CEO가 AI가 제대로 통제되지 않으면 인간의 이해와 능력을 완전히 벗어날 수 있다며 신중한 개발을 주문했다고 전했다.
강홍민 기자 khm@hankyung.com
ADVERTISEMENT
ADVERTISEMENT