미국 인공지능(AI) 기업 앤트로픽의 한 연구원이 AI가 인류를 파멸시킬 수 있다는 경고를 남기고 회사를 떠나 화제가 됐다.
앤트로픽의 전 연구원 제이컵 콕슨(27)은 8일(현지시간) 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 AI 시스템 개발 경쟁에 대해 이처럼 우려하는 글을 남겼다.
콕슨은 대규모 데이터로 새 AI 모델을 학습시키는 분야를 연구했다. 그는 AI 업체들이 인간 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 와중에 안전 문제는 뒷전으로 밀릴 수 있다고 우려했다.
AI가 스스로 성능을 개선하는 만큼 인간 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다고 콕슨은 주장했다.
콕슨은 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "머지않아 이 기술들은 무엇이든 해킹하고 하룻밤 사이에 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것"이라고 경고했다.
또 "가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 미 일간 월스트리트저널(WSJ)에 말했다.
문제는 이런 경고에 앤트로픽 내부 임원들도 동의했다는 것이다.
앤트로픽의 정렬 과학(Alignment Science) 총괄 에번 휴빙거는 "제이컵의 말이 맞는다. 우리는 진정으로 AI가 모든 인류를 멸망시킬 수 있다고 믿고 있다"며 "개인적으로 10년 이내에 그 확률이 10%를 넘을 것이라고 생각한다"고 동의했다.
새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 개인 의견임을 단서로 달며 "AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다"며 "향후 몇 년 내에 발생할 수 있다"고 우려했다.
또 "직급이 높을수록 이 문제에 대해 더 큰 우려를 하고 있다"면서 그런데도 상업적 인센티브와 기술을 악용할 수 있는 개발자들과 경쟁하고 있다는 믿음 때문에 AI 개발을 이어가고 있다고 털어놨다.
콕슨은 올해 초 오픈AI를 퇴사해 앤트로픽에 합류했다. 앤트로픽이 AI 안전을 중시하기에 이직했지만, 결국 그는 기업의 노력만으로는 AI의 위험을 통제할 수 없다는 결론을 내렸다.
그는 오픈AI와 앤트로픽 모두에 대해 "모두 책임감 있게 행동하고 있지 않다"며 "이들은 스스로 발전하는 초지능을 향해 질주하면서 우리 목숨을 도박 거리로 삼고 있다"고 비판했다.
그는 인간의 능력을 넘어서는 범용인공지능(AGI)을 책임 있게 개발하기 위해 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했다. 인류의 미래에 막대한 영향을 미칠 수 있는 AI 개발이 소수 엔지니어의 판단에 맡겨진 현실은 "일종의 광기"라고 지적했다.
(사진=연합뉴스)