미국 인공지능 기업 앤트로픽에서 모델 훈련을 담당하던 연구원이 AI의 위험성을 경고하며 회사를 떠났다.
8일(현지시간) WSJ에 따르면, 영국 출신의 27세 제이콥 콕슨 AI 모델 훈련 담당 연구원은 이날 2030년이 오기 전 AI가 인류를 파멸시킬 수 있다고 경고하며 사임했다.
ADVERTISEMENT
제이컵 콕스는 SNS에 "가장 극단적인 시나리오들이 현실화할 가능성이 높다"며 "내년 말쯤에는 통제 불능 상황에 빠질 수 있다"고 했다.
그는 특히 AI 기업이 중국 신생 기업 등과 치열하게 경쟁하는 상황에서 안전 타협이 불가능하다며 "두 회사는 책임감 있게 행동하지 않고 있다. 우리 목숨을 걸고 도박을 하고 있다"고 비판했다.
ADVERTISEMENT
콕스는 "AI 개발자들은 이번 10년, 즉 2029년 말까지, AI가 우리를 죽일 수도 있다고 진지하게 믿는다"며 "이 정도 위험을 가져올 인간의 활동은 없다"고 지적했다.
이어 "이 기술은 머지않아 인간을 능가하는 수준의 시스템이 돼 무엇이든 해킹하고 실제 권력과 자원을 확보할 것"이라며 "과소평가하지 말라"고 경고했다.
콕슨은 AI 기업들이 개발 경쟁에 갇혀 있고 국가 간 글로벌 경쟁이 벌어지는 만큼, 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했다.
그는 AI 안전 문제를 이유로 앤트로픽을 떠난 첫 연구원이 됐다. 다만 다른 AI 기업에서는 비슷한 이유로 연구원들이 회사를 떠난 사례가 있었다.
ADVERTISEMENT
이슬기 한경닷컴 기자 seulkee@hankyung.com
ADVERTISEMENT
ADVERTISEMENT