“AGI(범용 인공지능)의 위험이 허구라는 생각이 맞으면 좋겠습니다. 하지만 우리는 이런 위험이 실재 있는 것처럼 인공지능(AI)을 운영할 것입니다”
글로벌 AI 기술 개발을 주도하는 미국 오픈AI사의 샘 올트먼 최고경영자(CEO)가 최근 AI 기술 개발에 속도 조절이 필요하다는 주장을 내놨다. AI 성능의 최고 수준인 AGI의 갑작스러운 등장이 인류를 심각하게 위협할 수 있다는 우려에서다. 울투먼 CEO는 필요하다면 AI 개발까지 중단해야 한다고 강조했다.
울투먼 CEO는 이런 내용을 담은 ‘AGI를 위한 계획과 그 너머’라는 제목의 글을 홈페이지에 최근 올렸다. 인간은 결국 AGI를 개발할 수밖에 없는데 AGI의 위험을 반드시 대비해야 한다는 것이 골자다. AGI는 ‘Artificial General Intelligence’의 약자다. ‘인공 일반 지능’ 또는 ‘범용 인공 지능’으로 불린다. 챗봇형 AI(챗GPT), 이미지 생성 AI(미드저니) 등 특정 분야 특화된 AI가 아니다. 인간이 하는 모든 지적 업무를 처리할 수 있는 AI다. 인간의 명령 없이 스스로 학습하고 사고하며 행동할 수 있는 수준이다. 학계에서는 AI의 최종 형태라고 본다.
울투먼 CEO는 “AGI는 모든 사람에게 놀랍도록 새로운 능력을 제공할 수 있는 잠재력을 가지고 있다”면서도 “오용, 심각한 사고, 사회적 혼란 등 심각한 위헙을 초래할 수 있다”고 우려했다. 이어 “잘못 조정된 AGI는 세계에 심각한 해를 끼칠 수 있으며 독재 정권이 이런 AI 주도해 이용할 수 있다”고 덧붙였다.
그는 이런 문제가 발생하지 않도록 인간 사회가 AI 활용 천천히 확대해야 한다고 주장했다. 이 과정에서 정부가 AI를 충분히 이해하고 관련 규제도 마련해야 한다고 강조했다. 울투먼 CEO는 AI 부작용을 막기 위해 AI 개발 속도를 조정할 필요가 있다는 의견도 내놨다. 그는 “새로운 AI 모델을 만드는 데 사용되는 컴퓨팅의 증가 속도를 제한하고 AI의 학습을 중단할 수도 있다”고 말했다. 이어 “(오픈AI) 주주들이 얻을 수 있는 수익에 상한선을 두고 재앙을 초래할 수 있는 행위는 하지 않겠다”고 강조했다.
최근 AI챗봇 ‘챗GPT’가 놀라운 성능을 보여주자 AI에 대한 우려는 이미 나오고 있다. 오픈AI사의 공동 창업 멤버인 일론 머스크 테슬라 CEO는 지난달 “AI는 인간 문명의 미래에 가장 큰 위험 중 하나”라며 관련 규제를 신속히 도입해야 한다고 주장했다. 머스크 CEO는 “정부는 보통 문제가 발생한 뒤에 대응하기 때문에 규제 도입 속도가 느리다”라며 “규제로 AI 혁신 속도가 늦어진다면 그 역시 좋은 일”이라고 했다.
지난달 한국, 미국, 일본, 중국 등 60개국은 ‘군사적 영역의 책임 있는 인공지능에 관한 장관급 회의(REAIM 2023)’에서 AI에 대한 국가 차원의 틀과 전략, 원칙을 개발해 책임 있게 사용할 것을 권고하는 내용의 공동 행동 촉구서를 채택하기도 했다. AI를 활용한 드론이나 대량 살상 무기 등의 실전 배치가 임박했기 때문이다.
현재 다양한 기업들이 AGI 개발하고 있다. 알파고로 유명한 구글 AI 전문 자회사 딥마인드는 지난해 600여 개의 업무를 수행할 수 있는 AI 가토를 공개했다. 가토는 게임 이용, 채팅, 사진 설명 달기, 작곡, 로봇팔 제어 등의 업무를 처리할 수 있다. 다만 업무 수행 수준이 뛰어나지 않다는 평가를 받았다.
테슬라는 지난해 스스로 학습할 수 있는 AI 로봇 '옵티머스' 시제품 선보였다. 하지만 업무 처리 속도가 느려 '걸음마 단계'다. AI 스타트업 올거나이즈코리아의 이창수 대표는 "AGI는 딥러닝 모델과 다양한 방식의 트레이닝 방법으로 거대 언어모델(LLM)이 현재 수준으로 고도화했기 때문에 개발이 가능하다"며 "AGI의 상용화는 5년 정도 안에 가능할 것으로 본다"고 전망했다.
AGI 개발이 어려울 것이라는 주장도 나온다. 모든 분야를 인간보다 뛰어나게 처리하는 AI 개발이 쉽지 않다는 이유에서다. 음악 생성 AI 스타트업 포자랩스의 허원길 대표는 "하나의 AI 모델이 모든 분야의 업무를 처리하기는 상당히 어렵다"라며 "언제가 나올 수도 있겠지만 다양한 데이터를 모두 학습할 수 있는 획기적인 AI 모델이 먼저 나와야 한다"고 설명했다.
김주완/최다은 기자 kjwan@hankyung.com