트럼프와 중국의 강력한 반발에도 AI의 위험을 막기 위한 공통 프레임워크를 만드는 작업이 진행될까?
유럽연합(EU)은 미국의 트럼프 대통령이나 중국 정부와는 달리 주요 인공지능(AI)연구소들이 제기한 AI개발속도 조절론을 지지하며 주요 AI연구소들과 위험 해결 방안 마련을 논의하겠다고 밝혔다.
16일(현지시간) 로이터와 CNBC 등에 따르면, 우르줄라 폰 데어 라이엔 유럽연합(EU) 집행위원장은 미국의 주요 AI연구소들이 제기한 AI 개발속도 조절론을 지지한다고 공식적으로 발표했다. 또 이들 연구소들을 초청해 위험 해결 방안을 논의할 것이라고 밝혔다. EU의 이 같은 입장은 트럼프 미국 대통령이나 중국 정부 입장과는 대비된다.
폰 데어 라이엔 위원장은 이 날 스트라스부르 유럽의회 연례 연설에서 "최첨단 AI모델들은 우리 상상을 초월하는 수준의 해킹을 할 것”이라고 말했다. 그는 특히 “이 모델은 머지않아 우리와 다른 시각으로 세상을 바라보는 적들의 손에 들어갈 것”이라고 강조했다.
폰 데어 라이엔은 "가장 앞선 기업의 CEO들이 자기복제적인 모델의 속도를 늦춰야 할 때라고 말하고 명확한 방향을 제시한다며 우리도 그래야 한다”고 말했다.
그녀는 최근 채택된 AI 사용에 관한 획기적인 EU 규정 덕분에 유럽이 AI 관련 위험에 대처하는 노력의 방향을 제시할 수 있게 됐다고 말했다. 이에 따라 유럽은 캐나다, 영국 등 뜻을 같이하는 파트너들과 협력해 모델 평가, 검증 및 AI 보안 등 조치를 취할 것이라고 말했다.
EU는 이미 자체 AI 규정을 갖고 있어 여기에 미국의 AI연구소들이 합의한다면 위험 방지를 위한 공통 프레임워크 마련이 빨라질 수도 있다.
EU는 과거에도 개인정보보호 및 디지털 플랫폼 규제, 탄소배출권 규정 등에서도 전세계 표준을 주도해 이른바 ‘브뤼셀 효과’를 갖고 있다. 이는 지리적 규모와 구매력 있는 4억5천만명의 소비시장을 무기로 규제를 제정하면 글로벌 기업들이 비용 절감을 위해 스스로 전세계 표준을 EU기준에 맞추는 현상이다.
개인정보 보호규정인 GDPR(일반 데이터보호규정)과 CBAM (탄소국경조정제도) 빅테크 플랫폼 독점 규제에 관한 디지털시장법(DMA) 디지털서비스법(DSA) 등이 그 사례다.
그러나 AI 업계안에서도 엔비디아의 CEO 젠슨황처럼 정부 차원의 규제나 제3자의 검증에 반대하는 목소리가 높다. 메타의 CEO 마크 저커버그도 속도 조절론과 외부 규제에 반대하고 나섰다.
마크 저커버그는 15일 AI연구소들이 자율적으로 문제 예방이 가능할 것이라고 언급했다. 이는 정부 규제에 반대하며 업계 스스로 제품에 대한 책임감으로 안전 문제를 해결하면 된다고 주장하는 엔비디아의 최고경영자(CEO)인 젠슨 황의 시각과 일치한다.
저커버그는 소셜 미디어 플랫폼에 올린 글에서 ”AI 정렬에 실패하는 AI연구소는 뒤처질 것”이라고 말했다. ‘정렬(alignment) 이란 AI의 행동이 단순한 목표 달성에 그치지 않고, 인간의 가치와 의도에 맞추도록 조정하는 작업이다.
저커버그는 ”모델이 피해를 발생시키면 AI 개발사들이 엄청난 법적 책임을 질 위험 때문에 잠재적 문제 예방 동기가 있다고 믿는다”며, 이는 “젠슨 황의 공개 발언과 일맥상통하는 시장 중심적 관점”이라고 밝혔다.
AI 업계의 최대 하드웨어 공급자인 엔비디아의 젠슨 황 CEO는 15일 세일즈포스의 연례 드림포스 행사에서 “AI모델 개발자들이 정부 규제를 추구하기 보다는 자신들의 제품에 대한 책임을 져야 한다”고 말했다. 그는 CNBC와의 인터뷰에서도 “AI관련 법률 및 규제는 완전히 불필요하다”고 언급했다. 그는 “우리는 이미 제품의 신뢰성과 기능성을 규제하는 많은 법률과 규정을 가지고 있다”고 강조했다.
반면 위험성을 경고한 앤트로픽의 다리오 아모데이나 오픈AI의 샘 올트먼, 일론머스크, 구글의 데미스 하사비스 등은 모두 개별 기업의 자율 보다는 기업 외부의 검증이나 안전 프레임워크가 필요하다는 입장을 보였다.
AI의 안전 문제는 최근 며칠간 세계적으로 큰 주목을 받으며 자본시장에도 큰 여파를 던지고 있다. AI의 주요 공급망에 걸쳐있는 반도체 주식과 데이터센터 관련 기술주들이 일제히 하락하며 AI속도조절론에 대한 시장의 반발을 나타냈다.
미국을 추격중인 중국 정부나 중국 AI 기업들이 개발 속도 조절은 물론, 공통 프레임워크에 합의할 지도 의문이다.
중국 정부는 이미 공식적으로 "중국의 개발 속도를 늦추려는 냉전시대적 음모'라고 반박했다. 아모데이 앤트로픽 CEO도 AI 속도조절에서 현실적으로 어려운 것은 "적대적인 국가나 기업들이 경쟁을 포기하지 않을 것이라는 점"이라고 언급한 바 있다.
일론 머스크는 이와 관련,"미국의 주요 AI기업들과 중국의 AI 기업들이 서로 모델 개발후 위험성을 교차 검증하자"는 아이디어도 내놨다. 중국 AI 기업들은 아직 아무 반응도 보이지 않고 있다.
김정아 객원기자 kja@hankyung.com