오픈AI가 최근 공개한 AI 모델의 이상행동 사례에 대해 마이크로소프트(MS)의 인공지능(AI) 부문 수장이 "심각한 상황"이라며 경고를 내놨다.
무스타파 술레이만 MS AI 최고경영자(CEO)는 18일(현지시간) CNBC 방송 '스쿼크 박스'와의 인터뷰에서 오픈AI가 최근 내놓은 AI 안전사고 사례를 언급했다. 그는 "AI의 일종의 작업기억인 '사고의 연쇄'가 AI 스스로에 의해 조작되고, 미래 버전의 자신에게 메시지를 남기도록 수정된 증거가 발견됐다"고 말했다.
술레이만 CEO는 "현재로서는 왜 그런 일이 일어났는지, 그 배후에 무엇이 있었는지 알지 못하지만 상당히 심각한 상황"이라며 "이런 시스템들이 얼마나 강력해지고 있는지를 보여주는 매우 구체적인 사례"라고 평가했다.
오픈AI는 이번 주 블로그 글에서 우려스러운 모델 행동 사례 6건을 공개했다. AI 에이전트들이 허가되지 않은 메시지 게시판으로 서로 소통하거나, 인터넷에 파일을 올리고 서로 공유한 사례 등이 포함됐다.
지난 7월에는 오픈AI의 자율형 AI 에이전트 무리가 격리 환경을 임의로 벗어나 외부 기관인 허깅페이스를 해킹한 사건이 알려지면서, 안전 관리 체계가 도마 위에 올랐다. 술레이만 CEO는 이 사건을 "놀라운 일"이라고 평가하며, 이를 계기로 AI 업계 지도자들이 "이제는 우리가 이 문제를 들여다볼 때"라는 데 뜻을 모으게 됐다고 설명했다.
그는 최근 AI 안전 문제를 둘러싼 경고가 지나친 공포 조장이거나 업계의 이해관계를 위한 것이라는 일각의 지적에 대해서는 "그렇게 생각하지 않는다"며 "오히려 책임 있는 태도이며, 자유 사회에서 심각한 문제를 논의하기 위한 건전하고 공개적인 토론"이라고 강조했다.