기존 TPU 8i 칩 2개를 한 패키지에…메모리 대역폭도 2배
민감정보를 처리 중에도 보호하는 'TPU 8tx'도 공개
ADVERTISEMENT
(서울=연합뉴스) 한상용 기자 = 구글이 여러 인공지능(AI) 에이전트가 방대한 데이터를 동시에 처리할 수 있도록 연산 성능과 메모리 대역폭을 높인 자체 AI 칩을 공개했다.
민감한 데이터를 처리하는 동안에도 보호할 수 있도록 설계한 시스템도 함께 선보였다.
구글은 9일(현지시간) 8세대 텐서처리장치(TPU) 제품군에 'TPU 8i Max'와 'TPU 8tx'를 추가한다고 밝혔다.
올해 4월 대규모 AI 모델 학습용 'TPU 8t'와 실시간 추론용 'TPU 8i'를 공개한 데 이어 기존 칩을 활용해 용도별 시스템을 두 종 더 내놓은 것이다.
TPU 8i Max는 TPU 8i 칩 2개를 한 패키지에 결합한 시스템이다.
구글에 따르면 해당 칩은 기존 TPU 8i보다 연산 성능과 칩 내부 메모리(SRAM) 용량, 고대역폭 메모리(HBM) 대역폭이 각각 2배로 늘었다.
데이터센터에서는 기존 서버 랙과 같은 공간에 더 많은 연산 자원을 배치할 수 있다.
여러 AI 에이전트가 소프트웨어 전체 소스 코드나 수 시간 분량의 영상을 함께 분석하면 메모리에서 데이터를 읽어 오는 속도가 처리 성능을 좌우한다.
구글은 TPU 8i Max가 이런 작업에서 한 번에 대량의 데이터를 처리할 수 있도록 설계됐다고 설명했다.
TPU 8tx는 학습용 TPU 8t와 같은 칩에 맞춤형 AMD 중앙처리장치(CPU)를 조합한 시스템이다.
하드웨어 수준에서 민감한 데이터와 모델 가중치를 격리해 처리 중에도 보호하는 것이 특징이다.
구글은 저지연 네트워크를 적용해 TPU 8t보다 지연 시간을 최대 절반으로 줄였다고 강조했다.
금융사나 정부 기관 등은 이 시스템에서 민감한 데이터를 별도 서버로 옮기는 과정 없이 AI 모델을 미세 조정하고 추론에 활용할 수 있다.
구글은 지난달 오픈소스로 공개한 '토치TPU'를 통해 개발자들이 기존 '파이토치' 코드를 수정하지 않고도 TPU에서 실행할 수 있도록 했다.
구글은 자체 AI 모델 '제미나이'의 학습과 서비스에 쓰이는 TPU를 이용하는 외부 고객이 AI 연구기관과 금융사, 유통업체, 대학 등 100곳에 육박한다고 전했다.
gogo213@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT