AI 인프라

AI 워크로드에 대해 천편일률적으로 적용되는 것은 없습니다. NVIDIA, Intel, AMD, Arm 등의 업계 하드웨어 파트너와 함께 Google Cloud는 데이터 집약적인 모델의 학습 및 서빙을 위해 TPU, GPU, CPU 전반에 걸쳐 AI에 최적화된 다양한 컴퓨팅 옵션을 고객에게 제공합니다.

Cloud TPU와 Cloud GPU로 대규모 AI 워크로드를 조정하려면 지금까지는 장애, 로깅, 모니터링, 기타 기본 작업을 처리하기 위한 수동 작업이 필요했습니다. 확장성이 가장 높은 완전 관리형 Kubernetes 서비스인 Google Kubernetes Engine(GKE)은 TPU와 GPU를 운영하는 데 필요한 작업을 크게 간소화해 줍니다. GKE를 활용하여 Cloud TPU 및 Cloud GPU에서 대규모 AI 워크로드 조정을 관리하면 AI 개발 생산성이 향상됩니다.

관리형 서비스를 통해 인프라를 간단하게 추상화하려는 조직을 위해 Vertex AI는 이제 Cloud TPU와 Cloud GPU를 사용하여 다양한 프레임워크와 라이브러리를 사용한 학습을 지원합니다.

Google은 수십억 사용자가 이용하고 있는 YouTube, Gmail, Google 지도, Google Play, Android 등의 Google 제품에 필요한 글로벌 규모와 성능을 제공하기 위해 AI에 최적화된 인프라를 구축했습니다. Google의 AI 인프라 솔루션은 모두 고강도 AI 워크로드에 이르기까지 기반 서비스를 위한 업계 최고 수준의 수평 확장 기능을 지원하는 Google Cloud의 Jupiter 데이터 센터 네트워크를 기반으로 합니다.

Google은 수십 년에 걸쳐 TensorFlow 및 JAX와 같은 중대한 AI 프로젝트에 기여해 왔습니다. PyTorch Foundation을 공동 설립했으며 최근에는 업계의 새로운 컨소시엄인 OpenXLA 프로젝트를 발표했습니다. 또한 Google은 CNCF 오픈소스의 선도적인 참여 기업으로서 20년 이상 TFX, MLIR, OpenXLA, KubeFlow, Kubernetes와 같은 OSS에 기여해 왔으며 Project Jupyter 및 NumFOCverteUS와 같은 데이터 과학 커뮤니티에 중요한 OSS 프로젝트를 후원하고 있습니다.

또한 Google의 AI 인프라 서비스는 TensorFlow, PyTorch, MXNet과 같이 가장 널리 사용되는 AI 프레임워크가 포함되어 있어 고객이 특정 프레임워크 또는 하드웨어 아키텍처에 얽매이지 않고 원하는 프레임워크를 계속 사용할 수 있습니다.