Colossus: cómo es la "supercomputadora" que presentó Elon Musk con 100.000 chips Nvidia

Logo de xAI. Foto: Reuters.

La startup xAI, propiedad de Elon Musk, completó la configuración de Colossus, un sistema de entrenamiento de inteligencia artificial (IA) que el empresario describió como el sistema de entrenamiento de IA "más poderoso del mundo".

Según develó Musk en su red social 'X', Colossus está alimentado por 100.000 unidades de procesamiento gráfico (GPU) Nvidia H100, y tiene previsto duplicar su tamaño a 200.000 chips en los próximos meses. De dicho total, 50.000 serán los más potentes H200 de Nvidia.

Elon Musk, propietario de X. Foto: Reuters.

La H100 tiene capacidad para ejecutar modelos de lenguaje hasta 30 veces más rápido que las GPUs de generaciones anteriores, y su sucesor (H200), promete ser aún más rápido debido a mejoras arquitectónicas como el uso de memoria HBM3e y una capacidad de memoria aumentada a 141 gigabytes.

Según 'Silicon Angle', estos avances permiten la transferencia de datos de manera significativamente más rápida, lo que se traduce en un mejor rendimiento de los modelos de IA.

La H100 tiene capacidad para ejecutar modelos de lenguaje hasta 30 veces más rápido que las GPUs de generaciones anteriores. Foto: Reuters.

El avance tiene como objetivo primordial el entrenamiento del próximo modelo de lenguaje grande (LLM) de xAI, llamado Grok, que busca competir con el GPT-4 de OpenAI. Musk ya adelantó que esperan lanzar Grok-3 para diciembre.

El portal 'Quartz' indicó que la competencia en el ámbito de la IA incluye también a Meta, el conglomerado estadounidense tecnológico y redes sociales que junto con OpenAI también cuenta con cientos de miles de chips Nvidia.

Te puede interesar:

Biden le declaró la guerra a Elon Musk: "El hombre más rico del mundo trabajó como ilegal en Estados Unidos"

Más información sobre xAI

En junio, xAI anunció la elección de Memphis (Tennessee), como sede para su supercomputadora. Las compañías Dell Technologies y Super Micro Computer colaboraron en la construcción de dicha infraestructura.

El CEO de Dell, Michael Dell, felicitó a Musk a través de X, mencionando que es un honor para la empresa ser parte de este importante sistema de entrenamiento de IA.

xAI recaudó seis mil millones de dólares en una ronda de financiación Serie B. Foto: Reuters.

En mayo, xAI recaudó seis mil millones de dólares en una ronda de financiación Serie B, con inversionistas de renombre como Andreessen Horowitz y Sequoia Capital, elevando su valoración a 24 mil millones de dólares.

A pesar de ello, 'Silicon Angle' reportó que la startup se enfrenta a críticas de defensores locales en Memphis por empeorar la contaminación a causa del uso de turbinas de gas, mientras el esmog en la ciudad supera los estándares nacionales de calidad del aire.