Una GPU comercializada para videojuegos puede ser útil para IA, y un acelerador de centro de datos puede resultar una forma costosa de ejecutar un modelo pequeño. La categoría del producto indica algo sobre el entorno de funcionamiento previsto. Por sí sola, no permite saber qué tarjeta dará el mejor resultado con una carga de trabajo concreta.
GPGPU significa computación de propósito general en unidades de procesamiento gráfico. Describe el uso de una GPU para cálculos que van más allá de los gráficos; no es una familia de productos independiente. Para planificar una infraestructura, resulta más útil distinguir entre tarjetas de consumo, tarjetas profesionales para estaciones de trabajo y aceleradores de centro de datos.
GPU de consumo
Las GPU de consumo se diseñan principalmente para videojuegos y ordenadores personales. También pueden servir para desarrollo, investigación, inferencia y ajuste fino cuando la carga de trabajo cabe dentro de sus límites de memoria y software. La gama GeForce RTX de NVIDIA es un ejemplo conocido. Las tarjetas AMD también pueden ser adecuadas, pero hay que comprobar la GPU exacta, el sistema operativo y las bibliotecas necesarias frente al entorno de software compatible.
Conviene considerar tarjetas como las RTX 3090, RTX 4090 y RTX 5090 cuando el trabajo cabe en una sola tarjeta o puede dividirse en tareas independientes. En la configuración adecuada, su rendimiento por unidad de coste puede ser atractivo frente a equipos de centro de datos más antiguos. La comparación cambia cuando una tarea necesita más memoria, mucha comunicación entre GPU o funciones operativas que la tarjeta de consumo no ofrece. El método importa más que recomendar permanentemente un modelo concreto; véase cómo elegir una GPU según la carga de trabajo.
Una tarjeta para videojuegos también impone requisitos mecánicos y térmicos que es fácil pasar por alto. Los grandes disipadores, los conectores de alimentación y los ventiladores que expulsan aire dentro del chasis pueden dificultar una instalación densa en un servidor. Tener suficientes ranuras PCIe no garantiza la compatibilidad. La guía de selección de servidores PCIe explica por qué hay que comprobarla para la tarjeta exacta y la lista de componentes del servidor.
GPU profesionales para estaciones de trabajo
Los productos gráficos profesionales de NVIDIA han pasado por denominaciones como Quadro, RTX A, RTX Ada y RTX PRO. Las familias equivalentes de AMD han incluido FirePro y Radeon PRO. Estas tarjetas se orientan a aplicaciones como visualización, ingeniería y creación de contenidos, con controladores profesionales y configuraciones adaptadas a esos entornos.
También pueden ser útiles para IA. Por ejemplo, las RTX A6000 y RTX 6000 Ada ofrecen 48 GB de memoria, lo que permite ejecutar trabajos que no caben en una tarjeta de consumo más pequeña. Una tarjeta profesional también puede proporcionar un formato físico más conveniente o una configuración de estación de trabajo oficialmente compatible.
La pregunta es si esas capacidades justifican el precio para el servicio previsto. La etiqueta profesional no garantiza una mejor relación entre rendimiento y coste en entrenamiento o inferencia. Hay que comparar la referencia exacta, la memoria utilizable, los formatos numéricos admitidos, la refrigeración y la vía de ejecución del software. Las ediciones para estaciones de trabajo y para servidores de una misma familia pueden diferir considerablemente.
Aceleradores de centro de datos
Los aceleradores de centro de datos se diseñan para cargas de cálculo sostenidas y para integrarse en plataformas de servidor. Según el producto, sus ventajas pueden incluir memoria de gran ancho de banda, mayor capacidad de memoria, funciones de fiabilidad y gestión, y comunicación más rápida entre aceleradores. Estas capacidades importan al entrenar modelos grandes, realizar inferencia con mucha demanda de memoria y ejecutar determinadas cargas de computación de altas prestaciones.
Esta categoría incluye varias generaciones de aceleradores NVIDIA, desde A100 hasta H100, H200 y Blackwell, además de la familia Instinct de AMD. Aun así, hay que comprobar las especificaciones, el software compatible y la validación del servidor para cada referencia. Una arquitectura más reciente no es automáticamente más adecuada para un modelo o motor de ejecución existente.
El formato de despliegue es otra decisión. Algunos aceleradores son tarjetas PCIe; otros forman parte de una plataforma integrada con varias GPU. La comparación entre PCIe y SXM explica cómo influye esta elección en la ampliación, la alimentación, la refrigeración y la comunicación entre GPU.
Empezar por el trabajo que hará la máquina
Para desarrollo y tareas de inferencia independientes, una tarjeta de consumo o de estación de trabajo puede ser un punto de partida razonable. Para un modelo que necesita más memoria o dedica una parte importante de su ejecución a intercambiar datos entre GPU, una plataforma de centro de datos puede justificar su mayor coste. En ambos casos, el servidor anfitrión necesita suficiente CPU, RAM, almacenamiento y ancho de banda de red para mantener ocupados los aceleradores; estos requisitos se explican en la guía de la plataforma de servidor.
Conviene pagar por capacidades que la carga de trabajo pueda utilizar. Más memoria puede hacer viable un despliegue que de otro modo sería imposible. Una interconexión que el software nunca utiliza añade coste sin aumentar la capacidad útil.
