OpenAI presentó su primer chip de inteligencia artificial personalizado desarrollado en alianza con Broadcom Inc., como parte de la estrategia de la compañía creadora de ChatGPT para obtener una ventaja competitiva mediante hardware diseñado específicamente para ejecutar mejor sus productos de IA.
Las compañías señalaron el miércoles que OpenAI ya recibió las primeras muestras del chip, llamado Jalapeño, y está probando cómo este silicio gestiona la ejecución de cargas de trabajo de inteligencia artificial. Hasta ahora, el acelerador está mostrando ahorros de costos de aproximadamente 50% frente a las unidades de procesamiento gráfico (GPU) de IA tradicionales, dijo el CEO de Broadcom, Hock Tan, en una entrevista.
Los chips finales serán integrados en grandes centros de datos de Microsoft —uno de los principales respaldos de OpenAI— y de otros socios a partir de fines de este año. Tan espera que OpenAI y Broadcom puedan superar su proyección anterior de desplegar chips equivalentes a 1,3 gigavatios de capacidad el próximo año.
“Nos gusta pensar que podemos hacerlo mejor porque hay mucha demanda”, afirmó.
Aunque OpenAI sigue dependiendo fuertemente de los chips de la líder del mercado Nvidia, la startup ha trabajado para ampliar su combinación de proveedores con el objetivo de responder al creciente apetito por sus servicios de inteligencia artificial. OpenAI ha cerrado acuerdos multimillonarios con fabricantes de chips como Advanced Micro Devices y Cerebras Systems.
Las acciones de Broadcom subieron 1,6% hasta US $386,25 en la mañana en las operaciones de Nueva York. Acumulaban un alza cercana al 10% en el año hasta el cierre del martes.
Inversión multimillonaria
En octubre, OpenAI anunció que se asociaría con Broadcom para diseñar aceleradores adaptados para funcionar de manera óptima con sus modelos de inteligencia artificial. Según informó Bloomberg News, OpenAI planea gastar decenas de miles de millones de dólares en chips de Broadcom, sumándose a los enormes desembolsos de la startup —que aún no es rentable— en infraestructura física para soportar el desarrollo de IA.
El jefe de hardware de OpenAI, Richard Ho, se negó a revelar cómo la compañía pagará por los chips, aunque señaló que los acuerdos de financiamiento se definirán cuando se complete el pedido total de procesadores. Tan declinó comentar al respecto, pero reiteró que Broadcom creó un vehículo de financiamiento de chips junto a Apollo Global Management y Blackstone que también ayudará a OpenAI.
OpenAI recaudó US$ 122.000 millones en financiamiento a comienzos de este año para reforzar su costosa estrategia de inversión en chips, centros de datos y talento. La compañía también ha firmado acuerdos financieros con proveedores, incluidos Nvidia y AMD, que han sido criticados por tener una naturaleza circular.
Los nuevos chips fueron desarrollados desde cero en un tiempo récord, según OpenAI y Broadcom. OpenAI señaló que todavía está evaluando las versiones de prueba, pero que los primeros datos muestran que Jalapeño es capaz de ofrecer un rendimiento por vatio de energía “sustancialmente superior al estado actual del arte”.
Diseñado para grandes modelos de IA
El chip fue diseñado para grandes modelos de lenguaje (LLM, por sus siglas en inglés) y estuvo guiado por el enfoque de OpenAI para la inferencia, una etapa que implica ejecutar tareas de IA, explicó Ho. Sin embargo, agregó que “es un dispositivo de propósito muy general” que “abordará futuras innovaciones en LLM”.
OpenAI quiere mantener abiertas sus opciones respecto a permitir que otros desarrolladores de modelos utilicen sus chips, dijo Ho.
Dentro de la industria tecnológica, algunos chips de IA son más potentes para realizar múltiples tareas simultáneamente, mientras que otros están enfocados en entregar una respuesta individual a un usuario lo más rápido posible. OpenAI afirmó que su objetivo es combinar ambos enfoques: la potencia de los principales chips de IA con una velocidad más cercana a la de hardware especializado para ejecutar modelos más rápido.
Los chips buscan mejorar el rendimiento reduciendo la cantidad de datos que deben desplazarse dentro del sistema. El hardware también fue diseñado considerando los patrones de uso de computación, memoria y redes que son más relevantes para los modelos de IA de última generación.
Ambas compañías tienen una hoja de ruta para futuros chips, con una próxima versión prevista para 2028 y desarrollos anuales posteriores, dijo Tan. Mientras Jalapeno está enfocado en la inferencia, OpenAI podría considerar otras cargas de trabajo en futuras generaciones de chips.
Para OpenAI, este chip representa el inicio de una serie de pasos para ejercer mayor control sobre todos los niveles de la infraestructura de la que depende, afirmó Ho. Tan, por su parte, espera que otros desarrolladores de IA sigan el camino de OpenAI.
“Al final del día, cada uno de los creadores de modelos de frontera —y en este momento no son tantos fuera de China—, con el tiempo, creará su propio acelerador de IA y red personalizada óptimos”, dijo Tan.