Amazon presenta su nuevo chip de inteligencia artificial, Trainium2
La compañía también ha dado a conocer un nuevo procesador de uso general
Amazon Web Services (AWS), la división en la nube de Amazon, ha presentado este lunes un nuevo chip de inteligencia artificial, Trainium2, y el procesador de uso general Graviton4 durante su conferencia Reinvent en Las Vegas, según ha comunicado la compañía.
Así, el gigante del comercio electrónico asegura que el nuevo chip está diseñado para ofrecer un entrenamiento hasta cuatro veces más rápido que su primera versión y mejora la eficiencia energética hasta dos veces.
Estas mejoras permitirán entrenar tanto modelos básicos como de lenguaje grande de inteligencia artificial (LLM), que es la tecnología que se encuentra detrás de las aplicaciones de IA generativa emergentes, como es el caso de ChatGPT. El Trainium2 permitirá entrenar un LLM de 300.000 millones de parámetros "en semanas en lugar de meses".
Hoy en día, Databricks, Helixon, Money Forward y el equipo de Amazon Search utilizan los chips Trainium para entrenar estos modelos de aprendizaje profundo a gran escala.
Por su parte, Graviton4 proporciona hasta un 30% más de rendimiento informático, un 50% más de núcleos y un 75% más de ancho de banda de memoria que su predecesor. Todas estas mejoras, asegura AWS, "permiten ofrecer un mejor precio". Además, eleva el nivel de seguridad al cifrar completamente todas las interfaces físicas de hardware de alta velocidad.
Por lo tanto, los clientes de AWS podrán "mejorar la ejecución de sus bases de datos de alto rendimiento, cachés en memoria y cargas de trabajo de análisis de big data". En la actualidad, más de 50.000 clientes de AWS ya utilizan chips Graviton, como es el caso de Nielsen, Pinterest, SAP, Snowflake o Sprinklr.
David Brown, vicepresidente de Computación y Redes de AWS, asegura que "Graviton4 marca la cuarta generación que hemos entregado en solo cinco años y es el chip más potente y energéticamente eficiente que jamás hayamos construido para una amplia gama de cargas de trabajo. Y con el aumento del interés en la IA generativa, Tranium2 ayudará a los clientes a entrenar sus modelos de ML más rápido, a menor costo y con mejor eficiencia energética".