Red Hat Avanza en la Inferencia de IA Distribuida para Cargas de Trabajo de Producción con Red Hat AI 3
La plataforma de IA nativa de la nube híbrida de Red Hat simplifica los flujos de trabajo de la IA y ofrece nuevas y potentes capacidades de inferencia
Red Hat presentó Red Hat AI 3, una importante evolución de su plataforma de IA para la empresa. Esta plataforma, que combina las últimas innovaciones de Red Hat AI Inference Server, Red Hat Enterprise Linux AI (RHEL AI) y Red Hat OpenShift AI, ayuda a simplificar las complejidades de la inferencia de IA de alto rendimiento a gran escala, lo cual permite a las organizaciones acelerar la transición de las cargas de trabajo de la prueba de concepto a producción, además de mejorar la colaboración en torno a aplicaciones basadas en IA.
A medida que las empresas trascienden la experimentación con la IA, se enfrentan a obstáculos significativos, entre ellos, la privacidad de los datos, el control de costos y la gestión de modelos dispares. El proyecto NANDA “The GenAI Divide: State of AI in Business”, del Massachusetts Institute of Technology, pone de relieve la realidad de la IA de producción, en la que cerca del 95 % de las organizaciones no están obteniendo retornos financieros cuantificables de los aproximadamente USD 40.000 millones que invierten las empresas.
Red Hat AI 3 se dedica a resolver directamente estos desafíos al ofrecer una experiencia más coherente y unificada para que los CIO y los responsables del área de TI maximicen sus inversiones en tecnologías de computación aceleradas. Red Hat AI 3 hace posible escalar y distribuir cargas de trabajo de IA con rapidez entre entornos híbridos de multiproveedores, a la vez que mejora la colaboración entre equipos en cargas de trabajo de IA de próxima generación como agentes, todo en la misma plataforma común.
Red Hat AI 3: del entrenamiento a la “acción”, el cambio hacia la inferencia de IA empresarial
A medida que las organizaciones llevan las iniciativas de IA a la fase de producción, el foco pasa del entrenamiento y el ajuste de modelos a la inferencia, que sería la fase de “acción” de la IA empresarial. Red Hat AI 3 hace hincapié en la inferencia escalable y rentable al basarse en los proyectos comunitarios vLLM y llm-d de gran éxito, así como en las capacidades de optimización de modelos de Red Hat, y ofrece un servicio de modelos de lenguajes de gran tamaño (LLM) de nivel de producción.
Red Hat AI 3: una plataforma unificada para la IA colaborativa
Red Hat AI 3 ofrece una experiencia unificada y flexible adaptada a las demandas de colaboración que exige la creación de soluciones de IA generativa listas para producción. Está diseñado para ofrecer valor tangible al fomentar la colaboración y unificar los flujos de trabajo entre equipos a través de una única plataforma para que tanto los ingenieros de plataforma como los ingenieros de IA ejecuten su estrategia de inteligencia artificial.
