HOME

Infraestructura de IA: el reto de llevar proyectos a producción

La capacidad de ejecutar inteligencia artificial en entornos empresariales depende también de las condiciones físicas de los centros de datos y las instalaciones tecnológicas. La disponibilidad de energía, refrigeración, conectividad y espacio operativo puede determinar si una carga de trabajo funciona en una infraestructura existente o necesita otro entorno para llegar a producción.

Este es uno de los principales aspectos abordados en una nueva guía de Vertiv, desarrollada junto con STL Partners, firma de investigación de infraestructura digital, que plantea un método para definir los requerimientos tecnológicos antes de comprometer inversiones en infraestructura. El documento, titulado Diseño de infraestructura para la IA empresarial, está dirigido a responsables de negocio, tecnología e instalaciones.

La iniciativa se presentó en una colaboración entre Vertiv Holdings Co. (NYSE: VRT) y Deloitte Center for Integrated Research, con el propósito de ayudar a las organizaciones a resolver una de las decisiones que surgen cuando los proyectos de inteligencia artificial dejan la fase experimental: establecer dónde deben procesarse sus cargas de trabajo y comprobar si las instalaciones disponibles tienen capacidad para hacerlo.

El planteamiento parte de los resultados que espera obtener cada empresa y de las características de sus aplicaciones de IA. A partir de esos elementos, propone revisar las necesidades de infraestructura, la ubicación más conveniente y las condiciones de preparación de las instalaciones. El resultado se utiliza para seleccionar un modelo físico y un diseño de referencia que permitan avanzar hacia la planificación y la validación técnica.

La metodología contempla cuatro etapas: establecer el objetivo de negocio y la carga de trabajo; determinar sus necesidades de escala, rendimiento y operación; seleccionar el entorno donde se ejecutará, y relacionar esas condiciones con un modelo de infraestructura física y su correspondiente diseño de referencia.

“La próxima fase de la IA empresarial estará determinada no sólo por los modelos y la capacidad de cómputo, sino también por la capacidad de las organizaciones para proporcionar la energía, la refrigeración, la conectividad y el entorno operativo que requiere cada carga de trabajo”, afirmó Giordano Albertazzi, CEO de Vertiv. “Al comenzar por la carga de trabajo, las empresas pueden tomar decisiones de infraestructura con mayor anticipación, identificar limitaciones más pronto y trazar un camino más sólido desde sus aspiraciones en IA hasta la producción”.

Seis arquetipos y cuatro modelos de infraestructura

La propuesta considera que las empresas no tienen una única necesidad de infraestructura para desarrollar sus proyectos de inteligencia artificial. Sus aplicaciones pueden encontrarse en etapas diferentes y responder a exigencias distintas de rendimiento, control y operación.

La investigación identifica seis arquetipos de IA empresarial: uno relacionado con el desarrollo de modelos, otro con su reentrenamiento y cuatro correspondientes a distintas categorías de utilización en producción. La clasificación permite agrupar aplicaciones con características y requerimientos similares para facilitar las decisiones sobre capacidad tecnológica.

A partir de esa categorización, Vertiv plantea cuatro modelos físicos: clúster de IA en el borde, clúster pequeño de IA, clúster grande de IA y clúster de IA de alta densidad. Cada alternativa sirve como referencia para definir necesidades de energía, refrigeración, controles, conectividad, resiliencia, soporte operativo y posibilidades de crecimiento.

Los diseños asociados no son configuraciones invariables. Su adaptación depende de las condiciones particulares del sitio, las exigencias de cada carga de trabajo y la ingeniería de detalle.

La ubicación también varía según el propósito de las aplicaciones. Los proyectos exploratorios pueden mantenerse en servicios de nube, mientras que las operaciones continuas o esenciales para el negocio pueden requerir esquemas híbridos o capacidad administrada directamente por las empresas.

Cuando las aplicaciones necesitan tiempos de respuesta más cortos, mayor control, cercanía a los datos o características específicas de rendimiento de los modelos, la infraestructura de borde y otros entornos controlados pueden responder a esos requerimientos.

Por esa razón, el marco contempla distintas alternativas: nube pública, colocación, infraestructura propia, entornos híbridos y capacidad de borde. La selección no parte de privilegiar una modalidad sobre las demás, sino de establecer cuál responde a las condiciones de cada aplicación de inteligencia artificial.

La preparación de las instalaciones, otro factor de decisión

La evaluación de los espacios donde funcionará la infraestructura constituye otro componente de la metodología. Antes de definir una implementación, las organizaciones deben comprobar si el lugar dispone de energía suficiente, sistemas de refrigeración, conectividad, capacidad operativa y espacio para futuras ampliaciones.

Identificar esas condiciones desde la planificación permite detectar restricciones antes de que interfieran con el despliegue de los proyectos o retrasen su entrada en funcionamiento.

Nicholas Merizzi, socio y líder de Silicon2Service en Estados Unidos de Deloitte Consulting LLP, señaló que la transición hacia operaciones de IA modifica tanto los costos como las exigencias de funcionamiento de las organizaciones.

“Los aspectos económicos y los requisitos operativos de la IA cambian a medida que las cargas de trabajo pasan a producción”, señaló Nicholas Merizzi, socio y líder de Silicon2Service en Estados Unidos de Deloitte Consulting LLP. “Las organizaciones deben considerar conjuntamente el valor para el negocio, la gobernanza, la responsabilidad operativa y la infraestructura. Incorporar estas cuestiones al proceso de planificación desde una etapa más temprana brinda a los líderes una base más sólida para decidir dónde deben ejecutarse las cargas de trabajo de IA y cómo deben respaldarse a lo largo del tiempo“.

El documento propone incorporar esas variables desde las primeras decisiones, junto con los objetivos empresariales, para establecer dónde se ejecutarán las aplicaciones y qué recursos permitirán mantenerlas operativas a medida que avancen hacia una utilización sostenida.

Facebook
Twitter
Instagram
Whatsapp
LinkedIn