Presentado por Supermicro/NVIDIA
AI ofrece valencia comercial y una delantera competitiva para el negocio, pero hay un obstáculo: producirse de la prueba de concepto a la producción de IA a gran escalera. En este evento de VB Spotlight, aprenda cómo una plataforma de IA integral ayuda a entregar proyectos estratégicos y valencia comercial rápidamente.
“La IA es tan transformadora como Internet para la estructura de los negocios, la forma en que se hacen negocios y su impacto”, dice Anne Hecht, directora sénior, marketing de productos, rama de computación empresarial de NVIDIA. “Todas las empresas y departamentos están comenzando a utilizar la IA y están encontrando oportunidades para actuar, ser más eficientes y desarrollar relaciones más íntimas con sus clientes”.
Los consumidores interactúan con estos productos de IA todos los días, desde motores de recomendación desarrollados por departamentos de marketing hasta asistentes virtuales inteligentes que ayudan a los clientes a obtener resultados más rápido, hasta optimización de rutas para departamentos de transporte (y para nosotros, entrega de pizza más rápida). Ya es una tecnología transformadora, pero la IA generativa y las aplicaciones como ChatGPT están revolucionando la forma en que se hacen negocios. Las empresas están buscando formas de desbloquear el potencial de la IA y conquistar ahorros de costos, beneficios operativos y nuevos modelos de negocios.
“A pesar de todas estas oportunidades, encontramos que las empresas están luchando para hacer la transición de estos casos de uso a la producción completa”, dice Hecht. “Hay un gran potencial y, sin requisa, solo… tal vez un tercio de las empresas están en plena producción con inteligencia químico Ahora mismo.»
Los desafíos de implementar IA a escalera
Los desafíos van desde lo técnico hasta lo humano, dice Erik Grundstrom, director de FAE en Supermicro. El costo es siempre el número uno, por supuesto. Pero desde el punto de horizonte de la tecnología, existe la complejidad técnica de portar sistemas dispares a una plataforma unificada. Luego está el mapeo de datos de múltiples sistemas a una plataforma unificada, lo que requiere una comprensión profunda de la estructura de datos y las relaciones entre los datos.
El entorno de aplicaciones a menudo requiere varios equipos, cada uno con su propia experiencia, trabajando juntos para crear una única plataforma y, lo que es más importante, avalar que los datos sigan siendo fiables y que las aplicaciones sigan teniendo un parada rendimiento.
«Reunir a ese equipo es probablemente el maduro desafío de hoy», dice Grundstrom. «Grupos dispares en el interior de una empresa trabajan todos en sus propios diseños y diseños, en sus propios departamentos».
El entorno del equipo de soporte que se usa para desarrollar un bot de chat es muy diferente del entorno y las herramientas que usa el equipo que ejecuta el motor de recomendaciones, y no existe una estandarización de la infraestructura y los posibles en todos estos entornos. Cuando todo el mundo está haciendo lo suyo, se convierte en el salvaje oeste.
“Construir una estructura unificada presenta muchos desafíos nuevos para toda la empresa”, dice Grundstrom. “Pero las empresas que se están dando cuenta de esto están aprovechando al mayor el descomposición predictivo y obteniendo información de la mejor calidad de su IA a escalera”.
El otro problema esencia que dificulta la producción de IA para las empresas es que es muy diferente de una aplicación comercial unificado, agrega Hecht. No lo construyes, lo implementas y regresas y haces una modernización 12 meses luego. Una aplicación de IA se ejecuta y entrena continuamente con nuevos datos para obtener más inferencias, para mantenerla actualizada, hacerla más inteligente y avalar que se adapte a las circunstancias cambiantes. Por otra parte, la calidad de los datos y la integridad de los datos deben garantizarse de forma continua.
“La mayoría de las empresas emplean, en promedio, aprox. siete a siete meses y medio para desarrollar y entrenar un maniquí”, dice Hecht. “A menudo se aprovechan de un maniquí pre-entrenado. Y luego moverlo a producción. Así que todavía están lidiando con el hecho de que casi la fracción de ellos nunca llegan a producción. Si podemos ceñir ese tiempo, eso es muy importante para nuestros clientes».
Acelerando su tubería de IA
Las empresas al principio de su delirio suelen tener desarrolladores y equipos que construyen su infraestructura, ya sea aprovechando una instancia en la nubarrón o desarrollando en estaciones de trabajo o PC locales. Están utilizando marcos de trabajo de código libre y modelos pre-entrenados para hacer su trabajo de expansión. Estas herramientas pueden ser un gran ocasión para comenzar, pero donde fallan las empresas es su incompatibilidad. Por lo tanto, las aplicaciones desarrolladas en estos entornos de TI en la sombra enormemente personalizados a menudo no se pueden implementar en el centro de datos o terminan siendo parcheadas en ocasión de ingeridas, y se vuelve increíblemente difícil de prosperar. La producción de IA se convierte en una molestia en ocasión de una triunfo.
Para resolver este problema, la tubería de IA debe optimizarse para acelerar cada paso y admitir una aplicación al mercado en días en ocasión de meses. Ampliar celeridad reduce en gran medida el tiempo requerido para la capacitación y el procesamiento de datos, lo que significa ceñir los costos, ya que no necesita tanta infraestructura. Una plataforma de IA de producción de extremo a extremo es esencial, acompañada de un socio y herramientas, tecnologías y una infraestructura escalable y segura.
Las empresas que están teniendo éxito lo están impulsando estratégicamente. Se están tomando el tiempo para desarrollar toda su táctica comercial y se están acercando a la IA como un centro de excelencia, que reúne la gobernanza, los procesos, las personas y los equipos. Están haciendo inversiones en infraestructura, incluidas prácticas de seguridad, prácticas de privacidad y prácticas de diligencia de datos para hacer de la IA el núcleo de su negocio.
“Si comienza desde este ángulo, revelará lógicamente qué infraestructura necesita y con qué socios desea trabajar, para que pueda construir una infraestructura de IA completa y optimizada para su negocio”, dice Hecht. “Poco flexible, capaz de tocar cualquier flujo de trabajo de IA, cualquier oportunidad de IA que su ordenamiento y su negocio puedan encontrar”.
Para obtener más información sobre la infraestructura y los socios que son fundamentales para el éxito de la fabricación de IA, obtener más información sobre el poder de NVIDIA AI Enterprise y más, ¡no se pierda este VB Spotlight!
Dietario:
- Porque el tiempo para el valencia comercial de la IA es el diferenciador coetáneo
- Desafíos en la implementación de IA/fabricación a escalera
- Porque diferentes soluciones de hardware y software crean problemas
- Nuevas innovaciones en soluciones completas de IA de fabricación de extremo a extremo
- Una inspección tras bambalinas a la plataforma NVIDIA AI Enterprise
Altavoces
- Anna HechtDirector sénior, marketing de productos, rama de informática empresarial, NVIDIA
- Erik GrundströmDirector, FAE, Supermicro
- joe magliattaDirector sénior y editor, VentureBeat (moderador)
La delegación de VentureBeat debe ser una plaza de la ciudad digital para que los tomadores de decisiones técnicas obtengan información sobre la tecnología y las transacciones comerciales transformadoras. Descubre nuestras sesiones informativas.