IA generativa y la magia del ecosistema abierto

IA generativa y la magia del ecosistema abierto

IA generativa y la magia del ecosistema abierto PlatoBlockchain Data Intelligence. Búsqueda vertical. Ai.

Oficial Los líderes de TI enfrentan varios desafíos al navegar por el creciente ecosistema de IA generativa, pero elegir una pila tecnológica que pueda ayudar a hacer realidad los casos de uso empresarial es uno de los más grandes.

La cantidad de modelos propietarios y de código abierto crece día a día, al igual que las herramientas diseñadas para respaldarlos.

Para comprender el desafío, imagine a los líderes de TI como magos examinando una gran biblioteca de hechizos mágicos (Dumbledore puede ser suficiente para muchos), cada uno de los cuales representa un modelo, herramienta o tecnología diferente. Cada estante contiene diferentes categorías de hechizos, como generación de texto, síntesis de imágenes o videos, entre otras.

Los libros de hechizos incluyen diferentes diagramas, encantamientos e instrucciones, al igual que los modelos GenAI contienen documentación, parámetros y matices operativos. Sin embargo, GPT-4, Stable Diffusion y Llama 2 se encuentran entre los modelos más conocidos. muchos más, en ganando tracción.

Además, esta “biblioteca” crece constantemente, lo que hace más difícil para los líderes de TI mantenerse al día con el ritmo frenético de conjurar – digamos – innovación. Algo así como perseguir a un escalera móvil.

Entiendes la idea. Si no estás seguro, puedes repasar los libros o películas de Harry Potter. Mientras tanto, aquí hay tres pasos clave que debe considerar al comenzar a diseñar su infraestructura de IA para el futuro.

Elija modelos y arquitectura modular.

A medida que los líderes de TI adoptaron más software de nube pública, se dieron cuenta de que una mezcla mágica de términos de licencia, envoltorios propietarios y gravedad de los datos hacía que algunas de sus aplicaciones fueran difíciles y costosas de mover. Estas organizaciones se habían quedado efectivamente atrapadas en las plataformas en la nube, cuyos fosos estaban diseñados para mantener las aplicaciones dentro de los muros del castillo.

Si tu crees eso GenAI será una carga de trabajo crítica para su negocio: el 70 por ciento de los directores ejecutivos globales dijeron PwC cambiará la forma en que sus negocios crean, entregan y capturan valor; entonces usted debe superar el obstáculo del bloqueo. Una forma de hacerlo es elegir un modelo abierto y una pila de soporte que le brinde flexibilidad para pasar a nuevos productos que sirvan mejor a su negocio.

El analista tecnológico Tim Andrews los defensores para replantear su forma de pensar de predecir los "ganadores" de productos a una que le permita salir lo más fácilmente posible. Y una arquitectura de software modular en la que partes de sus sistemas estén aisladas puede resultar útil.

Afortunadamente, muchos modelos le brindará flexibilidad y libertad. Pero andad con cuidado; Así como los libros de hechizos pueden albergar maldiciones ocultas, algunos modelos pueden agotar los recursos de la organización o introducir sesgos o alucinaciones. Investigue los modelos y comprenda las compensaciones.

Elija la infraestructura con cuidado

La potencia de GPU NVIDIA cree que la mayoría de las grandes corporaciones levantar sus propias fábricas de IA, esencialmente centros de datos dedicados a ejecutar únicamente cargas de trabajo de IA cuyo objetivo es aumentar la productividad y la experiencia del cliente. Esto será una aspiración para todos, excepto para las empresas que tienen el flujo de caja sólido para construir estos centros de IA.

Los modelos de nube pública le ayudarán a ponerse en marcha rápidamente, pero, si dimensionar correctamente su modelo de IA y garantizar la privacidad y la seguridad de los datos es clave, una ruta local puede ser la adecuada para usted. Su infraestructura es la varita mágica que le permite ejecutar sus modelos. De qué está hecha tu varita también importa.

En el corto plazo, las organizaciones seguirán ejecutando sus cargas de trabajo de IA en un entorno híbrido o multinube que ofrezca flexibilidad de elección y al mismo tiempo permita a los líderes de TI elegir ubicaciones operativas en función del rendimiento, la latencia, la seguridad y otros factores. La futura arquitectura de TI es multinube por diseño, aprovechando la infraestructura y los diseños de referencia entregado como servicio. Desarrollar esa visión le permitirá ejecutar sus cargas de trabajo GenAI en una variedad de lugares.

Sepa esto: dado que las organizaciones aún evalúan o ponen a prueba modelos GenAI, aún no han surgido caminos de estandarización. Mientras construyen, debes tener cuidado de evitar deuda técnica cuanto más se pueda.

Adopte el ecosistema abierto

Si bien los magos pueden pasar años dominando sus hechizos, los líderes de TI no pueden darse ese lujo. El ochenta y cinco por ciento de los ejecutivos de alta dirección dijeron que esperan aumentar su nivel de inversiones en IA y GenAI en 2024, según Boston Consulting Group.

Corresponde al líder de TI ayudar a las partes interesadas del negocio a descubrir cómo crear valor a partir de sus implementaciones de GenAI, incluso cuando llegan regularmente nuevos modelos e iteraciones.

Afortunadamente, existe un ecosistema abierto de socios para ayudar a mitigar los desafíos. Los ecosistemas abiertos son fundamentales porque ayudan a reducir la barrera de entrada para la mayoría de los equipos tecnológicos maduros.

En un ecosistema abierto, las organizaciones que carecen de las habilidades técnicas o los medios financieros para crear o pagar un LLM ahora pueden acceder a modelos listos para usar que no requieren las valiosas habilidades para entrenar, ajustar o aumentar modelos. Los socios confiables son una de las claves para navegar ese ecosistema.

Dell está trabajando con socios como Meta, Abrazando la cara y otros para ayudarte lleva IA a tus datos servidores de alto rendimiento, almacenamiento, dispositivos cliente y servicios profesionales puedes confiar.

Mantener abiertas sus opciones es fundamental para lograr los resultados comerciales que harán que su viaje GenAI sea mágico.

Aprenda más sobre Soluciones de IA generativa de Dell.

Ofrecido por Dell Technologies.

Sello de tiempo:

Mas de El registro