Aprovechar el potencial de los LLM
El auge de los ingenieros de IA y los LLM listos para la producción

Introducción
Si has estado al menos un poco en línea durante estos últimos meses, probablemente estés al tanto de un nuevo «boom de la IA». Todos hemos jugado con ChatGPT o modelos generativos, y algunos incluso los han desplegado modelos en entornos reales.
Desde la conmoción inicial, el campo ha madurado, lo que ha permitido no solo a las empresas dedicadas a la IA, sino también a otras empresas crear productos de IA, lo que ha allanado el camino para creaciones de IA de próxima generación más diversas. Pero, ¿quién construirá estos productos y cómo?
Ingresa al ingeniero de inteligencia artificial
Al principio, la tecnología de vanguardia pertenece solo a los centros y laboratorios de investigación más avanzados. Los investigadores altamente especializados son los que hacen avanzar el campo. Pero una vez que haya alcanzado un nivel de madurez suficiente, es el momento de elegir un puesto que pueda controlar esta complejidad y sacar a relucir su potencial para los casos de uso cotidianos. Al igual que ha ocurrido antes, cuando los ingenieros de aprendizaje automático controlan la investigación sobre el aprendizaje automático, es hora de que los ingenieros de inteligencia artificial domen la investigación sobre la IA.
La ingeniería de inteligencia artificial se ha convertido en su propio subcampo de la ingeniería de software, con su propio conjunto de herramientas y desafíos, diferentes de la ingeniería de aprendizaje automático. Pero ambos tienen el mismo objetivo: hacer que las cosas funcionen en el mundo real.
Sin embargo, este nuevo subcampo viene con su propio conjunto de desafíos:
- Nuevas tecnologías: Si bien los modelos como ChatGPT4 son famosos, la aparición de alternativas de código abierto como Llama 2 mantiene la escena tecnológica vibrante. Navegar por este panorama no solo requiere la selección de modelos, sino también el dominio de herramientas como LLamaIndex, LangChain y Vector Databases para crear soluciones completas.
- Infraestructura: los modelos de IA pueden crearse y entrenarse desde cero mediante GPU o aprovecharse mediante API preexistentes. Los ingenieros de inteligencia artificial tienen la tarea de tomar esta decisión crucial en función de sus necesidades de implementación.
- Calidad de los datos y los resultados: estos sistemas se basan en los datos tanto para la capacitación como para abordar las consultas. Tras la implementación, es esencial combinar la supervisión humana y la supervisión automatizada para garantizar la integridad de sus fuentes de datos y la precisión de sus resultados, lo que mejora su base de conocimientos con el tiempo.
- Cumplimiento: cuando se implementan soluciones del mundo real, es imperativo cumplir con el cumplimiento. Es crucial no solo tratar los datos confidenciales con el máximo cuidado, sino también comprender y administrar dónde atraviesan y residen estos datos.
- Costos: las compensaciones arquitectónicas desempeñan un papel crucial en el diseño de soluciones rentables y viables.
Como puede ver, se trata de algo más que una simple «ingeniería rápida»: se trata de dar forma a los productos de IA que aportan valor al mundo real.
¿Por qué deberías empezar con la ingeniería de inteligencia artificial?
En muy poco tiempo, la forma en que interactuamos con nuestros datos ha cambiado por completo. Los LLM, en particular, nos han permitido tener acceso a un «segundo cerebro», que puede complementar nuestras tareas diarias. Pero para llevar esto al siguiente nivel sería necesario añadir datos no solo de toda Internet, sino también de tu organización específica.
Ahí es donde entran los ingenieros de IA: diseñan y crean la solución adecuada para sus necesidades.
Si quisieras empezar de inmediato, podrías crear algo bastante simple pero efectivo como esto:

Sin embargo, el uso directo de OpenAI tiene algunas deficiencias muy claras: su costo, las preocupaciones sobre la privacidad de los datos o el tiempo de actividad. Pero lo más importante de todo es su falta de conocimientos específicos sobre el dominio: OpenAI tiene excelentes LLM de uso general, pero no sabe nada sobre los conocimientos de su organización.
Aquí es donde la ingeniería de IA viene al rescate: creando la infraestructura y los sistemas que transforman una idea de IA en un producto de IA real. Esta es una visión simplificada del aspecto actual de la arquitectura de estas soluciones:

Realmente recomendamos leer Arquitecturas emergentes para aplicaciones LLM para comprender mejor cómo funciona esto, pero he aquí una explicación simplificada para un caso de uso estándar: los documentos se convierten en vectores numéricos denominados «incrustaciones». Estas incrustaciones capturan la esencia y el contexto de cada documento y se pueden almacenar en bases de datos vectoriales. Al igual que los datos de contexto, las solicitudes también se procesan y añaden datos de API externas y de la base de datos vectorial para añadir contexto. Posteriormente, las solicitudes se envían al LLM, que genera y devuelve una respuesta a su consulta.
Qué puede hacer Muttdata por usted
Como dice nuestro valor: «Somos fanáticos de los datos». Tenemos una amplia experiencia en la creación de soluciones de datos, y siempre nos aseguramos de que estas soluciones se adapten a las necesidades de nuestros clientes y nos centramos en asegurarnos de que estos sistemas estén listos para la producción y no solo para experimentos.
Creemos que la ingeniería de inteligencia artificial está en la madurez necesaria para empezar a cosechar sus beneficios. Hemos evaluado nuestra experiencia para implementar LLM utilizando soluciones de implementación automática y API para nuestros clientes, asegurándonos siempre de que la solución se adapte a sus necesidades, como la velocidad, el costo o el cumplimiento.
Si estás interesado en aprovechar el potencial de la IA, contacta con nuestro equipo para ayudarlo a comenzar su viaje hacia la ingeniería de inteligencia artificial.
Perspectivas más recientes

.webp)
