Cuándo no usar la generación de IA

👉 Surfeando en torno al bombo

👉 Los LLM y lo que no sirven

👉 La generación AI resuelve mi problema, ¿puedo usarla?

👉 Algunos buenos casos de uso para la generación de IA

👉 Finalizando

Surfeando en torno al bombo

Un poco de presagio

Los avances recientes en la IA han brindado al público en general una visión casi mística sobre lo que es posible con la tecnología actual. Los programadores y otros técnicos no son una excepción fenómeno. Esto no es malo; incluso diría que es algo bueno.

Desde el punto de vista industrial, la situación es bastante similar. Todo el mundo quiere sumarse al tren de la generación de IA, incluso cuando hay otras soluciones estándar o más sencillas disponibles. Esto puede deberse a diversas razones: falta de conocimientos profundos, falta de problemas bien estudiados o simplemente exageraciones exageradas. Esta mentalidad puede obstaculizar los negocios en más formas de las que cree, y es posible que se pierda los beneficios reales de esta nueva tecnología. Por eso, en este artículo, presentamos: ¿Cuándo (no) usar Gen AI? Qué hacer y qué no hacer al usar la IA generativa cuando realmente agrega valor.

Los LLM y lo que no sirven

Los LLM (modelos de lenguaje grande) se pueden usar de diversas maneras para múltiples aplicaciones. Pueden programar, escribir anuncios, diseñar planes de acción para secuencias complejas de operaciones e incluso responde a tu llamada telefónica. Sin embargo, no deben usarse como máquinas de oráculo sabelotodo, especialmente para problemas más simples. Estos son algunos ejemplos:

• No utilices modelos de lenguaje de IA como ChatGPT para categorizar a los clientes. Los métodos establecidos basados en datos, basados en sus datos, son más confiables y se adaptan mejor a las necesidades específicas de los clientes y los matices locales. ChatGPT se basa en las tendencias generales, lo que puede llevar a tomar decisiones equivocadas sin un ajuste personalizado.
• Evite el uso de herramientas de IA generativa para hacer predicciones, como establecer un rango de precios ideal para los productos. Estas herramientas no están diseñadas para eso. Los métodos tradicionales de análisis de datos, como los modelos estadísticos establecidos, como Random Forest, o los métodos de optimización, siguen siendo fiables y podrían adaptarse mejor a tus necesidades.

Los LLM también son muy caros, ya que requieren bastante procesamiento en comparación con los métodos más tradicionales. ¿Tiene sentido desde un punto de vista empresarial utilizar esta tecnología?

La generación AI resuelve mi problema, ¿puedo usarla?

¡Sí! ¿Pero es la mejor solución? ¿Es la más barata? Es posible que se dé cuenta de que su problema se puede resolver mejor con métodos más tradicionales. Estos son algunos ejemplos reales:

Uso de Gen AI para detectar objetos

Tomemos, por ejemplo, el reconocimiento de objetos en un vídeo. Los nuevos enfoques modernos implican el uso de LLM multimodales para detectar cosas en los vídeos. Este tipo de modelos son increíblemente flexibles; se pueden usar para comprender escenas complejas. Sin embargo, si solo te preocupa, por ejemplo, detectar personas en un vídeo, esto no es lo ideal. En cierto modo, el modelo lo hará, pero será más lento, menos predecible y más caro.

Supongamos, por ejemplo, que utiliza llamadas a la API GPT-4 para un vídeo con una resolución de 512 x 512 y 30 fps. Procesar cada fotograma costaría alrededor de 2,20 dólares por minuto. Por otro lado, si utilizamos métodos más tradicionales para la detección de objetos, obtenemos un coste (si hacemos una estimación aproximada) de unos 0,0007$ por minuto (3000 veces más barato por minuto, cinco órdenes de magnitud). Podríamos utilizar algunos trucos para reducir costes, como procesar cada enésimo fotograma, pero ese no es el problema. **Debemos usar la herramienta adecuada para el problema. **

Uso de los LLM como bots de decisión sencillos de «si A, entonces B»

Un caso de uso muy natural de los LLM es como bots. Este es un excelente caso de uso; sin embargo, los LLM tienen sus propios problemas que quizás debas tener en cuenta. No son confiables, necesitan barandas, tienen una alta latencia y su ejecución a gran escala es cara. Su mayor fortaleza también puede ser su debilidad: su flexibilidad. ¡Los bots tradicionales del tipo «si A, haz B» pueden ser exactamente lo que necesitas! En muchos casos, en realidad no necesitas ni deseas que tu bot gestione todas las solicitudes posibles de los usuarios. Cosas como la reserva de hotel siguen siendo simples y llanamente robots de la vieja escuela. No es necesario reinventar la rueda. Son rápidos, fáciles de implementar y tienes comportamientos garantizados. Ten en cuenta que es posible combinar bots tradicionales y basados en LLM para obtener lo mejor de ambos mundos.

Algunos buenos casos de uso para la generación de IA

Hasta ahora, hemos revisado algunos casos no tan ideales para la generación de IA; sin embargo, hay algunas posibilidades interesantes que se abren gracias a estas herramientas. Estos son algunos casos de uso realmente razonables para la generación de IA. Por supuesto, estos son solo algunos casos comerciales que hemos visto. Esto no debería impedirle probar nuevos casos de uso. Ya hemos hablado del futuro en una publicación reciente. Dicho esto, he aquí un par de ejemplos para transmitir de qué estoy hablando:

Consulta de conjuntos de datos y grandes bases de conocimiento mediante lenguaje natural

Los LLM son muy buenos para procesar y estructurar grandes cantidades de texto. Por ejemplo, puede combinar los métodos tradicionales de búsqueda en bases de datos con los LLM, lo que permite a los clientes interactuar con sus datos utilizando un lenguaje natural sin necesidad de formación adicional. Un buen ejemplo de esto es Rufus de Amazon, un bot que ayuda a los clientes a obtener más información sobre sus productos y a realizar mejores búsquedas. Los métodos más antiguos no pueden hacer esto, o al menos no con esta calidad y flexibilidad.

Generación automática de contenido

Los anuncios, tanto los basados en texto como en imágenes, son candidatos claros para la IA generativa, ya que ofrecen capacidades que los métodos más antiguos no podían lograr. Esto incluye la creación de variantes de anuncios con mensajes específicos o la localización de contenido para diferentes regiones. La edición de imágenes también se beneficia considerablemente de la IA generativa, ya que permite crear automáticamente anuncios alineados con la marca para tus productos.

Comprensión situacional compleja

Los métodos más antiguos podrían captar aproximadamente la esencia de algunos medios. El análisis de opiniones, por ejemplo, permite clasificar la dirección en la que se inclina un texto en relación con un tema, como una agenda política.

Hay muchos algoritmos simples y complicados para hacer esto. Sin embargo, cuando se trata de sutileza, las técnicas modernas de inteligencia artificial de la generación 1 son las más importantes. Si tu caso práctico requiere entender pequeñas cosas que implican algún tipo de comprensión del mundo, los LLMs y similares pueden ser para ti.

La generación de inteligencia artificial puede ayudar cuando no tienes suficientes datos

Este es un uso particularmente sofisticado de la generación de IA (especialmente los LLM). Supongamos que se encuentra en uno de esos casos en los que un enfoque tradicional funcionaría. Sin embargo, ¿qué pasa si no tiene los datos necesarios para que funcione bien o no funcione? Los modelos de IA de última generación aprovechan una enorme cantidad de conocimientos generales y, si bien no son específicos para su aplicación, pueden tener conexiones con ella. Estas herramientas se pueden utilizar para generar datos sintéticos para otros modelos. Solo utilizamos un LLM como herramienta de formación, y seguiríamos utilizando nuestros modelos baratos y rápidos para la inferencia. También podemos ser más rápidos y usar directamente un LLM previamente entrenado como solución para nuestra tarea, al menos hasta que obtengamos más datos.

Finalizando

Los métodos modernos prometen buenos resultados con pocos o ningún dato de entrenamiento, pero no son (todavía) una solución superior a los métodos estándar para todos los problemas habituales. Todavía no son el sustituto más avanzado de nuestra bolsa de trucos, sino más bien una nueva herramienta que incorporar.

Esperamos que este artículo lo ayude a navegar más allá de las expectativas y ver los avances. Deberíamos usar la IA cuando sea mejor que las técnicas anteriores o para un caso nuevo que sea imposible sin ella. Después de todo, las nuevas herramientas siempre deben ampliar lo que podemos hacer, no reducirlo.