Nuestro crossover con LangChain

Uso de LangSmith para abordar las LLM en producción

Últimamente hemos estado trabajando mucho con GenerativeAI, con un marco para crear aplicaciones listas para la producción, y investigar formas de generar las mejores imágenes posibles. Pero ahora es el momento de hablar sobre la generación de texto mediante LLM (LArge LLenguaje Mmodelos): la tecnología detrás de ChatGPT, Llama, Mistral y más.

Como siempre, nuestro objetivo es poder construir sistemas listos para la producción a partir de estas tecnologías de vanguardia. Si no funciona en producción y no ayuda a los usuarios, ¡entonces no lo consideramos terminado! Nos hemos centrado en implementar los LLM y nos complace compartir los desafíos (y las soluciones) que hemos encontrado a lo largo del camino.

Podrás leer sobre nuestras experiencias en esta publicación del blog de LangChain, donde nuestro propio Tomás Pastore ha compartido su experiencia con LangSmith para medir los LLM.

Por qué elegimos LangSmith

LangSmith es una plataforma de desarrollo de LangChain, capaz de depurar, supervisar, probar y evaluar Solicitudes de LLM. Teniendo en cuenta nuestro enfoque en crear productos de inteligencia artificial que se ejecuten en entornos de producción, LangSmith fue la elección correcta. No solo aceleró el tiempo de desarrollo, sino que también nos ayudó a ofrecer un mejor producto final.

En nuestro caso de uso, necesitábamos mejorar la calidad de las respuestas de nuestro LLM. Ya teníamos un conjunto de pruebas, pero realizarlas y calificarlas de forma manual consumía mucho tiempo e introducía el sesgo de las personas encargadas de corregir los resultados. Esto simplemente no era escalable para la producción.

En nuestra publicación cruzada con LangChain, podrás leer sobre cómo utilizamos LangSmith para construir un Evaluador personalizado con solo unas pocas líneas de código, lo que mejora significativamente la calidad de nuestro conjunto de pruebas y sus métricas.

¡Descubre más!

Este es solo uno de los muchos temas que analizamos en la entrada del blog de LangChain, donde podrás leer sobre la mejora de la calidad inmediata, los riesgos de seguridad de las LLM y más.

Obtenga más información sobre los principales desafíos de generar texto mediante LLM y nuestras soluciones recomendadas para cada uno de ellos en esta exploración detallada.