Vertex AI RAG Engine: una herramienta para desarrolladores

La IA generativa y los modelos de lenguaje grande (LLM) están transformando las industrias, pero dos desafíos clave pueden obstaculizar la adopción empresarial: las alucinaciones (que generan información incorrecta o sin sentido) y el conocimiento limitado más allá de sus datos de entrenamiento. La recuperación de generación aumentada (RAG) y la conexión a tierra ofrecen soluciones al conectar los LLM a fuentes de datos externas, lo que les permite acceder a información actualizada y generar respuestas más objetivas y relevantes.

Esta publicación explora Vertex AI RAG Engine y cómo permite a los desarrolladores de software y de IA crear aplicaciones de IA generativas sólidas y sólidas.

¿Qué es RAG y por qué lo necesita?

RAG recupera información relevante de una base de conocimientos y la envía a un LLM, lo que le permite generar respuestas más precisas e informadas. Esto contrasta con depender únicamente del conocimiento previamente formado del LLM, que puede estar desactualizado o incompleto. RAG es esencial para crear aplicaciones Gen AI de nivel empresarial que requieren:

• Precisión: Minimizar las alucinaciones y garantizar que las respuestas estén basadas en hechos.

• Información actualizada: Acceso a los datos y conocimientos más recientes.

• Experiencia en el dominio: Aprovechar las bases de conocimiento especializadas para casos de uso específicos.

RAG frente a conexión a tierra frente a búsqueda

• RAG: una técnica para recuperar y proporcionar información relevante a los LLM para generar respuestas. La información puede incluir información nueva, tema y contexto, o verdad sobre el terreno.

• Conexión a tierra: garantice la confiabilidad y confiabilidad del contenido generado por IA anclándolo a fuentes de información verificadas. La conexión a tierra puede utilizar RAG como técnica.

• Búsqueda: un enfoque para encontrar y entregar rápidamente información relevante desde una fuente de datos basada en texto o consultas multimodales impulsadas por modelos avanzados de IA.

Presentamos el motor Vertex AI RAG

Vertex AI RAG Engine es un servicio de orquestación administrado que agiliza el complejo proceso de recuperar información relevante y enviarla a un LLM. Esto permite a los desarrolladores centrarse en crear sus aplicaciones en lugar de gestionar la infraestructura.

Ventajas clave de Vertex AI RAG Engine:

• Facilidad de uso: Comience rápidamente con una API simple, que permite la experimentación y la creación rápida de prototipos.

• Orquestación administrada: maneja las complejidades de la recuperación de datos y la integración de LLM, liberando a los desarrolladores de la administración de la infraestructura.

• Personalización y soporte de código abierto: elige entre una variedad de modelos de análisis, fragmentación, anotación, incorporación, almacenamiento vectorial y código abierto, o personaliza tus propios componentes.

• Componentes de alta calidad de Google: aprovecha la tecnología de vanguardia de Google para lograr un rendimiento óptimo.

• Flexibilidad de integración: conéctate a varias bases de datos vectoriales, como Pinecone y Weaviate, o usa Vertex AI Vector Search.

Vertex AI RAG: una variedad de soluciones

Google Cloud ofrece una variedad de soluciones de RAG y conexión que se adaptan a diferentes niveles de complejidad y personalización:

• Vertex AI Search: Un motor de búsqueda y API de recuperación totalmente administrado, ideal para casos de uso empresarial complejos que requieren alta calidad lista para usar, escalabilidad y controles de acceso detallados. Simplifica la conexión a diversas fuentes de datos empresariales y permite realizar búsquedas en múltiples fuentes.

• RAG totalmente hecho por usted mismo: Para los desarrolladores que buscan un control total, Vertex AI proporciona API de componentes individuales (por ejemplo, API de incrustación de texto, API de clasificación, conexión a tierra en Vertex AI) para crear canalizaciones RAG personalizadas. Este enfoque ofrece la máxima flexibilidad pero requiere un esfuerzo de desarrollo significativo. Úselo si necesita personalizaciones muy específicas o desea integrarse con marcos RAG existentes.

• Vertex AI RAG Engine: El punto óptimo para los desarrolladores que buscan un equilibrio entre facilidad de uso y personalización. Permite la creación rápida de prototipos y el desarrollo sin sacrificar la flexibilidad.

Casos de uso comunes de RAG Engine en la industria:

1. Servicios financieros: asesoramiento y asesoramiento de inversión personalizados Evaluación de riesgos:

Problema: los asesores financieros deben sintetizar rápidamente grandes cantidades de información (perfiles de clientes, datos de mercado, presentaciones regulatorias e investigación interna) para proporcionar asesoramiento sobre inversión personalizado y evaluaciones de riesgos precisas. La revisión manual de toda esta información lleva mucho tiempo y es propensa a errores.

Solución de RAG Engine: un motor de RAG puede ingerir e indexar fuentes de datos relevantes. Los asesores financieros pueden consultar el sistema con el perfil específico y los objetivos de inversión de un cliente. El motor RAG proporcionará una respuesta concisa y basada en la evidencia a partir de los documentos relevantes, incluidas las citas, para fundamentar las recomendaciones. De esta manera, mejora la eficiencia del asesor, se reduce el riesgo de error humano y mejora la personalización del asesoramiento. El sistema también podría señalar posibles conflictos de intereses o infracciones normativas en función de la información que se encuentra en los datos ingeridos.

2. Atención sanitaria: descubrimiento acelerado de fármacos y; Planes de tratamiento personalizados:

Problema: el descubrimiento de fármacos y la medicina personalizada se basan en gran medida en el análisis de enormes conjuntos de datos de ensayos clínicos, trabajos de investigación, registros de pacientes e información genética. Examinar estos datos para identificar posibles objetivos farmacológicos, predecir las respuestas de los pacientes a los tratamientos o generar planes de tratamiento personalizados es sumamente desafiante.

Solución de RAG Engine: con las medidas de privacidad y seguridad adecuadas, un motor de RAG puede ingerir e indexar la vasta literatura biomédica y los datos de los pacientes. Luego, los investigadores pueden plantear preguntas complejas, como “¿Cuáles son los posibles efectos secundarios del medicamento X en pacientes con genotipo Y?”. El motor de RAG sintetiza información relevante de varias fuentes, proporcionando a los investigadores información que podrían pasar por alto en una búsqueda manual. El motor podría ayudar a los médicos a generar planes de tratamiento personalizados sugeridos en función de las características únicas y el historial médico de un paciente, respaldados por evidencia de investigaciones relevantes.

3. Legal: Debida diligencia mejorada y revisión de contratos:

Problema: los profesionales de asuntos legales pasan mucho tiempo revisando documentos durante los procesos de diligencia debida, las negociaciones contractuales y los litigios. Encontrar cláusulas relevantes, identificar riesgos potenciales y garantizar el cumplimiento de las regulaciones exige mucho tiempo y una gran experiencia.

Solución de RAG Engine: un motor de RAG puede ingerir e indexar documentos legales, jurisprudencia e información regulatoria. Los profesionales del derecho pueden consultar el sistema para encontrar cláusulas específicas dentro de los contratos, identificar posibles riesgos legales e investigar antecedentes pertinentes. El motor puede resaltar inconsistencias, responsabilidades potenciales y jurisprudencia relevante, lo que acelera en gran medida el proceso de revisión y mejora la precisión. Así, se pueden cerrar acuerdos más rápidamente, se reducen los riesgos legales y se logra un uso más eficiente de la experiencia legal.

Comenzando con Vertex AI RAG Engine

Google ofrece numerosos recursos para ayudarte a dar los primeros pasos, entre los que se incluyen:

• Notebook de primeros pasos:
  • https://github.com/GoogleCloudPlatform/generative-ai/blob/main/gemini/rag-engine/intro_rag_engine.ipynb

• Documentación: con la documentación completa, puedes orientarte en la configuración y el uso de RAG Engine.
  • https://cloud.google.com/vertex-ai/generative-ai/docs/rag-overview

• Integraciones: ejemplos con Vertex AI Vector Search, Vertex AI Feature Store, Pinecone y Weaviate.
  • https://github.com/GoogleCloudPlatform/generative-ai/blob/main/gemini/rag-engine/rag_engine_vector_search.ipynb
  • https://github.com/GoogleCloudPlatform/generative-ai/blob/main/gemini/rag-engine/rag_engine_feature_store.ipynb
  • https://github.com/GoogleCloudPlatform/generative-ai/blob/main/gemini/rag-engine/rag_engine_pinecone.ipynb
  • https://github.com/GoogleCloudPlatform/generative-ai/blob/main/gemini/rag-engine/rag_engine_weaviate.ipynb

• Marco de evaluación: Aprenda a evaluar y realizar ajustes de hiperparámetros para su recuperación con RAG Engine:
  • https://github.com/GoogleCloudPlatform/generative-ai/blob/main/gemini/rag-engine/rag_engine_evaluation.ipynb

Construya una IA generativa sólida

El motor RAG de Vertex AI y el conjunto de soluciones de conexión a tierra permiten a los desarrolladores crear aplicaciones de IA generativa más confiables, objetivas y reveladoras. Al aprovechar estas herramientas, puede desbloquear todo el potencial de los LLM y superar los desafíos de las alucinaciones y el conocimiento limitado, allanando el camino para una adopción empresarial más amplia de la IA generativa. Elija la solución que mejor se adapte a sus necesidades y comience a crear la próxima generación de aplicaciones inteligentes.