Traduce el lenguaje natural a consultas (DSL) para consultas de Elasticsearch OpenSearch y consultas de Elasticsearch

El patrón utiliza un cuaderno de Jupyter como step-by-step guía para configurar el entorno e implementar la conversión. text-to-query

Utiliza Amazon Bedrock para acceder LLMs, que es crucial para interpretar el lenguaje natural y generar las consultas adecuadas.

La solución está diseñada para funcionar con Amazon OpenSearch Service. Puede seguir un proceso similar para Elasticsearch y las consultas generadas podrían adaptarse a los motores de búsqueda similares.

Conocimientos de los cuadernos de Jupyter. Comprensión básica de cómo navegar y ejecutar código en un entorno de cuadernos de Jupyter.

Entorno de Python. Un entorno de Python que funcione, de preferencia Python 3.x, con las bibliotecas necesarias instaladas.

OpenSearch Elasticsearch o conocimiento. Conocimientos básicos de Elasticsearch o OpenSearch, incluida su arquitectura y cómo realizar consultas.

Cuenta de AWS. Un activo Cuenta de AWS para acceder a Amazon Bedrock y otros servicios relacionados.

Bibliotecas y dependencias. Instalación de bibliotecas específicas mencionadas en el cuaderno, por ejemplo, boto3 para la AWS interacción, y cualquier otra dependencia necesaria para la integración con LLM.

Acceso a modelos en Amazon Bedrock. Este patrón usa tres Claude LLMs de Anthropic. Abra la consola de Amazon Bedrock y elija Acceso a modelos. En la pantalla siguiente, elija Activar modelos específicos y seleccione estos tres modelos:

Políticas de IAM y rol de IAM adecuados. Para ejecutar el cuaderno en una función AWS Identity and Access Management (de IAM) Cuenta de AWS, es necesaria la SagemakerFullAccess política, así como la política que se proporciona en la sección de información adicional, a la que puede dar un nombre. APGtext2querydslpolicy Esta política incluye la suscripción a los tres modelos de Claude que se indican.

Estado de la prueba de concepto. Este proyecto pretende principalmente ser una prueba de concepto (PoC). Demuestra el potencial de su uso LLMs para convertir consultas en lenguaje natural en consultas DSL, pero es posible que no esté completamente optimizado o preparado para la producción.

Limitaciones del modelo:

Restricciones de la ventana de contexto. Cuando utilice las LLMs que están disponibles en Amazon Bedrock, tenga en cuenta las limitaciones de la ventana de contexto:

Modelos de Claude (a partir de septiembre de 2024):

Es posible que otros modelos de Amazon Bedrock tengan tamaños de ventana de contexto distintos. Consulte siempre la documentación más reciente para obtener la información más actualizada.

Disponibilidad de modelos. La disponibilidad de modelos específicos en Amazon Bedrock puede variar. Asegúrese de tener acceso a los modelos necesarios antes de implementar esta solución.

Limitaciones adicionales

OpenSearch compatibilidad de versiones. OpenSearch mantiene la compatibilidad con versiones anteriores en las principales versiones. Por ejemplo:

Sin embargo, siempre que sea posible, es mejor utilizar la misma versión secundaria para el cliente y para el clúster.

OpenSearch Compatibilidad con las API. OpenSearch mantiene la compatibilidad de la API con Elasticsearch OSS 7.10.2 para la mayoría de las operaciones. Sin embargo, existen algunas diferencias, sobre todo en las versiones más recientes.

OpenSearch consideraciones sobre la actualización:

Versión de Elasticsearch. La versión principal de Elasticsearch que utilice es crucial, ya que la sintaxis y las características de las consultas pueden cambiar entre las versiones principales. Actualmente, la última versión estable es Elasticsearch 8.x. Asegúrese de que las consultas sean compatibles con la versión específica de Elasticsearch.

Versión de la biblioteca de DSL de consultas de Elasticsearch. Si utiliza la biblioteca de Python de DSL de consultas de Elasticsearch, asegúrese de que la versión coincida con la versión de Elasticsearch. Por ejemplo:

Versión de la biblioteca del cliente. Ya sea que utilice el cliente oficial de Elasticsearch o un cliente para un lenguaje específico, asegúrese de que sea compatible con la versión de Elasticsearch.

Versión de Query DSL. Query DSL evoluciona con las versiones de Elasticsearch. Es posible que algunos tipos o parámetros de consulta estén en desuso o se hayan introducido en versiones diferentes.

Asignación de versión. La manera en que define las asignaciones de los índices y cambia de una versión a otra. Consulte siempre la documentación de asignación de la versión específica de Elasticsearch.

Versiones de herramientas de análisis. Si utiliza analizadores, tokenizadores u otras herramientas de análisis de texto, su comportamiento o disponibilidad podrían cambiar de una versión a otra.

Creación de contenedores:

Arquitectura sin servidor:

Proceso asíncrono:

Almacenamiento en caché:

Supervisión y registro:

Mejoras de seguridad:

Implementación multirregional

Los cuadernos Amazon SageMaker AI son cuadernos Jupyter totalmente gestionados para el desarrollo del aprendizaje automático. Este patrón utiliza las libretas como un entorno interactivo para la exploración de datos, el desarrollo de modelos y la experimentación en Amazon SageMaker AI. Los cuadernos proporcionan una integración perfecta con otras funciones de SageMaker IA y. Servicios de AWS

Python es un lenguaje de programación informático de uso general. Este patrón utiliza Python como lenguaje principal para implementar la solución.

Amazon Bedrock es un servicio totalmente gestionado que pone a su disposición modelos básicos de alto rendimiento (FMs) de las principales empresas emergentes de IA y Amazon a través de una API unificada. Amazon Bedrock proporciona acceso al procesamiento LLMs del lenguaje natural. Este patrón utiliza modelos Anthropic Claude 3.

AWS SDK para Python (Boto3)es un kit de desarrollo de software que le ayuda a integrar su aplicación, biblioteca o script de Python con Servicios de AWS, incluido Amazon Bedrock.

Amazon OpenSearch Service es un servicio gestionado que le ayuda a implementar, operar y escalar clústeres de OpenSearch servicios en la nube de AWS. Este patrón utiliza OpenSearch Service como sistema de destino para generar el DSL de consultas.

La necesidad de contar con AWS las credenciales y los permisos adecuados para acceder a Amazon Bedrock

Los posibles costos asociados con el uso Servicios de AWS y LLMs

La importancia de comprender el DSL de consultas para validar y, posiblemente, modificar las consultas generadas

Consulta DSL (OpenSearch documentación)

Documentación OpenSearch de Amazon Service

OpenSearch Colecciones sin servidor

Documentación de Amazon Bedrock

Documentación de Amazon SageMaker AI

AWS SDK para Python (Boto3) documentación

Petición con pocos pasos: las peticiones con pocos pasos es una técnica eficiente para mejorar el rendimiento de los modelos de Claude 3 en Amazon Bedrock. Este enfoque implica proporcionar al modelo un pequeño número de ejemplos que demuestren el input/output comportamiento deseado antes de pedirle que realice una tarea similar. Al utilizar los modelos de Claude 3 en Amazon Bedrock, las peticiones con pocos pasos pueden resultar muy eficaces para las tareas que requieren un formato específico, patrones de razonamiento o conocimientos del dominio. Para implementar esta técnica, en general, se estructura la petición con dos componentes principales: la sección de ejemplos y la consulta propiamente dicha. La sección de ejemplos contiene uno o más input/output pares que ilustran la tarea y la sección de consultas presenta la nueva entrada para la que desea obtener una respuesta. Este método ayuda a Claude 3 a entender el contexto y el formato de salida esperado y, a menudo, da como resultado una respuesta más precisa y coherente.

Ejemplo:

"query": {
  "bool": {
    "must": [
      {"match": {"post_type": "recipe"}},
      {"range": {"likes_count": {"gte": 100}}},
      {"exists": {"field": "media_urls"}}
    ]
  }
}
Question: Find all recipe posts that have at least 100 likes and include media URLs.

Peticiones del sistema: además de las peticiones con pocos pasos, los modelos de Claude 3 de Amazon Bedrock también admiten el uso de peticiones del sistema. Las peticiones del sistema son una manera de proporcionar un contexto general, instrucciones o directrices al modelo antes de presentarlo con entradas específicas del usuario. Son muy útiles para definir el tono, establecer el papel del modelo o establecer las limitaciones de toda la conversación. Para utilizar una petición del sistema con Claude 3 en Amazon Bedrock, debe incluirlo en el parámetro system de su solicitud de API. Esto es independiente de los mensajes de usuario y se aplica a toda la interacción. Las peticiones detalladas del sistema se utilizan para establecer el contexto y proporcionar pautas para el modelo.

Ejemplo:

You are an expert query dsl generator. Your task is to take an input question and generate a query dsl to answer the question. Use the schemas and data below to generate the query.

Schemas: [schema details]
Data: [sample data]
Guidelines: 
- Ensure the generated query adheres to DSL query syntax
- Do not create new mappings or other items that aren't included in the provided schemas.

Salida estructurada: puede indicar al modelo que proporcione la salida en formatos específicos, como JSON o en etiquetas XML.

Ejemplo:

Put the query in json tags

Encadenamiento de peticiones: el cuaderno utiliza el resultado de una llamada al LLM como entrada para otra, por ejemplo, utiliza los datos sintéticos generados para crear preguntas de ejemplo.

Aprovisionamiento de contexto: en las peticiones se proporciona el contexto correspondiente, como los esquemas y los datos de muestra.

Ejemplo:

Schemas: [schema details]
Data: [sample data]

Peticiones específicas para cada tarea: se diseñan peticiones distintas para tareas específicas, como generar datos sintéticos, crear preguntas de ejemplo y convertir consultas en lenguaje natural en DSL de consultas.

Ejemplo de generación de preguntas de prueba:

Your task is to generate 5 example questions users can ask the health app based on provided schemas and data. Only include the questions generated in the response.