Contexto
Una institución del sector financiero y bancario, reconocida por su enfoque en innovación, busca optimizar la forma en que sus usuarios internos interactúan con grandes volúmenes de información estructurada y no estructurada. Como parte de su estrategia de inteligencia artificial, decidió explorar un modelo de agentes especializados que colaboren entre sí para responder preguntas complejas, generando insights de negocio de forma autónoma.
El desafío
El objetivo de la PoC fue validar un sistema de multi-agentes con IA generativa, capaz de:
- Orquestar agentes especializados que consuman diferentes tipos de fuentes de datos (documentos, metadata, archivos .xlsx, etc.).
- Lograr una precisión superior al 90% en la elección del sub-agente adecuado para cada tipo de consulta.
- Integrarse con APIs existentes del banco, sin necesidad de desarrollar nuevas en esta fase.
- Proteger la información sensible (PII), evitar alucinaciones y garantizar cumplimiento normativo.
- Presentar las respuestas a través de una interfaz de texto interactiva, amigable y en español.
Todo esto debía implementarse en 4 semanas, con foco en demostrar la capacidad de colaboración entre agentes y la generación de respuestas precisas basadas en múltiples fuentes.
La solución
Morris & Opazo desarrolló e implementó una arquitectura de agentes especializados orquestados por un agente gestor, utilizando herramientas avanzadas de GenAI en AWS. La solución incluyó:
- Uso de LangGraph y Amazon Bedrock Flows como framework base para la construcción de agentes y sus cargas.
- Un agente principal (gestor) que interpreta el pedido del usuario, lo divide en subtareas y las asigna a los agentes correspondientes.
- Conexión con fuentes de datos estructuradas y no estructuradas: hojas de cálculo, documentos PDF, metadata.
- Visualización interactiva en interfaz gráfica provista por M&O, simulando el comportamiento completo del sistema.
- Almacenamiento de logs de interacción en Amazon DynamoDB para trazabilidad y análisis posterior.
- Implementación de guardrails de seguridad para evitar respuestas inapropiadas o fuera de contexto.
Beneficios clave
- Validación de una arquitectura multi-agente, aplicable a múltiples iniciativas internas del cliente.
- Interacción natural y automatizada entre usuarios y sistemas mediante lenguaje natural.
- Procesamiento de fuentes diversas sin necesidad de preprocesamiento complejo.
- Escalabilidad futura del sistema, con base en estándares seguros y tecnologías nativas de AWS.
- Cumplimiento de criterios de éxito técnico definidos por el cliente en tiempo y alcance.
Recursos AWS implementados
- Amazon Bedrock: Plataforma central para orquestar agentes especializados con modelos fundacionales y flujos GenAI (Bedrock Flows).
- LangGraph (integrado en Bedrock Flows): Permite la interacción y coordinación entre múltiples agentes para resolver tareas complejas.
- Amazon ECS (Elastic Container Service): Ejecuta los backend services y el componente de interfaz conversacional.
- Amazon API Gateway: Expone endpoints seguros para la comunicación entre la interfaz y los servicios backend.
- AWS Lambda: Procesa eventos y lógica específica sin necesidad de servidores, como manejo de requests o control de acceso.
- Amazon DynamoDB: Almacena logs de interacciones y respuestas generadas por los agentes, con acceso rápido y escalable.
- Amazon Cognito: Maneja la autenticación de usuarios finales para el acceso seguro a la interfaz.
- Amazon CloudFront: Acelera la distribución del frontend, entregando la aplicación con baja latencia globalmente.
- Application Load Balancer (ALB): Distribuye el tráfico entre los servicios backend alojados en ECS.
- Amazon S3: Almacena documentos cargados por los usuarios que serán analizados por los agentes.
- NAT Gateway: Permite que recursos en subredes privadas accedan a internet para ejecutar funciones u obtener actualizaciones.
- Amazon VPC (Virtual Private Cloud): Aísla y organiza todos los servicios en una red segura con subredes públicas y privadas.
- AWS Security Hub, AWS CloudTrail, Amazon CloudWatch: Proveen monitoreo, auditoría y cumplimiento de políticas de seguridad.
O6651408