Data & Innovation • Financial Services • AWS
Importante entidad Bancaria y Nubiral transforman la consulta de
documentos con IA Generativa
Desarrollo de chatbot mediante IA basada en AWS Bedrock. que permite a los usuarios consultar gran cantidad de documentos PDF y/o solicitar generación de texto a partir de esas consultas.
Desafío
Un destacado Banco de origen Argentino buscaba un aliado tecnológico para implementar una solución de inteligencia artificial basada en servicios de AWS Bedrock.
Su objetivo era desarrollar un chatbot que permitiera a los usuarios consultar gran cantidad de documentos PDF y/o solicitar al chatbot generación de texto a partir de esas consultas.
Para este desafío, confió en Nubiral y su Centro de Excelencia en Inteligencia Artificial (AI CoE).
Solución
Nubiral lideró el desarrollo de una solución adaptada a las necesidades de Banco a través de su AI CoE.
Este equipo multidisciplinario compuesto por especialistas en inteligencia artificial, analistas de negocios, científicos de datos, desarrolladores, arquitectos cloud y expertos en DevOps, colaboró estrechamente con el cliente para desplegar la solución con el desafío de poder lograrlo en sólo dos semanas.
Alcance del proyecto
El proyecto comenzó con el refinamiento del caso de uso inicial con el que el cliente ya contaba, que incluyó el desarrollo de un chatbot capaz de cargar documentos PDF por interacción, responder consultas sobre su contenido, generar textos como correos o documentos comerciales y mantener un historial de interacciones previas.
Posteriormente, se realizaron pruebas exhaustivas en entornos definidos por el cliente, con acompañamiento durante las pruebas internas y con usuarios finales.
Servicio de soporte técnico
Tras el desarrollo, el Banco contrató un servicio de administración y soporte técnico 24/7 que incluye:
● Administración: Gestión técnica integral de la plataforma.
● Soporte: Resolución de incidencias con cumplimiento de SLA.
● Monitoreo: Gestión de alertas y reporte mensual.
Nubiral configuró una mesa de ayuda y un sistema de guardia pasiva para gestionar incidentes con escalamiento basado en la criticidad. Además, definió procesos de monitoreo y métodos de resolución de problemas para garantizar el cumplimiento y mejora continua de los KPIs clave como:
● Tiempo de actividad: Porcentaje de operatividad de la solución.
● Tiempo de respuesta: Promedio de tiempo para atender consultas.
● Tasa de errores: Porcentaje de consultas que resultan en fallos.
● Consumo de tokens: Total de tokens utilizados por los modelos (por ejemplo, AWS Bedrock).
● Tasa de éxito en exportación de registros: Porcentaje de registros exportados exitosamente.
● Métricas de uso: Cantidad de documentos cargados y consultas procesadas. Para el monitoreo, se utilizaron herramientas como AWS CloudWatch y AWS X-Ray, asegurando trazabilidad y gestión efectiva.
Resultados clave
La colaboración entre la entidad bancaria y Nubiral dio lugar a una solución robusta y escalable que:
Mejora la consulta de documentos.
Acelera la transformación digital de la organización.
Brinda mayor agilidad y eficiencia operativa.
Conclusión
Este caso demuestra cómo la tecnología avanzada de AWS Bedrock, utilizando modelos como Claude 3 Haiku y Claude 3.5 Sonnet, puede transformar procesos empresariales.
Gracias al enfoque personalizado de Nubiral, el cliente logró implementar una solución innovadora que potencia a sus áreas de negocio en un entorno cloud.
