Programa
Taller
RAG: uso de LLMs locales sobre contenidos de las asignaturas. Juan Gutierrez. Universitat de València
Público objetivo
Programadores
Administradores
Abstract
Este taller se enfoca en explorar técnicas para el desarrollo y uso de modelos de inteligencia artificial (IA) locales, así como la creación de versiones adaptadas a diferentes contextos. Además, se abordará cómo segmentar textos de documentos para la obtención de embeddings y su almacenamiento en bases de datos de vectores. Se mostrará la integración de bases de datos de embeddings y las técnicas de generación de texto basado en búsqueda. Finalmente, se mostrará cómo invocar otras herramientas en el contexto de una conversación basada en IA (LLM), explicando cómo hacer que un sistema interactúe con las herramientas usando el lenguaje natural.
Durante el taller, se utilizarán bibliotecas Python para implementar estos conceptos y se utilizarán Jupyter Notebooks para experimentar con las ideas presentadas. El software necesario se distribuirá en una máquina virtual (sobre VirtualBox) que requiere al menos 6 CPUs, 8 GB RAM y unos 30 GB de espacio en disco.