.avif){kind=icon}
Procesamiento del Lenguaje Natural: semática y sintaxis
Curso intermedio para Científicos de datos sobre la sintáxis y la semántica en el procesamiento del lenguaje natural. Duración (4 semanas).
El objetivo principal del curso es permitir a los Científicos de Datos en BBVA ahorrar una cantidad sustancial de tiempo en tres etapas fundamentales de las soluciones data-driven:
1)El Planteamiento del caso de uso incluyendo tanto las características de la base de datos adecuada para el modelo de inferencia como la elección de una métrica de evaluación del modelo compatible con las necesidades del negocio.
2)Las técnicas del pre-procesamiento de los datos, la elección del algoritmo y método de calibrado que permitan reaccionar a tiempo cuando los resultados iniciales no sean los deseados por la necesidad del negocio. Estas habilidades deberán estar equilibradas tanto en la comprensión matemática como en la soltura con la que se utiliza código en Python para ejecutarlas.
3)La defensa o crítica de un modelo matemático en términos simples y bien informados que permitan a los analistas interactuar con las distintas áreas dentro de BBVA.
.png)
Semana
1
Clasificación de Textos
.png)
En esta primera semana del curso presentaremos los modelos de clasificación de textos vectorizando por bolsas de palabras, utilizaremos modelos que previenen el sobre-ajuste y el sub-ajuste.
Semana
2
Topic Modeling
.png)
En esta semana hablaremos sobre un modelo del lenguaje que permite concentrarnos en el problema de la clusterización de texto, este modelo utilizará sofisticadas hipótesis probabilísticas para encontrar variables latentes en el espacio.
Semana
3
Encajes & Redes Neuronales
Después de haber visto modelos en los que la vectorización de los textos no consideran ni la semántica ni la sintaxis, esta semana introduciremos redes neuronales para el procesamiento del lenguaje que nos permitirán considerar la semántica de las palabras con el fin de distinguir vectorialmente sus similitudes.
Semana
4
Redes recurrentes y Named Entity Disambiguation
En este módulo trataremos una arquitectura de redes neuronales recurrentes que permite agregar la información del orden de las palabras a los textos. La aplicación que mostraremos permite identificar la clase correcta para un conjunto de palabras y tiene muchas aplicaciones por ejemplo en el contexto de textos legales.
Semana
5
Grandes Modelos Del Lenguaje
Durante la última semana del curso vamos a estudiar los Grandes Modelos del Lenguaje (LLM) los cuales son uno de los grandes logros de la inteligencia artificial y han hecho posible sistemas como ChatGPT. Después de haber estudiado arquitecturas densas y recurrentes durante los módulos pasados, esta semana vamos a introducir las capas de atención las cuales son fundamentales para los modelos de lenguaje capaces de generar textos tanto semántica como sintácticamente robustos.