Carlos Lara Alvarez CIMAT carlos.lara@cimat.mx Unidad 2 Título de módulo: Arquitecturas encoder-decoder (Transformers y aplicaciones) Objetivo General: Proporcionar una comprensión profunda de las arquitecturas encoder- decoder, centrándose en modelos...
More
Carlos Lara Alvarez CIMAT carlos.lara@cimat.mx Unidad 2 Título de módulo: Arquitecturas encoder-decoder (Transformers y aplicaciones) Objetivo General: Proporcionar una comprensión profunda de las arquitecturas encoder- decoder, centrándose en modelos basados en Transformers y sus aplicaciones en dominios lingüísticos y no lingüísticos. Objetivos Específicos 1. Revisar la arquitectura encoder-decoder 2. Analizar aplicaciones en dominios no lingüísticos 3. Comparar el modelo de atención de Luong (global vs. local) con el mecanismo de Scaled Dot-Product Attention de los Transformers. 4. Entender la codificación posicional 5. Describir el modelo de transformer pág. 1
Less
