Deep Learning
Preguntas sobre redes neuronales, arquitecturas y el flujo de trabajo con modelos preentrenados.
¿Qué es el Deep Learning?
Es el área del Machine Learning que se centra en el uso de redes neuronales para resolver problemas más complejos (cognitivos) como Computer Vision o generación de lenguaje.
¿Qué tipos/arquitecturas de redes neuronales conoces?
Hay muchas, pero las vistas en el máster son las DNN (redes neuronales densas) y los Transformers.
¿Qué es un embedding?
Es una representación vectorial de texto generada a partir de redes neuronales que "contiene" información semántica de la palabra.
¿Qué es un Transformer?
Es un tipo de arquitectura de red neuronal para problemas de lenguaje, como clasificación de texto (BERT) o generación de texto (GPT).
¿Qué es el fine-tuning?
Es un proceso de entrenamiento que se hace sobre un modelo ya entrenado. Se usa cuando quieres "afinar" un modelo sobre un conjunto de datos concreto, aprovechando el conocimiento previo del modelo base.
¿Qué librerías conoces?
Keras, TensorFlow y PyTorch (en clase solo hemos usado Keras). Para Transformers específicamente, HuggingFace.