¿Quién es Ashish Vaswani?
Ashish Vaswani es un científico de computación originario de India, especializado en inteligencia artificial (IA) y procesamiento de lenguaje natural (NLP).
Nació alrededor de 1986–1987. Doctorado en la University of Southern California. Trabajó en Google Brain (uno de los equipos más top de IA) Área: deep learning, lenguaje natural, modelos de IA
Doctorado en la University of Southern California. Trabajó en Google Brain (uno de los equipos más top de IA) Área: deep learning, lenguaje natural, modelos de IA
Trabajó en Google Brain (uno de los equipos más top de IA) Área: deep learning, lenguaje natural, modelos de IA
¿Qué hizo exactamente?
Antes de este paper:
Los modelos de lenguaje usaban RNNs o CNNs, Procesaban texto palabra por palabra, Eran lentos y olvidaban contexto largo.
Vaswani y su equipo dijeron: “Olvidemos todo eso… usemos solo attention”
Curiosidades
• El paper “Attention Is All You Need” es uno de los más citados en la historia de la IA.
• Cambió completamente la industria en solo unos años.
• Grandes empresas como Google, OpenAI y Meta usan esta tecnología.