Внимание — это все, что вам нужно
« Внимание — это все, что вам нужно » — знаковое событие [1] [2] 2017 года, Исследовательская работа написанная восемью учёными, работающими в Google, и ответственная за расширение механизмов внимания 2014 года , предложенных Богданау и др. в новую архитектуру глубокого обучения, известную как преобразователь . Некоторые считают эту статью основополагающим документом для современного искусственного интеллекта , поскольку преобразователи стали основной архитектурой больших языковых моделей . [3] [4] В то время в центре внимания исследований было улучшение методов Seq2seq для машинного перевода , но даже в своей статье авторы увидели потенциал для других задач, таких как ответы на вопросы и для того, что сейчас называется мультимодальным генеративным ИИ . [5]
Название статьи является отсылкой к песне « All You Need Is Love » группы «Битлз» . [6]
По состоянию на 2024 год [update] статью процитировали более 100 000 раз. [7]
Авторы [ править ]
Авторы статьи: Ашиш Васвани , Ноам Шазир, Ники Пармар, Якоб Ушкорейт, Лайон Джонс, Эйдан Гомес , Лукаш Кайзер и Илья Полосухин. Все восемь авторов внесли «равный вклад» в статью, а порядок имен был рандомизированным. Статья Wired подчеркивает разнообразие группы: [6]
Шесть из восьми авторов родились за пределами США; двое других — дети двух немцев, имеющих грин-карты, которые временно находились в Калифорнии, и американца в первом поколении, чья семья бежала от преследований, соответственно.
К 2023 году все восемь авторов покинули Google и основали собственные стартапы в области искусственного интеллекта (кроме Лукаша Кайзера, который присоединился к OpenAI ). [6] [7]
Ссылки [ править ]
- ^ С любовью, Юлия (10 июля 2023 г.). «Исследователь искусственного интеллекта, который помог написать знаковую статью, покидает Google» . Новости Блумберга . Проверено 1 апреля 2024 г.
- ^ Голдман, Шэрон (20 марта 2024 г.). « Создатели «Внимание — это все, что вам нужно» смотрят не только на «Трансформеры для искусственного интеллекта» в Nvidia GTC: «Миру нужно что-то лучшее» » . ВенчурБит . Проверено 1 апреля 2024 г.
- ^ Тэйвс, Роб (3 сентября 2023 г.). «Трансформеры произвели революцию в области искусственного интеллекта. Что их заменит?» . Форбс . Архивировано из оригинала 26 сентября 2023 года . Проверено 3 декабря 2023 г.
- ^ Мурджа, Мадхумита (23 июля 2023 г.). «Трансформеры: ученые Google, которые совершили революцию в области искусственного интеллекта» . Файнэншл Таймс . Архивировано из оригинала 28 декабря 2023 года . Проверено 22 марта 2024 г.
- ^ Васвани, Ашиш ; Шазир, Ноам; Пармар, Ники; Ушкорейт, Якоб; Джонс, Лион; Гомес, Эйдан Н ; Кайзер, Лукаш; Полосухин, Илья (2017). «Внимание — это все, что вам нужно» (PDF) . Достижения в области нейронных систем обработки информации . 30 . Карран Ассошиэйтс, Инк.
- ^ Jump up to: Перейти обратно: а б с Леви, Стивен. «8 сотрудников Google изобрели современный искусственный интеллект. Вот внутренняя история» . Проводной . ISSN 1059-1028 . Проверено 20 марта 2024 г.
- ^ Jump up to: Перейти обратно: а б «Познакомьтесь с суперзвездами искусственного интеллекта с доходом в 4 миллиарда долларов, которых потерял Google» . Блумберг . 13 июля 2023 г. – через www.bloomberg.com.
 | Эта Google статья, связанная с , незавершена . Вы можете помочь Википедии, расширив ее . |
 | Эта искусственному интеллекту статья, посвященная , незавершена . Вы можете помочь Википедии, расширив ее . |