BERT (Bidirectional Encoder Representations From Transformers) - нейронная сеть компании Google, языковая модель на архитектуре трансформер, которая должна обучаться языковым моделям и представлениям и применяться в обработке естественного языка. Простыми словами, цель Google BERT - научить компьютер понимать естественное общение людей.
Трансформер зародился как идея в 2017 г. Принципы ИИ были озвучены Google 8 июня 2018 г. Google открыл исходный код алгоритма BERT обработки естественного языка (NLP) 2 ноября 2018 г. Технологию можно использовать для обучения любой системы обработки естественного языка.