BERT Research - Ep. 2 - WordPiece Embeddings

Опубликовано: 18 Ноябрь 2019
на канале: ChrisMcCormickAI
71,415
1.7k

Update: The BERT eBook is out! You can buy it from my site here: https://www.chrismccormick.ai/bert-eb...

In Episode 2 we’ll look at:
What a word embedding is.
How BERT’s WordPiece model tokenizes text.
The contents of BERT’s vocabulary.

The Colab Notebook from the second half of the video (`Inspect BERT Vocabulary.ipynb`) can be found here: https://colab.research.google.com/dri...

I've also uploaded the `vocabulary.txt` file here if you want to peruse it without running the above notebook: https://drive.google.com/open?id=12jx...

==== Updates ====
Sign up to hear about new content across my blog and channel: https://www.chrismccormick.ai/subscribe


Смотрите видео BERT Research - Ep. 2 - WordPiece Embeddings онлайн без регистрации, длительностью часов минут секунд в хорошем качестве. Это видео добавил пользователь ChrisMcCormickAI 18 Ноябрь 2019, не забудьте поделиться им ссылкой с друзьями и знакомыми, на нашем сайте его посмотрели 71,415 раз и оно понравилось 1.7 тысяч людям.