tokenizer

[US]/ˈtəʊkənaɪzə/
[UK]/ˈtoʊkənaɪzər/

Translation

n. программа или инструмент, который разбивает текст на токены, такие как слова или фразы

Phrases & Collocations

tokenizer input

tokenizer input

using a tokenizer

использование токенизатора

tokenizer output

вывод токенизатора

tokenizer library

библиотека токенизатора

tokenizer function

функция токенизатора

tokenizer class

класс токенизатора

tokenizer method

метод токенизатора

custom tokenizer

пользовательский токенизатор

Example Sentences

we used a fast tokenizer for efficient text processing.

мы использовали быстрый токенизатор для эффективной обработки текста.

the tokenizer splits the text into individual tokens.

токенизатор разбивает текст на отдельные токены.

a subword tokenizer handles rare words effectively.

подсловный токенизатор эффективно обрабатывает редкие слова.

the character tokenizer is simple but less effective.

символьный токенизатор прост, но менее эффективен.

we need a robust tokenizer for our nlp pipeline.

нам нужен надежный токенизатор для нашего конвейера обработки естественного языка.

the sentence tokenizer separates sentences accurately.

предложений токенизатор точно разделяет предложения.

the word tokenizer is a common starting point.

слово токенизатор - распространенная отправная точка.

we compared different tokenizers for optimal performance.

мы сравнили различные токенизаторы для достижения оптимальной производительности.

the tokenizer’s output is used for feature extraction.

выход токенизатора используется для извлечения признаков.

regular expressions can be used to define a custom tokenizer.

регулярные выражения можно использовать для определения пользовательского токенизатора.

Popular Words

Explore frequently searched vocabulary

Download App to Unlock Full Content

Want to learn vocabulary more efficiently? Download the DictoGo app and enjoy more vocabulary memorization and review features!

Download DictoGo Now