tokenization

[US]/ˌtəʊkənaɪˈzeɪʃən/
[UK]/ˌtoʊkənaɪˈzeɪʃən/

Translation

n. テキストを単語やフレーズのようなトークンに分割するプロセス。

Phrases & Collocations

tokenization process

Japanese_translation

tokenization step

Japanese_translation

tokenization method

Japanese_translation

tokenization task

Japanese_translation

tokenization error

Japanese_translation

tokenization tools

Japanese_translation

tokenization stage

Japanese_translation

tokenization library

トークン化ライブラリ

Example Sentences

the initial step involves tokenization of the text data.

テキストデータの前処理として、トークン化が最初のステップです。

tokenization allows for easier analysis of the document.

トークン化により、ドキュメントの分析が容易になります。

we performed tokenization using a standard library.

標準ライブラリを使用してトークン化を実行しました。

effective tokenization is crucial for accurate nlp.

効果的なトークン化は、正確な自然言語処理に不可欠です。

the algorithm relies on tokenization to identify keywords.

アルゴリズムはキーワードを特定するためにトークン化に依存しています。

tokenization helps in building a vocabulary for the model.

トークン化は、モデルの語彙を構築するのに役立ちます。

whitespace tokenization is a common approach.

空白文字によるトークン化は一般的なアプローチです。

subword tokenization addresses out-of-vocabulary words.

サブワードトークン化は、語彙外の単語に対処します。

regular expression tokenization provides more control.

正規表現によるトークン化は、より多くの制御を提供します。

the system uses tokenization to preprocess the input.

システムは、入力の前処理としてトークン化を使用します。

tokenization is a fundamental step in text processing.

トークン化は、テキスト処理の基本的なステップです。

we evaluated different tokenization strategies.

さまざまなトークン化戦略を評価しました。

Popular Words

Explore frequently searched vocabulary

Download App to Unlock Full Content

Want to learn vocabulary more efficiently? Download the DictoGo app and enjoy more vocabulary memorization and review features!

Download DictoGo Now