tokenization

[アメリカ]/ˌtəʊkənaɪˈzeɪʃən/
[イギリス]/ˌtoʊkənaɪˈzeɪʃən/

日本語訳

n. テキストを単語やフレーズのようなトークンに分割するプロセス。

フレーズ・コロケーション

tokenization process

Japanese_translation

tokenization step

Japanese_translation

tokenization method

Japanese_translation

tokenization task

Japanese_translation

tokenization error

Japanese_translation

tokenization tools

Japanese_translation

tokenization stage

Japanese_translation

tokenization library

トークン化ライブラリ

例文

the initial step involves tokenization of the text data.

テキストデータの前処理として、トークン化が最初のステップです。

tokenization allows for easier analysis of the document.

トークン化により、ドキュメントの分析が容易になります。

we performed tokenization using a standard library.

標準ライブラリを使用してトークン化を実行しました。

effective tokenization is crucial for accurate nlp.

効果的なトークン化は、正確な自然言語処理に不可欠です。

the algorithm relies on tokenization to identify keywords.

アルゴリズムはキーワードを特定するためにトークン化に依存しています。

tokenization helps in building a vocabulary for the model.

トークン化は、モデルの語彙を構築するのに役立ちます。

whitespace tokenization is a common approach.

空白文字によるトークン化は一般的なアプローチです。

subword tokenization addresses out-of-vocabulary words.

サブワードトークン化は、語彙外の単語に対処します。

regular expression tokenization provides more control.

正規表現によるトークン化は、より多くの制御を提供します。

the system uses tokenization to preprocess the input.

システムは、入力の前処理としてトークン化を使用します。

tokenization is a fundamental step in text processing.

トークン化は、テキスト処理の基本的なステップです。

we evaluated different tokenization strategies.

さまざまなトークン化戦略を評価しました。

人気の単語

よく検索される語彙を調べる

アプリをダウンロードして、すべてのコンテンツをアンロック

もっと効率的に語彙を学びたいですか?DictoGoアプリをダウンロードして、さらに多くの語彙暗記や復習機能をお楽しみください!

DictoGoを今すぐダウンロード