tokenizer

[ארה"ב]/ˈtəʊkənaɪzə/
[בריטניה]/ˈtoʊkənaɪzər/

תרגום

n.a program or tool that breaks text into tokens, such as words or phrases

צירופים וביטויים

tokenizer input

קלט מנתח

using a tokenizer

שימוש במנתח

tokenizer output

פלט מנתח

tokenizer library

ספריית מנתח

tokenizer function

פונקציית מנתח

tokenizer class

מעמד מנתח

tokenizer method

שיטה של מנתח

custom tokenizer

מנתח מותאם אישית

דוגמאות למשפטים

we used a fast tokenizer for efficient text processing.

השתמשנו בטוקנייזר מהיר לעיבוד טקסט יעיל.

the tokenizer splits the text into individual tokens.

הטוקנייזר מפצל את הטקסט ליחידות טקסט בודדות.

a subword tokenizer handles rare words effectively.

טוקנייזר מילים משנה מטפל ביעילות במילים נדירות.

the character tokenizer is simple but less effective.

טוקנייזר תווים הוא פשוט אך פחות יעיל.

we need a robust tokenizer for our nlp pipeline.

אנחנו צריכים טוקנייזר חזק עבור צינור ה-nlp שלנו.

the sentence tokenizer separates sentences accurately.

הטוקנייזר משפטים מפריד משפטים בצורה מדויקת.

the word tokenizer is a common starting point.

הטוקנייזר מילים הוא נקודת התחלה נפוצה.

we compared different tokenizers for optimal performance.

השוואנו טוקנייזרים שונים לביצועים אופטימליים.

the tokenizer’s output is used for feature extraction.

הפלט של הטוקנייזר משמש לחילוץ תכונות.

regular expressions can be used to define a custom tokenizer.

ניתן להשתמש בביטויים רגולריים כדי להגדיר טוקנייזר מותאם אישית.

מילים פופולריות

חקור אוצר מילים שמחפשים לעיתים קרובות

הורד את האפליקציה כדי לפתוח את כל התוכן

רוצה ללמוד אוצר מילים ביעילות רבה יותר? הורד את אפליקציית DictoGo ותהנה מאפשרויות נוספות לשינון ולתרגול אוצר מילים!

הורד את DictoGo עכשיו