לפני BERT, מי שחיפש בגוגל "2019 brazil traveler to usa need a visa" קיבל תוצאות על אזרחים אמריקאים שנוסעים לברזיל. החיפוש פספס את המילה "to", שקובעת מי נוסע לאן. BERT הוא מודל שפה של גוגל שקורא כל מילה בשאילתה יחד עם המילים שלפניה ואחריה, ואיתו גוגל הבינה שמדובר בברזילאי שצריך ויזה לארצות הברית. גוגל הודיעה ב-25 באוקטובר 2019 שהיא מתחילה להשתמש בו בדירוג התוצאות באנגלית בארה"ב, ובתקצירים המודגשים בעשרים וכמה מדינות. ב-9 בדצמבר 2019 היא הודיעה על הפצה ליותר מ-70 שפות, ועברית ברשימה.
עדכון ברט שיפר את האופן שבו גוגל מבינה מה אנשים מחפשים. לאתרים הוא לא הביא כללים חדשים, ודני סאליבן, ה-Search Liaison של גוגל, כתב במפורש שאין מה לעשות אופטימיזציה ל-BERT. ובכל זאת כדאי להכיר אותו, כי הוא מסביר איך גוגל קוראת חיפושים ארוכים ושיחתיים.
מה זה אלגוריתם ברט (BERT) ואיך הוא קורא שאילתת חיפוש?
ב-2 בנובמבר 2018 Google Research הודיעה שפרסמה כקוד פתוח טכניקה לאימון מוקדם של מודלי שפה בשם BERT, קיצור של Bidirectional Encoder Representations from Transformers. זה קרה כמעט שנה לפני שהטכניקה הגיעה לחיפוש. עם הפרסום, כל אחד יכול היה לאמן בעזרתה מערכת משלו למענה על שאלות. גוגל מגדירה את BERT כמערכת AI, ובעברית הוא מוכר גם בשמות אלגוריתם ברט ועדכון ברט.
בבסיס עומדת ארכיטקטורת ה-Transformer, שחוקרים בגוגל פיתחו ב-2017. מודל כזה מעבד כל מילה ביחס לכל שאר המילים במשפט בבת אחת.
מה פירוש "דו-כיווני" (Bidirectional) ב-BERT?
Google Research הסבירה את זה עם המילה האנגלית bank, שהיא גם בנק וגם גדה של נהר. במודלים שלא מתחשבים בהקשר, כמו word2vec, למילה יש ייצוג אחד, זהה ב-"bank account" וב-"bank of the river". מודל חד-כיווני כבר מתחשב בהקשר, אבל רק במה שבא לפני המילה: במשפט "I accessed the bank account" הוא מפרש את bank לפי "I accessed the", ואת account הוא לא רואה. BERT קורא את bank משני הצדדים.
בשאילתת חיפוש, המילה שלפני או אחרי יכולה להיות "to", "for" או "no". בדוגמאות של גוגל בהמשך רואים שלפעמים דווקא היא קובעת מה מחפשים.
איך BERT למד להבין שפה?
לפי Google Research, BERT אומן מראש על טקסט רגיל בלבד, במקרה הזה ויקיפדיה. כדי ללמד אותו לקרוא משני הכיוונים, החוקרים הסתירו חלק מהמילים במשפט, והמודל היה צריך לנחש אותן לפי המילים שמשני הצדדים. במשימה נוספת הוא קיבל שני משפטים והיה צריך לקבוע אם השני באמת בא אחרי הראשון בטקסט, או שנבחר באקראי.
למה BERT דרש מגוגל חומרה חדשה?
לפי פוסט ההכרזה, חלק מהמודלים שגוגל בנתה עם BERT היו מורכבים כל כך שהם הגיעו לגבולות של מה שאפשר לעשות בחומרה רגילה. לכן, לראשונה, גוגל הגישה תוצאות חיפוש בעזרת מעבדי ה-Cloud TPU החדשים שלה.
ציר הזמן של עדכון BERT בגוגל
בפוסט ההכרזה גוגל כתבה ש-BERT הוא השיפור הגדול ביותר שלה בהבנת שאילתות בחמש השנים שקדמו לו, ואחד הגדולים בתולדות החיפוש. הוא נכנס לחיפוש בשלבים. התאריכים לקוחים מהפוסטים של גוגל, מחשבון Search Liaison שלה ב-X ומהחשבון האישי של דני סאליבן.
| תאריך | מה קרה |
|---|---|
| 2 בנובמבר 2018 | Google Research מודיעה שפרסמה את BERT כקוד פתוח. |
| 25 באוקטובר 2019 | ההכרזה על BERT בחיפוש. בדירוג התוצאות הוא עוזר להבין אחד מכל עשרה חיפושים באנגלית בארה"ב, ובתקצירים המודגשים הוא פועל בעשרים וכמה המדינות שבהן התכונה זמינה. |
| 28 באוקטובר 2019 | דני סאליבן, Search Liaison של גוגל, כותב שאין מה לעשות אופטימיזציה ל-BERT. |
| 9 בדצמבר 2019 | גוגל מודיעה על הפצה של BERT ליותר מ-70 שפות. עברית ברשימה. |
| 15 באוקטובר 2020 | באירוע Search On גוגל מודיעה ש-BERT פועל כמעט בכל חיפוש באנגלית. |
| 18 במאי 2021 | הכרזה על MUM, מודל שגם מבין שפה וגם מייצר אותה. |
| 3 בפברואר 2022 | גוגל כותבת ש-BERT ממלא תפקיד כמעט בכל חיפוש באנגלית: הוא מדרג מסמכים לפי רלוונטיות, ומערכות אחזור ותיקות שופרו בעזרת אימון BERT. הוא פועל כחלק ממערך של מערכות שעובדות יחד. |
בדירוג, BERT התחיל מאנגלית בלבד. בתקצירים המודגשים (Featured Snippets) הוא פעל כבר ביום ההכרזה גם בשפות אחרות, וגוגל דיווחה על שיפור משמעותי בשפות כמו קוריאנית, הינדית ופורטוגזית. את רשימת המדינות הפוסט לא פירט.
את עדכוני גוגל החשובים מ-2003 ואילך, לצד יומן העדכונים הרשמיים שמתעדכן אוטומטית, ריכזנו בציר הזמן של עדכוני גוגל.
דוגמאות BERT של גוגל: מה השתנה בתוצאות החיפוש?
בפוסט ההכרזה פרסם פנדו נאיאק, סגן נשיא בחטיבת החיפוש של גוגל, חמש דוגמאות, חלקן מתהליך הבדיקות של החברה, עם צילומי מסך של התוצאות לפני BERT ואחריו. בשלוש מהן מילה קצרה שינתה את המשמעות.
| החיפוש | לפני BERT | עם BERT |
|---|---|---|
| "2019 brazil traveler to usa need a visa" (מטייל מברזיל שנוסע לארה"ב, צריך ויזה?) | תוצאות על אזרחים אמריקאים שנוסעים לברזיל | גוגל הבינה שהמילה "to" קובעת את הכיוון: מברזיל לארה"ב |
| "do estheticians stand a lot at work" (קוסמטיקאיות עומדות הרבה בעבודה?) | המערכת התאימה את "stand" בשאילתה למונח "stand-alone" בתוצאה | "stand" קושר לדרישות הפיזיות של המקצוע |
| "can you get medicine for someone pharmacy" (אפשר לאסוף תרופה בבית מרקחת בשביל מישהו אחר?) | דף כללי על מילוי מרשם | דף של משרד הבריאות ושירותי האנוש של ארה"ב (HHS.gov) על חבר או בן משפחה שאוסף מרשם בשביל המטופל |
| "parking on a hill with no curb" (חניה בעלייה כשאין שפת מדרכה) | הנחיות לחניה ליד שפת מדרכה. גוגל נתנה משקל רב מדי ל-"curb" והתעלמה מ-"no" | הנחיה למקרה שאין שפת מדרכה: לסובב את הגלגלים לכיוון שולי הכביש |
| "math practice books for adults" (ספרי תרגול במתמטיקה למבוגרים) | ספר תרגול לכיתות 6 עד 8, כי "adult" הותאם לקטגוריה Young Adult | הספר Math for Grownups, שנכתב למבוגרים |
בפברואר 2022 נאיאק חזר לדוגמת בית המרקחת וכתב שבזכות BERT גוגל מבינה שגם למילים קטנות יש משמעות גדולה.
אילו חיפושים הרוויחו הכי הרבה מ-BERT?
גוגל כתבה שאנשים נוטים להקליד "keyword-ese": רצף מילים שנראה להם שהמנוע יבין, אף שכך הם לא היו שואלים בשיחה רגילה. אחת הסיבות לכך, לדבריה, היא שהחיפוש לא תמיד הבין שאילתות מורכבות או שיחתיות. עם BERT היא קיוותה שאנשים יוכלו לחפש בשפה רגילה, וציינה במיוחד שאילתות ארוכות ושאילתות שבהן מילת יחס קטנה קובעת את המובן.
איפה BERT טעה, לפי גוגל עצמה?
באותו פוסט גוגל הביאה גם דוגמה שבה BERT נכשל. בחיפוש "what state is south of Nebraska" (איזו מדינה נמצאת דרומית לנברסקה), הניחוש של BERT היה יישוב בשם South Nebraska, ולא מדינה. "גם עם BERT אנחנו לא תמיד צודקים", כתבה גוגל.

מה ההבדל בין BERT ל-RankBrain, Neural Matching ו-MUM?
לפני BERT כבר פעלו בחיפוש של גוגל מערכות AI, ביניהן RankBrain מ-2015, מערכת הלמידה העמוקה הראשונה שגוגל הפעילה בחיפוש, ו-Neural Matching מ-2018. התיאורים בטבלה לקוחים ממדריך מערכות הדירוג של גוגל.
| המערכת | שנת השקה | מה היא עושה, לפי גוגל |
|---|---|---|
| RankBrain | 2015 | מבינה איך מילים קשורות למושגים, וכך מוצאת תוכן מתאים גם כשחלק מהמילים שבחיפוש לא מופיעות בו |
| Neural Matching | 2018 | מתאימה בין מושגים בשאילתות לבין מושגים בעמודים. בפוסט מ-2022 גוגל קראה לה מנוע אחזור |
| BERT | 2019 | מבין איך צירופים של מילים מבטאים משמעויות וכוונות שונות |
| MUM | 2021 | מבין שפה וגם מייצר אותה. לפי גוגל הוא לא משמש לדירוג הכללי, רק ליישומים מסוימים, כמו חיפושים על חיסוני קורונה |
האם MUM החליף את BERT?
לא. כשהכריזה על MUM ב-18 במאי 2021, גוגל כתבה שהוא חזק פי 1,000 מ-BERT ושהוא אומן על 75 שפות. בפברואר 2022 היא הבהירה ש-MUM רץ רק ביישומים מאוד ספציפיים, ושהוא לא מדרג תוצאות כמו RankBrain, Neural Matching ו-BERT. במדריך של גוגל BERT לא נמצא ברשימת המערכות שפרשו (Retired), כלומר מערכות שלפי גוגל שולבו במערכות אחרות או הפכו לחלק ממערכות הליבה.
עדכון BERT בעברית: מה גוגל פרסמה ומה לא?
עברית מופיעה ברשימת השפות ש-Search Liaison של גוגל פרסם ב-9 בדצמבר 2019, 45 ימים אחרי ההכרזה באנגלית. מעבר לרשימה הזו לא מצאנו פרסום של גוגל על BERT בעברית: אין דוגמה בעברית ואין נתון על השיפור. ההסבר שגוגל כן נתנה נוגע לכל השפות: מודלים שלומדים משיפורים באנגלית, השפה שבה נמצא רוב התוכן ברשת, יכולים להעביר את מה שלמדו לשפות אחרות.
למה מילות יחס בעברית הן מקרה מיוחד?
בדוגמאות של גוגל שבהן מילה קטנה שינתה את המשמעות, המילה הזו עומדת לבד: to, for, no. בעברית מילות היחס מ', ל', ב' וכ' הן אותיות שימוש, שלפי האקדמיה ללשון העברית נכתבות בתיבה אחת עם המילה שאחריהן. "טיסה לברזיל" ו"טיסה מברזיל" נבדלות באות אחת, בתוך המילה עצמה.
זו דוגמה שלנו להמחשה. לא מצאנו פרסום של גוגל על האופן שבו BERT מתמודד עם אותיות השימוש בעברית, וגם לא דוגמאות לחיפושים כאלה. הלקח המעשי זהה לזה שבאנגלית: לכתוב בעברית תקינה ורגילה, כמו שהלקוחות מדברים, בלי להפוך כותרת לרצף של מילות מפתח.
מה עדכון BERT אומר לחברות וארגונים שכותבים תוכן?
כמה ימים אחרי ההכרזה כתב דני סאליבן, Search Liaison של גוגל: "אין מה לעשות אופטימיזציה ל-BERT, ואין שום דבר שמישהו צריך לחשוב עליו מחדש. העקרונות שלפיהם אנחנו שואפים לתגמל תוכן מצוין לא השתנו". בהמשך אותו שרשור הוסיף ש-BERT לא משנה את מה שגוגל אומרת כבר שנים: לכתוב תוכן בשביל המשתמשים. הציוצים המקוריים נמחקו, ועותק שלהם שמור בארכיון האינטרנט (Wayback Machine).
לחברות וארגונים זה אומר ששירות של "אופטימיזציה ל-BERT", או רשימת "מילות NLP" לפיזור בטקסט, לא מבוסס על אף פרסום של גוגל. ההנחיות הרגילות של גוגל נשארות בתוקף.
האם מילות מפתח עדיין חשובות אחרי BERT?
כן. בהסבר של גוגל על דירוג התוצאות, האות הבסיסי ביותר לרלוונטיות הוא שהתוכן מכיל את מילות המפתח שבשאילתה, למשל בכותרות או בגוף הטקסט. BERT הוסיף להתאמה הזו הבנה של ההקשר.
המדריך למתחילים של גוגל מוסיף שמערכות התאמת השפה שלה מקשרות עמוד לשאילתות רבות גם בלי המילים המדויקות, ובכל זאת ממליץ לחשוב על הניסוחים השונים של הקוראים. הדוגמה שלה: חלק מהאנשים יחפשו "charcuterie" ואחרים "cheese board", לפי מידת ההיכרות שלהם עם התחום. המדריך גם מזכיר שחזרה מוגזמת על אותן מילים היא דחיסת מילות מפתח (keyword stuffing), שמפרה את מדיניות הספאם של גוגל.
כתיבה לפי כוונת החיפוש (Search Intent) אחרי BERT
גוגל תיארה את BERT ככלי להבנת הכוונה שמאחורי החיפוש. הפירוט על התאמת עמודים לכוונה נמצא במדריך על כוונת החיפוש. בקצרה:
- כותרת ופסקת פתיחה בניסוח שבו הלקוחות שואלים בפועל. דוח הביצועים ב-Google Search Console מראה באילו שאילתות אנשים הגיעו לאתר.
- תשובה ישירה בתחילת כל קטע, ואחריה הפרטים.
- מונחים של אנשי מקצוע לצד המילים של מי שרק נכנס לתחום, כמו בדוגמת ה-charcuterie.
- אורך לפי מה שהנושא דורש.
לפי גוגל, מערכות הדירוג האוטומטיות שלה נועדו לתעדף מידע מועיל ואמין שנכתב בשביל אנשים. על אותו עיקרון נשען גם עדכון התוכן המועיל מ-2022. הצד המעשי של כתיבה לפי משמעות, מנתוני סכמה ועד סמכות נושאית, מפורט במדריך לקידום אתרים סמנטי.
מיתוסים נפוצים על עדכון BERT
אלה טענות נפוצות על BERT, ולצד כל אחת מהן כתבנו מה גוגל פרסמה בפועל:
- "BERT השפיע על 10% מכל החיפושים בגוגל". בהשקה דובר על אחד מכל עשרה חיפושים באנגלית בארה"ב, ורק בדירוג התוצאות.
- אתרים "נפגעו מ-BERT" וצריכים להתאושש ממנו. גוגל הציגה אותו כשיפור בהבנת החיפושים. זה לא עדכון ליבה ולא עונש.
- אחרי BERT מילות מפתח כבר לא משנות. גוגל ממשיכה לתאר את ההופעה שלהן בתוכן כאות הבסיסי ביותר לרלוונטיות, כמו שמפורט בסעיף על מילות המפתח.
- BERT מעדיף תוכן ארוך. במסמך שלה על יצירת תוכן מועיל גוגל כותבת שאין לה מספר מילים מועדף.
- רשימות של "מילות LSI" שצריך לפזר בטקסט כדי ש-BERT יבין אותו. לפי דני סאליבן אין מה לעשות אופטימיזציה ל-BERT, ולא מצאנו המלצה כזו באף מקור של גוגל.
BERT והחיפוש מבוסס ה-AI של גוגל
במאי 2025 הודיעה גוגל שהיא מכניסה גרסה מותאמת של מודל Gemini ל-AI Mode ול-AI Overviews בארה"ב. בהודעה הזו היא לא קשרה את התכונות האלה ל-BERT. BERT הוא מודל שמבין שפה, ועל MUM גוגל כתבה ב-2021 שהוא גם מבין שפה וגם מייצר אותה.
לפי התיעוד של גוגל, AI Overviews ו-AI Mode עשויים להשתמש בטכניקה של פיזור שאילתות (Query Fan-out): הם מריצים כמה חיפושים קשורים, על תתי-נושאים ובמקורות מידע שונים, ובונים מהם תשובה. גם כאן המסר מוכר. באותו מסמך גוגל כותבת שאין דרישות נוספות כדי להופיע ב-AI Overviews או ב-AI Mode, ואין צורך באופטימיזציה מיוחדת. שיטות העבודה המומלצות של קידום אתרים חלות גם עליהן.
BERT וקידום אתרים: מתי כדאי להיעזר באיש מקצוע?
ל-BERT אין תיקון ייעודי, ולכן אין טעם לשלם על "התאמה ל-BERT". איש מקצוע כן יכול לעזור בעבודה שמסביב: לנתח ב-Search Console באילו ניסוחים לקוחות מגיעים לאתר ואילו שאלות שלהם נשארות בלי מענה, ולכתוב או לשכתב עמודים שעונים עליהן. כשהתנועה יורדת, הוא יבדוק מה גרם לנפילת המיקומים ואיזה עדכון רץ באותם ימים, לפני שמשנים משהו באתר. את העבודה הזו אנחנו עושים במסגרת קידום אתרים אורגני לחברות וארגונים.
שאלות נפוצות על עדכון BERT
מתי עדכון BERT הגיע לעברית?
גוגל הודיעה ב-9 בדצמבר 2019 שהיא מתחילה להפיץ את BERT ליותר מ-70 שפות, ועברית ברשימה. נתונים על ההשפעה שלו בעברית לא מצאנו בפרסומים של גוגל.
האם BERT הוא עדכון ליבה?
לא. BERT הוא מערכת להבנת שפה שגוגל הוסיפה לחיפוש כדי להבין טוב יותר את השאילתות. עדכוני ליבה הם שינויים רחבים במערכות הדירוג, וגוגל מכריזה עליהם בנפרד. את מה שכדאי לעשות אחרי עדכון כזה ריכזנו ברשימת הצעדים אחרי עדכון ליבה.
האם צריך לשנות את התוכן באתר בגלל BERT?
לא. לפי דני סאליבן, Search Liaison של גוגל, אין מה לעשות אופטימיזציה ל-BERT, וההנחיה נשארת לכתוב בשביל המשתמשים. תוכן שעונה בשפה ברורה על השאלות של הקהל לא צריך שינוי בגללו.
האם גוגל עדיין משתמשת ב-BERT?
כן, לפי התיעוד שלה. במדריך מערכות הדירוג של גוגל BERT מופיע בין מערכות הדירוג, ולא ברשימת המערכות שפרשו (Retired). בפברואר 2022 גוגל כתבה שהוא ממלא תפקיד כמעט בכל חיפוש באנגלית, בדירוג ובשיפור מערכות האחזור.
האם BERT הוא מודל כמו ChatGPT?
לא. מודלים כמו ChatGPT כותבים טקסט. BERT נבנה כדי להבין טקסט, וגוגל משתמשת בו כדי לפרש שאילתות ולדרג תוצאות. על MUM, שהוכרז ב-2021, גוגל כתבה שהוא גם מבין שפה וגם מייצר אותה. ב-AI Mode וב-AI Overviews היא משתמשת בגרסה מותאמת של Gemini, לפי ההודעה שלה ממאי 2025.











