P4Tr!0𝑻𝟑𝑪H

פטריוטים לכו להצביע ☑️ 🇮🇱 🇮🇱 🇮🇱

פרויקט : אורקסטרה ל LLM של @mosheisra מי שרוצה לתת הערות מוזמן לפרטי https://github.com/MBdeveleopmentS/devmarshal 😆😈😂

💻

כמה עדכונים 🚀🚀🚀 קודם כל הנה ערוץ נוסף שותף שהולך להתפתח ע"י חבר שגם תמיד היה שם בשביל הקהילה שלנו עוד מימי טרמוקס ותמיד עוזר בסתר https://t.me/cyber_ils מצטרפים עוד כמה מנהלים שנעיף את הפרויקט הקטן הזה לרמה אחרת, כתבות, רעיונות ומה שמעניין ☑️ Tell your mama וכמובן הכל תחת(booty) המעטפת של ליפי 🍻

איך נראת אהבת אמת 😆

תראו את הטופולוגיה ותבינו את מי לתקוף בסושיאל מדיה 🏴‍☠️💀☠️🇮🇱🇺🇸

כשארגוני טרור ניסו לפרוץ ל-4chan והפכו לבדיחה הכי גדולה ברשת 🏴‍☠️📉 ארגוני טרור מודרניים פיצחו מזמן את הרשתות החברתיות המיינסטרימיות. הם הקימו מערכי יחסי ציבור משומנים בטוויטר, טיקטוק וטלגרם, תוך ניצול האלגוריתמים כדי להפיץ סרטוני אימה, לגייס צעירים מנותקים ולהנדס תודעה של פחד. אבל אז, פעילי תעמולה דיגיטליים של הארגונים הללו עשו את טעות חייהם. הם החליטו שהיעד הבא שלהם הוא לוח /pol/ של 4chan, המקום הכי אנרכיסטי, בלתי צפוי ומסוכן ברשת. הם ציפו לזרוע אימה, אך הם סיימו את האירוע מושפלים, חשופים, וחלקם אף מטווחים מהאוויר. כך נראית התנגשות ציוויליזציות דיגיטלית: 🦆 1. פירוק החרדה באמצעות ברווזי גומי הכלי החזק ביותר של הטרור הוא הפחד. 4chan פשוט סירב לפחד. במקום לזעזע את הגולשים, סרטוני התעמולה הדרמטיים נתקלו בזרם בלתי פוסק של לעג ציני. במהלך גלי התעמולה, הגולשים השיקו קמפיין תגובה שבו החליפו בפוטושופ את הראשים של כל לוחמי דאעש בסרטונים בברווזי גומי צהובים. דמויות האימה המאיימות הפכו בין לילה ל"לוחמי קוואק" מגוחכים עם מברשות אסלה בידיים. הפיכת האיום למם אינטרנטי הרסה לחלוטין את הילת העוצמה שהארגון ניסה לבנות במיליוני דולרים. 📡 2. נשק קטלני: הבלשות מבוססת ההמונים (OSINT) החלק המפחיד באמת עבור פעילי הטרור לא היה הלעג, אלא היכולות המודיעיניות של האתר. תרבות "הנשק האוטיסטי" (Weaponized Autism) של 4chan, היכולת של אלפי אנשים להתמקד בפרט קטן ולנתח אותו, הפכה לאיום קיומי עבורם. במקרה מפורסם, קבוצת מורדים קיצונית העלתה סרטון מתוך "מחנה אימונים סודי" במיקום לא ידוע. תוך פחות מ-24 שעות, הגולשים ביצעו עבודת הצלבה מטורפת: הם זיהו את סוג רשתות החשמל שחלפו ברקע. הם ניתחו את נתיבי הטיסה של מטוסים מסחריים שעברו בשמיים באותה שנייה במקרה. הם מדדו את זווית הצללים כדי לקבוע את השעה המדויקת והקואורדינטות. התוצאה? הגולשים מצאו את המיקום המדויק, העבירו את המידע לגורמי צבא רשמיים, וזמן קצר לאחר מכן המחנה הופצץ לחלוטין מהאוויר. הסרטון הבא שעלה לרשת כבר היה תיעוד של מטוסי קרב שמוחקים את המתחם. 📉 השורה התחתונה: אל תתעסקו עם הטרולים המערכת ההיררכית של ארגוני הטרור בנויה על שליטה מוחלטת בנרטיב. ב-4chan אין חוקים, אין הנהלה, ואין כבוד לאף אחד, בטח שלא למחבלים. הניסיון להחדיר תעמולה לאקוסיסטם שמבוסס על אירוניה קיצונית, ספאם וטרולינג מוחלט היה כמו לנסות להטיף מוסר בתוך כלוב של קופים משוגעים. התעמולה טבעה בים של מוזיקת אנימה, ממים של צפרדעים פוליטיות והשפלה קולקטיבית. מאז, פעילי הטרור הבינו את הרמז. הם נשארו באפליקציות מוצפנות ולא חזרו לנסות את מזלם בצד הפרוע של האינטרנט.

📢 הנדסת הארכיטקטורה הבאה: למה מודלי ה-LLM הגדולים נוטשים את הטוקניזציה המסורתית לטובת חישוב DTA ו-Delta-Rule? 🚀 אם אתם עוקבים אחרי הפיתוחים האחרונים בעולם ה-AI, אתם בטח מרגישים שמשהו דרמטי קורה מתחת לפני השטח. מודלים כבר לא רק "גדולים יותר" – הם מעוצבים מחדש. צוואר הבקבוק הכי גדול של מודלי הטרנספורמר הקלאסיים (כמו GPT-4 או Claude) תמיד היה מנגנון ה-Softmax Attention. המנגנון הזה דורש מהמודל להשוות כל טוקן (פיסת טקסט) לכל הטוקנים שקדמו לו, מה שמייצר סיבוכיות חישובית ריבועית (O(T²)) ו"חונק" את ה-GPU עם צריכת זיכרון מטורפת של ה-KV Cache. הכירו את הסטנדרט החדש שמשנה את חוקי המשחק: מודלים היברידיים מבוססי DTA (Dynamic Token Allocation / Adaptation) וארכיטקטורות Delta-Rule (כמו ה-Kimi Delta Attention - KDA המהפכני). 🧠 מה זה בכלל חישוב Delta-Rule (מבוסס דלתא)? במקום לפתוח "מחסן" זיכרון ענקי (KV Cache) שגדל בלי סוף עם כל מילה שנכנסת, מודלים מהדור החדש (כמו סדרת Qwen3-Next או Kim Linear) משתמשים במטריצת זיכרון בגודל קבוע (Fixed-size state) שמתפקדת כסוג של RNN מתקדם. איך מעדכנים אותה בלי לאבד מידע? באמצעות Predict & Correct (חוק הדלתא): המודל מקבל קלט חדש ומנסה "לנחש" אותו על בסיס הזיכרון הקיים. הוא מחשב את הטעות/הפרש (הדלתא) בין הניחוש למציאות. הוא כותב לתוך הזיכרון רק את השינוי (הדלתא), ומוחק אקטיבית אסוציאציות ישנות שכבר אינן רלוונטיות. 📊 ראש בראש: הארכיטקטורה הישנה מול המהפכה החדשה תכונה טרנספורמר קלאסי (Token-by-Token) מודל היברידי מבוסס DTA / Delta-Rule ניהול זיכרון KV Cache דינמי שגודל בצורה ליניארית עם אורך הטקסט. מטריצת מצב קבועה (Fixed State) שלא גדלה עם אורך הרצף. סיבוכיות חישוב ריבועית (O(T²)) – ככל שהטקסט מתארך, המודל נהיה איטי משמעותית. ליניארית (O(T)) – מהירות קבועה ויציבה גם במיליוני מילים. הקצאת משאבים (DTA) קשיחה. כל טוקן מקבל בדיוק את אותו נפח חישוב במטריצה. דינמית (Dynamic Token Allocation). המודל "ממזג" טוקנים קרובים או פחות חשובים. התמודדות עם הקשר ארוך יקרה מאוד. דורשת שרתי ענק (GPUs) עם מאות גיגבייט של זיכרון. חסכונית להפליא. צמצום של עד 75% בצריכת ה-VRAM של השרת. 🛠 עמוק בפנים: פריצת הדרך של ה-KDA (Key-Dependent Attention) הבעיה עם ניסיונות העבר לעבור לזיכרון קבוע (Linear Attention) הייתה שהמודלים נטו "לשכוח" פרטים קטנים וחשובים ממרחק רב. אלגוריתם ה-KDA פתר את זה בעזרת Gating ערוצי (Channel-wise Gating): במקום שסתום מחיקה יחיד שמוחק את כל המידע באותו קצב, לכל "ערוץ מידע" (Feature Dimension) במודל יש קצב שכחה משלו. ערוץ שאחראי על הדמויות בסיפור ישמור על המידע לאורך מיליוני מילים, בעוד ערוץ שאחראי על מבנה התחביר של המשפט הנוכחי יימחק וישתכתב באופן מיידי. 🔥 בשורה התחתונה לעולם ה-AI: המודלים החדשים הם לרוב היברידיים (למשל, 3 שכבות של DeltaNet זולה על כל שכבת Softmax יקרה). השילוב הזה מאפשר לנו להזין ספרים שלמים, קודי מקור מפלצתיים או היסטוריית צ'אט של חודשים לתוך ה-LLM – ולקבל תשובה תוך שבריר שנייה ובשבריר מהמחיר. עידן הטרנספורמר "הטפש" והבזבזני מגיע לסיומו, ומפנה מקום לארכיטקטורות חכמות, רציפות ודינמיות הרבה יותר.

🌐 האינטרנט האנושי מת? ברוכים הבאים לעידן ה-Synthetic Web אם הרגשתם לאחרונה שהרשת מתחילה לחזור על עצמה, אתם לא מדמיינים. חברות ה-AI הגדולות הגיעו לקיר: נגמר להן המידע האנושי לטווח ארוך. כל הספרים, המאמרים, הפוסטים והציוצים שאי פעם נכתבו על ידי בני אדם כבר נבלעו על ידי המודלים. אז מה עושים עכשיו? מייצרים מציאות חדשה. הנה הצצה אל מאחורי הקלעים של הדרך שבה מודלי השפה משנים לחלוטין את הגדרת ה"אינטרנט": 🔹 Synthetic Data / Synthetic Web (הרשת הסינתטית): כדי לעקוף את המחסור במידע אנושי חדש, חברות ה-AI משתמשות במודלים קיימים כדי לייצר אינטרנט מלאכותי שלם. זהו מידע סינתטי – טקסטים, קוד ותמונות שנוצרו על ידי מכונות עבור מכונות, במטרה לאמן את הדור הבא של ה-AI. 🔹 Latent Space / Vector Space (המרחב הלטינטי): איפה כל זה קורה? לא בשרתים רגילים של אתרי אינטרנט, אלא בתוך "המוח" של המודל. המרחב הלטינטי הוא האינטרנט המתמטי האמיתי – מרחב רב-ממדי שבו כל המושגים, המילים והרעיונות בעולם חיים כווקטורים. המודל לא קורא דפי אינטרנט, הוא מנווט ברשת של קשרים מתמטיים. 🔹 LLM-as-a-Judge / Self-Play (לולאת האימון הסגורה): איך מוודאים שהמידע הסינתטי הזה בכלל איכותי? שיטת האימון המובילה כיום היא "משחק עצמי". מודלים של AI מייצרים דאטה משלהם, ומודלים אחרים משמשים כשופטים (LLM-as-a-Judge) שמדרגים ומסננים את התוצאות בלולאה סגורה. המכונות מלמדות את עצמן, בודקות את עצמן ומשתפרות ללא צורך במגע יד אדם. 💡 השורה התחתונה: אנחנו עוברים במהירות מאינטרנט שמבוסס על יצירה אנושית, לאינטרנט שמבוסס על אופטימיזציה מתמטית. האם זה יוביל ל-AI חכם וטהור יותר, או ללולאת משוב שתנוון את היצירתיות של כולנו? ימים יגידו.

הסוכן שלך יכול להפוך נגדך בשל טקסט שהוא לא היה אמור לקרוא.☠️💀🥳 סוכני AI קוראים מיילים, שולפים מידע ממסדי נתונים, קוראים ל-API ומריצים קוד. זה נוח עד שטקסט לא מהימן נכנס לאותו הקשר שהמודל מתייחס אליו כהוראות. המודל לא מבדיל באופן אמין בין נתונים לפקודות. התוקף לא צריך לפרוץ לקוד. מספיק שהוא ישים את הטקסט הנכון במקום שהסוכן יקרא. זה כבר קרה. EchoLeak (CVE-2025-32711) פגע ב-Microsoft 365 Copilot. חוקרי Aim Security הראו שמייל מעוצב, עם הוראות מוסתרות, נשלף כשמשתמש שאל את Copilot שאלה רגילה. Copilot ביצע את ההוראות והדליף מידע ארגוני. המשתמש לא היה צריך לפתוח את המייל. מיקרוסופט תיקנה בצד השרת ודירגה את החולשה 9.3. CamoLeak פגע ב-GitHub Copilot Chat. חוקר החביא הוראות בתוך הערות Markdown בלתי נראות בתיאור של pull request. מי שסקר את ה-PR לא ראה דבר חריג. Copilot קרא את הטקסט הגולמי, חיפש במאגרים פרטיים שהמשתמש יכול היה לגשת אליהם, והוציא סודות דרך פרוקסי התמונות של GitHub עצמה. GitHub חסמה אחר כך את נתיב הרינדור שאפשר את הדליפה. הדפוס זהה. תוכן לא מהימן נכנס להקשר. לסוכן יש כלים ונתונים. המודל מתייחס לטקסט המוזרק כאל המשימה שלו. אי אפשר לפתור את זה עם system prompt חזק יותר. מסננים עוזרים, אבל הם נכשלים. השליטה האמיתית היא בכל מה שמקיף את המודל. התייחסו ל-LLM כלא מהימן. כל מייל, מסמך, תגובה, עמוד אינטרנט ותוצאת כלי הם קלט עוין עד שיוכח אחרת. עטפו תוכן שנשלף במפרידים ברורים, ואל תסמכו על זה לבד. חתכו הרשאות. תנו לכל סוכן רק את הכלים שהוא צריך למשימה הנוכחית. סוכן שמסכם מסמכים לא אמור לשלוח מייל, לכתוב לפרודקשן או לצאת לאינטרנט הפתוח. דחייה כברירת מחדל. הרשאות קצרות טווח ומוגבלות עדיפות על גישה קבועה. בודדו את ההרצה. הריצו סוכנים בארגזי חול או בסביבות נפרדות. הפרידו לוגיקת שליטה מהימנה מתוכן לא מהימן. במערכות מרובות סוכנים, בודדו סוכן מסוכן כדי שאחד שנפגע לא יוכל לכוון את האחרים. חסמו פעולות בלתי הפיכות. מחיקה, תשלום, שליחה החוצה ושינוי הרשאות צריכים אישור אנושי שהסוכן לא יכול לעקוף. תעדו כל קריאת כלי, ארגומנט ותוצאה כדי שתראו מה הסוכן באמת עשה. עקבו אחרי שרשרת האספקה. תיאורי כלים, שרתי MCP ותוספים הם גם הקשר. תוקף שמרעיל אותם מזריק הוראות בלי לגעת במייל. המדריך של קספרסקי, "AI Agent Security Through the Lens of Cyber Immunity", אומר את אותו דבר: הגדירו הנחות אבטחה כבר בשלב העיצוב, הקטינו את הבסיס המהימן, בודדו רכיבים, ודרשו אישור מפורש לפעולות בלתי הפיכות. ערכו מלאי של כל סוכן שמחובר לנתונים חיים. רוב הצוותים עדיין לא יודעים את הרשימה המלאה. המודל לפעמים יציית לטקסט הלא נכון. בנו את המערכת כך שציות לא יהפוך לפריצה.

אנטרופיק בי לייק:

Modern problems, modern solutions 🎯☑️😈

https://virtualosmuseum.org/ ממש נחמד , מוזיאון של מערכות הפעלה אפשר להוריד ולשחק בהיסטוריה 😎

העמותה היא לא תמיד צדקה. לפעמים היא צינור הלבנת הון במעטפת של "צדקה". השיטה פשוטה. שמים לוגו של ילד, אפריקה, פליטים, "זכויות אדם". מגייסים מיליונים. אחר כך מתברר שהכסף לא הלך לשטח. הוא הלך למשכורות, כנסים, פרסום, לובי וקמפיין. קוראים לזה ארגון חברה אזרחית. בפועל זה מכונת כסף עם הילה מוסרית. בונו הוא הדוגמה הקלאסית. הוא בנה מודל שבו הכסף נשאר במכונה. ב-2008 קמפיין ONE גייס כמעט 15 מיליון דולר וחילק לעמותות בשטח בערך 185 אלף. בערך אחוז. השאר הלך למשכורות וללובי. הארגון עצמו אמר: אנחנו לא בונים בתי ספר. אנחנו עושים אדבוקסי. כלומר צועקים על ממשלות. RED ספג ביקורת דומה: לפי דיווחים ב-2007 הושקעו עשרות מיליונים בפרסום מול סכום קטן בהרבה שהגיע לקרן האיידס. קונים אייפוד אדום. מרגישים קדושים. אפריקה מקבלת שבריר. עוד דוגמאות: Wounded Warrior Project בארה"ב גייס מאות מיליונים לוותיקים. חקירות של ניו יורק טיימס ו-CBS: כ-40 אחוז תקורה, כנסים ב-26 מיליון, מלונות יוקרה, טיסות. המנכ"ל והסגן פוטרו. WE Charity בקנדה. תורמים שילמו על "בית ספר לזכר הילד שלי" ואחר כך גילו שאותו מבנה נמכר לעוד תורמים. אותה תמונה. כמה פלאקים. כסף נכנס. בית הספר כבר היה שם. Kids Company בבריטניה. כוכבת צדקה, קשרים לממשלה, קריסה. כסף זרם. השטח התפרק. בישראל אותו דפוס עם טוויסט פוליטי. עשרות עמותות שמאל מקבלות רוב התקציב מממשלות זרות. בצלם, שוברים שתיקה, יש דין. לפי NGO Monitor ב-2020 עד 2023 כ-60 אחוז מהכסף ל-40 עמותות כאלה הגיע מממשלות. האיחוד, נורווגיה, שווייץ, גרמניה, UNDP, קרן החברה הפתוחה. זה לא ילד רעב. זה לובי נגד מדיניות ישראל עם חשבונית של "זכויות אדם". סורוס לא צריך לגנוב מקופה. הוא מממן רשת. הרשת מממנת שפה. השפה מממנת רגש. הרגש מממן מדיניות. Tides, Arabella, NIF, Open Society. כסף נכנס פטור ממס. יוצא כקמפיין. הלבנה פה לא תמיד פלילית במובן של מזוודה. היא מוסרית. אתה תורם לחלש. בפועל אתה מממן משרד יחסי ציבור. 5 אחוז לשטח. 95 אחוז לסיפור. הבדיקה תמיד אותה שאלה: כמה באמת הגיע לשטח. כמה הלך למשכורת. ומי קיבל את הכוח הפוליטי בדרך. אם אין תשובה, זה לא צדקה. זה עסק עם נימוסים.

📉 הפיצוץ השקט: למה בועת ה-AI קורסת, אבל לא בדרך שחשבתם? כולם מחכים ל"פיצוץ" הגדול של בועת ה-AI. האנליסטים בוול סטריט מדברים על קריסת מניות, המפקפקים מחכים שחברות כמו OpenAI יפשטו רגל, וההייטקיסטים חוששים מגל פיטורים המוני. אבל הבועה האמיתית של ה-AI לא מתפוצצת ברעש גדול בבורסה. היא מתפוצצת ברעש שקט, בתוך המשרדים, במיילים היומיומיים – ומאחורי הקלעים של הפוליטיקה הגלובלית. הנה הסיפור על הפיצוץ שאף אחד לא מדבר עליו. 1. בור ללא תחתית: איפה הרווחים שהבטיחו למשקיעים? קרנות הון סיכון ומשקיעי ענק זרקו (וממשיכים לזרוק) ים של כסף על חברות AI. מדובר במאות מיליארדי דולרים שנשפכים על כוח מחשוב, שרתים ופיתוח מודלים. ההבטחה הייתה החזר השקעה מהיר ופנומנלי. בפועל? המציאות מכה בהם. הרווחים לא מתקרבים לציפיות. עלויות התחזוקה והרצת המודלים מטורפות, והלקוחות לא ממהרים לשלם סכומי עתק על כלים שלעיתים קרובות פשוט מייצרים עבורם עוד עבודה (או טעויות). כשהמשקיעים מתחילים להבין שהחזר ההשקעה (ROI) רחוק מלהיות מובטח, חברות ה-AI נכנסו ללחץ. וכשחברות ענק בלחץ – הן משנות אסטרטגיה. 2. האסטרטגיה החדשה: חניקת השוק באמצעות רגולציה כשהבנת שאתה לא הולך להרוויח בקלות מהמוצר שלך, מה הדרך הכי טובה לשמור על הערך שלך? למנוע מאחרים להתחרות בך. חברות הענק, ובראשן OpenAI ו-Anthropic, הבינו שכל מפתח צעיר בחדר שינה או קבוצת קוד פתוח (Open Source) יכולים לאתגר את המודלים שלהן. הפתרון שלהן? ריצה מבוהלת למסדרונות הממשל בוושינגטון ובאירופה ודרישה לרגולציה קשוחה. הן לא מנסות להגן על הציבור – הן מנסות להגן על עצמן. על ידי יצירת חוקים נוקשים, רישיונות יקרים ומגבלות פיתוח, הן חונקות את חברות הסטארט-אפ הקטנות שלא יכולות לעמוד בעלויות המשפטיות הללו, ומבטיחות לעצמן מונופול מוחלט. 3. ה-PsyOps של "הרובוטים משתלטים" כדי להצדיק את הרגולציה הזו, החברות האלו מנהלות מבצע תודעה (PsyOps) מבריק ומפחיד. פתאום אנחנו שומעים על "פריצות מסוכנות למדינות", "איומי סייבר קיומיים" או הצהרות דרמטיות על כך ש"ה-AI כמעט השיג מודעות עצמית וצריך לעצור הכל". הנרטיב הזה משרת אותן פעמיים: בניית הייפ מטורף: אם הממשלה מפחדת מהכלי שלך, כנראה שהכלי שלך באמת חזק כמו שאתה טוען (מה שמרגיע את המשקיעים הלחוצים). סגירת הדלת: הממשל נבהל, מטיל הגבלות, ומותיר רק לשחקניות הגדולות וה"אחראיות" את האישור לפתח את הטכנולוגיה. 4. מיתוס פיטורי הענק: מי באמת יאבד את העבודה בזמן הקרוב? ההפחדה הגדולה ביותר הייתה ש"ה-AI יחליף את בני האדם" תוך שנה-שנתיים. חזיונות על רובוטים דמויי אדם ומערכות אוטונומיות שמנהלות מפעלים ומשרדים נמכרו לנו בכל פינה. המציאות? זה לא הולך לקרות בזמן הקרוב. החלפת כוח אדם אנושי מלא ב-AI היא יקרה, מורכבת ומלאה בכשלים טכניים. כאן נכנס הפיצול הגיאופוליטי המרתק: סין מובילה על הרצפה: סין לא מחכה לצ'אטבוטים שיכתבו לה שירים. היא מתחילה מהקרקע – רובוטים תפעוליים ותעשייתיים שמחליפים ידיים עובדות במפעלים, בפס ייצור ובלוגיסטיקה. ארה"ב בפיגור פיזי, אבל מובילה במסך: האמריקאים נמצאים בפיגור משמעותי בכל הקשור לרובוטיקה פיזית ותעשייתית, אבל הם עקפו את כולם בסיבוב עם מודלי השפה (LLMs) והצ'אטים. השילוב הזה אומר שהשוק לא יקרוס, אבל הוא כן ישתנה. מי שיאבד את העבודה שלו בשנים הקרובות הם לא המהנדסים, המעצבים או פועלי הייצור – אלא בעיקר תפקידים אדמיניסטרטיביים (מזכירות, הזנת נתונים, שירות לקוחות בסיסי ותיאום לוגיסטי). אלו התפקידים שמודלי השפה האמריקאיים יודעים לבלוע בקלות כבר עכשיו. 5. בועת "חיסכון בזמן" שהפכה לעומס עבודה בזמן שהמנהלים למעלה רבים על מונופולים, בתוך המשרדים הבועה מתפוצצת ברמה הפרקטית. ההבטחה הגדולה הייתה שהטכנולוגיה תעשה את העבודה הסיזיפית ולנו יישאר זמן ליצור. בפועל, הציפיות פשוט השתנו. אם פעם כתיבת דוח או ניתוח נתונים לקחו שבוע, היום המנהלים מצפים לקבל את זה תוך שעה – "כי יש לך AI". אנחנו לא חוסכים זמן; אנחנו פשוט מייצרים הרבה יותר תוכן בינוני באותו נפח זמן, ומבלים שעות בלנסות לתקן ולבדוק את ההזיות (Hallucinations) של המודלים. 6. אינפלציית המילים והאשליה של "כולם יכולים הכל" אנחנו משתמשים במכונות כדי לדבר עם מכונות. עובד א' משתמש ב-AI כדי לנפח מייל קצר לשישה עמודים, ועובד ב' משתמש ב-AI כדי לתמצת אותו חזרה לשלוש שורות. במקביל, חברות חשבו שיוכלו לקחת עובד זוטר, לתת לו כלי AI ולהפוך אותו למתכנת על או אסטרטג מומחה. האשליה הזו מתנפצת. AI הוא מכפיל כוח – הוא מכפיל רק את מה שיש. אם לעובד אין בסיס מקצועי חזק וחשיבה ביקורתית, ה-AI רק יעזור לו לייצר טעויות בקצב מהיר יותר ובביטחון עצמי גבוה יותר.

מאחורי התופעה הזו, שנראית כמעט כמו קריאת מחשבות או צירוף מקרים מוזר, מסתתרת סיבה מתמטית ופסיכולוגית מרתקת: למודלי שפה אין רכיב אקראיות אמיתי: מודלי שפה גדולים (LLMs) הם בסופו של דבר מנועים סטטיסטיים. הם אינם מסוגלים "לזרוק קובייה" בצורה חופשית, אלא חוזים את המילה או המספר הבאים בעלי ההסתברות הגבוהה ביותר בהתבסס על הניסוח שלך.הטיה אנושית מתוך נתוני האימון: המודלים אומנו על כמויות עצומות של טקסט מהאינטרנט, מספרים ומפורומים. במחקרים פסיכולוגיים גילו שכשמבקשים מבני אדם לבחור מספר "אקראי" בין 1 ל-30, בני אדם בוחרים במספר 17 באחוזים גבוהים משמעותית מכל מספר אחר. מספרים כמו 10, 20 או 30 מרגישים לאנשים "עגולים מדי" ומספרים כמו 1 או 2 מרגישים "קרובים מדי לקצה". מכיוון שהמודל למד מטקסטים אנושיים, הוא פשוט משקף ומחקה את ההטיה הפסיכולוגית של בני האדם.הטיה קבועה לפי טווחים: התופעה הזו משתנה בהתאם לטווח שמבקשים. אם תבקש מספר בין 1 ל-10, המודל (כמו בני אדם) יטה לבחור ב-7. בטווח שבין 1 ל-50 התשובה הנפוצה היא 27, ובטווח של 1 עד 100 הבחירה הפופולרית ביותר היא 47.בקיצור, המודל לא בחר ב-17 כי יש לו העדפה אישית, אלא מפני שהוא למד ממיליארדי טקסטים שכשבן אדם מנסה להישמע אקראי, זה המספר שהוא הכי נוטה להגיד.

מסביר את הכל במימ אחד 😆