Machine & Deep Learning Israel

פרק חדש של Hidden Layers והפעם בשיתוף Bria 🙂 בפרק הזה היה לי תענוג לראיין את Misha Feinstein, ה-CTO של חברת Bria. אני עוקב אחרי Bria מאז שהוקמה ועוד אז המשימה שלהם נראתה לי כמעט בלתי אפשרית: הם רוצים לאמן מודל בסיס מאפס שידע לייצר תמונות באיכות הגבוהה ביותר אבל גם לדעת איזה אומן תרם ליצירת התמונה ולשלם לו בהתאם. כלומר, הם פיתחו מודל שידע לייצר תמונות אבל גם להביא תמלוגים לכל מי שהמודל התבסס עליו בג'ינרוט הנוכחי. זה אתגר טכנולוגי כל כך קשה וזה פשוט תענוג לראות חברה ישראלית שמצליחה בו כל כך. אז אם אתם רוצים ללמוד איך זה להתחרות בחברות הטכנולוגיה הגדולות בעולם ואיך זה ליצור מודל בסיס עצמאי, אז אתם מוזמנים להאזין לפרק. לצפייה: https://youtu.be/LlR5QVb8hkU להאזנה באפל: https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%9E%D7%90%D7%9E%D7%A0%D7%99%D7%9D-%D7%9E%D7%90%D7%A4%D7%A1-%D7%9E%D7%95%D7%93%D7%9C-%D7%91%D7%A1%D7%99%D7%A1-%D7%A9%D7%9E%D7%99%D7%99%D7%A6%D7%A8-%D7%AA%D7%9E%D7%95%D7%A0%D7%95%D7%AA-%D7%A8%D7%90%D7%99%D7%95%D7%9F-%D7%A2%D7%9D-%D7%A4%D7%99%D7%99%D7%A0%D7%A9%D7%98%D7%99%D7%9F/id1874897486?i=1000774016544 האזנה ספוטיפי: https://open.spotify.com/episode/19qfdsCuYKsvf9pOjQV4Mb?si=IcCfgoMoTCWmEYMIKfjYcQ

סוף כל סוף אנחנו מארגנים מיטאפ על אחד הנושאים שהכי מסקרנים אותי בתחום ה-AI: זיכרון של סוכנים. לגרום לסוכן לבצע משימה מסוימת זה נחמד, לגרום לו להשתפר ולממש לזכור את הפעולות שלו זה החלק הקשה. אחד הדברים שאני חוקר לא מעט זה איך יוצרים "ניסיון" אצל סוכנים וגורמים להם להפוך מג'ויניורים לסיניורים. איך בוחרים מה להכניס לזיכרון של הסוכן ומה לא? איזה דברים אנחנו רוצים שהוא גם ישכח מידי פעם? איך אנחנו מתקפים את הניסיון שהוא צבר? יש מלא שאלות מסקרנות על איך בונים מנגנון שלם סביב הסוגיה הזו. אנחנו מקיימים אירוע בשיתוף אורקל בחודש הבא בדיוק על זה ובדיוק בונים את התוכן. אסף מאורקל יביא סקירה מקיפה על כל המאמרים והעבודות שיצאו בנושא ויעשה סדר בכל מה שפופלארי עכשיו. לאחר מכן יהיו לנו עוד הרצאות בנושא. אם אתם עושים משהו מעניין בהקשר הזה נשמח לשמוע ולתת לכם במה. מוזמנים להירשם כאן (בחינם). שימו לב שמספר המקומות מוגבל אז שווה להירשם בהקדם.

פרק חדש בפודקאסט Hidden Layers שלנו והפעם היה לי הכבוד לראיין את ערן הופמן, ה-Chief R&D officer בחברת Dream. בחברת Dream מפתחים טכנולוגיה מיוחדת שנועדה להגן על ממשלות וגופים ציבוריים כנגד מתקפות סייבר. בפרק דברנו על האתגרים המיוחדים שיש בסוג הלקוחות האלה, על הסטאק הטכנולוגי המאתגר וגם על איך מודלי AI כמו מיתוס משפיעים על עתיד הסייבר ויכולות התקיפה כנגד מעצמות. בזה אנחנו חותמים את סדרת הפרקים שלנו מהכנס CyberML שהיה הצלחה מדהימה. כל התוכן מהכנס פה: https://machinelearning.co.il/lp-events/cyberml/ לצפייה: https://youtu.be/JcsAA2-eBbk ספוטיפי: https://open.spotify.com/episode/0VuXESLXcr8dtYQVHp2ogQ?si=n_65cjQ8TpS8Wme9NphoNw אפל: https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%9E%D7%A9%D7%AA%D7%9E%D7%A9%D7%99%D7%9D-%D7%91-ai-%D7%9B%D7%93%D7%99-%D7%9C%D7%94%D7%92%D7%9F-%D7%A2%D7%9C-%D7%9E%D7%AA%D7%A7%D7%A4%D7%95%D7%AA-%D7%A1%D7%99%D7%99%D7%91%D7%A8-%D7%9B%D7%A0%D7%92%D7%93-%D7%9E%D7%93%D7%99%D7%A0%D7%95%D7%AA/id1874897486?i=1000773223523

היה תענוג גדול להתארח שוב בטראש טק ולדבר הפעם על כל הסקנדל עם אנטרופיק והחסימה של המודלים שלהם. דברנו בצורה מסודרת על כל הסיבות, ההשלכות והתחזיות של המהלך הזה. מוזמנים לשמוע :) https://youtu.be/eL6GZi4b3jI?t=1219&si=NVzQgofdWFZ4O1Te

אני שמח ונרגש לעדכן שההקלטות והמצגות של כנס CyberML עלו לאתר שלנו. אני יודע שהרבה רצו להגיע לכנס ולא יכלו, אז עכשיו אתם יכולים לצפות בהרצאות המצוינות שהיו. תודה רבה לכל המרצים והמרצות שלקחו חלק בכנס. קבלנו פידבקים מדהימים על התוכן! הכל נמצא באתר: https://machinelearning.co.il/lp-events/cyberml/ לינק לפליילסט ביוטיוב: https://www.youtube.com/playlist?list=PL1FoIGqsXJ_B3-Bvg3Ww-g1l7R6VNd7kC

היה לי הכבוד להיות העורך המדעי לספר "דרכה של אנבידיה" של טאי קים (תרגום של הוצאת מטר) זו הייתה אחלה הרפתקה ומאוד נהניתי לשבור את הראש על איך מתרגמים (או לא) מושגים כל כך חשובים בתחום השבבים והAI. כן ממליץ ויש עניין ;)

אני עולה ללייב עכשיו ספונטני לדבר על כל הסאגה של האיסור שימוש במודלים של אנטורפיק מחוץ לארה"ב לינק: https://www.youtube.com/watch?v=NmjMQD4s7co

רגע לפני כנס CyberML, היה לי הכבוד לארח בפודקאסט את עופרי זיו, ממייסדי חברת Tenzai. למי שלא מכיר, Tenzai בונה את ה-"AI Hacker" האולטימטיבי - מערכת אג'נטית מתקדמת שעוזרת לארגונים גדולים לבדוק באופן אוטומטי את רמת האבטחה והחדירות של האפליקציות והרשתות שלהם. בפרק דברנו על תהליך הבנייה של סוכן בינה מלאכותית שחושב ופועל כמו האקר אנושי ויצירתי, איך מציבים לו גבולות (Guardrails) כדי לוודא שהוא לא עושה נזק למערכות פרודקשן, ואיך מודלים חזקים משנים את עולם הסייבר ומשפיעים על יכולות התקיפה וההגנה. לצפייה ביוטיוב: https://youtu.be/UPtAc5UHEyE האזנה בספוטיפיי: https://open.spotify.com/episode/46ZZgyKwzQSJmIWsJb9Wre?si=T3hkJGriSBSQ1T-mlhc60w האזנה באפל: https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%91%D7%95%D7%A0%D7%99%D7%9D-%D7%90%D7%AA-%D7%94-ai-hacker-%D7%94%D7%90%D7%95%D7%9C%D7%98%D7%99%D7%9E%D7%98%D7%99%D7%91%D7%99-%D7%A8%D7%90%D7%99%D7%95%D7%9F-%D7%A2%D7%95%D7%A4%D7%A8%D7%99-%D7%96%D7%99%D7%95/id1874897486?i=1000771518126 הצוות של Tenzai הרחיבו על כל הסוגיות האלה ועוד בכנס CyberML שלנו: https://machinelearning.co.il/lp-events/cyberml/ בקרוב יעלו באתר ההקלטות והמצגות.

עכשיו אפשר לסכם את CyberML. הוא היה אחד הכנסים המוצלחים ביותר של הקהילה. אתמול התכנסו למעלה מ450 מהאנשים המובילים בתחום הסייבר וה-AI לשמוע מטובי המרצים והמרצות על השילוב המיוחד בין שני התחומים. ראינו איך תחום הסייבר משתנה ואיך הכניסה של AI לכל אלמנט בו פשוט טורפת את הקלפים. אני רוצה להודות לדוברים והדוברות המדהימים שלנו שהעבירו הרצאות טכניות ומקצועיות ברמה הגבוהה ביותר. היה פשוט מרתק לשמוע על כל העשייה המקומית שמתקיימת פה ממש בישראל. אנחנו נעלה בקרוב את כל התכנים לאתר (מצגות + הקלטות). תודה ענקית גם לנותני החסות שלנו. בראשם חברת Irregular שהיו נותני חסות Platinum שלנו. הם היו שותפים מלאים שלנו מתחילת הדרך והביאו לנו האת הרוח הגבית המדהימה לכנס. בזכותם יכלנו לצאת אל הדרך ולקיים את הכנס הזה. כמובן תודה רבה לכל השותפים האחרים שלנו: Vega, Claroty, Tenzai, Twine, Tenable, Dream, Cyera, Irregular, Lasso, Checkmarx. קבלנו מחמאות אדירות על התוכן שלכם (וגם הסוואג ;) ). ומעל כל זה, תודה ענקית לצוות המדהים שלי שניצח על הכל ביד רמה וגרם לכנס להיות בצורת גימור כזו גבוהה. תודה ענקית ל- Adi Shachal שאחראית על הכנס מקצה לקצה ובזכותה אנחנו נהנים מכנסים כאלה איכותיים בקהילה. תודה גם ל Ofer Ashkenazi שסייע לאורך כל הכנס וגם לשחק החיזוק שלנו Dean Langsam שכבר הפך להיות פק"ל עזרה קבוע בכל כנס. ואחרונים חביבים: תודה לכל חברי הקהילה שהגיעו לתמוך ולקחת חלק באירוע. באותו יום התחרנו בכמה כנסים מאוד גדולים ומוצלחים (בראשם בכנס של גוגל) ועדיין האולם היה מלא באנשים מאוד איכתיים. תודה ענקית ונתראה בכנס הבא :)

זהו. נמכר הכל. נתראה בחמישי.

פרק חדש בפודקאסט שלנו והפעם היה לי הכבוד לארח את בן משיח, Director of Data & AI בחברת Claroty. מה שמיוחד ב-Claroty הוא שהם מאבטחים את המתקנים הרגישים בעולם: החל ממפעלים ובתי חולים ועד לדאטה סנטרים גדולים. כל זה יוצר אתגרים מאוד משמעותיים כשמנסים להגן על אתרים חשובים שכאלה - במיוחד שחלקם לרוב מנותק מהאינטרנט. בפרק דברנו על איך הם משלבים AI כדי לתת מענה לכל איומי הסייבר של הלקוחות שלהם וגם לאן הולך התחום כולו. לצפייה ביוטיוב: https://youtu.be/gcQVN_dw9nY ספוטיפי: https://open.spotify.com/episode/1Kx6cu2LKBDjwpgiwbxVAV?si=63eba87394da4fe5 אפל: https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%9E%D7%A9%D7%AA%D7%9E%D7%A9%D7%99%D7%9D-%D7%91-ai-%D7%9B%D7%93%D7%99-%D7%9C%D7%94%D7%92%D7%9F-%D7%A2%D7%9C-%D7%94%D7%9E%D7%AA%D7%A7%D7%A0%D7%99%D7%9D-%D7%94%D7%A8%D7%92%D7%99%D7%A9%D7%99%D7%9D-%D7%91%D7%99%D7%95%D7%AA%D7%A8/id1874897486?i=1000770717556 אם אתם רוצים לשמוע עוד על הנושא, Claroty ידברו על כל זה ועוד בכנס CyberML שלנו: https://machinelearning.co.il/lp-events/cyberml/

איך עוקפים את מנגנוני האבטחה של ChatGPT וגורמים לו להדליף מידע? או אפילו יותר נורא: להרעיל את הזיכרון שיש לו על המשתמשים? יש הרבה דרכים להשפיע על ChatGPT ועל הדרך שהוא מאחזר מידע - במיוחד אם הוא מביא מידע שהוא מחפש בחוץ. אם יש לכם שליטה על התוכן של האתר, בין אם זה דרך עמודים מקודמים או אפילו תגובות באתרים פופלארים - אתם יכולים להזריק מידע בעייתי לChatGPT ולגרום לו להדליף מידע. ואם זה לא מספיק, זה יכול גם לפעפע לזיכרון שלו ולגרום לו להדליף מידע מאוד רגיש אבל גם בדרך אלגנטית שלא תתבצע בפעימה אחת אלא במספר פעימות (הוא עכשיו זוכר שהוא צריך לבצע את המשימה הזו). על זה בדיוק הולך לדבר ארי איתן מ-Tenable בכנס CyberML שלנו. הוא ידבר על איך הם הצליחו להערים על מנגנוני ההגנה של ChatGPT וגם מה אתם יכולים לעשות כדי להגן על המנוי שלכם ממתקפות כאלה. לינק לכנס: https://machinelearning.co.il/lp-events/cyberml/

פרק חדש של הפודקאסט Hidden Layers והפעם היה לי הכבוד לראיין את Shiran Bareli שהיא ה-VP Research בחברת Cyera. למי שלא מכיר, מדובר על אחת מחברות הסייבר הצומחות בישראל שכבר היום מגנה על הארגון הגדולים בעולם. לשירן יש פוזיציה מאוד מעניינת מאחר והיא מובילה קבוצת מחקר בחברת סייבר. דברנו על העבודה שלהם עם דאטה מאתגרים, אימון של מודלים קטנים למשימות ספציפיות וגם איך המודל מיתוס של אנטרופיק משנה את התחום כולו. אם אתם רוצים לשמוע עוד על הנושאים האלה אתם מוזמנים לכנס CyberML שבו הם ירחיבו על כל הסוגיות האלה. לינק לצפייה: https://youtu.be/VVBPHeROV6k?si=x_spsQ_xmblxW1Ed האזנה בספוטיפי: https://open.spotify.com/episode/48P7NYRYFxKRYrrPrARj72?si=zN6lHnLBTFmSgcegLEH5Wg האזנה באפל: https://podcasts.apple.com/il/podcast/%D7%9E%D7%97%D7%A7%D7%A8-ai-%D7%9E%D7%AA%D7%A7%D7%93%D7%9D-%D7%91%D7%97%D7%91%D7%A8%D7%AA-%D7%A1%D7%99%D7%99%D7%91%D7%A8-%D7%A8%D7%90%D7%99%D7%95%D7%9F-%D7%A2%D7%9D-%D7%A9%D7%99%D7%A8%D7%9F-%D7%91%D7%A8%D7%90%D7%9C%D7%99-%D7%9E%D7%97%D7%91%D7%A8%D7%AA-cyera/id1874897486?i=1000770394577 הכנס CyberML שלנו: https://machinelearning.co.il/lp-events/cyberml/

חמישי כאן ואיתו שרשור המשרות שלנו. יש לנו מלא משרות חדשות מאז הפעם האחרונה עם מגוון רחב של חברות מאוד מעניינות ותפקידים שונים. לחובבי המדיקל, החבר'ה ב-aidoc פרסמו לא מעט משרות אז שווה לבדוק אותן. גם מובילאי העלו מספר משרות בתחומים שונים אז מי שמתעניין ברכבים אוטנומיים זו ההזדמנות. אחרון חביב: למי שנמצא בתחילת הדרך, שימו לב שיש משרת סטודנט בסמסונג שנשמעת מאוד מעניינת. Senior ML Software Engineer at Mobileye link: https://machinelearning.co.il/job/senior-ml-software-engineer/ 3D Algorithm Developer Student at Mobileye link: https://machinelearning.co.il/job/3d-algorithm-developer-student/ AI Principal Software Engineer, ML Platform at aidoc link: https://machinelearning.co.il/job/ai-principal-software-engineer-ml-platform/ 3D algorithm developer at Mobileye link: https://machinelearning.co.il/job/3d-algorithm-developer/ Senior AI software Engineer at aidoc link: https://machinelearning.co.il/job/senior-ai-software-engineer/ AI Algorithms Tech Lead at aidoc link: https://machinelearning.co.il/job/ai-algorithms-tech-lead/ Senior ML Engineer – LLMs & AI Systems at CargoSeer link: https://machinelearning.co.il/job/senior-ml-engineer-llms-ai-systems/ Generative AI Algorithms Student at Samsung Israel R&D Center- SIRC link: https://machinelearning.co.il/job/generative-ai-algorithms-student/ Data Collection Coordinator at MotionAnalytics link: https://machinelearning.co.il/job/data-collection-coordinator/ AI Algorithms Team Lead at aidoc link: https://machinelearning.co.il/job/ai-algorithms-team-lead-3/ Applied AI Engineer at Riskified link: https://machinelearning.co.il/job/applied-ai-engineer-2/ AI Engineer at Apiiro link: https://machinelearning.co.il/job/ai-engineer-7/ Data Science Team Lead at Riskified link: https://machinelearning.co.il/job/data-science-team-lead-4/ Senior NLP/LLM Researcher at DeepKeep link: https://machinelearning.co.il/job/senior-nlp-llm-researcher/ Applied AI Researcher at Brandlight link: https://machinelearning.co.il/job/applied-ai-researcher/

ב-Claroty מאבטחים את הגופים הכי רגישים בעולם. הם צריכים לדאוג לבתי חולים, מפעלים, דאטה סנטרים וכו'. מחיר הטעות של פריצת אבטחה בכל אחד מהם יכול להיות אסון של ממש. לכן הם צריכים לבנות מערכות מאוד מתקדמות שיאפשרו את רמת האבטחה הגבוה ביותר. חלק מאוד משמעותי בפיתוחים שכאלה הוא כמובן השימוש במודלי AI והיכולת לרתום אותם להגנה על הלקוחות שלהם. מה שמרתק במקרה שלהם הם האתגרים שיש ביכולת להריץ AI אצל לקוח הקצה. בחלק מהמקרים הלקוח מבודד מהאינטרנט ולא תמיד אפשר להריץ את המודלים הכי מתקדמים. זה יוצר אתגרים מרתקים ברמת ההנדסה וגם ברמת מודלי ה-AI. ב-Claroty חייבים לסחוט את הביצועים של המודלים הקיימים ולדעת גם מה המודל הכי מדויק לכל משימה. בכנס שלנו Roman Rosh הולך לדבר על בעית קליספיקציה מאוד מעניינת שהם התמודדו איתה ואיך המודלים שפיתחו סייעו להם לעמוד במשימה בסביבות מאוד מאתגרות. זו הרצאה מצוינת לכל מי שעובד בגופים כאלה ורוצה עדיין להבין איך להשתמש ב-AI עם כל המגבלות שיש. לינק לכנס: https://machinelearning.co.il/lp-events/cyberml/

פרק חדש לHidden Layers והפעם אירחתי את תום ברנע מחברת Tenable. מה שאהבתי בפרק הזה במיוחד הוא העובדה שדברנו על מה קורה עכשיו בארגונים שרוצים להכניס AI. אין ארגון שלא רוצה להכניס כלי AI חדש אבל מבחינת אבטחה זה חתיכת כאב ראש. בגלל ש Tenable עובדת עם כל כך הרבה ארגונים, תום יכל לשתף מה באמת קורה עכשיו, איך ארגונים מתמודדים עם כל איומי הסייבר וגם איך התחום כולו יצעד קדימה בשנים הקרובות. הם כמובן ידברו על כל זה ועוד בכנס CyberML שלנו. לינק לצפייה: https://www.youtube.com/watch?v=M-I2bY2PoRY האזנה כללית: אפל: https://podcasts.apple.com/il/podcast/איך-לאבטח-את-השימוש-בכלי-ai-בארגון-ראיון-עם-תום-ברנע/id1874897486?i=1000769595917 ספוטיפי: https://open.spotify.com/episode/0b4RGLT8X5Oe7eyvvj1st4?si=590962b03ddf4623 כנס CyberML כאן: https://machinelearning.co.il/lp-events/cyberml/

חשוב לנו לתת במה גם לצעירים בתחילת דרכם. בכנס CyberML יעלה לבמה רן בר זיק וידבר על פרויקט מיוחד שהוא היה אחראי עליו בתקופה האחרונה. מרבית ההרצאות בכנס יעסקו בניתוח טקסט ואבטחה של מידע טקסטואלי. רן הולך לדבר על האתגרים שצריך לנתח מידע שונה כדוגמת: אודיו, וידאו ותמונות כחלק מאבטחה של סשנים של RDP. רן יציג את האתגרים בעבודה עם מודלים מולטימודליים ואיך בונים מערכת בסקייל שכזה מבלי לקרוע את הכיס (כן, Token ops זה חשוב). לינק: https://machinelearning.co.il/lp-events/cyberml/

איך בונים סוכנים שמשתפרים עם הזמן? השאלה הזו מעסיקה את Twine לא מעט, במיוחד כי הם ממש בונים עובדים דיגיטליים שיכולים לקחת משימות אבטחה ולטפל בהן מקצה לקצה. אבל כל אחד יודע שמשימות מהסוג הזה הן דבר דינמי - במיוחד במציאות שמשתנה בתדירות גבוה. גם אם אתם מלמד סוכן לבצע משימה היום, אף אחד לא אמר שהיא תתבצע באותה הדרך גם מחר. בני אדם יודעים לעשות את ההתאמות האלה אבל גם להם זה לא קל, אז מה יגידו הסוכנים? ב-Twine עברו דרך מאוד מרתקת בהקשר הזה ובדרך שבה אפשרי לייצב סוכנים ולגורם להם להשתפר עם הזמן. הם הבינו מה הדרך הכי נכונה להפעיל אותם, איך בונים סקילים בצורה נכונה והחלק הכי מרתק: איך בונים "ניסיון" של סוכן והופכים אותו מג'וניור לסיניור בצורה סקלייבילית. נדב מ-Twine הולך לדבר על כל זה ועוד הרבה. כל מי שרוצה לשפר את הסוכנים שלו צריך לשמוע את ההרצאה הזו. לינק לכנס: https://machinelearning.co.il/lp-events/cyberml/ לינק לפרק המיוחד עם נדב: https://youtu.be/6sc1eI4U2WE

פרק מאוד מיוחד בפודקאסט עם גבריאל כהן מ-NanoClaw - אחד מפרויקטי הקוד פתוח המוצלחים שיצאו מישראל, שהצליח להרשים גם את אנדריי קרפתי. לפני כמה חודשים גבריאל השתמש ב-OpenClaw אבל משהו היה בעייתי שם. זה לא היה מאובטח בכלל. המערכת עבדה אבל זה זו הייתה בעיית אבטחה אחת גדולה. אם זה לא מספיק, היה מדובר על ערמות של קוד שאי אפשר באמת לעבור עליהן כמו שצריך. לכן הוא החליט, ביחד עם אחיו, לבנות פרויקט צד חדש בשם NanoClaw - סוכן AI חדש אבל הרבה יותר מאובטח. הפרויקט כולו נבנה בצורה הרבה יותר פשוטה להבנה וניהול. מכאן הסיפור פשוט המריא: הקהילה הבינלאומית עפה על הפרויקט והוא פשוט טס בגיטהאב. הפרויקט קיבל חשיפה משוגעת בכל העולם: החל משר החוץ הסינגפורי ועד לאנדריי קרפתי. כל זה גרם לגבריאל להבין שיש כאן משהו מדהים עם ביקוש עצום. אז הם לקחו את הפרויקט קוד פתוח שלהם והתחילו לבנות ממנו ממש מוצר שלם ליחידים וארגונים. היום הם גם הודיעו על גיוס של 12 מיליון דולר מכמה מהגופים המובילים בתחום. הפרק זמין כאן: https://youtu.be/Yg2pRynmUtY אפל: https://podcasts.apple.com/il/podcast/איך-בונים-סוכני-ai-מאובטחים-לארגונים-ראיון-עם-גבריאל/id1874897486?i=1000768867346 ספוטיפי: https://open.spotify.com/episode/6GnM3IfX26smvdFedJUreq האזנה כללית: https://hiddenlayers.podbean.com/e/nanoclaw/

כולם משתמשים ב-AI לניתוח מסמכים. אבל מה קורה אם אתם מקבלים מסמך "מורעל" שמכיל בתוכו הוראות זדוניות למודלי שפה? מרבית האנשים לא חושבים הרבה לפני שהם מעלים מסמכים לכלי ה-AI החביבים עליהם אבל מסתבר שזו יכולה להיות פירצת אבטחה מאוד משמעותית - במיוחד באירגונים. מה שעוד יותר מיוחד הוא שהמסמך יכול להיראות לכם רגיל לחלוטין. גם אם תבדקו ותסרקו אותו טוב טוב לא תוכלו למצוא את הבעיה. שינוי קטן ובלתי נראה לעין יכול לגרום למודל שפה לבצע פקודות שלא ביקשתם ממנו ולגרום חתיכת נזק. כל זה רק ממסמך אחד כן? בדיוק על זה Idan Habler מסיסקו הולך לדבר בכנס CyberML שלנו. עידן הולך להציג סוג תקיפה מאוד מיוחד שיכול להפיל כל ארגון. אבל עידן לא יציג רק את הבעיה אלא יסביר גם על הפתרון: HubScan. אז מה זה HubScan? זה מוצר קוד פתוח שסורק מקורות מידע (כולל וקטור דאטהבייס) ויודע לעזור לכם להבין אם יש שם מסמכים או מידע בעייתי. בהרצאה הוא יסביר על הפתרון שלהם ואיך אתם יכולים להשתמש בו גם. לינק לכנס: https://machinelearning.co.il/lp-events/cyberml/