YUV.AI - בינה מלאכותית בעברית

הריפו Remotion מאת Jonny Burger פותר בעיה שכולנו מכירים - איך לייצר סרטונים בסקייל בלי להתעסק עם After Effects. הוא מאפשר לנו לכתוב סרטונים כמו שאנחנו כותבים קוד React - JSX, CSS, hooks - והוא מרנדר קבצי MP4 אמיתיים. תחשבו על זה כך: סרטון = אפליקציית React שמרנדרת פריים אחרי פריים. הקטע המדליק הוא שאנחנו מקבלים version control, אוטומציה, ויכולת לייצר אלפי סרטונים מותאמים אישית בלחיצת כפתור. בעיניי זה game-changer לכל מי שצריך לייצר תוכן וידאו מונחה-דאטה או הפקות אוטומטיות. https://github.com/remotion-dev/remotion -- לפוסט המלא: https://yuv.ai/blog/remotion

תעצרו לדקה ותראו בעיניים מה זה סוכן AI אמיתי ולא סתם גימיק - צילמתי מסך מיד כשזה קרה כדי לתעד את הפלא הזה! מה שקרה הוא שיצירת תמונה ע"י הסוכן (דרך וואצאפ) נכשלה - רק שבמקום שאני אדבג ואפתור הכל, הסוכן שלי, לוגאן AI, שכפי שכתבתי לאחרונה יש מאחוריו את GitHub Copilot SDK עם שרתי MCP ו-Skills, הגדיל ראש והחליט לדבג את הבעיה לבד, הבין שצריך להוסיף מנגנון נסיונות חוזרים (Retries) - אז הוא פיתח את הפיצ'ר הזה ואפילו עדכן את ה-System Prompt שלו עצמו, לאחר מכן הריץ שוב בעצמו את הבדיקה, הסתכל שוב, תיקן שוב, ולא ויתר עד שהצליח ליצור את התמונה! זה ההבדל בין סוכן AI אמיתי שהבין שיש בעיה, דיבג ופתר לבד, לבין סתם קריאת LLM פשוטה. זה AGI בעיני לכל דבר. לא סתם צ'אטבוט AI שמתכתב איתנו על הדאטה שלנו, אלא סוכן, אמיתי, שפועל לבד ופותר בעיות לבד. וואו.

בואו נעשה סדר בדרך שבה אפשר לקחת סוכן AI שפיתחנו ולהפוך אותו לזמין בפרודקשן עם AgentCore של AWS - ולפני הכל גם נבין למה בכלל צריך אותם https://www.linkedin.com/posts/%F0%9F%8E%97%EF%B8%8Fyuval-avidani-87081474_%D7%91%D7%95%D7%90%D7%95-%D7%A0%D7%A2%D7%A9%D7%94-%D7%A1%D7%93%D7%A8-%D7%91%D7%93%D7%A8%D7%9A-%D7%A9%D7%91%D7%94-%D7%90%D7%A4%D7%A9%D7%A8-%D7%9C%D7%A7%D7%97%D7%AA-%D7%A1%D7%95%D7%9B%D7%9F-ai-activity-7421630380354703361-3ujP?utm_source=share&utm_medium=member_desktop&rcm=ACoAAA_IUNQBv1nBtAXW8okhlIl4mhR78WelGB4

יצרתי סרטון על היכולת החדשה של GitHub Copilot SDK, פיתחתי סוכן ששולט על המחשב עם שרתי MCP. בדוגמא שאני מדגים אני משתמש בתוכנת הפתקים המעולה Obsidian - ואני מדגים איך אפשר להפעיל *מרחוק* את הסוכן. ז"א, סוכן שעובד מרחוק, וע"י שליחת בקשה פשוטה הוא שולט במחשב, מריץ כלים ותוכנות, ומבצע פעולות. עכשיו נשאר לבצע Deploy על AWS AgentCore (גילוי נאות, אני אוהב מאוד את AWS שעושים עבודה מדהימה פה בארץ) צפו בזה, בעיני יש כאן מהפכה, ולא צריכים את קלודבוט כשאפשר לבנות כזה בעצמנו ולשלוט על מה שאנחנו רוצים תוך שימוש ב-SDK עם "אבא ואמא" רציניים כמו גיטהאב! --- WATCH MY NEW VIDEO!! I create a remote agent using the new GitHub Copilot SDK, and this agent runs MCP servers on the computer, control Obsidian and run OS commands just by a simple prompt. Remotely!!! Now I'm working on deploy it using AWS AgentCore. It's gonna be so much fun! I can control my computer / write docs only by sending a simple http request to my agent!! No need in ClawdBot when you can use this SDK, and especially that I've open sourced this project on my GitHub. ENOJY!!! https://youtu.be/xEt8NTKZlBs

קלוד קוד הרגע יצר את הסרטון הזה עם הסקיל של remotion. כשאני כותב על remotion שמסעיר את הרשת - על זה אני בדיוק אני מדבר: סוכן קוד שיודע להסתכל על מה שיש לנו במחשב, על קבצי רפרנס, לצאת לאינטרנט כדי לקבל מידע נוסף (מזכיר את היכולת של ג'מיני לצאת לאינטרנט וליצור לנו תמונה מושלמת בננו בננה מתוך הבנה של ההקשר) - ואז ליצור עבורנו את הסרטון. כאן ביקשתי מקלוד לקרוא עלי וליצור סרטון עם אפקט מגניב שקשור ל-GitHub Copilot CLI. כמה שזה מטורף שתוך שניות קיבלתי את זה! השלבים כדי לעבוד עם רימושן: - התקנה של הסקיל - יצירת פרויקט חדש - הפעלת הממשק - ברגע שיש לנו תיקיה של פרויקט חדש, אפשר להפעיל מתוכה את קלוד קוד או גיטהאב קופיילוט, והם יתחילו ליצור אוטומטית את הסרטונים שנבקש!

אני באמת לא זוכר מתי בשנה האחרונה ראיתי כלי AI שסחרר אותי כמו זה 😮 לא יודע אם ראיתם אבל הרשת סוערת מכלי חדש בשם רימושן שמייצר אנימציות שומטות לסתות - מקוד בלבד תוך שימוש בריאקט, ויש לו אפילו סקיל לסוכני קוד וריפו קוד מקור פתוח. כבר ראיתי דוגמאות של שימוש בו עם גיטהאב קופיילוט SDK החדש שפרסמתי עליו ומסעיר את הקהילה. מה שאתם רואים פה זה הקלטה של דוגמאות מהמסך שלי כי לא יכלתי לחכות עד שאצור לבד. אני עובד על סרטון על זה עם גיטהאב קופיילוט SDK החדש כי זה מה שעושה את ההבדל שבין לפרסם כלי - לבין להוריד אותו לקרקע. פרקטית. לבינתיים חפשו בגיטהאב remtion-dev/remotion וואו!! 🤩

הריפו PageIndex מאת Vectify AI הוא פריימוורק קוד פתוח שמבטל לגמרי את הווקטורים והחלוקה לחלקים ב-RAG. במקום זה, הוא בונה עץ היררכי של המסמך - כמו תוכן עניינים חכם עם סיכומים - וה-LLM "מחשיב" את דרכו דרך העץ בדיוק כמו שאנחנו סורקים ספר. הקטע המדליק הוא שזה פותר את בעיית אובדן ההקשר שקורה בחלוקה רגילה. כשאנחנו מנתחים דוחות פיננסיים או מסמכים משפטיים, דמיון סמנטי לא שווה רלוונטיות. התוצאות: 98.7% דיוק על FinanceBench, פלוס הסבר מלא של המסלול שה-LLM עבר. בעיניי זה הכיוון לניתוח מסמכים מקצועיים שבהם מבנה חשוב. https://github.com/VectifyAI/PageIndex -- לפוסט המלא: https://yuv.ai/blog/pageindex

הפיד GitHub Trending מציג כל יום את הריפוזיטוריז שצוברים הכי הרבה כוכבים במהירות - לא את אלה עם הכי הרבה כוכבים סה״כ, אלא את אלה שעולים מהר עכשיו. מה שנקרא star velocity. תחשבו על זה כמו תחרות פופולריות שמתאפסת כל יום. אנחנו יכולים לסנן לפי שפת תכנות (Python, JavaScript, Rust וכו׳) וגם לראות טרנדים שבועיים או חודשיים. הקטע המדליק הוא שריפו חדש לגמרי יכול לעלות על ספרייה בת שנים אם הוא פותר בעיה שהקהילה מתרגשת ממנה. בעיניי זה חיוני לכל מפתח. אני בודק את זה כל בוקר. https://github.com/trending -- לפוסט המלא: https://yuv.ai/blog/github-trending

קבלו את EIGENT: צוות של סוכני AI שרץ בחינם על המחשב ומבצע פעולות. אפשר להשתמש במודלים לוקאלים בחינם ולרוץ 100% מקומית בסביבה סגורה- והכל קוד מקור פתוח! בדוגמא שפה ביקשתי ממנו לגשת לאתר שלי ולאתר את טופס יצירת הקשר ולהזמין אותי להרצאה בהונולולו הוואי 😂 אפשר לראות איך הוא מבין את המשימה, מחלק אותה לתת משימות, מקצה לסוכן הרלוונטי (יש סוכן דפדפן, סוכן מפתח ועוד ועוד) - ואשכרה עובד על זה. זה שיש כלים דומים זה לא חדש, אבל זה שכלי כזה משוחרר כקוד מקור פתוח שאפשר להתקין על המחשב וליהנות מכל הטוב הזה עם מודלים מקומיים - זה וואו! הכלי נסמך על המחקר המרתק של Camel AI שיצרו מיליון סוכני AI שפעלו אוטומטית ברשת חברתית שפותחה לצורך המחקר. על זה בפעם אחרת.

מה קרה פה הרגע 🤯 חמישי ב-11 בלילה וגיטהאב מטילה פצצה ומשחררת את היכולת להוסיף את גיטהאב קופיילוט CLI לכל אפליקציה בכמה שורות של קוד 🤯 ז״א, כל פיתוח שלנו, אפשר בכמה שורות להוסיף קריאה לקופיילוט שרץ בטרמינל ומחזיר תשובה! זה נקרא GitHub Copilot SDK וזה מזכיר לנו את קלוד אייג׳נט sdk - רק שזה בגרסת גיטהאב, ומי שיש לו רישוי לגיטהאב מרוויח כפול: אפשר להתחבר דרך המנוי הרגיל וליהנות מהיכולת הזו! תחשבו על זה בתוך ארגון, זו מתנה פסיכית! והדבר השני הוא שגיטהאב הניעו שת״פ עם OpenCode כך שאפשר לרכב על המנוי החודשי של גיטהאב קופיילוט גם אם משתמשים ב-OpenCode! זמין לכולם כבר עכשיו, אין לי מילים, זו בשורה מטורפת לארגונים שמצדיקה פרסום בחמישי ב-11:25 בלילה!! GitHub גיטהאב פתחה מבערים גבירותיי רבותיי!!

הכירו את הכלי החדש של אנת'רופיק שמעצבן עורכי דין, Claude Co-Work! https://youtu.be/I1H8JVWbqXI

הריפו Eigent מאת eigent-ai הוא אפליקציית דסקטופ קוד פתוח שמריצה צוות AI מלא על המחשב שלנו - לוקאלית לגמרי. מסתבר שזה פותר בעיה שכולנו מכירים: איך להריץ סוכני AI מתוחכמים בלי לשלוח את הדאטה הרגיש שלנו לענן? Eigent משתמש ב-CAMEL-AI כדי לתאם בין סוכנים מיוחדים (Developer, Browser, Document) שעובדים ביחד על משימות מורכבות. הקטע המדליק הוא שהכל רץ לוקאלית עם vLLM או Ollama, ויש אינטגרציה של MCP שמרחיבה את היכולות. תחשבו על זה כמו צוות מיוחד שכל אחד מומחה בתחום שלו, והם יודעים לתאם ביניהם. בעיניי זה סוגר פער חשוב - סוף סוף multi-agent ברמה ארגונית בלי לוותר על פרטיות. https://github.com/eigent-ai/eigent -- לפוסט המלא: https://yuv.ai/blog/eigent

כשאנחנו משתמשים במודלים מקומיים שמריצים על המחשב, אנחנו בבעיה גדולה בכל מה שקשור לקונטקסט, לכמות המידע שהוא יכול לזכור - וכנגזרת מכך - גם לאיכות התשובה שנקבל. מודלים שמריצים על המחשב, לרוב יהיו עם חלון קונטקסט בגודל של 4096-8092 טוקנים. שבהערכה גסה זה 5000-9000 תווים באנגלית. זה לא הרבה. תחשבו על כמות הטקסט בצ'אט שלכם עם המודלים השונים. תוסיפו לזה קונטקסט חבוי כמו רשימת כלים, פרומפטים מובנים, ונשארתם כמעט במינוס. לכן, השאלה היא: האם בכלל ניתן להשתמש במודלים מקומיים למשימות פיתוח אם יש לנו מגבלה כל כך מאתגרת? כשמחפשים תשובה לשאלה הזו מגלים מהר מאוד אינספור סרטונים על *איך* להריץ LLM מקומית, אבל לא על *איך עובדים על משימה פרקטית* עם AI שרץ מקומית. מסתבר שבאמצעות LM Studio אפשר לא רק לטעון מודלים מקומיים, אלא גם לשלוט בגודל הקונטקסט, כך שאם יש לנו זיכרון, נוכל להגדיל את חלון הקונטקסט ואז עם ניהול נכון של קונטקסט בפרומפטים שלנו - אנחנו נוכל להשתמש במודלים מקומיים גם למשימות פיתוח! זה די מטורף כשמבינים את זה. רק שאף אחד כמעט לא מדבר על זה ונשארים עם פער: יודעים איך להריץ מודלים, לא מבינים איך זה עוזר לנו כשהחלון כל כך קטן. מתייאשים. מוותרים. במקום להתייאש, ארגונים יכולים לדאוג ל-GPU, להגדיל את הקונטקסט לכמות מכובדת, להכשיר ולהדריך על שימוש מושכל בסוכני הקוד כדי לנהל את הקונטקסט כמו שצריך, וכל זה כאשר ה-LLM המקומי גם מונגש בכתובת פנימית, שזה אומר שאפשר להפוך את זה לשירות שזמין פנימית לכל מאן דבעי (לכל מי שרוצה). תחשבו על ארגונים "כבדים", אנטרפרייזים, קורפורייט, ארגונים ביטחוניים או מי שחרד לפרטיותו. כולם יכולים ליהנות מהטוב הזה, רק צריך להבין. אני מקליט תוכן חדש על הנושא הזה, ואשמח לקרוא בתגובות במידה ויש לכם שיטות משלכם להתמודדות עם מצבים כאלה או כלים שאתם ממליצים עליהם שעוזרים בשימוש מקומי.

"בטח! הנה מדריך שלב אחר שלב לביצוע הפשע המושלם - אל תשכח לרקוד לבסוף!" - זה מה שאמר לי ה-LLM והשאיר אותי מזועזע. מכירים את הסיפורים שאנשים איבדו את חייהם בגלל תשובות של AI? ומשפחות שתבעו את חברות ה-AI בשל כך? יש לא מעט מקרים כאלה, אבל מי אשם כשהכל רץ לוקאלית? אני חוקר מודלים מקומיים שיכולים לשמש למטרות פיתוח, מחקר, חשיבה ועוד. במסגרת כך, ובהתחשב בעובדה שאני מגיע עם רקע מעולמות הסייבר, רציתי לראות כמה מודלים לא מצונזרים באמת מדברים על הכל. בחנתי למעלה מ-10 מודלים, גדולים וקטנים, מובילים וכאלה שלא בהכרח מכירים. מה שגיליתי היה שרוב המודלים, גם כאלה שנקראים לא מצונזרים - הם בעצם כן מצונזרים במובן שהם לא ישתפו פעולה עם שאלות שמכילות אלימות וכדומה. עם זאת, קיימים גם מודלים חסרי כל רסן. שישיבו על כל שאלה ואפילו יעזרו לבצע פשעים, להשמיד ראיות ולחשוב על דברים נוראיים שבחיים לא הייתי מעלה על דעתי. אני לא רוצה להגיד מה שם המודל, רק אציין שהשתמשתי ב-Ollama \ LM Studio (וגם ב-Ollama WebUI כדי להריץ מודלים בממשק web נחמד). אני תוהה לעצמי מה עושים כנגד הדברים האלה אם המודלים רצים לוקאלית? אנחנו יודעים שיש מקרים שהמשטרה בחנה מה אנשים מחפשים במנועי חיפוש לפני ביצוע פשע, וכך מצליחים להוכיח אשמה, אבל מה יקרה עכשיו? שאפשר לשאול הכל בשקט, סגור, ולקבל רעיונות לדברים הכי קשים שיש? אין לי תשובות. אני לא יודע אם אפשר להגיע למצב שחוסמים את הדברים האלה. לא חושב שזה אפשרי. כנראה שהמודעות שלנו תהיה התשובה. ואגב, מה שעוד יותר מפחיד אותי הוא שגם Open AI וגם קלוד וכל יתר המודלים הם כאלה, פשוט עוטפים אותם בשכבת הגנה של לא להשיב על שאלות כאלה. אבל אם מבינים שמהות יש להם פוטנציאל כזה - פתאום מבינים שזה גם מזעזע. ואגב, שימו לב ל-Follow Up, לא רק תשובות מזעזעות אלא אפילו הצעות לשאלות המשך שיכולות לעזור כמו איך לבצע את הפשע טוב יותר, להסתיר ראיות נקי יותר וכדומה.