ההכרזות המרכזיות מכנס Build 2024

כנס Microsoft Build 2024 חשף יותר מ-50 הכרזות חדשות, כשגולת הכותרת כצפוי היא בינה מלאכותית. בחרתי את ההכרזות המרכזיות מהכנס והנה הם לפניכם: 

1. מודל GPT-4o ב-Azure

מודל gpt-4o הוא מודל חדש ומהפכני מבית OpenAI שנחשף ב-13 במאי והוא מביא עימו יתרונות משמעותיים בהשוואה למודל הקודם gpt-4-turbo: 

• יכולת להבין דיבור אנושי, לייצר קול אנושי ויכולת לקבל מידע ויזואלי. כלומר, המודל יכול עכשיו לראות, לשמוע ולהבין דיבור, לדבר בעצמו בשלל שפות, ולהבין שפה אנושית. אין צורך במודלים נוספים לצורך תמלול או לצורך יצירת קול אנושי. מודל אחד יכול לעשות הכל. המשמעות היא יכולת תגובה מהירה במיוחד עבור יישומים של "שיחה עם בוט". 

• עלות השימוש זולה ב-50% לעומת gpt-4-turbo ($5 למיליון טוקנים ב-input ו-$15 למיליון טוקנים ב-output). 

• מהירות התגובה הוכפלה פי 3 בערך (בשפות שאינן לטיניות השיפור במהירות הוא משמעותי עוד יותר לעומת המודל הקודם). 

• חיסכון בטוקנים ובמחיר בשימוש בשפות שאינן אנגלית. טקסט בעברית צורך פחות מחצי מכמות הטוקנים לעומת מודל gpt-4-turbo. זה כמובן מתבטא במחיר נמוך יותר ובמהירות התגובה. 

• שיפור ביכולות הקוגניטיביות של המודל בהבנת שפות שאינן אנגלית לעומת gpt-4-turbo. 

• המכסות שיש לשימוש במודל החדש, גבוהות משמעותית לעומת קודמו. המשמעות היא שניתן לצרוך הרבה יותר טוקנים לדקה ולקבל תפוקה גבוהה בהרבה. 

חשוב לדעת: נכון להיום, מודל gpt-4o מנצח כל מודל אחר שזמין בשוק בכל מבחן ובכל Benchmark שבוחן יכולות קוגניטיביות.

• מיקרוסופט מציעה שיטת צריכה חדשה שנקראת Global Standard. שיטה זו מאפשרת מכסה גבוהה בהרבה של טוקנים (450Kטוקנים לדקה ללקוחות רגילים ו-10 מיליון טוקנים לדקה ללקוחות EA). המכסה מושגת ע"י ניתוב אוטומטי של כל הפעלת המודל ל-Region ענן פנוי תוך ניצול התקשורת המהירה בין ה-regions. השיטה זמינה למודל gpt-4o בלבד כרגע. 

• למי שמעוניין לצרוך את המודל ב-PTU, הכמות המינימלית של PTU לצריכה היא 50PTU (במקום 100PTU שדרש מודל gpt-4-turbo).

2. שיפורים ב-AI Studio 

ה-AI Studio, הכלי המרכזי ב-Azure לניהול ולשימוש במודלי שפה, מעכשיו Generally Available. בנוסף הורחב קטלוג המודלים והוספו לו מודלים חדשים: 

• מודל חדש של חברת AI21 הישראלית שהוא היחיד שנבנה בארכיטקטורה חדשנית בשם Mamba-Transformer לצריכה לפי טוקנים (Model as a Service). השיטה החדשה מאפשרת ליצור מודל עם צריכת זיכרון קטנה יותר, ועדיין להציג יכולות גבוהות ולתמוך בחלון תוכן גדול (256K טוקנים).  

• הוספו עוד מודלים קטנים חדשים מבית מיקרוסופט: Phi-3-Small (עם 7 מיליארד פרמטרים) ו- Phi-3-Medium (עם 14 מיליארד פרמטרים שניתן להפעלה ב-MaaS). אלה מודלים שאפשר להריץ על חומרה יחסית חלשה ויש להם יכולות מרשימות מאד יחסית לגודלם.  

אל השניים נוסף מודל קטנטן חדש בשם phi-3-vision שמקבל גם טקסט וגם תמונה ופולט טקסט. המודל מסוגל להבין תמונות, לגלות ישויות בתמונה ולנתח את הסיטואציה בתמונה. גודלו הקטן של המודל מאפשר להריץ אותו גם על מכשירי קצה. 

• מודל של JAIS לטיפול בתכנים בשפה הערבית ברמה גבוהה ובאנגלית בצריכה לפי טוקנים (Maas) 

• מודל TimeGEN-1 מבית Nixtla המיועד לטפל במידע המסודר לפי זמן (Time Series) לביצוע תחזיות ולגילוי אנומליות בצריכה לפי טוקנים (MaaS). 

• מודלים נוספים יצטרפו בקרוב לקטלוג מבית Bria AI הישראלית, Gretel Labs, NTT Data ,Stability AI ומודל חדש מ-Cohere בשם Rerank. 

• מיקרוסופט מרחיבה את השותפות עם HuggingFace ועוד שלל מודלים משם צפויים להצטרף לקטלוג המודלים העצום. 

• הוספו כל יכולותיו של ה-OpenAI Studio לתוך AI Studio כולל טיפול במכסות למודלים. 

3. AI במחשב האישי 

מיקרוסופט משיקה תקן חומרה חדש עבור מחשבי PC בשם +Copilot. מדובר במחשבי PC שבהם יש צ'יפים המכונים NPUs או Neural Processing Units שבעזרתם יתווספו יכולות AI מתקדמות ל-PC שמריץ את מערכת ההפעלה Windows 11. הנה מספר פיצ'רים של AI שיהיו זמינים למחשבים הללו: 

• Windows Copilot Runtime - זוהי פלטפורמה להרצת יישומיי AI על מחשב בתקן +Copilot. הפלטפורמה מגיעה עם ספרייה רחבה (Windows Copilot Library) שמאפשרת למפתחים להוסיף יכולות AI לאפליקציות שלהם הרצות על ה-PC. הפלטפורמה כוללת למעלה מ-40 מודלים שתוכננו לרוץ על מחשבי +Copilot, יכולת שילוב RAG לאפליקציות (שימוש בווקטורים סמנטיים ובמחסן ווקטורים), תמיכה מובנית בספריית Pytorch ועוד. 

• Recall - הפיצ'ר יאפשר לכם למצוא כל פעולה, מסמך או תמונה שעברו תחת ידיכם בעזרת חיפוש בשפה טבעית. נגיד שאתם מחפשים מסמך מסויים, ואתם לא זוכרים אם זה היה במייל או בוואטסאפ או שמדובר בכלל בתמונה של מסמך – פשוט הפעילו את Recall והקלידו בשפה טבעית את הנושא של המסמך. הכלי יבין לבד מה אתם רוצים ויריץ חיפוש סמנטי על התמונות שסרקתם עם הטלפון, באתרים שביקרתם, במיילים ובהודעות שלכם.  

• Super Resolution - יש לכם תמונות ישנות? הכלי הזה ישחזר אותם וישפר אותם משמעותית. 

• Cocreator - רוצים לבצע שינויים בתמונה? רוצים לייצר תמונות חדשות? בעזרת  Cocreator תוכלו לשנות את סגנון התמונה ו"לשחק" עם התמונה באמצעות פרומפט. 

• Live Captions - מאפשר לתרגם אודיו שעובר ב-PC בזמן אמיתי משפה אחת לשפה אחרת. זה כולל אודיו שמוזרם מסרטים וסרטונים. המוצר תומך 40 שפות כרגע. 

• Windows Studio Effects - נועד לשפר את המראה שלכם בשיחות וידאו. למשל, שינוי מצב העיניים שלכם כאילו אתם מסתכלים ישר אל המצלמה ויוצרים קשר עין ישיר. אפקטים נוספים שהכלי מציע כוללים ניקוי רעשים מתקדם, שיפור תאורה ועוד. 

4. GitHub Copilot Extensions and Workspaces 

GitHub Copilot הוא כלי ה-AI למפתחים הנפוץ ביותר בעולם ומשתמשים בו כבר יותר מ-50,000 ארגונים. הכלי מקבל שני פיצ'רים חדשים שלוקחים את ה-Github Copilot צעד גדול קדימה: 

GitHub Copilot Extensions

מעכשיו ניתן להוסיף ל-GitHub Copilot הרחבות (Extensions) כדי לאפשר להביא ל-GH Copilot מידע ממערכות חיצוניות המחוברות לאפליקציה כמו: מידע מהענן, מידע מבסיסי נתונים המשמשים את האפליקציה, מידע ממערכות deployment, מידע מכלים ארגוניים פנימיים ועוד. ה-GH Copilot מסייע למפתח לעבוד מול הכלים החיצוניים הללו ועוזר לפתור בעיות ותקלות. 

• כבר עכשיו ישנן הרחבות זמינות עבור GitHub Copilot של ספקים מצד שלישי: הרחבה ל-Azure, ל-DataStax, ל-Docker, ל-MongoDB, ל-Pinecone, ל-Octopus Deploy ועוד לרבים אחרים. 

• הפיצ'ר GitHub Copilot Extensions נמצא כעת ב-Private preview ובקרוב יהפוך לציבורי. 

GitHub Workspaces

כ-75% מהזמן של מפתחים מוקדש לביצוע במשימות שאינן קידוד, כמו איסוף דרישות, כתיבת אפיון, תכנון ועוד. לצורך זה נוצר פיצ'ר חדש וחשוב שנקרא GitHub Workspaces.  

כדי להבין את העוצמה של הכלי הזה, נניח שהמפתח צריך לטפל ב- Change Request מסוים. 

1. באמצעות Workspace יכול המפתח לקבל הנחיות אילו שינויים צריכים להיעשות בקבצי הקוד השונים כדי לממש את ה- Change Request.  

2. לאחר מכן ה-Workspace יכול לתכנן עבור המפתח את הביצוע - ממש שלב אחרי שלב. 

3. ה-Workspace יודע לעדכן את הדוקומנטציה ומסמכי Readme.  

4. לבסוף, ה-Workspace מפעיל את הקופיילוט כדי לבצע את השינויים המתבקשים בקוד.  

כל התהליך עובר בקרה מלאה של המפתח וניתן לעדכון ולשינוי ע"י המפתח. 

שני הכלים החדשים שהוספו יהפכו את העבודה של המפתח ליעילה עוד יותר. Github Copilot עושה בשביל המפתח את העבודה והמפתח למעשה רק משמש כ-Supervisor. 

5. שיפורים ב-Microsoft Fabric 

פלטפורמת פאבריק שוחררה ל-GA רק לפני חצי שנה וכבר היום משתמשים בה למעלה מ-11,000 ארגונים. מיקרוסופט מציגה 2 חידושים לפלטפורמה: 

• RealTime Intelligence 

ישנן מערכות מידע לא מעטות שמזרימות כמויות רבות של מידע בזמן האמיתי למאגר מרכזי. לדוגמה: מערכות IoT, מערכות טלמטריה, מערכות אבטחת מידע, מערכות לגילוי הונאות ועוד. המידע הזה צריך להיות מנותח בזמן אמיתי וצריך מייד לפעול במקרה הצורך (למשל, כשמתבצעת הונאת אשראי או כשמתגלה ניסיון חדירה למערכת מאובטחת). 

מיקרוסופט מציגה פתרון שנבנה במיוחד ל-use cases הללו שנקרא RealTime Intelligence (ב-Preview) שרוכב על פלטפורמת האנליטיקה Fabric. ה-RealTime Intelligence משלב את יכולותיהם של מספר כלים באז'ור לכדי פתרון אחד: Azure Data Explorer, Data Activator, Stream Analytics, ו-PowerBI.   

המשתמש יכול בקלות לאבחן אנומליות, לקבל תמונת מצב בזמן אמיתי, לבצע ניתוחי מידע מתקדמים בזמן אמת, לקבל התראות בזמן אמת ואפילו ליזום פעולות אוטומטיות (חסימת כרטיס אשראי למשל). 

• Fabric Development Kit 

מיקרוסופט מאפשרת למפתחים ול-ISVs לשלב לתוך Fabric את האפליקציות שלהם וחושפת עבורם ממשקים ל-Frontend ול-Backend ובכך להעשיר את הפלטפורמה ביכולות נוספות, באינטגרציות נוספות ובכלי שליטה ובקרה נוספים. ה-Kit החדש נמצא ב-Preview כרגע. 

כך יכולים ISVs כמו Qlik לשלב את כלי ה-BI שלהם או Confluent לשלב את מערכת האינטגרציה שלהם מבוססת Kafka - היישר לתוך פלטפורמת Fabric. יצרנים נוספים שישתמשו ביכולת הזאת הם SAS, Informatica, Dataiku, Striim, Neo4J, Teradata ועוד.  

6. Team Copilot 

כולנו כבר משתמשים ביכולות של Teams לתמלל שיחות ולהוציא סיכום שיחה. מיקרוסופט לוקחת את זה צעד נוסף קדימה עם Team Copilot. מדובר בכלי שלא רק יסכם שיחה. הוא גם יוציא Action items, יחלק משימות לאנשים (על בסיס השיחה), הוא ידאג שהשיחה תנוהל לפי האג'נדה שנקבעה לה, ייצור לכם Notes במהלך השיחה ועוד. ה-Team Copilot יכול אפילו לייצר פוסט אוטומטי בצ'ט של השיחה בטימז עם המידע החשוב שהוזכר בשיחה. מעבר לכך, ה-Team Copilot יכול לתפקד כמין מנהל פרוייקט שיעקוב אחרי ביצוע המשימות כשהוא מחובר גם ל-Planner של מיקרוסופט.  

באמצעות Copilot Studio אפשר לפתח Agents שמבצעים פעולות במערכות הארגוניות. השילוב של Agents יחד עם Team Copilot יאפשר ל-Team Copilot לבצע פעולות של ממש במערכות הארגוניות ולהפוך לאיש צוות נוסף שעוזר לכם לנהל את העבודה. Team Copilot צפוי להשתחרר ל-Preview בהמשך השנה.