עושים סדר בטכנולוגיה של אנבידיה: ראיון עם גלעד שיינר, סגן נשיא בכיר בחברת Nvidia

פרק ראשון בסדרה חדשה שלנו על עולמות ה-Data Centers, הקומפיוט וה-AI Factories, והפעם הקלטנו באולפן החדש של NVIDIA בתל אביב. האורח הראשון בסדרה הוא גלעד שיינר, סגן נשיא בכיר (SVP) ל-Networking ב-NVIDIA. גלעד הצטרף למלאנוקס ב-2001 כמתכנן שבבים, בשנים הראשונות של פרוטוקול InfiniBand, ומעטים מכירים כמוהו את מה שקורה בין ה-GPUs. שאלתי את גלעד למה GPU לבד כבר לא מספיק, ומה ההבדל בין חוות שרתים רגילה לבין AI Factory, מפעל שמייצר טוקנים. דיברנו על NVLink ועל 1,152 GPUs שעובדים כמחשב אחד, על מחשוב בתוך הרשת (עם אנלוגיית פיצרייה מצוינת), על למה NVIDIA תומכת גם ב-Ethernet, ועל Scale-Across: חיבור של AI Factories רחוקים לאימון אחד. והכי מעניין מבחינתי: עד כמה האנרגיה והאופטיקה הופכות לצוואר הבקבוק האמיתי, ולמה ארבעה מתוך שבעת השבבים במערכת של NVIDIA הם שבבי רשת, ומה התפקיד של ישראל בכל זה. פרק חובה לכל מי שרוצה להבין איך בנויה התשתית שמאחורי ה-AI.