#140: מסוכנים עצמאיים שמשתלטים על משימות עד הסיכוי שבינה מלאכותית תשמיד אותנו בטעות | אורי אליאבייב

האם הבינה המלאכותית הולכת להשמיד את האנושות, או שדווקא תספק לנו פתרונות לבעיות הקריטיות ביותר? ולמה הסכנה האמיתית היא בכלל למוח ולתהליכי החשיבה של הילדים שלנו? בפרק הזה אנחנו מארחים בפעם השנייה את אורי אליאבייב, יועץ AI, מייסד קהילת MDLI ומגיש הפודקאסט Hidden Layers, לשיחת עומק מרתקת על השלב הבא של מהפכת הבינה המלאכותית - עידן הסוכנים החכמים. דיברנו על סוכנים אוטונומיים שפורצים לחברות בגלל הגדרות שגויות (Alignment), המרוץ האסטרטגי של ישראל לעצמאות חישובית וריבונות, וההזדמנות הענקית של יזמים ישראלים בתשתיות ואופטימיזציה. ניתחנו מתי נכון להשתמש במודלי שפה ומתי כדאי לחברות לחזור ל-Open Source ולמודלים קטנים ויעילים. לסיום, אורי שיתף בדאגה העמוקה שלו לגבי עתיד החינוך ומה יקרה למוח האנושי כשהמחשב יפסיק רק לחשב – ויתחיל לחשוב במקומנו. (00:00:00) סוכני AI והסכנה לאנושות (00:04:36) פריצות דרך מאחורי הקלעים (00:12:34) האסטרטגיה של ישראל בתחום ה-AI (00:22:13) ריבונות AI ותלות טכנולוגית (00:29:36) מודלי Open Source ויעילות עסקית (00:31:46) ההזדמנות בתחום ה-Inference ושרתי כוח חישוב (00:40:16) מי אחראי כשלסוכן AI יש גליץ'? (00:45:53) השפעת ה-AI על תעסוקה ויכולות החשיבה (00:55:30) שאלות בזק ותחזיות להצטרפות לקבוצת הווטסאפ שלנו: https://chat.whatsapp.com/Em2yGce57M4IXXF5KA0Qw7