טירוף סוכני ה-AI: על מה אנחנו מוותרים? עם ניב הופמן מ-AIR

פרק 208: השבוע בטראשטק: בזמן שבכירי תעשיית ה-AI מזהירים מאירוע קטסטרופלי שבדרך באנת'רופיק דורשים מהמשתמשים לדבר יפה לקלוד והחלו לבדוק האם הבינה המלאכותית מודעת לעצמה. וגם: סוכני ה-AI הפכו להיות המוצר הכי חם בשוק, אבל על מה אנחנו מוותרים בדרך? האם אתם משתפים איתו יותר מדי מידע אישי? איתנו ניב הופמן, ממייסדי AIR Security לאבטחת AI, מנסה להסביר איך להשתמש נכון בכלים האלו ובפינת הטופ ופלופ: למה עובדים בארה״ב התחילו ״לעבוד בקול רם״? ואיך בן אפלק הפך לכוכב של עולם ה-AI? _________________________ (00:00) - פתיחה (01:04) - כולם מדברים על AI, אבל כמה באמת משלמים? הדוח של A16Z (04:12) - המשפך של קרפת'י: 5,000 האנשים שרואים את מה שכולנו לא רואים (07:20) - בכירי ה-AI נערכים לאירוע קטסטרופלי: מה עלול לקרות ב-2027? (09:14) - סם אלטמן: ״העולם צריך לקבל את זה שכמה דברים רעים יקרו״ (12:00) - קלוד הגיש טיפ מומצא למשטרה: כשסוכני AI לא יודעים מתי לעצור (16:13) - האם לקלוד יש תודעה? המפגשים הסגורים של אנתרופיק עם מנהיגים דתיים (19:35) - אנתרופיק אוסרת להתעלל בקלוד: על מי המדיניות הזאת מגינה? (23:23) - מיוז, אינסטינקט ו-Dots: הסוכנים האישיים שוברים שיאים (26:36) - ניב הופמן מ-AIR Security: על מה אנחנו מוותרים כשנותנים לסוכן גישה לכל דבר? (30:24) - מה חייבים לבדוק לפני שנותנים לסוכן לפעול בשמכם? (32:00) - הניסוי של AIR הורדות לתוסף זדוני, והסוכנים שנכנסים לארגונים (38:56) - טופ ופלופ: מה זה "Loud Working" ואיך בן אפלק הפך לכוכב בעולם ה-AI _________________________ תודה ל-⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠Guts⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠, מעבדת החדשנות והסטארטאפים של הראל https://www.gutsinnovation.com/ Enso - Growth Hacking: בקצב ששום בן אנוש לא יכול להתחרות איתו: https://www.enso.bot/agentic-labs רוצים להתחיל להשקיע? עם אפליקציית ההשקעות בלינק אפשר להתחיל החל מדולר אחד, בלי דמי ניהול ועם 10 פעולות חינם כל חודש. להורדה: https://app.heyblink.com/Ufyv/TrashTech ________________________ אנחנו רוצים להמשיך וליצור עוד תוכן במיוחד בשבילכם! נשמח ל-2 דקות מזמנכם לענות על הסקר שלנו: https://did.li/5lJZH 📲❤️ אהבתם את הפרק? נשמח אם תרשמו לערוץ ותכתבו לנו! _________________________ הירשמו לערוץ: https://www.youtube.com/channel/UCwywdccdYsNS_Cs6tS0U_dg?sub_confirmation=1 לאינסטגרם של טראשטק: https://www.instagram.com/trashtechnewsig/ לטיקטוק של טראשטק: https://www.tiktok.com/@trashtechnews לערוץ הוואצאפ של טראשטק: https://www.whatsapp.com/channel/0029VagGRsoGOj9obvapMw27 לפודקאסט בספוטיפיי: https://open.spotify.com/show/0nGv2IY8OATmjMtkJ7eLHG?si=9b6a1be00e2344ff לאתר שלנו: https://trashtech.ai/ ללינקים שלנו: https://linktr.ee/trashtechnews