Любую систему можно взломать! Безопасность агентов и границы доверия к ИИ | Станислав Шпитманский, CIO Валента-фарм
Станислав Шпитманский — IT-директор Валента Фарм, фармацевтической компании, где главная задача IT — непрерывность. Потому что на кону — производство препаратов, которые продлевают жизнь людям. В этом выпуске ELMA TALKS — честный разговор про ИИ в регулируемой отрасли: где он реально помогает, где пугает, и почему в фарме ко всему относятся осторожнее, чем в стартапах. ▶ О чём говорим: — Почему главная цель IT в производственной компании — непрерывность бизнеса — ИИ может выключить мозг человека: что с этим делать и как обучать сотрудников правильно — Кто несёт ответственность за результат работы ИИ — и почему ответ всегда «человек» — Как Валента Фарм построила собственный ИИ-сервис на открытых моделях — без дорогих вендоров — Реальный кейс: ИИ-поиск по базе клинических исследований — +30% предложений в портфель акционера — Агентские системы: где уже работают и где нельзя отдавать решения машине — Безопасность и взломы: почему любую систему можно сломать — и что с этим делать — Стоит ли идти в ИИ прямо сейчас — честный совет CIO для тех, кто ещё не начал — Блиц: дирижабли, медицина + IT и почему ГПТ — это «оно» ⏱ Таймкоды: 00:40 — Знакомство: путь в IT с 1998 года и роль CIO в Валента Фарм 01:49 — Команда 100+ человек: сопровождение vs развитие 02:20 — Чем IT в фарме отличается от банка и ритейла 03:08 — Главный разрыв: бизнес хочет «вот это», а IT говорит — зачем? 03:57 — Кейс: как экономика убивает плохой запрос лучше любого отказа 05:12 — Почему бизнес-аналитика должна жить в IT, а не у заказчика 06:12 — Непрерывность vs инновации: как не навредить производству 06:51 — ИИ выключает мозг: реальные примеры и китайские исследования 08:09 — Где ИИ уже приносит пользу в Валента Фарм 08:36 — Собственный веб-чат на открытых моделях — как запустили 09:04 — Кто отвечает за ошибку ИИ при переводе договора 09:48 — Человек vs машина: почему пока доверяем больше людям 10:49 — Разработчики и ИИ: скрипты, сценарии, но не продуктивный код 11:21 — Периметр безопасности: страшный вопрос и честный ответ 12:31 — Нейросеть взломает код, написанный нейросетью — почему это пугает 21:25 — Открытые модели vs коммерческие: совет для компаний 22:27 — Кто обучает чужие нейросети вашими данными — и почему это важно 25:26 — Почему надо развивать собственный сервис на открытых решениях 26:13 — BMS и Anthropic: страшный пример из фармы 30:19 — Агентские системы: что уже работает и где нельзя убирать человека 34:06 — Что сотрудники чаще всего просят автоматизировать 35:08 — Реальный кейс: ИИ-поиск по клиническим исследованиям +30% в портфель 36:52 — Как считать экономику ИИ — и почему это пока невозможно точно 37:34 — Цель: через 2 года та же команда будет делать больше 39:28 — Динамика найма и почему не планируют сокращений 41:00 — Аномальная аналитика: не смотреть туда, где всё хорошо 43:10 — Как сотрудники начинают пользоваться ИИ в быту — и что это меняе 🎙 Гость выпуска: Станислав Шпитманский — IT-директор Валента Фарм. Опыт в IT с 1998 года, руководит IT-функцией с 2008 года. Прошёл путь через FMCG, банкинг, консалтинг и фарму. Убеждён, что главная задача IT — обеспечить непрерывность бизнеса, а не гнаться за инновациями. 📌 Все выпуски ELMA TALKS: https://elma365.com/ru/elmatalks/ 📌 TG-канал «Бизнес в процессе»: https://t.me/nonboringservice #ITдиректор #CIO #фарма #ИИвбизнесе #искусственныйинтеллект #кибербезопасность #агенты #цифроваятрансформация #импортозамещение #ELMATalks #ELMA #openсource #непрерывность #производство #ВалентаФарм #LLM #нейросети #безопасностьданных #AIагенты #управление