Агенти ШІ всюди в заголовках новин. Але впровадження все ще здебільшого відбувається на індивідуальному або невеликому рівні команд. Інституції вимагають іншого підходу. На нашій майстер-класі з @UNDP та @UNDP_AltFinLab минулого тижня наш засновник і генеральний директор @0x7SUN розповів, що потрібно для безпечного та ефективного використання AI-агентів у реальних робочих процесах. Часові позначки: 00:00 Розрив у компетентності ШІ та еволюція ШІ 10:26 Як насправді працює ШІ: LLM, галюцинації та епічні невдачі 25:12 Багатоагентні системи: архітектура та ризики 1:03:00 Як безпечно впровадити агентів ШІ в установи (кейс-стаді) 1:24:00 Золоті правила використання агентів ШІ 1:27:00 Питання та відповіді Основні моменти ↓

Більшість людей сприймають ШІ як пошукову систему, яка отримує факти, хоча це не так. ШІ — це ймовірнісний двигун. Воно породжує найправдоподібніше наступне слово, але не найправдивіше. Це базові знання, які потрібно розуміти перед тим, як впроваджувати агентів ШІ в будь-яку організацію.

Галюцинації ШІ виникають тому, що це особливість роботи ймовірнісних двигунів. Небезпечно те, що галюцинації приходять у відшліфованому синтаксисі та авторитетному тоні. Особи, які приймають рішення, несвідомо діють на основі повністю сфабрикованих даних. Ось чому верифікація — це вся гра.

Інтеграція API перетворює пасивний ШІ на агентів ШІ, здатних переглядати веб, писати код, отримувати доступ до баз даних і діяти від імені людей. ШІ не просто стає більш здібним, а й ризикованішим у керуванні. ШІ не просто стає більш спроможним, а й ризикованішим у керуванні.

Одиночні агенти ШІ руйнуються під складністю, так само, як не дають одному стажеру кожне завдання в організації. Кращим підходом є багатоагентні системи, де кожен агент виконує певну роль. Ось як відділи можуть створювати ШІ, який буде більш надійним для реальної роботи.

ШІ має обмежену пам'ять. Під час тривалих сесій, таких як багатоденні переговори чи складні звіти, ранній контекст починає втрачатися. Це і є «ефект золотої рибки». Рішенням є активне управління пам'яттю: - Періодично повторювати основні інструкції для оновлення фокусу на ШІ - Розділити довгі документи на менші, керовані частини - Використання резюме для підтримки поточного контексту

Агенти ШІ допомагають підвищити ефективність, але ризик безпеки реальний. Існує кілька способів сформувати профіль ризику: - Розгортання лише в контрольованих середовищах - Обов'язковий суворий журнал діяльності - Ізоляція мережі - Протоколи людського нагляду не підлягають обговоренню

Адаптація ШІ в установах зазвичай розвивається на трьох рівнях: - Рівень 1: Використовує захищені корпоративні LLM у закритих середовищах без збереження даних і зовнішнього доступу, головним чином для безпечних і простих завдань. - Рівень 2: З'єднує моделі з внутрішніми даними через системи RAG, щоб результати відображали реальні інституційні знання. - Рівень 3: Створює агентні робочі процеси з доступом до файлів і API, що вимагає суворих обмежень, тестування та людського контролю.

Три кейс-стаді показують, чому інженерія підказок — це управлінська навичка, а не технічна, і як покращити свої можливості. Кейс-стаді 1: Виправлення стандартними операційними підказками (SOP) Кейс-стаді 2: Пастка галюцинацій Кейс-стаді 3: Покращити результати ШІ за допомогою персони та обмежень

Золоте правило використання ШІ в робочому процесі: завжди тримайте людей у курсі. ❌ Ніколи не вставляйте засекречені дані у публічні AI-інструменти ❌ Ніколи не публікуйте контент, створений штучним інтелектом без незалежної перевірки ❌ Ніколи не призначайте нечіткі, відкриті завдання агенту ШІ ✅ Завжди призначайте своїм агентам персону ✅ Завжди надавайте структуровані інструкції ✅ Завжди впроваджуйте захисну валідацію Ця структура допоможе запобігти серйозним збоям ШІ у більшості випадків.