AI-agenter finns överallt i rubrikerna. Men adoption sker fortfarande mestadels på individ- eller smågruppsnivå. Institutioner kräver en annan metod. I vår workshop med @UNDP och @UNDP_AltFinLab förra veckan förklarade vår grundare och VD, @0x7SUN, vad som krävs för att använda AI-agenter säkert och effektivt i verkliga arbetsflöden. Tidsstämplar: 00:00 AI:s kompetensgap och utveckling inom AI 10:26 Hur AI faktiskt fungerar: LLM:er, hallucinationer och episka misslyckanden 25:12 Multi-agentsystem: Arkitektur och risker 1:03:00 Hur man säkert onboardar AI-agenter i institutioner (Fallstudier) 1:24:00 Gyllene regler för användning av AI-agenter 1:27:00 Frågor och svar Viktiga höjdpunkter ↓

De flesta behandlar AI som en sökmotor som hämtar fakta, även om det inte är det. AI är en sannolikhetsmotor. Det genererar det mest trovärdiga nästa ordet, inte det mest sanningsenliga. Detta är den grundläggande kunskapen att förstå innan man använder AI-agenter i någon organisation.

AI-hallucinationer uppstår eftersom det är en funktion i hur sannolikhetsmotorer fungerar. Det farliga är att hallucinationer är insvepta i polerad syntax och auktoritativ ton. Beslutsfattare agerar omedvetet utifrån helt fabricerad data. Det är därför verifiering är hela grejen.

API-integration förvandlar passiv AI till AI-agenter som kan surfa på webben, skriva kod, komma åt databaser och agera på uppdrag av människor. AI blir inte bara mer kapabel, utan också mer riskfylld att styra. AI blir inte bara mer kapabel utan också mer riskfylld att styra.

Enskilda AI-agenter kollapsar under komplexitet, precis som du inte skulle ge en praktikant varje uppgift i organisationen. Det bättre tillvägagångssättet är multiagentsystem, där varje agent hanterar en specifik roll. Det är så avdelningar kan göra AI som är mer pålitlig för verkligt arbete.

AI har begränsat minne. Vid långa sessioner, som flerdagarsförhandlingar eller komplexa rapporter, börjar den tidigare kontexten blekna. Det är "Goldfish-effekten". Lösningen är aktiv minneshantering: - Omformulera kärninstruktioner periodiskt för att fräscha upp AI-fokus - Dela långa dokument i mindre, hanterbara delar - Använda sammanfattningar för att upprätthålla körande kontext

AI-agenter hjälper till att förbättra effektiviteten, men säkerhetsrisken är verklig. Det finns flera sätt att bygga riskprofilen: - Distribuera endast i kontrollerade miljöer - Strikt aktivitetsloggning obligatorisk - Nätverksisolering - Mänskliga tillsynsprotokoll är icke-förhandlingsbara

AI-onboarding i institutioner utvecklas vanligtvis på tre nivåer: - Nivå 1: Använder säkrade företags-LLM:er i slutna miljöer utan datalagring och extern åtkomst, främst för säkra och enkla uppgifter. - Nivå 2: Kopplar modeller till intern data via RAG-system, så att utdata speglar verklig institutionell kunskap. - Nivå 3: Bygger agentiska arbetsflöden med fil- och API-åtkomst, vilket kräver strikta skyddsräcken, testning och mänsklig övervakning.

Tre fallstudier visar varför prompt engineering är en ledarskapsfärdighet, inte en teknisk färdighet, och hur man kan förbättras. Fallstudie 1: Lösningen med SOP:er (Standard Operating Prompts) Fallstudie 2: Hallucinationsfällan Fallstudie 3: Förbättra AI-utdata med persona och begränsningar

Den gyllene regeln för att använda AI i arbetsflöden: Ha alltid människor med i loopen. ❌ Klistra aldrig in klassificerad data i publika AI-verktyg ❌ Publicera aldrig AI-genererat innehåll utan oberoende verifiering ❌ Tilldela aldrig vaga, öppna uppgifter till en AI-agent ✅ Tilldela alltid dina agenter en persona ✅ Ge alltid strukturerade instruktioner ✅ Implementera alltid skyddande validering Detta ramverk hjälper i de flesta fall till att förhindra stora AI-fel.