Miten tekoälyagentit oikeasti toimivat. Ajattele keskustelua esineiden joukkona: järjestelmä → käyttäjä → avustaja → käyttäjä → avustaja... Järjestelmäkehote määrittelee roolin. Esimerkki: "Olet koodausagentti, joka ratkaisee ohjelmointiongelmia." Sitten käyttäjä kysyy jotain. LLM vastaanottaa koko keskustelun kontekstina ja alkaa tuottaa seuraavia tokeneita. (Mitä tokenit ovat? Pieniä tekstipalasia. Token voi olla kokonainen sana, osa sitä, tyhjä tila jne.) Mutta on toinenkin osa: työkalut. Työkalut ovat vain funktioita, joita LLM saa kutsua. esimerkiksi: • read_file(polku) • edit_file(polku, sisältö) • search_web(kysely) • bash (komento) nämä välitetään mallille osana kontekstia. Joten LLM voi palauttaa työkalukutsut pelkän tekstin sijaan. Esimerkki: "Kutsu read_file polulla /koti/käyttäjä/projekti" Agentti vastaanottaa pyynnön, suorittaa funktion ja lähettää tuloksen takaisin LLM:ään lisäkontekstina. Sitten LLM jatkaa ajattelemista... Joten silmukka näyttää tältä: llm → työkalukutsu → työkalun tulos → llm → työkalukutsu → ... LLM on aivot. Agentti on kädet ja jalat. Kun CC tai Codex kirjoittaa koodia puolestasi, juuri sitä tapahtuu. Malli pyytää agenttia lukemaan tiedostoja, kirjoittamaan tiedostoja, suorittamaan komentoja ja näkemään tulokset. edestakaisin silmukassa. Nyt on toinen taso nimeltä taidot. Taidot ovat käytännössä erityinen työkalu. Agentti lisää yhteenvedot käytettävissä olevista taidoista kehotteeseen ja kertoo LLM:lle: "Sinulla on taitoja. käyttääksesi niitä, kutsu taitotyökalua taitonimellä." Kun LLM päättää, että jokin taito on relevantti (esimerkiksi Pythonin kirjoittaminen), se kutsuu taitotyökalua. Agentti lataa sitten koko taidon ohjeet ja syöttää ne kontekstiin. Taidot ovat siis oikeastaan vain prompt-paketteja, jotka ladataan työkalukutsun kautta. minimiagentti, joka toteuttaa tämän silmukan, voidaan kirjoittaa ~20 koodirivillä. Useimmat todelliset toteutukset ovat suurempia, koska ne käsittelevät reunatapauksia: Aikakatkaisut, kokeilut, mallin työntäminen kun se jumittuu, kontekstin lisääminen, silmukoiden estäminen. Mutta ydinajatus on silti tämä: LLM:n mielestä → kutsuu työkaluja → näkee tuloksia → miettii uudelleen.