Oké, ik denk meer na over AI-gebaseerde democratische tools. Deelname aan "democratie" is momenteel een bot proces. Je stemt elke paar jaar op een vertegenwoordiger en hoopt dat ze toevallig met jou eens zijn over de honderden kwesties waar ze daadwerkelijk over zullen beslissen. We weten niet wat de echte voorkeuren van mensen zijn over de meeste dingen, en ze hebben geen manier om die te uiten. Het idee: een digitale proxy die jouw politieke voorkeuren net zo goed kent als jij, elke kwestie volgt en jou vertegenwoordigt. Jouw agent heeft al jouw context. Jouw berichten, jouw leesgedrag, jouw eerdere beslissingen. Auteurs Schneier en Sanders schreven hierover in "AI Will Be Your Personal Political Proxy" (fragment uit hun boek Rewiring Democracy). Er zou een interviewproces vooraf zijn waarbij jouw agent jou interviewt om jouw waarden te begrijpen. Dan, terwijl je dingen leest, gesprekken hebt, van gedachten verandert over zaken, wordt het bijgewerkt. Wanneer er een beslissing aanstaande is, weet het al wat je waarschijnlijk zou willen. Het presenteert de kwestie, legt de verschillende perspectieven uit, vertelt je waarom mensen zich voelen zoals ze doen, en zegt "hier is mijn inschatting van wat je zou denken." Soms zegt het je: "eerlijk gezegd, je geeft hier waarschijnlijk niet veel om." Dat signaal is ook waardevol voor de beslissing, vergeleken met gewoon stilte over een kwestie. Een team in Brazilië (Gudino-Rosero et al., gepubliceerd in de Royal Society) heeft al LLM digitale tweelingen getraind op kiezersvoorkeuren van de verkiezingen van 2022. Ze voorspelden beleidsposities beter dan partijaffiliatie. De technologie is in principe hier. Goede democratie heeft een geïnformeerde burgerij nodig, maar er gebeurt te veel voor onze bescheiden menselijke hersenen. Maar niet te veel voor een agent. De agent zou je eigenlijk een meer geïnformeerde burger kunnen maken dan je ooit alleen zou zijn, je aansporend om je met kwesties bezig te houden, empathie opbouwend voor verschillende perspectieven, je helpend om na te denken over afwegingen. Dit alles is zeer skeuomorf. Het wordt veel beter als we governance van onderaf kunnen opbouwen. @sebkrier schreef een geweldig stuk over Coaseaanse onderhandelingen op grote schaal voor @cosmos_inst dat ingaat op hoe AI-agenten de transactiekosten genoeg zouden kunnen verlagen om gedecentraliseerde coördinatie daadwerkelijk te laten werken. Ik hoop dat we daar uiteindelijk zullen komen! Zeer geïnteresseerd om hier meer over te leren en IRL-experimenten uit te voeren. (linker afbeelding is het boek, rechter afbeelding is 'OpenClause' - een demo van hoe agent-gebaseerde elicitation eruit zou kunnen zien)