stel dat je een vraag hebt over een project dat gitbook-documentatie heeft Hoe krijg je je AI om deze documentatie te lezen om je vraag te beantwoorden? De oplossing op niveau 1 is om te zeggen: "hey claude, ga deze documentatie-URL bezoeken ..." Het probleem hier is dat documentatie meestal veel subpagina's bevat, en je LLM standaard slechts 3 of 4 van die pagina's maximaal ophaalt - wat het relevant acht. Dit is opzettelijk; het wil tokens behouden en de gemakkelijkste/luiste weg kiezen. Oplossing op niveau 2: Crawlen van de hele gitbook-documentatie. Haal alle tekst van elke enkele pagina op. Plak dat vervolgens in je LLM. Dit cloudflare-eindpunt doet dit voor jou triviaal, zelfs op een gratis plan. Maak gewoon een cloudflare-account aan. Alternatief kun je je eigen scraper schrijven, maar dit is geen triviale zaak omdat moderne pagina's vaak inhoud via javascript laden. Er zijn ook andere technische randgevallen die cloudflare voor jou afhandelt.
Cloudflare Developers
Cloudflare Developers11 mrt, 05:51
Introductie van de nieuwe /crawl endpoint - één API-aanroep en een hele site gecrawld. Geen scripts. Geen browserbeheer. Gewoon de inhoud in HTML, Markdown of JSON.
@Zun2025 beste geval**
283