suponha que você tenha uma pergunta sobre um projeto que possui documentação no gitbook Como você faz com que sua IA leia essas documentações para responder à sua pergunta? A solução de nível 1 é dizer "ei claude, vá visitar esta URL da documentação ..." O problema aqui é que as documentações geralmente contêm muitas subpáginas, e seu LLM por padrão só buscará 3 ou 4 dessas páginas no máximo - o que ele considera relevante. Isso é intencional; ele quer preservar tokens e seguir o caminho mais fácil/ preguiçoso. Solução de Nível 2: Rastejar toda a documentação do gitbook. Obter todo o texto de cada uma de suas páginas. Então cole isso no seu LLM. Este endpoint do cloudflare faz isso para você de forma trivial, mesmo em um plano gratuito. Basta criar uma conta no cloudflare. Alternativamente, você poderia escrever seu próprio scraper, mas isso não é uma tarefa trivial porque páginas modernas frequentemente carregam conteúdo via javascript. Existem outros casos técnicos que o cloudflare também gerencia para você.
Cloudflare Developers
Cloudflare Developers11/03, 05:51
Apresentando o novo endpoint /crawl - uma chamada de API e um site inteiro rastreado. Sem scripts. Sem gestão de navegador. Apenas o conteúdo em HTML, Markdown ou JSON.
@Zun2025 melhor caso**
273