Alle tools Webdata Domeinintelligentie DNS & infrastructuur Beveiliging & vertrouwen Identiteit & verificatie Monitoring & automatisering

Robots.txt Testtool

Controleer of zoekbots je URL's mogen bezoeken. Test tot 100 URL's tegelijk voor meerdere user agents, met de live robots.txt van een site of een concept dat je plakt voordat je het publiceert.

Laat leeg om de live robots.txt van de bovenstaande site te testen.

Resultaten

        
Interactieve intelligence-tool

Voer de check uit en maak er daarna een workflow van

Gebruik de browsertool voor een snel antwoord en verplaats dezelfde logica naar scripts, monitoring of productflows zodra die herhaalbaar wordt.

1
Begin met het live formulier

Voer een domein, URL, IP, e-mail of record in en krijg zonder setup een gericht resultaat.

2
Bekijk beslisklare signalen

Resultaten tonen statussen, risico’s, records en vervolgstappen in plaats van ruwe provider-ruis.

3
Automatiseer de workflow die werkt

Gebruik request- en responsevoorbeelden om een losse check om te zetten in een API-call of recept.

Gebruikt door mensen bij deze bedrijven

InstantOutseerMongoDBRespondentSage Expense ManagementInstantlyD.R. HortonWhatConvertsAdobeLLM Pulse

Wat deze tool je helpt beslissen

Elke pagina draait om een praktische operationele vraag, niet alleen om een ruwe lookup.

Signaal

Bekijk huidig DNS-, registratie-, beveiligings-, prijs- of reputatiebewijs.

Context

Vergelijk het resultaat met gerelateerde checks zodat de volgende stap betrouwbaarder voelt.

Actie

Kopieer voorbeelden, open gekoppelde tools of ga naar API-documentatie wanneer schaal nodig is.

Vertrouwenssignalen voordat je integreert

Transparante documentatie, geauthenticeerde requests en zichtbare betrouwbaarheidsdetails maken DomScan makkelijker te beoordelen voor livegang.

Servicestatus API-artifacts

OpenAPI, Swagger, Postman, CLI, SDK en MCP-links zijn één klik verwijderd.

API-sleutels Beschermde toegang

Geauthenticeerde endpoints gebruiken API-sleutels met duidelijke creditkosten voordat je ze aanroept.

Gratis tegoed Gratis registreren

Begin met 10.000 maandelijkse credits en upgrade pas wanneer het gebruik groeit.

Actief Voorbeeldverzoek

Start met de curl- en HTTP-voorbeelden en map daarna de parameters naar je applicatiecode.

Belangrijkste functies

Test een concept voor het live gaat

Plak een robots.txt en zie hoe die met je URL's omgaat, zonder iets op je site te wijzigen.

Veel URL's, veel zoekbots

Tot 100 URL's en 10 user agents in één controle, met een uitslag voor elke combinatie.

De regel die beslist

Elke uitslag toont de passende Allow- of Disallow-regel en het regelnummer, volgens de officiële robots.txt-standaard.

Voorbeeldverzoek

POST /v1/robots/test json
{"url":"example.com","urls":["/blog/","/admin/"],"user_agents":["Googlebot","GPTBot"]}

Gebouwd op dezelfde API

De browserervaring toont alvast DomScan’s gestructureerde endpoints, zodat teams een use case kunnen valideren voordat ze code schrijven.

Veelgestelde vragen

Kan ik een robots.txt testen voordat die live staat?

Ja. Plak de inhoud in het robots.txt-veld en er wordt niets van je site opgehaald. Laat het veld leeg om het bestand te testen dat nu live staat.

Kan ik een volledige user agent-string plakken?

Ja. Een volledige string, zoals die Googlebot verstuurt, wordt teruggebracht tot de naam van de zoekbot, want daarop worden robots.txt-regels gematcht.

Wat betekent onbekend?

De live robots.txt kon niet worden gelezen, bijvoorbeeld doordat de site het verzoek blokkeerde of er een time-out optrad. Onbekend wordt nooit als toegestaan gezien en de controle wordt terugbetaald.

Gerelateerde hulpprogramma's en bronnen