Funktionsweise

Wir verwenden verschiedene Methoden, um neue Domains zu entdecken:

Für jede Domain, die wir finden, sammeln wir DNS-Einträge und andere Metadaten wie das Erstellungsdatum. Darüber hinaus analysieren wir auch den Inhalt der Website und extrahieren relevante Informationen wie den Website-Titel, die Beschreibung, Keywords und die Themen der Website.

Selbstverständlich respektieren wir die robots.txt-Datei, und crawlen keine Seiten, die darin ausgeschlossen sind.