Wenn ein Scraper leere Seiten, HTTP 403 oder eine Prüfseite zurückbekommt, ist die erste Frage selten „warum?", sondern „welche Schicht war es?". Dahinter stecken zwei unterschiedliche Mechanismen.
Die Bot-Erkennung arbeitet unsichtbar und bewertet jede Anfrage im Hintergrund. Das CAPTCHA ist der sichtbare Kontrollpunkt, an dem eine explizite Abfrage gelöst werden muss. CaptchaAI übernimmt die CAPTCHA-Ebene zuverlässig – die Bot-Erkennung bleibt eine Frage von Browser-Konfiguration, Proxys und Anfragemuster.
Bot-Erkennung und CAPTCHA im direkten Vergleich
Beide gehören zur Anti-Bot-Familie, greifen aber an verschiedenen Punkten.
| Merkmal | Bot-Erkennung | CAPTCHA |
|---|---|---|
| Für Nutzer sichtbar | Nein (läuft unsichtbar) | Ja oder teils (v3/Turnstile laufen unsichtbar) |
| Zeitpunkt | Laufend bei jeder Anfrage | An festen Kontrollpunkten (Login, Registrierung, Checkout) |
| Reaktion auf Bots | Sperren, drosseln oder Fake-Daten ausliefern | Abfrage präsentieren |
| Analysierte Signale | Header, TLS, IP, Verhalten, Browser-Fingerprint | Antwort auf die Abfrage + Verhaltenssignale |
| Beispiele | Cloudflare Bot Management, Akamai, DataDome, PerimeterX | reCAPTCHA, Turnstile, GeeTest |
| Mit CaptchaAI lösbar | Nicht direkt | Ja |
Der Kern: Die Bot-Erkennung entscheidet laufend, ob Sie weiterkommen. Das CAPTCHA ist ein einmaliges Challenge-Response-Ereignis.
Wie das CAPTCHA als Kontrollpunkt funktioniert
Das CAPTCHA sitzt dort, wo eine Verifizierung nötig ist, und läuft in festen Schritten ab:
- Nutzer erreicht eine geschützte Aktion (Login, Checkout, Formular)
- CAPTCHA-Widget wird gerendert (sichtbar oder unsichtbar)
- Eine Abfrage erscheint oder eine stille Analyse startet
- Nutzer oder Solver löst die Abfrage
- Das Backend erzeugt und prüft das Token
- Zugriff wird gewährt oder verweigert
Wie die Bot-Erkennung Anfragen bewertet
Bot-Erkennungssysteme prüfen jede Anfrage, bevor sie die Anwendung erreicht:
- TLS-Fingerprint – der JA3/JA4-Hash verrät die Client-Bibliothek
- HTTP-Header – Reihenfolge, Vorhandensein und Werte der Header
- IP-Reputation – Rechenzentrum vs. Privatanschluss, Missbrauchshistorie
- Anfragemuster – Rate, Reihenfolge, Timing
- JavaScript-Abfragen – kann der Client JS ausführen?
- Browser-Fingerprint – Canvas, WebGL, Schriftarten, Plugins
- Verhaltensanalyse – Maus-, Tastatur- und Touch-Ereignisse
Gängige Anbieter von Bot-Erkennung
Fällt die Bewertung negativ aus, schalten viele Anbieter ein CAPTCHA vor:
| Anbieter | Erkennungsmethode | CAPTCHA-Fallback |
|---|---|---|
| Cloudflare Bot Management | TLS + JS-Abfrage + ML | Turnstile oder Challenge-Seite |
| Akamai Bot Manager | TLS + Fingerprint + Verhalten | Eigene Abfrage |
| DataDome | JS-Abfrage + Fingerprint | Eigenes CAPTCHA oder reCAPTCHA |
| PerimeterX (HUMAN) | Verhalten + Fingerprint | Eigene Abfrage |
| Imperva | Mehrere Schichten | reCAPTCHA |
Das Zusammenspiel beider Schichten
Die meisten modernen Websites setzen beides hintereinander ein:
Request → Bot Detection Layer → CAPTCHA Layer → Application
↓ ↓
Block obvious bots Challenge suspicious users
Typischer Ablauf:
- Bot-Erkennung analysiert den TLS-Fingerprint → besteht (sieht aus wie echtes Chrome)
- Bot-Erkennung prüft die IP-Adresse → besteht (Residential-IP)
- Bot-Erkennung prüft Verhaltenssignale → wirkt verdächtig
- Das CAPTCHA wird als zweite Prüfung ausgelöst
- Nutzer oder Solver löst das CAPTCHA
- Zugriff gewährt
Hinweis: CaptchaAI adressiert ausschließlich die CAPTCHA-Ebene – die vorgelagerte Erkennung bleibt Ihre Aufgabe.
Beide Ebenen beim Web Scraping bedienen
Behandeln Sie beide Schichten getrennt – erst die Erkennung, dann die Abfrage.
Schritt 1: Die Bot-Erkennung bestehen
- Realistische Browser-Fingerprints nutzen (Puppeteer mit Standard-Browserflags)
- Residential-Proxys einsetzen
- Passende Header setzen (User-Agent, Accept usw.)
- Realistische Anfragemuster abbilden
Schritt 2: CAPTCHAs lösen, sobald sie erscheinen
import requests
# Check if response contains a CAPTCHA
if "g-recaptcha" in page_source:
# Mit CaptchaAI lösen
token = solve_recaptcha(sitekey, page_url)
elif "cf-turnstile" in page_source:
token = solve_turnstile(sitekey, page_url)
elif "challenge" in page_source and "cloudflare" in page_source:
cookie = solve_cloudflare_challenge(page_url, proxy)
Schritt 3: Mit eskalierendem Schutz rechnen
Websites erhöhen den Schutz oft schrittweise:
- Erste Anfrage: normale Antwort
- Nach vielen Anfragen: Rate-Limiting
- Nach dem Rate-Limiting: CAPTCHA-Abfrage
- Nach fehlgeschlagenen CAPTCHAs: IP-Sperre
- Nach IP-Rotation: Sperre auf Basis des Browser-Fingerprints
FAQ
Die häufigsten Fragen aus der Praxis:
Woran erkenne ich, ob mich Bot-Erkennung oder ein CAPTCHA blockiert?
Am Antwortverhalten. Eine stille Sperre – 403, leere Seite oder Fake-Daten ohne Widget – deutet auf die Bot-Erkennung hin. Erscheint dagegen ein Widget oder eine Challenge-Seite, sind Sie auf der CAPTCHA-Ebene.
Löst CaptchaAI auch die Bot-Erkennung?
Nein. CaptchaAI löst die CAPTCHA-Ebene – reCAPTCHA, Cloudflare Turnstile und Challenge, GeeTest v3, Bild- und Rasterbild-CAPTCHAs. Die Bot-Erkennung reduzieren Sie über Browser-Konfiguration, Proxys und Anfragemuster.
Reicht ein Residential-Proxy allein, um Blocks zu vermeiden?
Nein. Ein guter Proxy verbessert nur die IP-Reputation. TLS-Fingerprint, Header und Verhalten werden weiterhin bewertet – und an Kontrollpunkten wie Login oder Checkout kommt zusätzlich ein CAPTCHA.
Sind IP-Adressen und Proxys beim Scraping ein DSGVO-Thema?
In der Regel ja. IP-Adressen gelten in der EU als personenbezogene Daten. Für DACH-Teams heißt das: Rechtsgrundlage klären und die Speicherung dokumentieren, bevor Sie Worker auf Hetzner oder IONOS produktiv schalten.
Warum erscheinen CAPTCHAs trotz gutem Bot-Score?
Weil viele Seiten bestimmte Aktionen grundsätzlich absichern: Login, Registrierung und Checkout verlangen häufig ein CAPTCHA – unabhängig vom Bot-Score.
Verwandte Leitfäden
- So funktioniert die Cloudflare Challenge
- Geschützte Webseiten sauber scrapen
- Proxy-Rotation beim CAPTCHA-Scraping
Bereit für die CAPTCHA-Ebene? Holen Sie sich Ihren CaptchaAI-API-Schlüssel und starten Sie noch heute mit der Integration.