KI-generierte Social-Media-Profile: Die neue Catfishing-Welle
Roxy · Redaktion SUS IT
Roxy berichtet über KI-generierte Medien, soziale Plattformen und digitale Authentizität für SUS IT.
Wie KI-Gesichter, Personas und Inhalte Fake-Profile fast unerkennbar machen – und was Sie dagegen tun können.
Catfishing – online eine andere Identität vortäuschen – ist alt. 2026 machen KI-Profilfotos, Persona-Engines und synthetische Historien Fake-Identitäten so überzeugend, dass die meisten Menschen sie nicht erkennen.
Was moderne Fake-Profile anders macht
Klassisch: Fotos klauen und hoffen, dass Reverse Search nichts findet. Heute: synthetische Gesichter ohne Original – nichts zu finden, keine echte Person zu verfolgen. Midjourney, DALL-E oder spezialisierte Face-Generatoren liefern hunderte einzigartige, fotorealistische Gesichter nach Demografie und Stil.
Der KI-Persona-Stack
Ausgefeilte Fakes sind mehr als ein Bild: Gesicht per Bildmodell, Bio per LLM mit plausiblen Details, Posts automatisch geplant mit konsistenter Stimme über Monate, Kommentare per KI kontextbezogen. Das Konto wirkt seit über einem Jahr „lebendig“, interagiert natürlich – nach initialem Setup oft ohne laufenden menschlichen Aufwand.
Wer betreibt das – und warum
Einflussoperationen: Narrative verstärken, Graswurzel-Illusion, Journalistinnen bedrängen. Romance-Scams: Vertrauen aufbauen, dann Geld. Kommerzieller Betrug: Fake-Reviews, Follower zum Verkauf, Marken-Impersonation. Manchmal geht es nur um Daten/Malware-Vektoren.
Warum Reverse Image Search nicht mehr reicht
Lange war die erste Verteidigung: Bild suchen, Treffer = gestohlen, kein Treffer = vielleicht echt. KI-Gesichter sind unique – nirgends indexiert. Null Treffer signalisierte einst Echtheit – jetzt nichts.
Verhaltensdetektion: Wo KI-Personas patzen
Trotz Raffinesse: Posting-Zeiten unnatürlich regelmäßig; Biografie-Details inkonsistent über Chats (kein persistentes Gedächtnis); Themen wirken engagement-optimiert statt persönlich; auf konkrete, prüfbare Fragen (Schule, Firmenadresse) wird ausgewichen oder fabuliert.
Web-weite Verifikation als Abwehr
Zuverlässigster Check: Existiert die Person außerhalb der Plattform? Foren, Alumni, Arbeitgeber-Sites, News, Tags, LinkedIn. Echte Menschen hinterlassen Spuren. KI-Personas bauen selten glaubwürdige Off-Platform-Präsenz – das wäre aufwendig und riskant. BOT or NOT automatisiert die websweite Suche; fehlende Korrelation ist starkes Signal.
Praktische Schritte bei Verdacht
Profilfoto-Kanten, Hintergrund, Schmuck prüfen; Username cross-plattform; gezielte, verifizierbare Biografiefragen; Posting-Raster und Engagement-Qualität bewerten. Bei Romance, Influencer oder stalky Verhalten: BOT or NOT liefert dokumentierte Analyse statt nur Bauchgefühl.
Kontext
KI-Personas sind ein Tech-Problem und brauchen Tech-Antworten. Menschliche Intuition ist für Echtzeit-Social optimiert – nicht für tausende Datenpunkte. Tools, die Signale und Web-Quellen kombinieren, liefern eine Verifikationsschicht, die Skala schafft, wo Menschen nicht mithalten.