KI soll die Zeit der Betrüger gegen sie wenden
Künstliche Intelligenz beschleunigt viele Formen des Online-Betrugs, wird aber auch zu einem Werkzeug, um die Betreiber solcher Betrugsmaschen zu stören. Ein wachsender Ansatz gegen Cyberkriminalität nutzt dialogfähige KI, um plausible Ziele zu imitieren und Betrüger in zeitaufwendige Telefonate und Online-Gespräche zu lenken, während Informationen über ihre Aktivitäten gesammelt werden.
Das australische Unternehmen Apate gehört zu den Organisationen, die diese Strategie verfolgen. Seit zwei Jahren entwickelt es ein System, das Telefonbetrüger zu KI-Bots umleitet, die Gespräche fortsetzen können, ohne Geld oder sensible Informationen preiszugeben. Das Prinzip ist einfach: Jede Minute, die ein Betrüger für den Versuch aufwendet, ein künstliches Opfer zu überzeugen, steht nicht für den Kontakt zu einer echten Person zur Verfügung.
Das ist relevant, weil groß angelegte Betrugsoperationen auf automatisierte Anrufe und massenhafte Nachrichten setzen können. Ein überzeugendes Gespräch beseitigt kein Betrugsnetzwerk, kann aber die Effizienz stören, die solche Netzwerke schwer bekämpfbar macht. Außerdem kann es Informationen liefern, die Banken, Telekommunikationsanbieter und Ermittler beim Erkennen aktiver Kampagnen unterstützen.
Überzeugende, aber nicht verwundbare Ziele schaffen
Der Apate-Gründer und CEO Dali Kaafar beschreibt das Ziel als den Aufbau „perfekter Opfer“ aus Sicht eines Betrügers: Ziele, die überzeugbar genug wirken, um den Kontakt aufrechtzuerhalten, aber niemals tatsächlich auf den Betrug hereinfallen. Die Bots sollen den Anrufern Hoffnung geben, dass eine Zahlung, ein Kontodetail oder ein anderes Ergebnis erreichbar ist, und so ihre Aufmerksamkeit binden.
Das Unternehmen erklärt, seine Plattform werde von Banken genutzt und von Telekommunikationsunternehmen unterstützt; außerdem betreibe es rund 350.000 Bots. Nach Angaben von Kaafar beantworten die Bots nicht nur Anrufe. Sie können auch Betrugs-Chatgruppen beitreten und auf Textnachrichten antworten, wodurch sich der Ansatz des Verzögerns und der Informationsgewinnung auf mehrere Kanäle ausdehnt.
Das System verwendet unterschiedliche Persönlichkeiten, Sprachfähigkeiten und Nutzerprofile, damit die Antworten nicht eintönig oder leicht zu erkennen sind. Manche Bot-Personas könnten WhatsApp nutzen, andere nicht. Einige nehmen einen Anruf an, andere beenden ihn und kündigen einen späteren Rückruf an. Diese Vielfalt ist entscheidend: Ein Anti-Betrugs-Bot muss keinen Streit gewinnen, sondern nur glaubwürdig bleiben, um die Aufmerksamkeit des Betrügers lange genug von potenziellen Opfern abzuziehen.
Informationen sind so wichtig wie Verzögerung
Zeitverschwendung ist nur ein Teil des Modells. Apate gibt an, mehr als 250.000 Echtzeitinformationen über Betrüger gesammelt zu haben, darunter Betrugs-URLs, Konten von Finanzmulis und Bankdaten. Solche Informationen können nützlich sein, weil Betrugsoperationen häufig auf einem sich verändernden Netz aus Telefonnummern, Zahlungswegen, Links und Messaging-Konten beruhen.
Theoretisch können Informationen aus Live-Interaktionen Abwehrsysteme reaktionsfähiger machen. Eine Bank könnte ein verdächtiges Zahlungsziel erkennen, ein Telekommunikationsanbieter eine wiederkehrende Nummer oder ein Muster feststellen und eine Plattform gegen einen Betrugslink vorgehen. Der Artikel erläutert nicht, wie jedes Element überprüft oder geteilt wird; Umfang und operative Wirkung sind daher als Angaben des Unternehmens zu verstehen. Er zeigt aber, warum sich Verteidiger für Systeme interessieren, die zugleich interagieren und beobachten können.
Das Modell unterscheidet sich von klassischen Aufklärungskampagnen, die Menschen auffordern, Warnzeichen zu erkennen und verdächtige Anfragen abzulehnen. Bildung bleibt wichtig, überträgt aber einen großen Teil der Verantwortung auf einzelne Nutzer. KI-Köder versuchen, einen Teil dieser Last zurück auf die Angreifer zu verlagern, indem sie rund um die Uhr verfügbare Ziele im großen Maßstab anbieten.
Ein Wettbewerb um Glaubwürdigkeit
Der Nutzen des Ansatzes hängt von einer schwierigen Frage ab: Können Bots für professionelle Betrüger glaubwürdig bleiben? Betrüger passen sich schnell an, und viele sind darin geübt, ängstliche oder abgelenkte Menschen durch vorgegebene Gespräche zu führen. Wenn sie einen Bot leicht erkennen, sinkt die abschreckende Wirkung und die Operation könnte Informationen über ihre eigenen Methoden preisgeben.
Deshalb sind Persona-Design, sprachliche Variation und ein unvollkommenes, aber menschlich wirkendes Verhalten wichtig. Eine übermäßig makellose Stimme oder ein wiederholtes Antwortmuster kann ebenso verdächtig sein wie eine offene Ablehnung. Wirksame Köder müssen glaubwürdig genug sein, um den Kontakt fortzusetzen, zugleich aber strenge Sicherheitsgrenzen einhalten: keine echten Zugangsdaten liefern, kein Geld überweisen und keine neuen Risiken für legitime Personen schaffen.
Es stellen sich auch grundsätzliche Fragen dazu, wo und wann täuschende Abwehrsysteme eingesetzt werden sollten. Sie können wertvolle Informationen sammeln, doch die einsetzenden Organisationen brauchen Kontrollen für den Umgang mit Daten, die Zusammenarbeit mit Behörden und den Schutz echter Nutzer vor unbeabsichtigten Interaktionen. Der Artikel hebt das Potenzial hervor, liefert aber keine vollständige Darstellung der Governance oder unabhängiger Wirksamkeitstests.
Eine neue defensive Nutzung generativer KI
Der Aufstieg KI-gestützten Betrugs macht es leicht, die Technologie ausschließlich als Verstärker der Cyberkriminalität zu betrachten. Betrugsoperationen können ihre Reichweite automatisiert vergrößern, während realistische Texte und Stimmen Manipulation schwerer erkennbar machen. KI-Köder bieten einen Gegenpunkt: Die Fähigkeit zu natürlich wirkenden Gesprächen kann auch zur Verteidigung eingesetzt werden.
Statt jeden bösartigen Anruf zu stoppen, bevor er jemanden erreicht, sollen diese Systeme die wirtschaftlichen Bedingungen des Betrugs nach dem Kontakt verändern. Wenn ein Betrüger einen Bot nicht schnell von einem möglichen Opfer unterscheiden kann, kann jede falsche Spur die Produktivität der Operation senken. In ausreichendem Maßstab könnten Massenkampagnen dadurch teurer und weniger lukrativ werden.
Noch ist es zu früh, diese Taktik als Ersatz für Strafverfolgung, stärkere Plattform-Schutzmaßnahmen oder Verbraucherschutz zu betrachten. Sie zeigt jedoch eine Verschiebung der Cyberabwehr: weg von passiver Filterung, hin zu aktiver Interaktion. KI prüft verdächtige Aktivitäten nicht nur, sondern versucht, die Menschen dahinter zu beschäftigen.
Der nächste Test ist messbare Wirkung
Der stärkste Beleg für dialogfähige Anti-Betrugs-Systeme wird von Ergebnissen abhängen: weniger erfolgreiche Betrugsfälle, kürzere Kampagnen, nützlichere Informationen und eine klare Bilanz von Fehlalarmen oder unbeabsichtigten Folgen. Unternehmen, Banken und Telekommunikationsanbieter müssen außerdem bestimmen, wie diese Systeme in bestehende Melde- und Betrugsbekämpfungsprozesse passen.
Vorerst zeigt Apates Arbeit, wie KI die wichtigste Ressource eines Betrügers – Zeit – in eine Schwachstelle verwandeln kann. Während Cyberkriminelle ihre Kontaktaufnahme zunehmend automatisieren, beginnen die Verteidiger damit, auch das Beschäftigen der Betrüger zu automatisieren.
Dieser Artikel basiert auf einer Berichterstattung von Wired. Originalartikel lesen.
Originally published on wired.com
