Durch Künstliche Intelligenz (KI) wird es für Betrüger immer leichter, am Telefon oder in Videoanrufen echte Personen nachzustellen. Alexander Winkler aus der SWR Wirtschaftsredaktion hat mit der Stimme von SWR1 Moderatorin Claudia Deeg eine KI-Stimme erzeugt und zeigt, wie sie bei einem Schockanruf klingen könnte.
Betrüger nutzen zunehmend Künstliche Intelligenz
Christian Balser: Wie können Betrüger KI nutzen?
Alexander Winkler: Zum einen lassen sich mit Künstlicher Intelligenz Unterhaltungen generell fast in Echtzeit und sogar akzentfrei übersetzen. Dadurch wird es für Täter aus dem Ausland umso einfacher, weil auch ein Mann aus Ostasien problemlos klingen kann wie eine junge Frau aus Deutschland.
Noch gefährlicher wird es, wenn es dann auch nicht mehr nur irgendeine Stimme ist, sondern zum Beispiel die der eigenen Tochter. Das ist ein bisschen aufwendiger, aber auch immer einfacher möglich.
Durch 30 Sekunden Stimmprobe entsteht ein KI-Klon
Claudia Deeg: Du hast für uns ein Experiment gewagt und meine Stimme mit der KI geklont, also versucht, sie nachzumachen. Wie ging das?
Winkler: Zwei Sachen habe ich dafür gebraucht. Einmal, klar, eine Software, die ich mir kostenlos aus dem Internet heruntergeladen habe und dann noch 30 Sekunden Stimmprobe von dir, Claudia. Das war jetzt mit Dir als Radiomoderatorin nicht die größte Herausforderung.
Aber eigentlich reicht auch ein kurzer Mitschnitt aus einem Telefonat. Denn aus einem kurzen Tönchen generiert die Software ein Stimmprofil, mit dem ich dann jeden beliebigen Satz sagen lassen kann. Und das sogar in unterschiedlichen Sprachen.
So kann ein Schockanruf mit KI-Stimme klingen
Balser: Jetzt sind wir aber gespannt. Wie hört sich die "KI-Claudia" an?
Winkler: Ich habe die KI einfach mal einen Satz sprechen lassen, wie ein Betrüger mit der Stimme in ein Betrugstelefonat einsteigen könnte und so klingt die "KI-Claudia" dann:
KI-generierte Stimme: "Hey Schatz, ganz kurz, ich hab gerade ein echtes Problem. Ich hatte einen Unfall mit dem Auto und muss jetzt dringend 2.000 Euro Anzahlung leisten, die ich aber nicht direkt auf dem Konto hab. Kannst du das ganz dringend überweisen? Ist auf jeden Fall eilig."
Winkler: Ich sage es extra nochmal dazu: Das war die KI-Stimme, ein Klon von dir, Claudia. Hast du dich wiedererkannt? [...]
Deeg: Ja ... Meine Stimme ist im Moment so ein bisschen angekratzt, nur deshalb klinge ich jetzt anders, aber ansonsten ist es erschreckend. [...]
So kann man sich vor Schockanrufen mit KI-Stimmen schützen
Deeg: Aber können wir dieses Klonen mit einer KI irgendwie verhindern? Ich meine, wir sind in der Öffentlichkeit, oder wie du gesagt hast, auch mit den Sprachnachrichten. Was kann man da machen?
Winkler: Das ist tatsächlich inzwischen schwierig und unmöglich, weil ja schon 30 Sekunden aus einem Telefonat reichen können für so eine KI-Stimme. Grundsätzlich gilt zwar, je weniger wir zum Beispiel etwa Videos auf sozialen Medien posten, desto geringer ist die Gefahr. Aber ausschließen lässt sie sich schlicht nicht.
Deswegen ist es viel effektiver am Telefon einfach vorbereitet zu sein, auch wenn jemand aus der Familie anruft und Geld will. Einfach irgendetwas fragen, was ein Fremder nicht wissen kann. Das ist eine gute Hilfe. Oder noch besser: Auflegen und zum Beispiel in einer anderen App zurückrufen.
