KI-Sprachbetrug: Die nächste Stufe des „Enkeltricks“
von André Westphal | 48 Kommentare
Cyberkriminelle werden immer erfinderischer. Doch nach einer Weile sind die üblichen Maschen auch mal ausgelutscht – wie etwa der „Enkeltrick“. Den kennt ihr vermutlich: Es trudelt eine vermeintliche SMS oder WhatsApp-Nachricht von Tochter, Sohn oder Enkel ein, die von einer Notsituation faselt. Ihr sollt euch dringend melden und am Ende natürlich Geld herüberwachsen lassen. Inzwischen gehen die Betrüger eine Stufe weiter und nutzen generative KI, um die Glaubwürdigkeit mit geklonten Stimmen zu steigern.
Hier warnt McAfee vor einem Trend, den man bemerkt haben will: Die Cyberkriminellen nutzen Audio- und Videomaterial aus dem Netz, das sie von euch finden. Mit dessen Hilfe erstellen sie einen KI-Klon eurer Stimme, um die Glaubwürdigkeit ihrer Betrügereien zu steigern. Gerade ältere Menschen wären dadurch sicherlich leicht zu täuschen. In Deutschland soll es bereits Fälle dieser neuen Enkeltrick-Abwandlung gegeben haben.
Das Problem: Viele Menschen posten von sich Audio- und Videoinhalte in sozialen Netzwerken, wodurch es dann eben auch für Kriminelle leicht wird, ihre Stimme per KI klonen zu lassen. Schon Audiomaterial von 3 Sekunden Länge kann ausreichen. McAfee sieht hier eine enorme Spielwiese für Betrüger, da ca. 53 % aller Erwachsenen mindestens einmal pro Woche Sprachdaten von sich an andere weitergeben. 49 % tun dies sogar bis zu zehnmal die Woche.
Wie könnt ihr euch und euren Bekannten- bzw. Familienkreis schützen? Nun ja, zum einen, indem ihr keine Audio- und Videodateien öffentlich postet. Ist das für euch keine Option, dann überlegt zumindest genau, welchen Kontakten ihr Aufnahmen schickt. Erhaltet ihr wiederum selbst einen Anruf von einem Freund oder Familienmitglied, bei dem es um eine akute Notsituation geht, in der Geld gesendet werden soll, verifiziert z. B. über einen Rückruf, dass es sich wirklich um die echte Person handelt. Klingt zwar „verspielt“, aber ihr könnt auch Codewörter für solche Fälle vereinbaren.
Sinnvoll ist es auch, wenn ihr präventiv euer Umfeld vor diesem KI-Sprachbetrug warnt. So prophezeit McAfee, dass die Fälle in Zukunft noch stark zunehmen dürften. Denn leider sind auch gefälschte Videos und Livestreams mittlerweile immer fortgeschrittener.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Wie schön, dass sowas endlich tiefer ins kollektive Bewusstsein Einzug hält, obgleich auch auf etwas unsanfte Art… jetzt fühl ich mich jedenfalls nicht mehr so verrückt (relativ gesehen) beim Datensparen und (wer zuhören mag) sensibilisieren.
Wird alles nichts bringen, dass hat die Vergangenheit mit ihre zahllosen Datenlecks gezeigt: Die Masse begreift und wird es nicht begreifen. Für Bequemlichkeit und dem neuesten total crazy Post verkauft sich die breite Masse mit ihren Daten gerne.
Ziemlich arrogant dein Kommentar. Als wäre die Vergangenheit das Maß für die Zukunft. Als wärst du schlauer und „die breite Masse“ zu doof und nicht lernfähig. Auch du kannst einem Trickbetrug zum Opfer fallen.
Tja, die Praxis wird ihm aber recht geben.
Wir erleben es selbst hier bei Caschy z.B. bei den Themen digital payment und digital currencies im Kommentarbereich.
Die Argumentation ist doch kaputt. Die Datenlecks zeigen nicht, dass die Leute zu freizügig sind, sondern, dass die Unternehmen die Sicherheit nicht ernst nehmen. Daten kommen auch bei Google, Microsoft, Apple, Netflix, Dropbox, und anderen prominenten Unternehmen weg. Warum ist das ein Maß für die Awareness von der breiten Masse? Und die Awareness der Benutzer kann man nicht steigern? Mule sagt, das bringt eh nix.
Mal wieder ein Strohmann?
Sie echauffierten sich über @Mule’s Aussage „Für Bequemlichkeit und dem neuesten total crazy Post verkauft sich die breite Masse mit ihren Daten gerne.“
Und die stimmt eben leider, als Datensensitiver leide ich besonders unter der Naivität jener Masse, die eben zentrale Datenbanklösungen wir eID, ePA (bin sehr gespannt auf die Ergebnisse von Caschys Umfrage – ich wette, ich gehöre zur kleinen Minderheit) oder in Zukunft leider auch die Bargeldabschaffung erst ermöglicht, weil sie nur die Vorteile aber nicht die Risiken sehen.
Die Lecks zeigen nur, dass und warum diese Naivität gefährlich ist.
>Mal wieder ein Strohmann?
Da braucht man gar nicht weiter diskutieren.
Hallo RA, wieso sollen eigentlich Datenlecks notwendig sein, um an bild- oder Stimminformationen Dritter heranzukommen? Jeder der einen Podcast macht, ein video in youtube einstellt ist in Wort und bild für alle sicht- und hörbar. Ohne daß es irgendwo ein leck gibt. Jeder der Bilder oder töne auf einer Social-Media-plattform veröffentlich ist ohne Leck für Tausende sichbar. Im Gegenteil: ich wüßte nicht dass meine Stimme oder ein Bewegtbild von mir z. B. beim einwohnermeldeamt oder in der EPA interlegt wäre. Datensparsamkeit hieße also an keiner sozialen Plattform mit mehr als geschriebenen Kommentaren teilnehmen – wie hier z. B. – keine Podcaasts, Videos, gesprochene Anleitungen usw. mehr zu veröffentlichen. Sprachnachrichten in Chats dann auch nicht mehr , nur noch schreiben oder dktieren wenn es dann Sprachliche Eingabe sein soll. Wird nicht funktionieren . Also müssen die potentiellen Empfänger solcher Betrugsanrufe geschult werden. Wie einsts Eduard Zimmermanns „nepper, Schlepper, Bauernfänger“ im TV. Damals wurde dann vor den beiden vom Wasserwerk gewarnt, die „mal ebeen die leitung durchchecken wollten“ oder dem Zeitschriftenwerber der kurz mal aufs Klo mußte … Einbruchsschutz beginnt an meinen Fenstern, meinen Türen und meiner Wachsamkeit. Ich kann nicht erwarten, daß der Verkauf von Glasschneidern, Feilen und Dietrichen verboten wird.
Ihr Denkfehler: Die von Ihnen unterstellte Schnittmenge aus der Menge der Datensensitiven und der Menge der SM-Exhibitionisten dürfte gegen Null gehen.
Ein Video, das ich zur Thematik sehr gerne Teile: Nachricht von Ella.
https://streamable.com/oyadje
tehe… genau daran musste ich beim Verfassen meines Kommentars auch denken. Kognitive Dissonanz at its best und zur Auflösung dieser, die „Warner“ immer schön abwerten (aluhut etc.).
besonders spaßig wird es dann mit der elektronischen Patientenakte. das wird in wirklich jede erdenkliche Richtung ein Graus. BundID und dergleichen wird auch ein Fest…
Die vielen, teils auch jungen Leute, die auf auf sowas schon reingefallen sind, haben mehr als nur gezeigt das viele nicht lernfähig sind.
McAfee hört sich schon an wie ‚make a fee‘, bezahl ne Gebühr.
Halte ich für ein sehr abstraktes Szenario. Sprachaufnahmen zu finden und zu nutzen UND gleichzeitig die Eltern ausfindig machen zu können inkl. derer Telefonnummer scheint nicht nur sehr aufwändig, sondern relativ unmöglich bzw. unwahrscheinlich
Jo sehe ich auch so. Hier will man mal kurz vom untergehenden McAfee Dampfer auf den KI Zug aufspringen.
Es muss nicht jemand fremdes sein, sondern kann jemand aus deinem persönlichen Umfeld sein. In der Familie und Freundeskreis kommt ebenfalls betrug vor. Da dies in Zukunft ein sehr lukratives Geschäft wird, ist nicht auszuschließen, dass solche Szenarien entstehen. Ich würde zwar auch nicht denken, dass jemand in meinem Umkreis so etwas macht, aber man sollte niemals nie sagen.
So abwegig ist es gar nicht. Klar, gezielt ein Opfer raussuchen, da wird es schwer. Aber Random … Es gibt genügend Dienst, in dem deine Kontakte hochgeladen sind. Da reicht eine Lücke. Oder eine App, die man unbedarft geladen hat. Hat man einmal irgendwo Zugangsdaten zu einem Dienst erbeutet (WhatApp- oder Facebook-Account kapern reicht auch), wird der Rest nicht schwer.
Auch solche Dinge wie mit Lastpass sind hier Gold wert. Heise hat die Tage darüber berichtet, dass es „Cyberkriminelle“ wohl gelungen zu sein schein, die gestohlenen Tresore zu knacken.
Kurz um, Du musst eigentlich nur den Zugang zu einem Dienst mit Kontakten oder einem Gerät erlangen. Dann im Netz ein wenig googeln und sich dann bei dem Kontakteintrag Mutti bedienen. Wer das Opfer ist, ist Dir in aller Regel komplett egal.
Irgendwie wird immer noch nicht begriffen, dass es sich um Berufskriminelle handelt, die sich Tag ein, Tag aus mit derartigen Dingen in ganzen Mannschaften mit derartigen Dingen beschäftigen. Die Zeit wo sich Klein-Pickel-Joe solche Dinge hat einfallen lassen, um sich einen neuen TV zu kaufen, ist seit mindestens 15 Jahren vorbei!
Gibt doch genug (Möchtegern) YouTuber, TikToker, Instagramer etc. von denen man das ganze Umfeld mit dem finanziellem sowie Bezugspersonen in den Beiträgen mitbekommt. Die Accounts sind bei vielen nicht Privat, und die ganze Welt kann die Stimme kopieren. Manche beschweren sich ja, dass Bestellungen auf Rechnung bei ihnen eingehen, sei es am Arbeitsplatz, daheim, oder sonst wo. Da ist es nur noch ein Katzensprung das ganze bei den Eltern die vielleicht sogar im Telefonbuch stehen, oder durch Social Engineering / Datenleak durchzuführen. Willkommen im Internet!
So freizügige wie die Leute heutzutage mit Facebook und Co umgehen ist es ein leichte, aus ein paar Fetzen Informationen weitere Schlüsse zu ziehen und Informationen zu erhalten, dazu noch paar kleiner Reels mit Sprache drin und die KI erledigt den Rest.
Ich hab kürzlich ein Video von einer KI generiert gesehen inkl. Sprache, das schwer, zu entscheiden ob Originale oder eben KI
Habe die News von McAfee auch auch gelesen und mich gefragt wie das in der Breite funktionieren soll. Um hier realistische Angriffe durchzuführen, würde der Aufwand pro Anruf doch exorbitant steigen. Anstatt einfach alle alt Klingenden Namen aus dem Telefonbuch zu suchen und da mit verheulter 0815 Stimme anzurufen (was ja auch so schon oft genug funktioniert), müsste jetzt erst Mal der wirkliche Verwandte zu genau dieser Telefonnummer ausgemacht werden und ein Sprachsample von diesem aufgetrieben werden.
Und selbst wenn ich jetzt ein Sprachsample von einer öffentlichen Person nehme, bezweifle ich doch stark, dass im Impressum Mal eben die Nummer von seinen Eltern steht.
Also wie soll das bitte in der Praxis funktionieren (außer für aufwändigstes Spearphishing)?
Ganz einfach. Ein geknackter Whatsapp, Facebook, TwitterX, TicTok ..-Accountg reicht doch. Oft sind da die Kontakte hinterlegt. Und in mehr als 90% der Fälle sollte sich da auch Mutti oder Pappi zu finden sein. Wenn Du sowas hast, sucht Du direkt da nach Aufnahmen und ein paar Hintergrundinformationen, sowie bei Google. Auch Dienste wie facecheck.id sind da hilfreich.
Und ich würde sogar behaupten, dass sowas heute sogar schon per Ki automatisiert läuft.
wieder ein Grund gegen Sprachnarichten auf WhatsApp.
Also wenn McAfee das gepostet hat. Dann ist das kein reales Szenario sondern sie wollen irgendwelche Schlangenöl Produkte verkaufen.
Wie halt bei jedem Trend.
Die bieten doch kein passendes „Gegengift“…Das die Szenarien real durchgeführt werden ist ja seit Erfindung und Zugang zu KI nicht wirklich neu oder weit hergeholt.
Wir hatten zwar noch keine nachgemachten Stimmen, aber schon Betrugsversuche in der Verwandt- und Bekanntschaft. Einfachste Lösung wie im Artikel: macht mit euren Eltern, Großeltern usw. ein Codewort ab.
Oder auflegen und die bekannte Nummer selbst anrufen.
Auch da ist es nur eine Frage der Zeit, bis die Ki drauf reagiert. Oft ist die Nummer nicht gespooft, sondern gestohlen oder mit gefälschten / geklauten Dokumenten eröffnet.
Und wenn der Rückruf dann noch mit nicht unterdrückter Rufnummer erfolgt … ein Kinderspiel für eine Ki.
hängt meines Erachtens auch immer von dem Alter ab. Bei älteren verwandten bin ich inzwischen soweit, einfach unbekannte Nummern zu blocken. Man vergisst das Codewort oder aber die Story wird so gut sein, dass darauf nicht bestanden wird, weil es eine Notsituation ist. Man darf nicht vergessen, dass da eine bekannte stimmt spricht, welche vermutlich nahezu identisch mit der echten am Telefon klingt. Für viele ein neues Szenario. Bis jetzt war dies immer der Beweis, dass man mit der richtigen Person spricht. Nun nicht mehr. Daran müssen sich viele erstmal gewöhnen
Codewort ist immer so eine schwierige Sache. Vergiss man leicht. Ich habe meinen Eltern eingetrichtert, dass sie mich nach Informationen fragen sollen, die ich nie öffentlich Teilen würde.
Sowas wie „Weißt Du noch, als wir mit Dir im Tierpark als Kind … Was haben wir gelacht. Weißt Du noch was da passiert ist?“ oder „Ach kannst Du dich noch daran erinnern, als wir Dich mit deiner Freundin überrascht haben. Wie hieß die noch gleich?“.
Jede Familie hat die zig Anekdoten, die sich super dafür eignen. Und das Wissen Mütter und Väter auch noch, wenn es mit dem Gedächnis nicht mehr ganz so gut klappt.
Nummern die nicht im Telefonbuch stehen blocken, Hiya App (bei Samsung schon fest integriert) und derlei Dinge helfen bei älteren Menschen auch enorm. Wobei ich inzwischen auch immer mehr ältere Menschen kenn die Videoanrufe bevorzugen was das ganze dann noch ein bisschen sicherer macht. Zumindest für solche „angeblichen“ Notsituationen könnte man ja stets darauf setzen.
Mein 93jähriger schwer herkranker Onkel wurde Opfer dieser kriminellen Masche, bei der er mit der schrecklichen Schock Version konfrontiert wurde, . Ein angeblicher Polizist erklärte ihm am Telefon, ihre Enkelin hat einen tödlichen Unfall verursacht, sitzt jetzt ein, und kann nur gegen Kaution frei kommen, wenn er sofort die Summe (mehrere tausend €) zahlt. Da er misstrauisch wurde, haben sie ihn angeblich mit mir sprechen lassen, es soll meiner Stimme geähnelt haben, die verzweifelt unter Schluchzen um seine Hilfe bat.
Als er mitteilte, dass er erst Mal zur Polizei gehen würde, um dort alles zu klären, wurde aufgelegt…
Bei der echten Polizei dann klärte man ihn auf, dass er Opfer dieser üblen Betrugsmasche geworden ist und kein Unfall auf meinem Namen usw. registrierter sei. Ihn hat das alles enorm mitgenommen.
Und das schlimme daran, wir wohnen nicht in derselben Stadt, ca. 800km Distanz, die Kriminellen fragten nach meinem Geburtsdatum, und hatten meinen kompletten Namen und auch noch andere beunruhigende Details.
Nota: Ich veröffentliche nie Video oder Sprachvideos auf den Socialmedias mit meiner Stimme, nur sende ich Sprachnachrichten via WhatsApp an meine Kontakte, aber nicht an meinen Onkel, der kein Internet hat. Fragt man sich wie zugänglich private sogenannte geschützte Daten frei verfügbar für Kriminelle sind.
Fazit:
Man fühlt sich und seine Verwandten bedroht.
Habe auch schon „Schockanrufe“ bekommen.
Nach einem „häh?“ legten die gleich wieder auf.
Zu den persönlichen Daten – viele Leute geben diese bereitwillig weiter, auch wenn es nicht notwendig ist.
Dann keine Angaben hierzu machen oder die Angaben „verfremden“, Geburtsdatum niemals richtig angeben.
Die nächste Stufe ist logischerweise, daß die KI-Stimme von meinem PC auf die Bitte um Geld ein eindeutiges Signal in Form von „F*ck you!“ von sich gibt.
Die öffentlich-rechtlichen Sender können schön monatlich kassieren,aber kommt denen mal nicht in den Sinn,eine Aufklärungskampagne zu starten für ältere Menschen.
So würden es viele ältere Menschen mitbekommen und wären evtl skeptischer gegenüber solchen Betrügern.
> aber kommt denen mal nicht in den Sinn
https://mediathekviewweb.de/#query=enkeltrick
Und das sind nur die Beiträge bei denen ‚Enkeltrick‘ im Titel vorkommt.
Das machen die , sogar recht regelmässig, zumindest hier im SR
Wieso diese Falschaussage von Dir?
Die Medien, öffentlich-rechtlich wie private, Zeitungen wie Online oder TV berichten darüber sehr häufig.
Ohne diese Infos gäbe es massenhaft mehr Opfer.
Leider gibt es kranke Menschen, etwa Demenz, die diese Info nicht mehr aufnehmen können und verstehen. Dann ist die Familie oder das Umfeld gefordert. Etwa, indem sie darauf achten, dass diese Menschen nicht viel Geld im Hause haben. Klar ist das eine Gratwanderung zwischen Privatssphäre und Schutz, heikel. Hinweis an die Bank mit den Menschen, dass bei hohen Geldabhebungen nachgefragt wird oder ein Limit setzen.
Auf dein öffentlich rechtlichen Laichen doch ständig Berichte über die verschiedensten Betrugsmaschen. In etlichen Formaten.
Denke er meint solche dauerhaften Kampagnen wie etwa „Schau hin, was deine Kinder machen“ meist immer vor den Hauptnachrichtensendungen, hab gerade etwas gegooglet, solche „Ratgebersendungen“ laufen ja meist nur noch in den Dritten. Das wäre in der Tat eine Idee (auch ohne den obligatorischen Verweis auf die „GEZ“)
@zaph
genau sowas hatte ich im Sinn.
Die kennen ja ihre Einschaltquoten wohl am besten und dementsprechend können die ja dauerhaft solche kurzen „Clips“ veröffentlichen.
Müssen ja nicht mal Sendungen sein.
3-5 Min Clips die über die Vorgehensweise informieren usw.
Die von McAfee haben doch die letzte Folge von Methodisch Inkorrekt gehört. Nachdem ein Zuhörer denen ein mit ihrer Stimme von einer KI generiert als Intro geschickt hat, sprachen sie über den „Enkeltrick 2.0“. Allerdings meinten sie es nicht ganz so ernst. Sprachen allerdings auch davon, dass man ein Codewort mit seinen lieben ausmachen sollte. ^^
Je nach Ausgangsmaterial hören sich die erzeugten Stimmen so täuschend echt an, dass selbst Personen, welche mit der ‚gefakten‘ Person täglichen Kontakt haben, keine Chance haben.
Na, weil hier wieder diese Sache mit den Telefonbuch und alten Vornamen auftaucht („Anstatt einfach alle alt Klingenden Namen“) nur so viel: ich stehe nur mit Nachnamen und erstem Buchstaben des Vornamens drin und habe dennoch so einen Schockanruf bekommen. Wie soll man da auf das Alter schließen können? Und vor drei Wochen hat es mit derselben Nummer meine Frau erwischt: unsere Tochter habe einen Unfall usw. Bloß hatte unsere Tochter eine halbe Stunde vorher mitgeteilt, sie sei zu Hause angekommen. Stellt sich für uns die Frage: Woher wussten die überhaupt , dass unsere Tochter unterwegs war? Hatten die beobachtet, dass sie zusammen mit meiner Frau Gepäck in ihr Auto lud? Ich bin inzwischen der Meinung, dass da viel ausgespäht wird.
Wichtig ist einfach zu wissen, dass 1. die Polizei in solchen Fällen nicht anruft und 2. in Deutschland Kautionen zum Freikaufen nicht üblich sind.
„Woher wussten die überhaupt , dass unsere Tochter unterwegs war? Hatten die beobachtet, dass sie zusammen mit meiner Frau Gepäck in ihr Auto lud?“
Reiner Zufall. Scheintzusammenhänge, weil etwas auffällt und es besser im Gedächtnis bleibt.
Ähnliches hatten wir am Wochenende. Wir saßen am Kaffeetisch und sprachen aufgrund einer dort liegenden Broschüre über Gürtelrose.
Ein paar Stunden später fuhren wir los, als Beifahrer schaute ich etwas auf dem Handy nach, Werbung bei YouTube. Thema Gürtelrose. Das hätte ich mir natürlich keinen Tag lang gemerkt, vielleicht nicht mal wahrgenommen, wenn wir nicht ein paar Stunden früher darüber geredet hätten.
Und nein, die Handys haben nicht zugehört, Die lagen in einem anderen Raum. Bei geschlossener Tür.
Damit wäre dann ja jede Omi und jeder Opa von Influencern ein potenzielles Opfer…meine Omi jedenfalls wäre leider naiv genug, die macht sogar dem Beelzebub die Türe auf weil er so nett lächelt. Aber zum Glück gibts meine Stimme nicht im Netz!
Die hatten doch die Woche bei RTL Aktuell ein Beitrag wo eine Reporterin ein Video gemacht hat, in dem sie fließend russisch spricht dank KI. Sie konnte aber kein Wort russisch. Wenn das Reporter so öffentlich in einer Nachrichtensendung breit treten, können es Kriminelle schon längst!!!
Werden also Stimmdaten zur Ware? Denke dabei gerade an die Mitschnitt-Floskel „zu Schulungszwecken“ bei Hotlines. Wären ja interessante Datenpakete, die bei dem einen oder anderen Unternehmen lagern…
Wer diesen WhatsApp Betrug vermeiden will, steigt besser auf Threema um.
Der läuft auch ohne Mobilnummer und so finden einen die Betrüger erst gar nicht.
Was sind schon einmalige 6 EUR für Threema und zwar für die ganze Familie, gegenüber einer Oma, die so um 3.000 EUR betrogen worden ist?