14.08.2024 – News – The New York Times – Stuart A. Thompson — – Details
NYT Label
Eine KI-gestützte Version von Herrn Musk ist in Tausenden von unechten Anzeigen aufgetaucht und hat so zu Betrug in Milliardenhöhe beigetragen. «Steve Beauchamp wollte nur Geld für seine Familie. Und er dachte, Elon Musk könnte helfen. «Beauchamp, ein 82-jähriger Rentner, sah Ende letzten Jahres ein Video, in dem Musk eine radikale Investitionsmöglichkeit anpries, die schnelle Gewinne versprach. Er nahm Kontakt mit dem Unternehmen auf, das hinter dem Angebot stand, und eröffnete ein Konto mit 248 Dollar. Durch eine Reihe von Transaktionen über mehrere Wochen hinweg leerte Beauchamp sein Rentenkonto und investierte schließlich mehr als 690.000 Dollar. «Dann verschwand das Geld – verloren an digitale Betrüger an der Spitze einer neuen kriminellen Machenschaft, die auf künstlicher Intelligenz basiert. «Die Betrüger hatten ein echtes Interview mit Herrn Musk bearbeitet und seine Stimme mithilfe von KI-Tools durch eine Nachbildung ersetzt. Die KI war so ausgefeilt, dass sie winzige Mundbewegungen so verändern konnte, dass sie zu dem neuen Skript passten, das sie für die digitale Fälschung geschrieben hatten. Für einen flüchtigen Betrachter war die Manipulation möglicherweise nicht wahrnehmbar. ««Ich meine, das Bild von ihm – das war er», sagte Beauchamp über das Video, das er von Musk gesehen hatte. «Ob es nun eine künstliche Intelligenz war, die ihn dazu brachte, die Dinge zu sagen, die er sagte, weiß ich wirklich nicht. Aber was das Bild betrifft, wenn jemand gesagt hätte: ‹Such ihn dir aus einer Gegenüberstellung aus‹, dann ist er das.» «Tausende dieser KI-gesteuerten Videos, bekannt als Deepfakes, überschwemmten in den letzten Monaten das Internet und zeigten gefälschte Versionen von Herrn Musk, der zahlreiche potenzielle Investoren täuschte. KI-gesteuerte Deepfakes dürften laut Schätzungen von Deloitte jedes Jahr zu Betrugsverlusten in Milliardenhöhe führen . «Die Produktion der Videos kostet nur wenige Dollar und kann in wenigen Minuten erstellt werden. Sie werden in den sozialen Medien beworben, unter anderem in bezahlten Anzeigen auf Facebook, wodurch ihre Reichweite vergrößert wird. ««Es handelt sich wahrscheinlich um den größten Deepfake-Betrug aller Zeiten», sagte Francesco Cavalli, Mitbegründer und Leiter der Bedrohungsaufklärung bei Sensity, einem Unternehmen, das Deepfakes überwacht und erkennt. «Die Videos wirken oft unheimlich lebensecht und fangen die typische gestelzte Kadenz und den südafrikanischen Akzent von Herrn Musk ein.
Betrüger beginnen mit einen echten Video, wie dieses Interview des Wall Street Journal, das von Thorold Barker geführt wurde, einem Redakteur, dessen Stimme auch im Clip zu hören ist.
SK-news
