Meta hat Werbeanzeigen für eine KI-basierte Pornografie-App namens Kromix geschaltet.
Mit der Anwendung wärt ihr in der Lage gewesen, mithilfe von KI pornografische Deepfakes realer Personen zu erstellen. Eine der Werbeanzeigen beinhaltete ein gefälschtes Video einer Frau, die einer bekannten US-Politikerin verblüffend ähnlich sah.
Meta und Apple reagierten verspätet
Die Anzeigen führten in den App Store von Apple. Erst nach einer Anfrage des US-Magazins Wired griffen beide Konzerne ein: Meta stoppte die aus 32 gezielt an Männer gerichteten Anzeigen bestehende Kampagne, während Apple die App aus dem App Store entfernte.
Die Entwickler von Kromix bewarben das Werkzeug als „KI-Bild-Styler“ für Männer und schafften es offenbar, die Prüfprozesse von Apple zu umgehen, indem sie unzulässige Deepfake-Funktionen erst nach der ursprünglichen Freigabe hinzufügten.
Apple betonte in einer Stellungnahme, dass Anwendungen zur Erstellung oder Verbreitung von Pornografie sowie sogenannte „Nudify“-Apps strengstens verboten seien und man aggressiv gegen Versuche vorgehe, die Richtlinien zu umgehen.
Kromix ist kein Einzelfall
Nach Recherchen von WIRED war Kromix allerdings nicht der einzige Fall, der in den App Store gelangte: Auch die ähnlich funktionierende App MaskAI, für die ebenfalls bedenkliche Werbung auf Meta-Plattformen geschaltet wurde, wurde nach Hinweis des Magazins von Apple gelöscht.
Hinweis: Artikel enthält Affiliate-Links. Was ist das? Foto: Apple