Problem mit KI-Nackt-Apps für Apple immer größer

San Francisco macht Druck auf Apple und Google: Apps, die mittels KI Nacktbilder erzeugen, sollen weg.

Apple steht wegen problematischer KI-Apps im Fokus: Die Stadt San Francisco verlangt, dass Apple und Google mehrere „Nudify“-Apps aus den Stores entfernen. Der Kampf gegen KI-Apps wird immer schwieriger, weil sie inzwischen massenhaft erstellt werden und ihre wahren Funktionen oft verbergen.

Acht Apps im App Store: San Francisco erhöht den Druck

Der Anwalt der Stadt San Francisco, David Chiu, hat Apple und Google Unterlassungsschreiben geschickt. Insgesamt geht es um 13 Apps, davon acht im App Store und fünf bei Google Play.

Die Apps tarnen sich laut einem Bericht von Wired meist als Face-Swap- oder Bildbearbeitungs-Tools. Tatsächlich sollen sie aber auch KI-generierte Nacktbilder oder sexuelle Deepfakes ohne Zustimmung der betroffenen Personen ermöglichen.

Apple hat erste Apps entfernt – aber Fragen bleiben

Apple erklärte, dass drei der betroffenen Apps bereits entfernt wurden. Außerdem sei man dabei, die zugehörigen Entwicklerkonten aus dem Programm zu werfen.

Vier weitere Entwickler müssten Verstöße gegen die Richtlinien beheben oder ebenfalls mit einer Entfernung rechnen. Apple betont, dass „Nudification“-Apps gegen die App-Review-Regeln verstoßen.

Der Fall zeigt erneut, wie schwierig die Kontrolle solcher KI-Tools inzwischen geworden ist. Wenn harmlose Foto-Apps im Alltag missbraucht werden können, reicht eine klassische App-Prüfung offenbar nicht mehr immer aus.

Sale