USA: KI-Chatbots könnten für Jugendliche verboten werden

In den USA könnten KI-Bots bald für junge Menschen verboten werden.

Dort haben Senatoren Josh Hawley (Republikaner, Missouri) und Richard Blumenthal (Demokraten, Connecticut) den GUARD Act vorgestellt – ein Gesetz, das Jugendlichen unter 18 die Nutzung von KI-Chatbots verbieten soll. Wie NBC berichtet, müssten Anbieter künftig das Alter aller User überprüfen, etwa durch das Hochladen eines Ausweises oder andere biometrische Verfahren.

Chatbots sollen sich „ausweisen“ – und User auch

Das Gesetz folgt einer Anhörung im Senat, bei der Eltern und Kinderschutzorganisationen vor psychischen Risiken von KI-Dialogsystemen warnten. Neben dem Altersverbot sieht der Entwurf weitere Auflagen vor: Chatbots müssten alle 30 Minuten klarstellen, dass sie keine Menschen sind, und dürften sich nicht als solche ausgeben.

Zudem wäre es verboten, Inhalte zu erzeugen, die sexuell explizit sind oder Suizid fördern, wenn Minderjährige betroffen sind. Blumenthal betonte, das Gesetz solle „strikte Schutzmaßnahmen gegen manipulative KI“ schaffen, mit hohen Strafen bei Verstößen. Die Tech-Konzerne hätten „das Vertrauen verspielt, freiwillig für Kindersicherheit zu sorgen“.

Auch Australien wird rigoroser

Parallel verschärfen auch andere Länder ihre Vorgaben: In Australien etwa müssen laut ArsTechnica Meta, TikTok und Snap ab Dezember über eine Million Minderjährigen-Accounts löschen oder deaktivieren. Die Plattformen riskieren Bußgelder von bis zu 32,5 Millionen US-Dollar, sollten sie gegen die Altersgrenzen verstoßen.