Vorsicht! Künstliche Intelligenz kann zu Mobbing führen

Peinliche Situationen oder bloßstellende Handlungen: KI-Anwendungen vereinfachen die Erstellung von Inhalten, die andere demütigen oder ihnen schaden sollen. Gefälschte Online-Inhalte sind kein neues Phänomen. „Mit der schnellen Entwicklung von KI gibt es aber viel mehr Möglichkeiten, vermeintlich authentische Text- und Sprachdokumente, vor allem Bilder und Videos, zu erstellen, die eine große Glaubwürdigkeit vortäuschen“, sagt Iren Schulz, Mediencoach bei der Initiative „Schau hin! Was Dein Kind mit Medien macht.“. Junge Nutzerinnen und Nutzer müssten über diese Möglichkeiten Bescheid wissen, um sich selbst zu schützen und sich gleichzeitig der Verantwortung bei der Nutzung von KI-Werkzeugen bewusst zu sein.

Durch nutzerfreundliche, oftmals kostenfreie KI-Tools ist es heute auch Heranwachsenden möglich, mit wenigen Klicks eine Person oder auch nur ihr Gesicht auf Motive in anderen Umgebungen zu setzen. So entstehen vermeintliche Nacktbilder oder peinliche Momentaufnahmen. Mit der Hilfe von KI ist es zudem möglich, Videoinhalte zu erstellen, die frei erfundene Botschaften übermitteln. Zusätzlich zu Bild und Video können auch neue Audio-Inhalte mit KI erstellt werden. Sogenannte „Voice-Generators“ geben jeden Text als gesprochenes Wort in der Stimme einer Person aus. Werden die gefälschten Sprachnachrichten per Messenger verschickt, können die Empfänger getäuscht oder die vermeintlichen Sprecher bloßgestellt werden. Die Veröffentlichung von manipulierten Bildern, Videos oder Audios kann sehr unangenehme Auswirkungen auf Betroffene haben. Bei den KI-Fälschungen handelt es sich um schwerwiegende Persön­lichkeitsrechtsverletzungen für diejenigen, deren Erscheinungsbild nachgeahmt wird. Wenn eigene Fotos oder Videos ohne Zustimmung verwendet werden, entsteht außerdem das Gefühl von Ohnmacht. Einmal hochgeladen und verbreitet, lassen sie sich nur schwer wieder löschen.

Wenn Kinder von Cybermobbing auch durch KI-Inhalte betroffen sind, sollten die Inhalte umgehend bei den Plattformbetreibern gemeldet werden, um sie entfernen zu lassen. Sind die Beteiligten bekannt, können Eltern sie, in Absprache mit ihren Kindern, auffordern, die Inhalte zu entfernen. „Manchmal ist den Beteiligten gar nicht klar, dass und wie sehr sie damit andere verlet­zen“, sagt die Medienpädagogin. Hilft das alles nicht, bleibt die Möglichkeit, die Polizei einzuschalten. Damit Heranwachsende nicht in die Opferrolle geraten, aber auch nicht zu Tätern werden, sollen Eltern mit ihren Kindern besprechen, wie man KI verantwortungsvoll nutzt.