Die EU diskutiert KI-Verbote. Eine Illusion von Sicherheit.

Die EU diskutiert KI-Verbote. Eine Illusion von Sicherheit.

Die EU diskutiert aktuell strengere Regeln gegen KI-generierte Deepfake-Pornos.

Eine Diskussion darüber ist wichtig:
Die Verwendung solcher Inhalte ist gefährlich, entwürdigend und in vielen Fällen verwerflich.
Vor allem dann, wenn reale Menschen ohne Zustimmung sexualisiert, bloßgestellt oder manipuliert werden.

Wie die EU-Kommission damit umgeht, wirkt auf mich allerdings erstaunlich naiv.

Die politische Debatte vermittelt den Eindruck, als ließe sich das Thema über das Verbot einzelner Funktionen lösen. Als würde die Technologie verschwinden, wenn Plattformen bestimmte Prompts sperren.

Das wird in der Realität kaum funktionieren.

▪️ Die Modelle existieren bereits
▪️ Open-Source-Versionen ebenfalls
▪️ Und die technische Einstiegshürde sinkt stetig weiter

Durch die Regelungen könnten nun viele Menschen glauben, ihre Bilder auf Social Media seien durch strengere Regeln automatisch geschützt.

Das sind sie nicht.

Der wichtigere gesellschaftliche Ansatz wäre wie so oft ein anderer:
Nicht nur darüber zu sprechen, wie Menschen mit ihren Bildern im Netz umgehen sollten.

Sondern viel stärker darüber, wie wir gesellschaftlich mit digitaler Verantwortung umgehen.

Solange Demütigung, Bloßstellung oder sexualisierte Manipulation im digitalen Raum sozial toleriert oder als „witzig“ betrachtet werden, wird kein Gesetz die Verbreitung vollständig verhindern können.

Und das betrifft längst nicht nur sexualisierte Inhalte.

Die gleiche Technologie wird ebenso genutzt, um politische Aussagen zu fälschen, gezielt Desinformation zu verbreiten oder extremistische Propaganda glaubwürdig erscheinen zu lassen.

Die Technologie ist also nicht plötzlich verwerflich geworden.
Sie macht nur sichtbar und skalierbar, was gesellschaftlich längst vorhanden ist.