Deepfakes: Risiken und neue rechtliche Regelungen
KI-generierte Bilder, Videos und Audios, die real wirken, aber manipuliert sind, bergen erhebliche Risiken, etwa in Form von politischer Desinformation, sexualisierter Gewalt und Identitätsbetrug.
Seit 2017 haben sich die Möglichkeiten zur Erstellung solcher Fälschungen rasant entwickelt. Seit 2017 haben sich die Möglichkeiten zur Erstellung solcher Fälschungen rasant entwickelt. In Deutschland fehlt jedoch bislang eine spezifische gesetzliche Regelung, sodass bestehende Normen insbesondere bei sexualisierten Deepfakes nur eingeschränkt greifen.
In Deutschland fehlt bislang eine spezifische gesetzliche Regelung, sodass bestehende Normen insbesondere bei sexualisierten Deepfakes nur eingeschränkt greifen. Ein aktueller Gesetzentwurf zielt darauf ab, diese Lücken zu schließen und sieht sowohl strafrechtliche als auch verfahrensrechtliche Anpassungen vor. Geplant ist unter anderem eine Ausweitung des Schutzes der Intimsphäre bei Bildaufnahmen: So soll künftig die Erstellung und Verbreitung pornografischer Deepfakes unter Strafe gestellt werden können. Vorgesehen sind Geldstrafen oder Freiheitsstrafen von bis zu zwei Jahren.
Darüber hinaus soll ein eigenständiger Straftatbestand geschaffen werden, der auch nicht-sexualisierte Deepfakes erfasst, sofern sie Persönlichkeitsrechte verletzen. Begründet wird dies im Gesetzentwurf damit, dass bereits die Erstellung entsprechender Inhalte einen Eingriff in die Rechte der Betroffenen darstellt, da persönliche Merkmale in potenziell entwürdigenden oder unkontrollierbaren Kontexten verwendet werden.
Ergänzend sind verfahrensrechtliche Maßnahmen vorgesehen: Ein vereinfachtes gerichtliches Auskunftsverfahren soll Betroffenen die Identifizierung von Tätern im Internet erleichtern. Zudem sollen Gerichte bei schwerwiegenden Rechtsverletzungen die Sperrung von Nutzerkonten anordnen können. Ein Richtervorbehalt soll dabei sicherstellen, dass die Meinungsfreiheit gewahrt bleibt, während rechtlich zulässige Äußerungen weiterhin anonym möglich sein sollen.
Parallel dazu sollen technische Detektionsmethoden weiterentwickelt werden, unter anderem durch staatliche Förderung, etwa durch Institutionen wie SPRIND (Bundesagentur für Sprunginnovationen). Darüber hinaus sollen Medien- und KI-Kompetenz, freiwillige Selbstverpflichtungen von Plattformen sowie internationale Kooperation eine zentrale Rolle spielen, um den Risiken von Deepfakes wirksam zu begegnen. International existieren bereits unterschiedliche Regelungsansätze, etwa in den USA, Großbritannien, China und auf EU-Ebene.