Europa kennzeichnet Deepfakes ab Sonntag: Was das löst und was nicht

Inhaltsverzeichnis

Am vergangenen Sonntag trat eine der am meisten diskutierten Pflichten der europäischen Verordnung über künstliche Intelligenz in Kraft. Seit dem 2. August 2026 muss jeder, der in der Europäischen Union ein durch KI generiertes oder manipuliertes Bild, Audio oder Video veröffentlicht, das für authentisch gehalten werden kann, dies klar und wahrnehmbar kennzeichnen. Und der Hersteller des Werkzeugs muss das von ihm Produzierte technisch markieren, damit Plattformen und Prüfer es automatisch erkennen können.

Das sind gute Nachrichten. Das sollte man betonen, denn genau das fordern wir schon seit Jahren.

Es empfiehlt sich auch, das andere zu sagen: Wenn morgen ein Video von Ihnen auftaucht, das etwas sagt, das Sie nie gesagt haben, wird dieses Video kein Etikett tragen. Und es wird genau aus demselben Grund kein Etikett tragen, aus dem es existiert.

Was genau schreibt Artikel 50 vor?

Es lohnt sich, die Norm zu verstehen, bevor man sie diskutiert, da viel Verwirrung im Umlauf ist.

Artikel 50 der Verordnung (EU) 2024/1689 verpflichtet nicht dazu, jeden mit künstlicher Intelligenz erstellten Inhalt mit einem Hinweis zu versehen. Er wird in vier konkreten Situationen ausgelöst: wenn ein System direkt mit Personen interagiert – weshalb sich Chatbots als solche zu erkennen geben müssen –, wenn Emotionserkennung oder biometrische Kategorisierung verwendet wird, wenn synthetische Inhalte generiert werden und wenn diese Inhalte einen Deepfake darstellen, der als Material definiert ist, welches realen Personen, Objekten, Orten oder Ereignissen ähnelt und authentisch wirken könnte.

Und es funktioniert auf zwei Ebenen, die ständig miteinander verwechselt werden.

Die erste Aufgabe obliegt dem Anbieter: Die Datei muss mit einer maschinenlesbaren Kennzeichnung versehen werden. Es handelt sich um eine technische Kennzeichnung, die für Sie nicht sichtbar ist. Systeme, die bereits vor dem 2. August auf dem Markt waren, haben bis zum 2. Dezember 2026 Zeit, diese konkrete Anforderung zu erfüllen.

Die zweite betrifft denjenigen, der das System einsetzt und das Ergebnis veröffentlicht: Es muss klar, deutlich und verständlich darüber informiert werden, dass dieses künstlich ist. Eine in der Datei versteckte Kennzeichnung reicht nicht aus. Die Person, die dem Inhalt ausgesetzt ist, muss im Moment des Betrachtens davon erfahren.

Die Bußgelder für Verstöße gegen diese Transparenzpflichten betragen bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes. Die Kommission veröffentlichte ihre endgültigen Leitlinien am 20. Juli, und das im Mai beschlossene sogenannte „Digital Omnibus“-Paket verschob zwar die Anwendung der Verpflichtungen für Bereiche mit hohem Risiko, ließ Artikel 50 jedoch unberührt. Diese Frist ist nun abgelaufen.

Das Problem des Empfängers

Hier liegt der Kern der Sache, und genau dieser Punkt taucht bei fast allen Regelungen zum Internet immer wieder auf.

Die Vorschrift richtet sich an diejenigen, die sie einhalten müssen. Sie richtet sich an die Werbeagentur, die eine Kampagne mit KI erstellt, an das Medium, das eine Nachricht illustriert, an die Marke, die einen Chatbot für den Kundenservice einsetzt, und an das Studio, das ein audiovisuelles Werk produziert. Sie alle haben einen Namen, einen Firmensitz, eine Rechtsberatung und etwas zu verlieren. Sie werden die Kennzeichnung vornehmen.

Wer ein gefälschtes Sexvideo mit Ihrem Gesicht zusammenstellt, wer Ihre Stimme klont, um eine Überweisung von Ihrem Finanzvorstand zu erwirken, wer eine Aussage erfindet, die Sie nie getätigt haben, um Sie in Verhandlungen oder in einem Sorgerechtsstreit zu Fall zu bringen, hat weder einen steuerlichen Wohnsitz noch die Absicht, seinen Verpflichtungen nachzukommen. Er veröffentlicht den Inhalt über ein Konto, das erst am selben Morgen eingerichtet wurde, auf einer gehosteten Plattform, bei der die Bearbeitung von Anträgen Monate dauert, und verschwindet anschließend.

Um es etwas unverblümt auszudrücken: Artikel 50 hebt die Schwelle für den legitimen Markt an, was notwendig war. Er entwaffnet jedoch nicht diejenigen, die Ihnen Schaden zufügen wollen.

Was sich für Sie tatsächlich ändert

Und doch ändert sich etwas. Nur nicht auf die Weise, wie es den Anschein hat.

Wenn die Kennzeichnung zur Norm wird, ist das Fehlen einer Kennzeichnung nicht mehr neutral. Bislang war ein synthetischer Inhalt ohne Warnhinweis einfach nur ein synthetischer Inhalt ohne Warnhinweis. Ab dieser Woche stellt dies einen Verstoß dar. Und ein Verstoß erfüllt in einem Rechtsstreit einen ganz konkreten Zweck: Er untermauert das Element der Vorsätzlichkeit – jenes Element, das stets am schwierigsten nachzuweisen ist, wenn jemand geltend macht, es habe sich um einen Scherz, eine Parodie oder ein Experiment gehandelt.

Auch der Umgang mit den Plattformen verändert sich. Eine Benachrichtigung mit dem Hinweis “Dies ist eine Falschmeldung” steht im Widerspruch zur Aussage desjenigen, der den Beitrag hochgeladen hat. Eine Benachrichtigung mit dem Hinweis “Dies ist nicht identifizierter synthetischer Inhalt, in einem Rahmen, in dem die Identifizierung seit dem 2. August 2026 vorgeschrieben ist”, stellt ein anderes Argument dar, und die Moderationsteams behandeln dies anders.

Und der strafrechtliche Rahmen in Spanien verändert sich, wenn auch noch nicht vollständig. Der Gesetzentwurf zum Schutz Minderjähriger in digitalen Umgebungen, der derzeit im Parlament beraten wird, sieht eine Reform des Strafgesetzbuchs vor, um Deepfakes mit sexuellem Inhalt, die unter Verwendung des Gesichts oder des Körpers einer Person ohne deren Einwilligung erstellt wurden, ausdrücklich unter Strafe zu stellen. Parallel dazu hat die Europäische Union im Mai auf Vorschlag Spaniens beschlossen, KI-Systeme, die zur Erstellung solcher Inhalte bestimmt sind, direkt zu verbieten.

Falls Ihr Exemplar bereits im Umlauf ist

Nichts davon hilft, wenn das Video bereits in einer WhatsApp-Gruppe mit zweihundert Teilnehmern ist. In diesem Fall muss man etwas anderes tun, und zwar in der richtigen Reihenfolge.

Zunächst sollten Sie die Beweise sichern, bevor der Inhalt entfernt wird: datierte Screenshots, URLs, Konto-IDs und, wenn möglich, das Herunterladen der Originaldatei, da die Metadaten und eventuelle technische Kennzeichnungen des Anbieters genau die Beweise sein können, die Sie später benötigen. Eine Gegendarstellung zu veröffentlichen, bevor Sie die Beweise gesichert haben, ist ein Fehler, der teuer zu stehen kommt.

Anschließend muss an zwei Fronten gleichzeitig vorgegangen werden. Einerseits der Rückzug, gestützt auf die Verordnung über digitale Dienste, die die Plattformen dazu verpflichtet, Mechanismen zur Meldung und zum Eingreifen bereitzustellen, und andererseits die Recht auf Löschung im Vergleich zu den Kopien, die erstellt wurden. Zum anderen die De-Indexierung, denn das Video könnte von der ursprünglichen Plattform verschwinden und dennoch weiterhin angezeigt werden, wenn jemand Ihren Namen in eine Suchmaschine eingibt. Es handelt sich um zwei unterschiedliche Aufgaben, von denen keine die andere ersetzt.

Parallel dazu sollten je nach Inhalt zivilrechtliche Schritte wegen Verletzung der Ehre und des eigenen Ansehens oder eine Strafanzeige in Betracht gezogen werden. Dabei gilt ein Hinweis, den wir hier bereits gegeben haben und der erneut relevant ist: die Uhr Es beginnt früher zu laufen, als die Menschen glauben.

Ein Hinweis für Unternehmen

Dieser Artikel wird vor allem von Personen gelesen, die besorgt sind, das Ziel eines Deepfakes zu sein. Aber es gibt eine zweite Lesart, die man nicht übersehen sollte.

Wenn Ihr Unternehmen generative KI zur Erstellung von Inhalten nutzt – Produktbilder, Sprachaufnahmen, Videos, einen Web-Assistenten –, gelten für Sie seit Sonntag konkrete Verpflichtungen. Und das Risiko besteht nicht nur in einer Geldstrafe. Vielmehr besteht die Gefahr, dass ein Wettbewerber, ein unzufriedener Kunde oder ein ehemaliger Mitarbeiter öffentlich darauf hinweist, dass Sie synthetisches Material ohne entsprechende Kennzeichnung veröffentlichen. Das ist eine klassische Reputationskrise, mit dem Unterschied, dass in diesem Fall die Kritik berechtigt wäre.

Die ordnungsgemäße Erfüllung und die Fähigkeit, diese nachzuweisen, haben aufgehört, eine bloße Compliance-Formalität zu sein, und sich in einen Vertrauenswert verwandelt.

Wenn Sie sich in einer der beiden Situationen befinden, analysieren wir Ihren Fall kostenlos, unverbindlich und absolut vertraulich. Wir sind nur einen Klick entfernt.

WIR HELFEN IHNEN
Möchten Sie mehr darüber erfahren oder brauchen Sie Hilfe dabei?

Wir analysieren Ihren Fall kostenlos, unverbindlich und in völliger Vertraulichkeit.