EU einigt sich auf Digital-Gesetz gegen Hass und Hetze im Internet

Einheitliche Regeln zum Löschen von Hassrede und anderen illegalen Inhalten

Soziale Netzwerke wie Facebook und andere Plattformen im Internet müssen in der EU künftig einheitliche Regeln etwa beim Löschen von Hassrede und anderen illegalen Inhalten einhalten. Unterhändler des Europaparlaments und der EU-Staaten einigten sich am frühen Samstagmorgen in Brüssel auf ein Gesetz über digitale Dienste (Digital Services Act, DSA), das für eine strengere Aufsicht von Online-Plattformen und mehr Verbraucherschutz sorgen soll. Für die letzte Verhandlungsrunde wurden ganze 16 Stunden gebraucht. Die Reaktionen auf den Deal fielen überwiegend positiv aus.

Positive Reaktionen auf Einigung der EU auf Digital Services Act

EU-Kommissionspräsidentin Ursula von der Leyen sprach von einer historischen Einigung. "Unsere neuen Regeln werden die Online-Nutzer schützen, die freie Meinungsäußerung gewährleisten und den Unternehmen neue Möglichkeiten eröffnen." Dies sei ein starkes Signal für die Menschen, Unternehmen und Länder weltweit.

Bundesjustizminister Marco Buschmann (FDP) sagte: "Der Digital Services Act wahrt die Meinungsfreiheit auch im digitalen Raum. So dürfen Plattformen Beiträge nicht willkürlich löschen und müssen ihre Löschentscheidungen auf Antrag überprüfen." Zugleich dürften Plattformen nicht hinnehmen, wenn ihre Dienste zur Verbreitung strafbarer Inhalte missbraucht werden. "Morddrohungen, aggressive Beleidigungen und Aufrufe zu Gewalt sind kein Ausdruck von Meinungsfreiheit, sondern Angriffe auf den freien und offenen Diskurs."

Buschmanns für Digitales zuständiger Kabinettskollege Volker Wissing sprach von einem Meilenstein für die Bürgerinnen und Bürger. "Der DSA schafft mehr Sicherheit im digitalen Raum, er stärkt die Nutzerrechte und setzt klare und internationale Standards für die Regulierung von Online-Plattformen." Diese seien nun stärker für Postings und die Integrität von Waren und Dienstleistungen verantwortlich.

Weniger Hass und Hetze im Netz sowie Reduzierung des Verkaufs gefälschter Produkte

Der DSA soll unter anderem sicherstellen, dass illegale Inhalte wie Hassrede nach entsprechenden Hinweisen schneller aus dem Netz entfernt, schädliche Desinformation und Kriegspropaganda weniger geteilt und auf Online-Marktplätzen weniger gefälschte Produkte verkauft werden. Dafür müssen Plattformen wie Instagram ihre Empfehlungsalgorithmen erstmals transparenter machen.

Was offline illegal ist, soll es auch online sein

Grundlegendes Prinzip ist: Was offline illegal ist, soll es auch online sein. Anbieter digitaler Dienste sollen von Rechtssicherheit und einheitlichen Regeln in der EU profitieren. Große Plattformen und Suchmaschinen mit mindestens 45 Millionen Nutzern müssen deutlich mehr Regeln befolgen als kleinere.

Die Einigung vom Samstag muss noch einmal vom Europaparlament und den EU-Staaten bestätigt werden. Dies gilt als Formsache. Nach Inkrafttreten soll eine Übergangsfrist von 15 Monaten gelten. Für die sehr großen Plattformen und Suchmaschinen sollen die Regeln bereits vier Monate nachdem sie designiert worden sind gelten.

Christoph Heubner, Exekutiv-Vizepräsident des Internationalen Auschwitz Komitees, sieht im DSA eine große Chance. Für Überlebende des Holocaust sei er ein "überaus deutliches Hoffnungszeichen", das sich jedoch in der Realität beweisen müsse. "Wenn das Prinzip "was offline illegal ist, soll auch online illegal sein" durchgesetzt wird, wäre für das gesellschaftliche Miteinander und die Bekämpfung rassistischen und antisemitischen Hasses sowie faschistischer Kriegspropaganda Entscheidendes gewonnen."

Der DSA ist Teil eines großen Digital-Pakets, das die EU-Kommission im Dezember 2020 vorgeschlagen hat. Der zweite Teil ist das Gesetz über digitale Märkte (Digital Markets Act, DMA), bei dem es bereits Ende März eine Einigung gab. Der DMA soll vor allem die Marktmacht von Tech-Giganten wie Google und Facebook mit strengeren Regeln beschränken. In Deutschland gilt schon jetzt das Netzwerkdurchsetzungsgesetz (NetzDG) zur Bekämpfung von Straftaten und Hassrede im Internet. Dies dürfte in weiten Teilen durch den DSA ersetzt werden.

Die wichtigsten Fragen und Antworten rund um den Digital Services Act

Was ist das Gesetz über digitale Dienste?

Der DSA ist Teil eines Digital-Pakets, das die EU-Kommission Ende 2020 vorgeschlagen hat. Ziel waren verbindliche Regeln für das Internet. EU-Kommissionsvize Margrethe Vestager verglich die Lage mit der ersten Ampel, die Ordnung auf die Straßen gebracht habe.

Das Gesetz verfolgt ein grundlegendes Prinzip: Was offline illegal ist, soll es auch online sein. Das gilt etwa für Hassrede und Terrorpropaganda, aber auch für gefälschte Produkte, die auf Online-Marktplätzen verkauft werden. Die Plattformen sollen mehr Verantwortung dafür übernehmen, was bei ihnen passiert. Der zweite Teil des Digital-Pakets war das Gesetz über digitale Märkte (Digital Markets Act, DMA), bei dem es bereits Ende März eine Einigung gab. Der DMA soll die Marktmacht von Tech-Giganten wie Google und Facebook mit strengeren Regeln beschränken.

Wer muss die neuen Regeln befolgen?

Grundsätzlich sollen die neuen Regeln für digitale Dienste gelten, die Vermittler sind und Verbrauchern Zugang beispielsweise zu Waren und Inhalten ermöglichen. Das können Online-Marktplätze wie der von Amazon sein, Soziale Medien wie Facebook, Plattformen zum Teilen von Inhalten wie Youtube und Suchmaschinen wie Google. Große Dienste müssen mehr Regeln befolgen als kleine. Für kleine Unternehmen mit weniger als 45 Millionen aktiven Nutzern im Monat wird es Ausnahmen geben.

Was schreibt der DSA genau vor?

Grundsätzlich gilt, dass die Unternehmen illegale Inhalte wie Hassrede, Gewaltaufrufe oder Terrorpropaganda zügig entfernen müssen, wenn sie darüber informiert werden. Nutzer sollen derlei Inhalte einfach melden können. Auch sollen sie die Möglichkeit haben, die Lösch-Entscheidungen der Plattformen anzufechten und Entschädigung zu fordern.

Ein Unterschied soll gemacht werden zwischen illegalen Inhalten und solchen, die zwar schädlich sind, aber unter die Meinungsfreiheit fallen. Das könnten etwa Lügen über die Wirksamkeit von Impfstoffen sein, die die Gesundheit von Menschen gefährden. Oder Falschbehauptungen zu Essstörungen, die etwa junge Frauen in die Magersucht treiben. Marktplätze werden dazu verpflichtet, Anbieter zu überprüfen, damit weniger gefälschte Produkte im Netz landen. Manipulative "Dark Patterns", die Verbraucher zur Kaufentscheidung drängen, werden verboten.

Auch sonst werden derlei irreführende Benutzeroberflächen - etwa bei der Cookie-Auswahl - weitgehend verboten. Sensible Daten wie religiöse Überzeugungen, sexuelle Vorlieben oder politische Ansichten dürfen nur begrenzt für gezielte Werbung genutzt werden. Minderjährige sollen grundsätzlich keine personalisierte Werbung mehr bekommen. Soziale Netzwerke müssen ihre Empfehlungsalgorithmen transparenter machen und den Nutzern Wahlmöglichkeiten bieten. Bei Verstößen drohen Strafen in Höhe von sechs Prozent des weltweiten Jahresumsatzes.

Neu ist zudem ein Krisenmechanismus, den die EU-Kommission wegen des russischen Angriffs auf die Ukraine nachträglich vorgeschlagen hatte. Dieser soll in Fällen wie Krieg, Pandemie oder Terror die Auswirkungen von Manipulation im Netz begrenzen. Die EU-Kommission kann den Mechanismus auf Empfehlung des Gremiums der nationalen DSA-Koordinatoren auslösen und dann über Maßnahmen der sehr großen Dienste entscheiden.

Was gilt für besonders große Dienste?

Als besonders groß gelten Plattformen und Suchmaschinen mit mehr als 45 Millionen Nutzern. Mit Blick auf schädliche Inhalte müssen sie künftig einmal jährlich eine Risikobewertung vorlegen und Gegenmaßnahmen vorschlagen. Diese Berichte werden von der EU-Kommission und Außenstehenden geprüft. Außerdem sollen Forscher Zugang zu Daten bekommen, die etwa bestimmen, was Nutzer in ihrem Newsfeed als Nächstes sehen. "Dies wird sich auf aufmerksamkeitsbasiertes Ranking auswirken, das den Konzernen mit Desinformation, Hass und Hetze die Taschen vollmacht", sagte die Grünen-Abgeordnete Alexandra Geese nach der Einigung. Erstmals habe man eine unabhängige gesellschaftliche Kontrolle der Plattformen.

Wie wirken sich die Regeln auf das deutsche NetzDG aus?

Deutschland war - zum Missfallen der EU-Kommission - schon vor Jahren mit dem Netzwerkdurchsetzungsgesetz (NetzDG) zur Bekämpfung von Straftaten und Hassrede im Internet vorgeprescht. Das NetzDG dürfte durch den DSA hinfällig werden - auch, wenn das EU-Gesetz etwa bei den Löschfristen hinter dem deutschen Gesetz zurückbleibt. Insgesamt hat der DSA jedoch einen deutlich größeren Geltungsbereich. Das zuständige Bundesverkehrsministerium teilte am Samstag mit, dass ein Digitale-Dienste-Gesetz erarbeitet werden solle und die bestehenden nationalen Gesetze umfänglich überarbeitet werden müssten.

Wie fallen die Reaktionen aus?

Die Einigung wurde überwiegend positiv aufgenommen. Claudia Prettner von Amnesty International sprach von einem "Wendepunkt in der Geschichte der Internetregulierung". "Der DSA führt zu einer Online-Welt, in der unsere Menschenrechte besser geachtet werden, indem die unkontrollierte Macht von Big Tech wirksam gebremst wird." Christoph Heubner, Exekutiv-Vizepräsident des Internationalen Auschwitz Komitees, sagte, der DSA sei für Überlebende des Holocaust ein "überaus deutliches Hoffnungszeichen", das sich jedoch in der Realität beweisen müsse.