Künstliche Intelligenz entscheidet, was verboten, geduldet und gefördert wird

Eine halbe Million Ungarn könnte von Facebook mit Restriktionen belegt worden sein, während die Regeln für die Moderation von Inhalten und Benutzerkonten der Online-Plattformen praktisch undurchsichtig sind – darauf weist unter anderem eine kürzlich von der Nationalen Medien- und Infokommunikationsbehörde (NMHH) in Auftrag gegebene Studie hin, deren Ergebnisse am Dienstag von der Kommunikationsdirektion der Behörde veröffentlicht wurden.

Die Studie analysierte die Praktiken und Richtlinien von Facebook und YouTube und untersuchte, wie die großen Plattformanbieter die Nutzer einschränken. Der Autor, Zsolt Ződi, weist darauf hin, dass Online-Plattformen künstliche Intelligenz nutzen, um jeden Monat Millionen von Sanktionsentscheidungen zu treffen, die in der Regel nicht von echten Menschen überprüft werden.

Laut der Studie verlangt die Verordnung der Europäischen Union über digitale Dienste (DSA) nun, dass alle Online-Plattformen über ihre Moderationsentscheidungen Bericht erstatten. Dabei zeigt sich, dass jeden Tag Hunderttausende von restriktiven Entscheidungen getroffen werden und jeden Monat Millionen von Entscheidungen getroffen werden, in der Regel unter Verwendung künstlicher Intelligenz. Diese Entscheidungen werden den Nutzern in der Regel nicht erklärt oder begründet, so dass sie im Unklaren darüber gelassen werden, wie die Beschränkungsalgorithmen funktionieren.

Die Betroffenen haben zwar die Möglichkeit, die Handlungen der Plattformanbieter anzufechten, aber auch ihre Beschwerden werden in der Regel von künstlicher Intelligenz entschieden,

von der kaum erwartet werden kann, dass sie die ursprüngliche Entscheidung außer Kraft setzt. Eine sinnvolle Bearbeitung von Beschwerden und die Wiederherstellung gesperrter Inhalte oder Konten werde daher immer seltener.

Ein weiteres Hindernis für die Nutzer ist die Unübersichtlichkeit der Richtlinien der Plattformen: Die Anbieter fassen sie nicht in einem einzigen, transparenten Dokument zusammen, und ihre Richtlinien zu kleineren Teilbereichen gruppieren Verstöße oft auf unlogische Weise. Außerdem gibt es eine Reihe sehr weit gefasster Bestimmungen. YouTube beispielsweise legt in seinen Geschäftsbedingungen fest, dass es nicht nur Inhalte entfernen kann, die ausdrücklich illegal sind oder gegen die Regeln verstoßen, sondern auch alles, was der Plattform „Schaden zufügen könnte“.

Die Anbieter moderieren vor allem Inhalte, die als Spam oder als Fake-Accounts identifiziert werden, aber

sie treffen auch restriktive Entscheidungen in Hunderttausenden von Fällen in zwei Kategorien, die erhebliche Auswirkungen auf die Meinungsfreiheit haben: Hassrede und Desinformation.

Die Studie untersuchte auch die restriktiven Praktiken der einschlägigen Plattformanbieter gegenüber ungarischen Nutzern, wobei Verbote und Schattenverbote getrennt betrachtet wurden. In den ersten Fällen sendet der Dienstanbieter eine Benachrichtigung über die Moderation, aber in den zweiten Fällen wendet der Dienstanbieter Beschränkungen ohne das Wissen des Nutzers an, zum Beispiel indem er einen Beitrag nicht in den News Feeds anderer Nutzer anzeigt.

Die riesigen Plattformen stellen keine länderspezifischen Daten über ihre Moderationspraktiken zur Verfügung, aber laut einer repräsentativen Fragebogenerhebung der Nationalen Universität für den öffentlichen Dienst

haben fast 15 Prozent der Ungarn, die 2024 befragt wurden,  eine Löschung oder Einschränkung von Inhalten durch ihren Dienstanbieter oder sogar eine Sperrung ihres Kontos erlebt,

was einem Anstieg von fünf Prozent gegenüber den Vorjahren entspricht. Darüber hinaus wurde die Hälfte der betroffenen Nutzer bereits mehr als einmal gesperrt, und bei etwa einem Viertel wurden die Konten von ihrem Dienstanbieter gesperrt. Ein Drittel von ihnen hat explizit um die Aufhebung einer Beschränkung gebeten, aber im Jahr 2024 wurde nur ein Zehntel der gesperrten Inhalte von der Plattform wiederhergestellt.

In der im Jahr 2020 veröffentlichten Umfrage war dieser Anteil viel höher, wobei der Dienstanbieter rund ein Fünftel der gesperrten Inhalte wiederherstellte, was vor allem darauf zurückzuführen sein könnte, dass die Plattformanbieter bei der Bearbeitung von Beschwerden zunehmend auf künstliche Intelligenz setzen.

Die Studie wies darauf hin, dass es von Vorteil wäre, wenn die Nutzer in Zukunft eine aussagekräftige Erklärung von den Plattformen erhalten könnten, wenn sie gesperrt werden. Sie betonte auch, dass die riesigen Plattformen, die aus der digitalen Welt nicht mehr wegzudenken sind, ein viel breiteres Spektrum an menschlichen Agenten als heute bereitstellen und um Größenordnungen mehr Personal beschäftigen müssten.

Via MTI Beitragsbild: Pixabay