Mitgliederbereich
Im Namen der Terrorismusbekämpfung werden digitale Überwachungssysteme vielfach zur Einschränkung von Zivilgesellschaft missbraucht. Damit die neuen Technologien im Einklang mit den Menschenrechten stehen, braucht es dringend rechtliche Rahmenbedingungen und angemessene Schutzkonzepte. Der Zivilgesellschaft kommt bei der Forderung und Einhaltung solcher Maßnahmen eine wichtige Rolle zu.
Eine große Palette neuer Technologien bietet ungeahnte Möglichkeiten staatlicher Überwachung. Auf der einen Seite versprechen sie mehr Sicherheit und werden häufig als Anti-Terror-Maßnahmen eingeführt. Auf der anderen Seite dient die digitale Überwachung oftmals der Einschränkung von Zivilgesellschaft sowie der Zementierung autokratischer Regierungen. Im Kontext wachsender Einschränkungen von Freiheits- und Menschenrechten sowie zivilgesellschaftlichen Handlungsräumen müssen sich Nichtregierungsorganisationen, Aktivist_innen, Regierungen, Sicherheitsbehörden, Firmen und Abgeordnete dringender denn je mit den Schattenseiten neuer Überwachungstechnologien auseinandersetzen.
Dieser Blogbeitrag beleuchtet die Auswirkungen von Content Moderation, biometrischer Überwachung und Spionagesoftware auf die Arbeit von Zivilgesellschaft und Menschenrechtsverteidiger_innen sowie die Rolle von internationalen Organisationen wie der Financial Action Task Force (FATF) und den Vereinten Nationen (UN).
Biometrie und Überwachung beschneiden die Menschenrechte
Eine wachsende Zahl von Ländern führt großflächige biometrische Überwachungssysteme ein. Denn die rasante Entwicklung dieser Technologie und sinkende Preise erlauben einem immer größeren Kreis von Staaten und privaten Firmen, Zugriff auf biometrische Überwachung zu bekommen. Gleichzeitig erlauben Fortschritte bei der Entwicklung künstlicher Intelligenz den Aufbau automatisierter Analysesysteme. So hat beispielsweise Serbien in den letzten Jahren die öffentliche Videoüberwachung in der Hauptstadt Belgrad mit Hilfe chinesischer Konzerne massiv ausgebaut. Auch in Ugandas Hauptstadt ist die Überwachung dank chinesischer Hard- und Software bereits jetzt fester Bestandteil des Alltags. In weiteren Ländern sind ähnliche Entwicklungen mit chinesischer Unterstützung erkennbar – etwa in Simbabwe oder Kenia.
Viele dieser Systeme ermöglichen die Identifizierung von Personen anhand ihrer körperlichen Merkmale. Die Einführung wird meist mit der Bekämpfung von Terrorismus und Kriminalität begründet. Insbesondere in autoritären Regimen werden biometrische Technologien jedoch genutzt, um Kritik an der Regierung zu unterbinden und Oppositionellen nachzustellen. Menschenrechtsorganisationen wie Privacy International decken Beschneidungen des Versammlungsrechts und des Rechts auf Privatsphäre auf.
Die flächendeckende Überwachung hat meist auch zur Folge, dass Menschen ihr Recht auf Versammlung und freie Meinungsäußerung aus Angst vor negativen Folgen nicht mehr wahrnehmen. Letztlich geraten auch zivilgesellschaftliche Organisationen und Menschenrechtsverteidiger_innen, die ihren Regierungen unangenehme Fragen stellen, in den Fokus von Überwachungsmaßnahmen.
Es besteht ein dringender Bedarf an besseren rechtlichen Rahmenbedingungen zur Sicherstellung einer menschenrechtskonformen Nutzung.
Content Moderation in sozialen Medien wird vielfach missbraucht
Content Moderation in sozialen Medien findet täglich statt, wenn Betreiberfirmen von Plattformen wie YouTube, Facebook oder Twitter Einträge löschen oder deren Verbreitung unterbinden. Content Moderation ist ein wichtiger Aspekt bei der Bekämpfung von Gewalt und menschenverachtenden Aussagen im Internet. Die Betreiber sozialer Medien-Plattformen stehen unter Druck, entsprechende Inhalte zu moderieren und deren Verbreitung zu unterbinden. Die Herausforderung besteht darin, die richtige Balance zwischen Meinungsfreiheit, Menschenrechten, geltenden lokalen Gesetzen und der Sicherheit der Nutzer_innen zu finden.
In den letzten Jahren wurden Dutzende nationale Regelwerke für soziale Medien aufgestellt – vielfach auf einer menschenrechtlich zweifelhaften Basis. Laut des Büros des Hochkommissars für Menschenrechte (OHCHR) gibt es erhebliche Bedenken etwa in Australien, Brasilien, Bangladesch, Frankreich, Großbritannien, Singapur und Tansania. Zudem lässt die Transparenz der Plattformbetreiberfirmen hinsichtlich entfernter Inhalte und staatlicher Anfragen zur Entfernung von Inhalten viel zu wünschen übrig. Dennoch wird vielfach deutlich, dass Content Moderation missbraucht wird, um die Arbeit von Menschenrechtsaktivist_innen zu behindern.
Kontrolle von Spionagesoftware ist weiterhin unzureichend
Spionagesoftware, ursprünglich für die Terrorismusbekämpfung entwickelt, wird in allen Weltregionen von staatlichen Behörden missbraucht, um Journalist_innen, Aktivist_innen und normale Bürger_innen ohne Verbindungen zu kriminellen Aktivitäten zu überwachen. Die Software dafür stammt häufig auch aus Europa. Für die Überwachung von Presse und Opposition im Internet nutzt beispielsweise die ägyptische Regierung Spionagesoftware aus Frankreich, Italien und Deutschland zur Überwachung von Smartphones und Online-Kommunikation.
Der wohl bekannteste bisherige Fall ist der Einsatz von Pegasus, einer in Israel entwickelten Software zur Smartphone-Überwachung, mit der Medienberichten nach über 50.000 Menschen überwacht wurden, darunter etliche Journalist_innen, Anwält_innen, Politiker_innen, Wissenschaftlicher_innen und Menschenrechtsverteidiger_innen.
Die regulatorischen Ansätze zur Kontrolle von Spionagesoftware sind weiterhin unzureichend und es besteht ein dringender Bedarf an weitreichenden rechtlichen Rahmenbedingungen, Haftungsregelungen und Exportkontrollen.
Auch die Vereinten Nationen mischen mit
Im Namen der Terrorismusbekämpfung arbeitet auch die internationale Staatengemeinschaft an neuen globalen Überwachungsmethoden. Das Büro der Vereinten Nationen zur Bekämpfung von Terrorismus (UNOCT) entwickelte in den letzten Jahren eine Software namens goTravel zur Erhebung, Analyse und Weitergabe von Flugpassagierdaten sowie ein Überwachungsprogramm für den Zahlungsverkehr namens goFintel.
Welche Länder Zugang zu diesen potenten Überwachungsapparaten haben werden, welche Voraussetzungen dafür erfüllt werden müssen, wie die Einhaltung der Menschenrechte während des Einsatzes gewährleistet und Verstöße geahndet werden können, ist trotz baldiger Einführung nicht geklärt. Die Bereitstellung solcher Programme an Regierungen mit Menschenrechtsverletzungen oder Ländern, die derzeit von UN-Sanktionen betroffen sind, müsste in jedem Fall verhindert werden, um weiteren Einschränkungen zivilgesellschaftlicher Handlungsräume keinen Vorschub zu leisten.
Eine menschenrechtsbasierte Regulierung ist dringend gefragt
Der Ausbreitung des digitalen Autoritarismus muss von demokratischen Staaten etwas entgegengesetzt werden. Es ist von entscheidender Bedeutung, dass bei der Entwicklung und Anwendung neuer (Überwachungs-)Technologien menschenrechtliche Aspekte konsequent berücksichtigt und angemessene Schutzmaßnahmen implementiert werden.
Die Zivilgesellschaft spielt eine wichtige Rolle bei der Forderung und Einhaltung solcher Schutzmaßnahmen, um sicherzustellen, dass der Einsatz neuer Technologien im Einklang mit den Menschenrechten steht. Nur durch eine ausgewogene und verantwortungsvolle Herangehensweise kann eine effektive Terrorismus- und Kriminalitätsbekämpfung gewährleistet werden, ohne die Grundrechte der Menschen zu gefährden und die Arbeit zivilgesellschaftlicher Organisationen einzuschränken.
Zum Weiterlesen:
Brot für die Welt (2022) Digitalisation and Civic Space: Chances and Challenges
Lukas Goltermann (2022) Terrorismusbekämpfung zur Einschränkung von Zivilgesellschaft?, VENRO Blog
James Lynch (2022) Iron net: Digital repression in the Middle East and North Africa, Policy Brief, European Council on Foreign Relations
ECNL (2023) Technology and Artificial Intelligence
| Lukas Goltermann |  |
VENRO |