Als queerer Mensch ist es nicht sehr unwahrscheinlich, irgendwo Queerfeindlichkeit zu begegnen – sei es bei einem Spaziergang durch die Stadt, beim Lesen der Zeitung (hybrid) oder irgendwo online. Das Spektrum dieser Feindlichkeit reicht von Mikroaggression über Beschimpfungen und Beleidigungen bis hin zu tätlichen Angriffen und Mord. Das Problem ist so schlimm, dass bei den Behörden Statistiken über queerfeindliche Straftaten geführt werden, die seit Jahren nach oben gehende Zahlen aufweisen. Der Lesben- und Schwulenverband in Deutschland LSVD führt dazu eine Chronik über homophobe und transfeindliche Vorfälle.
In sozialen Netzwerken werden diese Angriffe immer öfter publik gemacht, auch Nachrichtenseiten berichten über besonders krasse Fälle von Queerfeindlichkeit. Mit jeder Veröffentlichung eines solchen Falles äußern sich oft auch Menschen, selbst nicht queer sind. Aber die für die Rechte von queeren Menschen eintreten und ihrer Solidarität Ausdruck verleihen wollen.
Der Sammelbegriff für nicht queere Menschen in dieser Kolumne lautet „Hete“ (Singular) und „Heten“ (Plural).
Sie kommunizieren ehrliche Empörung über die Tat und schieben noch der Hashtag #LoveisLove hinterher – um sich selbst und anderen zu sagen, dass sie an der Seite queerer Menschen stehen. Nachdem in London ein lesbisches Paar brutal zusammengeschlagen wurde, bekamen sie auf ihrer Facebook-Seite ein ermutigendes „Love is Love“ in die Kommentare geschrieben. Auf Berichte von Opfern kommt ein ermutigendes „Lieb doch, wen Du willst“.
„Das ist doch heutzutage gar kein Problem mehr“, bekommen queere Menschen oft nach dem Outing zu hören. Gleichzeitig ist es „so toll, dass ihr offen dazu steht“, wenn sich ein queeres Paar irgendwo zeigt. Es sind so viele Phrasen, dass es schon seit Jahren schwules Bullshit-Bingo gibt.
Die Realität sieht anders aus
So sehr ich mich über Solidarität von Heten freue, so sehr ich mich darüber freue, dass Heten den queeren Kampf mitkämpfen und unterstützen – diese Phrasen machen mich sauer. Strukturelle Queerfeindlichkeit lässt sich nicht mit Phrasen aus den Köpfen dreschen, die ignorieren, dass die queere Realität anders aussieht. Damit ich diese Phrasen also nie wieder hören muss, erkläre ich euch jetzt, was genau das Problem damit ist.
Jede Liebe ist gleich. Es ist doch egal, wer wen liebt. „Love is Love!“
Das ist falsch. Liebe ist eben nicht Liebe. Denn wenn es so wäre, müsste es niemand sagen. Wenn ein homosexueller Mann erzählt, dass er mit einem anderen Mann zusammen ist, sind die Reaktionen anders, als wenn Menschen von ihrer Heteroliebe berichten. Sobald der Homosexuelle sagt, dass er mit einem Mann zusammen ist, den er liebt, kommt sehr oft: „Es ist mir ja egal, was im Schlafzimmer passiert, so lange es nicht illegal ist oder Kinder involviert sind.“
Niemand käme auf die Idee, das bei Heten zu sagen, die ihre Liebe öffentlich bekunden. Ein wichtiger Punkt bei Queerfeindlichkeit ist, dass es den Leuten zwar wirklich egal ist, wen jemand liebt. Es ist allerdings überhaupt nicht egal, wie es jemand tut.
Anstatt dafür zu sorgen, dass queere Menschen im öffentlichen Raum genauso wie Heten ihre Liebe zueinander zeigen können, kommt warme Luft mit Sprechblasen. Queerfeindlichkeit wird von vielen Menschen verurteilt und im Versuch der Solidarität direkt reproduziert. „Das ist doch heutzutage gar kein Problem mehr.“ Das bekommen queere Menschen gesagt, wenn sie von Ängsten berichten. Etwa dass sie Opfer von Angriffen werden könnten, wenn sie sich offen queer zeigen.
Natürlich ist es ein Problem, denn wenn es keins wäre, müssten wir gar nicht darüber sprechen.
Wenn es kein Problem wäre, würden homosexuelle Männer nicht andauernd von Heten hören, dass ihr Arsch aber in Ruhe gelassen wird. Es würden lesbische Frauen nicht ständig von hetero Frauen erzählt bekommen, dass sie ja auch schon mal eine andere Frau geküsst haben. Und vor allem müssten sich queere Menschen nicht ständig so eine Sülze anhören.
Wenn die Heten nicht damit aufhören, muss ich sie auch weiterhin fragen, ob sie die eine Heteroperson in meinem Bekanntenkreis kennen und ob sie sich nicht mal treffen wollen, denn sie würden so gut zusammen passen. Und wehe, die sind dann davon genervt. Ich meine es doch nur gut.
Twitter feuds are the roadside car wrecks of the internet. We all hate to see them, yet can’t look away. Most dust ups quickly deteriorate into blame games where the odds of learning something worthwhile are as likely as throwing an ace on a windy day.
But a recent confrontation on Twitter between Sascha Vogel and Brodie Smith offered a few educational takeaways.
It began December 3, on an otherwise sleepy afternoon in the Twittersphere. Smith, the ultimate player turned disc golfer and co-owner of Foundation Disc Golf, posted a disc giveaway to entice his Twitter followers to join his Foundation Discord, which currently has 10,000 members. For the uninitiated, a Discord server is an online community, similar to a Facebook group.
The mood quickly changed when Vogel reacted to Smith’s Tweet. Like Smith, Vogel cut his Frisbee teeth in ultimate before getting hooked on disc golf. As shown in the screenshot below, Vogel responded to Smith’s invitation by sharing his experience of being banned from the Foundation Discord for saying “Black Lives Matter.”
No Apologies
Most Twitter feuds can be ended with two words: I’m sorry. Had Smith or someone from Foundation simply apologized, I would not be writing this story. “Sorry Mr. Vogel. We would like to reinstate you in the group as we review our policies on this issue.”
Instead of issuing a mea culpa, @RebWillieD, the same administrator who had banned Vogel from the Foundation Discord, refuted his tweet.
Reprisals from Vogel’s followers funneled in and the intensity of the discussion escalated.
Although Smith pivoted from @RebWillieD’s position, he still discounted Vogel’s complaint, suggesting that he had been dismissed not for affirming the value of Black lives but for trolling and for supporting a Black Lives Matter political organization.
Without clear evidence, it’s difficult to parse these accusations. To me, it seems plausible that Vogel had hoped to ruffle some feathers on the Foundation Discord, but the claim that he broke a Foundation rule by pushing politics rather than affirming Black lives seems less credible.
There is an important, real and legal distinction between saying “Black Lives Matter” and advocating for a partisan organization. For instance, per the New York Times, “The Office of Special Counsel, an independent agency headed by a Trump appointee, said that federal employees can use the phrase ‘Black Lives Matter’ without violating the Hatch Act, which restricts political activity by government employees.”
But then, none of this really matters.
As it turns out, any reference to Black Lives Matter was grounds for being warned and then banned from the Foundation Discord. Both @RebWillieD and a second administrator Yeetimus Maximus clarified this issue when I asked about it on the Foundation Discord back in September as well as during the Twitter discussion on December 3 (see screenshots below).
Members could be banned for making statements that were perceived by administrators as having the potential to cause political debate. The conceptual distinction between affirming Black lives and supporting a Black Lives Matter organization was, in this case, moot.
It should be noted that the decision to block people from the server was not taken lightly, per the admins. Via Twitter messaging, @RebWillieD said, “Banning of members is taken as a last resort after repeated violations of rules or blatant disregard of moderators.”
Silence is Political
Once the conflicting reports were somewhat settled, people started talking about what it means when any disc golf group prohibits the discussion of controversial topics such as racism and sexism. The Foundation Discord is not the only group that censors speech deemed political or incendiary, and Vogel is not the first disc golfer to be silenced for breaking this rule.
After the killing of George Floyd by police in Minneapolis during an arrest last May, the topic of racial injustice increasingly surfaced in disc golf social media. For many disc golfers, these new conversations were not welcome.
For instance, as covered by Parked, on September 14, 2020, Jeremy Koling, pro disc golfer and beloved tournament announcer, appeared on the Jomez YouTube channel wearing a Black Lives Matter t-shirt while commentating an event. The shirt was only visible for three seconds, but an image of it found its way onto social media. In the next two weeks, thousands of disc golfers commented on multiple related posts.
Among those who condemned Koling’s nod to racial justice, the most common argument was that racial issues are political and should therefore be excluded from mediated spaces where disc golf is the main theme. On the emotional end of the spectrum, one person wrote, “FUCK DISC GOLF FOR GETTING POLITICAL!!!! GET THAT STUPID SHIT OFF THE COURSE!!!!”
Since his interview with Parked, Koling has not made further gestures or statements about racial inequality.
Politics is about power and the various methods people use to control individuals, groups, organizations and governments. By almost any reputable definition, the negative reactions to Koling’s t-shirt were political. Likewise, the act of banning someone from a large, public social media group for saying Black Lives Matter is political.
The silencing of antiracist voices is an all-too common political behavior in American society.
It happened to Colin Kaepernick for taking a knee. It happened to all National Football League players in 2018, when the league announced that everyone on the field must stand when the national anthem is heard. It happened to ESPN host Jemele Hill who was publicly reprimanded and suspended for speaking truth to power. It happened to Vice President-Elect Kamala Harris more than once. It happened to Koling for wearing a BLM t-shirt. It happened to me three times in the course of my sociological research on disc golf. And it happened to Sascha Vogel when he insisted that Black Lives Matter on the Foundation Discord.
As follows, @henhousesinger offered a thoughtful take on the politics of “No politics” and the consequences of silencing people on disc golf social media.
Growing the Sport Should Be Uncomfortable
I sympathize with those who seek low-stress social interactions in their disc golf lives. As someone who studies disturbing topics for a living, I often find sanctuary and relief on the disc golf course.
But, if disc golfers continue seeking comfort and retreatism rather than equity in the sport, the community will not change. Ten more years will pass and we will still be wondering why 93 percent of disc golfers are white and 85 percent are men.
Progress is impossible without change, and change is uncomfortable. Although Twitter feuds are infamous for producing discomfort of little redeeming value, the Vogel/Smith bout did create some progress.
By the end of the discussion, Smith shifted his tone and appeared willing to reinstate Vogel in the Foundation Discord. He also alluded to forthcoming policy changes.
Four days later, the Foundation Discord added a #current-events channel where “talk of politics is allowed as long as discussion remains civil and non-derogatory.” Only time will tell, but it appears that disc golfers can now affirm that Black Lives Matter and advocate for a related organization on the Foundation Discord.
If the disc golf community wants more diversity in its population, we’ll need to consider how diverse groups experience our predominantly white sport, accept discomfort as an inevitable consequence of progress and make changes. Change can be made today by all those moderators and admins on disc golf social media who prohibit discussions of racism, sexism and other difficult topics related to inclusion and diversity.
Creating an inclusive disc golf community won’t be easy. But allowing and listening to voices like Vogel’s is a good place to start. I reached out to Vogel for this story and asked him what it felt like to be banned by the Foundation Discord. I’ll leave you with his thoughts:
“I felt disrespected. Everyone claims that the disc golf community is so inclusive and welcoming to everyone, but that really only applies if you’re a cisgender heterosexual white male. As a Black man, I want to be able to go to the course and feel like I belong and feel like me and my life are respected. So when I get excluded by a community with 10k+ members in it for voicing my opinion, that tells me that mine and the lives of my Black brothers and sisters are not respected and that’s not a community I want to be a part of.” – Sascha Vogel
~~~
Please consider following and contributing to the ongoing discussion of racial issues in disc golf by following Parked on Twitter (@ADiscGolfBlog). You can also subscribe to our newsletter by entering your email address below.
Josh Woods, editor at Parked, is a professor of sociology at West Virginia University. He is working on a book, Emerging Sports as Social Movements: Disc Golf and the Rise of an Unknown Sport, to be published by Palgrave Macmillan in 2021.
Dylan lächelt in die Kamera, Arm in Arm mit den anderen Gästen einer queeren Bootsparty. Hinter ihnen glitzern Gläser in den Regalen einer Bar. Vor acht Jahren lädt ein Partyfotograf diesen Schnappschuss im Internet hoch. Dylan hatte ihn schon vergessen – bis heute. Denn mit einer Rückwärts-Suchmaschine für Gesichter können alle dieses alte Partyfoto von Dylan finden. Dazu müssen sie nur sein Profilbild aus dem Karrierenetzwerk Xing hochladen, kostenlos und ohne Anmeldung. Dylan will sein privates und berufliches Leben aber getrennt halten: Tagsüber arbeitet er als Banker in Frankfurt am Main.
Der Name der Suchmaschine ist PimEyes. Sie analysiert massenhaft Gesichter im Internet nach individuellen Merkmalen und speichert die biometrischen Daten. Als Dylan die Suchmaschine mit seinem Profilbild testet, gleicht sie es mit der Datenbank ab und liefert als Ergebnis ähnliche Gesichter, zeigt ein Vorschaubild und die Domain, auf der das Bild gefunden wurde. Dylan wurde erkannt, obwohl er damals im Gegensatz zu heute noch nicht einmal einen Bart trug.
Unsere Recherchen zeigen: PimEyes ist ein umfassender Angriff auf die Anonymität und möglicherweise rechtswidrig. Ein Schnappschuss kann genügen, um mittels PimEyes eine fremde Person zu identifizieren. Die Suchmaschine liefert zwar nicht direkt den Namen einer gesuchten Person. Aber wenn sie übereinstimmende Gesichter findet, lassen sich durch die angezeigten Websites in vielen Fällen Namen, Beruf und vieles weitere herausfinden.
Wer auch immer an einem öffentlichen Ort Gesicht zeigt, könnte erkannt werden, ob auf einer Demo, vor dem Wahllokal oder im Nachtbus, als hätten wir unseren Namen auf der Stirn tätowiert. Im Juni berichtete unter anderem die BBC, PimEyes könne von Stalkern missbraucht werden. Die Suchmaschine kann aber auch Sexarbeiter:innen outen, sogenannte Rachepornos leichter zugänglich machen oder von der Polizei genutzt werden, um nachträglich Besucher:innen von Demos zu identifizieren.
Wie Clearview AI für alle
Der Fall erinnert an den Eklat um das US-amerikanische Start-up Clearview AI – mit dem Unterschied, dass PimEyes seine biometrische Suche nicht nur Behörden, sondern öffentlich anbietet. Gleichzeitig sprechen sich große Tech-Konzerne wie IBM öffentlich gegen Gesichtserkennung aus und stoppen Kooperationen mit der Polizei.
Wir haben Fachpolitiker:innen aus dem Bundestag die Fähigkeiten der Software anhand ihrer eigenen Fotos demonstriert. Sie erkennen in PimEyes ein enormes Missbrauchspotenzial. Instagram und YouTube, deren Inhalte auf PimEyes auftauchen, möchten als Konsequenz unserer Recherchen juristisch gegen PimEyes vorgehen. Datenschutzexpert:innen sehen in öffentlich verfügbaren, biometrischen Suchmaschinen wie PimEyes mögliche Verstöße gegen die europäische Datenschutz-Grundverordnung (DSGVO). PimEyes riskiert damit immense Strafzahlungen.
Dylan empfindet PimEyes als Gefahr. „Diese Suchmaschine kann Menschen outen“, sagt er. Er selbst sei zwar geoutet, auch in seinem Beruf als Banker. Aber er kenne viele homosexuelle Kolleg:innen, die das nicht sind. „Vor allem in meinem Berufszweig sind viele Menschen noch konservativen Werten verfallen“, sagt Dylan. „Ich kenne Menschen, die ein Doppelleben haben, in einer Hetero-Ehe leben, und heimlich in der LGBT-Community Schutz suchen.“ Er vermutet, auch von ihm könnte es Fotos geben, mit denen er nicht öffentlich auftreten möchte, etwa vom Christopher Street Day.
Auf Instagram und Twitter ist Dylan unter Pseudonym unterwegs, postet über den Kampf für LGBT-Rechte und Antirassismus. Berufliche Kontakte kennen seine Nutzernamen dort nicht, sagt er. Die Gesichtersuche könnte das ändern, gegen seinen Willen. PimEyes, so Dylan, könne bei Menschen viel Schaden anrichten. Er bittet uns, dass wir für den Artikel seinen Namen ändern.
Noch liefert die Suchmaschine nur zwei Ergebnisse zu Dylans Gesicht. Das könnten aber schnell mehr werden, denn die polnische Firma hinter PimEyes grast das Internet ständig weiter nach Fotos ab.
900 Millionen Gesichter, 1 Terabyte Fotos pro Tag
PimEyes warb mit mehr als 50 Millionen analysierten Websites Alle Rechte vorbehalten Screenshot netzpolitik.org
In einem Post auf seiner inzwischen nicht mehr verfügbaren Facebook-Seite protzt PimEyes 2018 mit großen Zahlen: Täglich würden mehr als 1 Terabyte an Fotos analysiert, die Datenbank beinhalte die biometrischen Daten von über 100 Millionen Gesichtern. Und die Zahl wächst rasant: Ein Jahr später sollen es 500 Millionen analysierte Gesichter sein, heißt es in einem Dokument der Polnischen Agentur für Unternehmensentwicklung, im April 2020 seien es laut Website schon 900 Millionen Gesichter. Das entspräche mehr als der Bevölkerung Europas und Russlands zusammen.
Ein Angebot für Entwickler:innen macht sichtbar, von welchen Dimensionen die Betreiber offenbar träumen: Es gibt einen besonders großen Rabatt, wenn jemand 100 Millionen Gesichtersuchen pro Monat durchführen will.
Kurz nachdem wir uns bei PimEyes nach dem Facebook-Post mit den Zahlen erkundigt haben, ist der Post plötzlich offline. Je mehr wir PimEyes mit kritischen Fragen konfrontieren, desto mehr verstrickt sich die Firma in Widersprüche. Fragwürdige Passagen aus ihren Online-Angeboten werden während unserer Recherchen mehrfach verändert oder offline genommen.
PimEyes inszeniert sich als freundlicher Helfer
PimEyes-Suchergebnisse des Autors: Die Suchmaschine hat sogar YouTube-Thumbnails und einen auf Twitter veröffentlichten Schnappschuss erkannt Alle Rechte vorbehalten Screenshot netzpolitik.org
Es ist kein Zufall, dass PimEyes deutlich mehr liefert als die Google-Bildersuche. Technologisch wäre eine biometrische Suche für Google kein Problem, das Hindernis sind wohl vor allem Gesetze zum Datenschutz. Auch Facebook hat bei der Erkennung von Nutzer:innen eine Geschichte gescheiterter Vorstöße hinter sich. Inzwischen ist die Funktion für Facebook-Nutzer:innen zwar verfügbar, aber standardmäßig ausgeschaltet.
In der DSGVO heißt es, die Verarbeitung von biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person ist untersagt. PimEyes argumentiert dagegen: Es gehe bei der Suchmaschine nicht um die Identifizierung einer Person. Nutzer:innen sollten dort allein ihr eigenes Gesicht hochladen.
So präsentiert sich PimEyes nicht als eine Bedrohung für die Privatsphäre, sondern als Helfer. „Lade dein Foto hoch und finde heraus, wo dein Gesicht im Internet erscheint“, heißt es auf der Startseite. „Fange an, deine Privatsphäre zu schützen“.
Aber diese Aufforderung ist neu. Prominent auf der Website aufgetaucht ist sie erst, nachdem wir dem Unternehmen einen umfangreichen Fragenkatalog geschickt haben. Unter anderem wollten wir wissen, was PimEyes gegen den möglichen Missbrauch seiner Technologie durch Stalker unternimmt. Die internationale Diskussion über das Missbrauchspotenzial von PimEyes begann durch einen Artikel des Blogs One Zero im Juni 2020.
Dieses Thema möchte das Unternehmen offenbar unter allen Umständen vermeiden. Und so gibt sich die Suchmaschine neuerdings ausdrücklich als Werkzeug zur digitalen Selbstverteidigung, etwa um Fake-Profile von sich selbst aufzuspüren.
Fotos von Meghan, Herzogin von Sussex
Nur das eigene Gesicht hochladen? Alle Rechte vorbehalten Screenshot netzpolitik.org
Das Image von PimEyes bröckelt, sobald man näher hinschaut. Mag ja sein, dass Nutzer:innen dort nur ihr eigenes Bild hochladen sollen. Trotzdem existiert bereits die biometrische Datenbank mit nach eigenen Angaben mehreren Hundert Millionen analysierten Fotos. Und noch nicht einmal PimEyes scheint ernsthaft davon auszugehen, dass Besucher:innen nur nach ihrem eigenen Gesicht suchen. Denn die Betreiber haben ihre Nutzer:innen mehrfach dazu ermuntert, Bilder von Fremden hochzuladen.
Auf seiner Startseite schlug PimEyes bis vor Kurzem noch vor, mithilfe der Software nach Aufnahmen berühmter Menschen zu suchen. Ende Juni waren dort Fotos der Talkshow-Moderatorin Oprah Winfrey oder Meghan, Herzogin von Sussex, zu sehen.
Dass dies nun ein Problem sein könnte, scheint den Betreibern bewusst zu sein. Alte Spuren, die nicht zu der neuen Privatsphäre-freundlichen Erzählung passen, haben sie hastig verwischt. Verschwunden ist auch ein Werbeclip auf YouTube, der eine Suche nach Bildern von dem Schauspieler Johnny Depp zeigte.
„Früher war es möglich, mit PimEyes nach Gesichtern von Persönlichkeiten des öffentlichen Lebens zu suchen“, räumt das Unternehmen auf Nachfrage ein. In einer E-Mail beteuern die Betreiber, ihr Dienst dürfe nur noch genutzt werden, um Fotos des eigenen Gesichts hochzuladen.
Diese Entscheidung haben Łukasz Kowalczyk und Denis Tatina, die Menschen hinter PimEyes, offenbar sehr kurzfristig getroffen. Denn neben ihrer als Hobbyprojekt gestarteten Bildersuche betrieben die Absolventen der Technischen Universität Breslau einen weiteren Dienst namens Catfished. Die Website dazu rief förmlich zum Missbrauch der Technologie auf.
„Nutzen Sie die Macht von KI und Gesichtserkennung, um Freunde und Verwandte im Internet zu finden“, hieß es dort. Auch schlugen die Betreiber vor, Fotos von Profilen auf Dating-Plattformen durch die Suche zu jagen. „Verwenden Sie die Gesichtserkennung, um mehr über Ihren Schwarm herauszufinden!“ Deutlicher lassen sich Stalker kaum ansprechen.
25 Alarme für angeblich nur ein Gesicht
Heute geben Kowalczyk und Tatina an, bei Catfished handele es sich um ein „totes Projekt, nicht für EU-Länder entwickelt, weder jemals wirklich fertiggestellt noch veröffentlicht“. Dabei hatte Catfished eine Datenschutzerklärung, die das Unternehmen PimEyes als Administrator der Website führte und sich auf die DSGVO bezog, damit also sehr wohl Bezüge zur EU erkennen ließ.
Wie PimEyes war auch Catfished funktionsfähig, wir haben damit eine erfolgreiche Suche durchgeführt. Erkennbar war bei Catfished die klare Absicht, auch diese Software zu verbreiten. Erst nach einer Anfrage von netzpolitik.org verschwand die Website aus dem Netz. Diese und weitere Aufräumarbeiten können aber nicht über die Ungereimtheiten hinter PimEyes hinwegtäuschen.
Wer bei PimEyes etwa ein Premium-Abo abschließt, kann sich automatisch eine E-Mail schicken lassen, sobald die Software neue Übereinstimmungen mit einem hochgeladenen Gesicht entdeckt. Seltsamerweise können Premium-Kund:innen aber nicht nur einen Alarm für ihr eigenes Gesicht hinterlegen, sondern für bis zu 25 unterschiedliche Gesichter.
PimEyes begründet dies damit, dass sich die Treffergenauigkeit durch mehrere hochgeladene Fotos verbessere. „Eines vom Strand, eines mit Brille und so weiter“, schreibt uns das Unternehmen.
Spätestens der Blick in die Programmoberfläche entlarvt die Antwort der Firma als haltlos: Schon für einen einzelnen Alarm lassen sich nämlich mehrere Fotos hochladen, um die Treffergenauigkeit zu erhöhen. Die 24 weiteren Alarme wären für das eigene Gesicht demnach nutzlos.
Rabatt bei Massenabfragen
Womit verdient PimEyes sein Geld? Die gewöhnlichen Premium-Abos der Suchmaschine kosten zwischen 16 und 23 Euro monatlich. Premium-Kund:innen bekommen unter anderem Links zu den gefundenen Bilddateien angezeigt. Nach eigenen Angaben hat PimEyes derzeit nur etwa 350 Premium-Abonnent:innen. Das große Geld würden Kowalczyk und Tatina damit noch nicht machen.
PimEyes bewirbt aber eine weitere Funktion, die der Schlüssel zu hohen Einnahmen sein könnte. Zugleich weckt die Funktion massive Zweifel daran, dass es bei der Suchmaschine um den Schutz der eigenen Privatsphäre geht: Es ist ein Bezahlmodell für massenhafte Suchanfragen.
Kowalczyk und Tatina beteuern, dieses Angebot sei kaum gefragt. Allerdings lädt es förmlich zum geschäftsmäßigen Missbrauch der Technologie ein. Anstatt mühsam einzelne Fotos auf der Website von PimEyes hochzuladen, lassen sich mithilfe weniger Zeilen Programmcode Abertausende Abfragen bewältigen. Gleichzeitig können Entwickler:innen die Suchmaschine dadurch in eigene Anwendungen integrieren, über deren Einsatz PimEyes keinerlei Kontrolle mehr hat.
Was hat PimEyes vor? Alle Rechte vorbehalten Screenshot netzpolitik.org
Das Unternehmen berechnet pro Suche über die Programmierschnittstelle zunächst rund einen Euro. Bei massenhaften Suchabfragen wird es deutlich billiger. Will jemand 100 Millionen Bilder im Monat abfragen, kostet eine einzelne Suche nicht mal mehr einen Cent. Doch welcher Mensch sucht 100 Millionen Mal pro Monat sein eigenes Gesicht?
Suchergebnisse von Pornoseiten
Selbst bei den auf der Website präsentierten Positiv-Bewertungen trügt der Schein. Drei Erfahrungsberichte angeblicher Nutzer:innen sollen illustrieren, wie hilfreich die Suchmaschine sei. „Dank PimEyes fand ich ein Profil auf einer Dating-Website, das vorgab, ich zu sein“, berichtet demnach eine Alister Richards. Sie schwärmt: „Werkzeuge wie dieses verbessern unseren Datenschutz im Netz.“
Neben dem Erfahrungsbericht ist ein Foto zu sehen. Sucht man aber mit PimEyes nach dem Foto der angeblichen PimEyes-Nutzerin, geschieht etwas Erstaunliches: Alister Richards taucht auch auf etlichen weiteren Websites auf, jedes Mal trägt sie einen anderen Namen und überschüttet ein anderes Online-Produkt mit Lob. Bei den übrigen Erfahrungsberichtenverhält es sich genauso. Alles Fake? Kowalczyk und Tatina bestätigen uns, dass die Fotos nicht echt sind. Aber die Zitate seien es. „Ihre Autor:innen wollten anonym bleiben.“
Dabei könnte vor allem PimEyes selbst die Anonymität gefährden. In der Suchmaschine tauchen sogar Fotos von Porno-Websites auf. In einem inzwischen gelöschten Werbeclip bewarb PimEyes die Suche auf „Adult sites“ als Premium-Feature, versuchte also offenkundig, damit Geld zu verdienen. Heute vermischen sich die Ergebnisse von Pornoseiten mit den anderen Suchergebnissen.
PimEyes ist eine Waffe für digitale Gewalt
Łukasz Kowalczyk und Denis Tatina nehmen damit in Kauf, dass Sexarbeiter:innen unfreiwillig geoutet werden. PimEyes ist zudem eine Bedrohung für Betroffene von Voyeurismus und sogenannten Rachepornos, also ohne Einverständnis erstellten oder verbreiteten Aufnahmen. Damit möchten Täter vor allem Frauen verletzen und herabwürdigen, indem sie die Aufnahmen möglichst vielen fremden Augen zugänglich machen. Die Suchmaschine spielt ihnen perfekt in die Hände.
Bei einer Bilderrückwärtssuche in einer anderen Suchmaschine findet Tom im August 2019 zufällig Nacktaufnahmen seiner Frau Nicole im Netz: 190 unterschiedliche Fotos, außerdem acht unerlaubt veröffentlichte Videos. Um den oder die Täter zu jagen, erstellt Tom eine Tabelle und sammelt rund 2.700 Links zu Fundorten der Aufnahmen. Das Online-Magazin VICE berichtete über den Fall, zum Schutz des Paares werden ihre Namen geändert.
„PimEyes ist die absolute Katastrophe“, sagt Tom heute im Gespräch mit netzpolitik.org. „Bei einer Testsuche auf PimEyes fand ich direkt 61 Suchergebnisse mit unerlaubt veröffentlichen Nacktaufnahmen meiner Frau.“
Mit dem Problem konfrontiert, schreibt PimEyes: „Unser Tool hilft dabei, Revenge Porn zu bekämpfen“. Tom überzeugt das nicht. „Was nutzt es, die Bilder zu finden, wenn man sie dann nicht vollständig aus dem Internet entfernen kann?“
Es ist ein Problem für sich, dass auch Pornoseiten problematische Aufnahmen nicht konsequent löschen. Doch auch PimEyes entfernt die Suchergebnisse nicht zuverlässig, selbst wenn Betroffene es verlangen. Für diesen Zweck bietet PimEyes zwar ein eigenes Meldeformular an. Aber als wir es ausprobieren, hat es keine Wirkung.
Im Juni fordern wir PimEyes auf diesem Weg auf, ein Foto des Autors aus den Suchergebnissen zu löschen, kurz darauf erhalten wir eine Bestätigungs-E-Mail. Gelöscht wurde aber nichts. Wir geben uns als Journalisten zu erkennen und fragen, warum das Suchergebnis noch immer sichtbar ist.. „Die Funktion arbeitet ordnungsgemäß und ist wohl erprobt“, antwortet PimEyes. „Uns liegen keine Beschwerden von Nutzer:innen vor.“
Tech-Konzerne wehren sich gegen PimEyes
Die netzpolitische Sprecherin der Linken im Bundestag, Anke Domscheit-Berg, bezeichnet PimEyes gegenüber netzpolitik.org als „hochgefährlich“. Frauen, die sich anonym im öffentlichen Raum bewegen möchten, könnten leichter identifiziert und Belästigungen ausgesetzt werden, sagt Domscheit-Berg.
„Die Vorstellung, dass jeder Creep in der U-Bahn mich über ein Handyfoto identifizieren und ohne große Hürden meinen Wohn- und Arbeitsort ausfindig machen kann, finde ich extrem beunruhigend.“ Auch Stalker und Pädophile könnten das Umfeld oder den Aufenthaltsort ihrer Opfer ausfindig machen.
Besonders mächtig wird eine Suchmaschine wie PimEyes erst, wenn sie auch Fotos aus sozialen Medien auswerten kann. Und tatsächlich: Auch Inhalte von Instagram, YouTube, TikTok, Twitter und vKontakte erscheinen bei PimEyes. Wir haben Screenshots dieser Suchergebnisse gemacht, mit direktem Link. Als wir die Firma darauf ansprechen, lautet die Antwort: „Wir scrapen keine Social-Media-Seiten“.
Wir haben die Instagram-Mutter Facebook um Stellungnahme gebeten. „Informationen von Menschen auf Instagram zu scrapen, ist eine klare Verletzung unseres Policy und ein Missbrauch unserer Plattform“, schreibt eine Sprecherin. Facebook habe unverzüglich alle Konten gesperrt, die mit PimEyes in Verbindung stehen, sowie die Gründer von Facebook und Instagram gebannt. „Wir haben eine Abmahnung mit Unterlassungsaufforderung verschickt, auf keine Daten, Bilder oder Fotos von unseren Diensten zuzugreifen.“
Auch YouTube spricht von einer Verletzung seiner Nutzungsbedingungen. „Dementsprechend werden wir eine Abmahnung an PimEyes verschicken“, sagt ein Sprecher. TikTok plane juristische Schritte, wie eine Sprecherin mitteilt; Twitter behalte sie sich vor. vKontakte hat unsere Fragen bislang nicht beantwortet.
PimEyes erinnert an den Eklat um Clearview
Ein möglicher Grund für die deutlichen Reaktionen: Einen ähnlichen Fall gab es bereits. Auch das Start-up Clearview AI hatte massenhaft Gesichter aus dem Internet für eine biometrische Datenbank analysiert. Aber Clearview AI war nicht für jeden Menschen offen im Netz verfügbar. Kunden der Firma waren nach Recherchen der Nachrichtenwebsite Buzzfeed News Firmen, Regierungen und Polizeibehörden. Anfang des Jahres hatten sich Google, Facebook und Twitter dagegen gewehrt.
Der breite Widerstand gegen Clearview AI wurde von Datenschützer:innen als wegweisend wahrgenommen und hätte PimEyes eine Warnung sein können. Biometrische Daten gelten als sensibel. Wer sie missbraucht, riskiert Bußgelder und muss Betroffenen womöglich sogar Schadensersatz zahlen.
Der Datenschutzbeauftragte Baden-Württembergs, Stefan Brink, sieht PimEyes besonders kritisch. Biometrische Daten gehören laut der DSGVO zu den sogenannten besonderen Kategorien personenbezogener Daten. „Das ist das Schutzwürdigste, was wir kennen“, sagt Brink. Ihm zufolge dürfte die Firma die biometrischen Daten allenfalls noch verarbeiten, wenn ihr die ausdrückliche Einwilligung der Betroffenen vorläge. Das bedeutet: Bei angeblich 900 Millionen Gesichtern in der Datenbank müsste PimEyes entsprechend 900 Millionen Einwilligungen besitzen.
Als wir Kowalczyk und Tatina mit dem Verdacht konfrontieren, gegen Gesetze zum Datenschutz zu verstoßen, argumentieren sie, die DSGVO verbiete die Verarbeitung biometrischer Daten lediglich zum Zweck der eindeutigen Identifizierung. Weil PimEyes den Gesichtern sinngemäß aber keine Namen zuordnet, sehen die beiden offenbar keinen Konflikt. Ihr Dienst, so die PimEyes-Betreiber, unterscheide sich hierbei nicht von anderen Suchmaschinen.
„Verstoß gegen das Recht am eigenen Bild“
Neuerdings müssen Nutzer:innen, bevor sie eine Suchanfrage stellen können, per Mausklick ein Häkchen setzen und bestätigen, dass sie wirklich nur ihr eigenes Gesicht hochladen. Vergessen sein soll die Zeit, als PimEyes noch vorschlug, mal eben Herzogin Meghan durch die Suchmaschine zu jagen.
PimEyes möchte die Verantwortung für den möglichen Missbrauch der Suchmaschine wohl auf die Nutzer:innen abwälzen. Ein pikanter Kurswechsel, der vielleicht nur zufällig direkt nach unserer Presseanfrage erfolgt.
Aber auch grundsätzlich rät die auf IT-Recht spezialisierte Anwältin Sabine Sobola entschieden davon ab, Fotos von Dritten bei PimEyes hochzuladen. „Liegt eine Zustimmung nicht vor, ist das ein Verstoß gegen das Recht am eigenen Bild“, sagt sie. „Hieraus ergeben sich Unterlassungs- und Schadensersatzansprüche, wenn der Abgebildete davon Kenntnis erlangen sollte.“ Das heißt: Wer ein Foto seiner Nachbarin bei PimEyes hochlädt, könnte theoretisch Probleme bekommen.
Das Risiko, erwischt zu werden, bleibt jedoch gering, einen Verstoß nachweisen könnten wohl höchstens Kowalczyk und Tatina selbst. Für 48 Stunden speichern sie die Fotos nach eigenen Angaben, dann wird mögliches Beweismaterial gelöscht, bis vor Kurzem geschah dies angeblich sofort.
PimEyes konnte 93 von 94 Bundestagsabgeordneten korrekt identifizieren
Für unsere Recherchen wollen wir herausfinden, ob es wirklich möglich ist, PimEyes im großen Stil zu benutzen. Wir schreiben deshalb eine Software für die von PimEyes angebotene Programmierschnittstelle. Und wir stellen fest: Wer bezahlt, kann mit PimEyes offenbar machen, was er will.
Für den Versuch brauchen wir zunächst eine Reihe an Testpersonen, wollen aber auf keinen Fall Privatfotos hochladen. Wir entscheiden uns deshalb für Bilder von Abgeordneten des Bundestags. An einem zufällig ausgewählten Tag erstellen wir aus dem Parlamentsfernsehen Screenshots von allen Abgeordneten am Rednerpult: insgesamt 94 Politiker:innen. Es handelt sich um keine perfekten Porträtfotos, in vielen Fällen ist das Gesicht nur schräg zu sehen. Damit die Suchmaschine es noch schwerer hat, schrumpfen wir die einzelnen Köpfe auf Briefmarkengröße.
Mithilfe der Programmierschnittstelle gleichen wir die 94 Gesichter der Politiker:innen mit der Datenbank von PimEyes ab. Unsere automatisierten Abfragen dauern keine fünf Minuten. Die Suchmaschine spuckt gut 2.500 Links zu Bilddateien aus. Bei der Mehrheit der Fotos will die Software eine mindestens 90-prozentige Ähnlichkeit erkannt haben. Und tatsächlich: In 93 Fällen hatte PimEyes weitere Fotos derselben Person aufgespürt. Nur in einem Fall waren alle Suchergebnisse falsch.
Statt nach 94 Bundestagsabgeordneten hätten wir PimEyes ebenso nach den Gesichtern von Hunderten oder Tausenden Menschen suchen lassen können. Und statt mit Aufnahmen aus dem Parlamentsfernsehen hätten wir den Dienst auch mit den Bildern von Überwachungskameras füttern können.
Es ist möglich, dass genau das bereits passiert. Denn auch Strafverfolgungsbehörden interessieren sich für Gesichtserkennung, und PimEyes ist in diesem Bereich schon früh ein Coup geglückt.
Überwachungstechnologie für den Staat
PimEyes ist seit 2018 in die Software Paliscope des schwedischen Unternehmens Safer Society Group integriert. Die Anwendung soll Ermittler:innen helfen, Daten aus unterschiedlichen Quellen zu kombinieren. Safer Society Group ist gut vernetzt, zu ihren Kund:innen zählt die europäische Polizeibehörde Europol.
Ein Unternehmenssprecher will nicht sagen, ob Strafverfolgungsbehörden innerhalb der EU oder sogar Deutschland Paliscope – und damit möglicherweise auch PimEyes – einsetzen. Auf konkrete Fragen geht er gar nicht erst ein, teilt aber mit: „Wir würden niemals mit einem Partner zusammenarbeiten, der das Gesetz bricht.“
PimEyes versuchte noch Anfang Juni öffentlich, Strafverfolgungsbehörden als neue Kundinnen zu gewinnen. Im FAQ auf der PimEyes-Website hieß es, Ermittler:innen könnten mit der Suchmaschine auch im sogenannten Darknet nach übereinstimmenden Gesichtern suchen. Aber zwei Tage, nachdem One Zero darüber berichtet hatte, verschwand diese Textpassage.
Kowalczyk und Tatina bestätigen uns, dass sie die Passage entfernt haben. Allerdings nur, weil Strafverfolgungsbehörden kein Interesse an PimEyes gezeigt hätten. Eine Erklärung, die vor allem deshalb erstaunt, weil die Betreiber seit mindestens vier Monaten im Hintergrund an einem eigenen Produkt für Strafverfolgungsbehörden arbeiten. Sie haben dafür offenbar sogar eine weitere Firma gegründet: Faceware AI.
Ein Briefkasten in den USA
Kowalczyk und Tatina zufolge steckt Faceware AI noch im Aufbau. Die beiden wollten kundenspezifische Software für Strafverfolgungsbehörden entwickeln und damit verschwundene Kinder finden, schreiben sie uns in einer E-Mail. Faceware AI habe jedoch nichts mit PimEyes zu tun.
Auf dem Karrierenetzwerk LinkedIn heißt es, Faceware AI entwerfe Software für Gesichtserkennung und Machine Learning. Technologien, die durchaus stark an das erinnern, was die Gründer über Jahre hinweg in Breslau unter dem Namen PimEyes ausgearbeitet haben.
Auf LinkedIn ist ein weiterer Mitarbeiter von Faceware AI aufgeführt, der seinem Profil nach zu urteilen wohl den Vertrieb des neuen Dienstes übernehmen soll, jenseits von Europa. Die Gründer geben an, Faceware AI habe seinen Hauptsitz im US-Bundesstaat Rhode Island. Im dortigen Handelsregister existiert jedoch keine Firma mit diesem Namen.
Anfang April, nur einen Tag, bevor Łukasz Kowalczyk und Denis Tatina die Internetdomain von Faceware AI registrierten, meldete allerdings jemand im Bundesstaat Delaware ein Unternehmen mit dem Namen Faceware Inc. an – mithilfe eines Dienstleisters, der den Geschäftsführern Anonymität gewährt. Delaware ist als Steueroase und Heimat zahlreicher Briefkastenfirmen bekannt. Wir haben Kowalczyk und Tatina mehrfach gefragt, ob es sich bei Faceware Inc. um ihre Firma handelt. Aber die PimEyes-Betreiber wollen sich dazu nicht äußern.
Gesichtserkennung durch die Polizei
Wenn Faceware AI eines Tages funktioniert, könnten sich viele Ermittlungsbehörden dafür interessieren. In den USA arbeiten zahlreiche Polizeibehörden bereits mit Amazon zusammen. Der Konzern bietet mit „Amazon Rekognition“ eine Software für Gesichtserkennung an. Bürgerrechtsorganisationen fordern ein Verbot der Software, unter anderem weil sie einen rassistischen Bias hat und dadurch insbesondere People of Color durch falsche Gesichtserkennung zu Unrecht in den Fokus der Ermittlungen rücken könnte. Kürzlich hat Amazon bekannt gegeben, der Polizei ein Jahr lang keinen Zugriff mehr auf „Rekognition“ zu geben.
Der Datenschutz mag in Europa strenger sein, Gesichtserkennung durch die Polizei gibt es aber längst auch in Deutschland. In der Polizeidatenbank INPOL beispielsweise sind rund 3,65 Millionen Menschen gespeichert, und die Anfragen an das Gesichtserkennungssystem des Bundeskriminalamts steigen stetig, wie das Bundesinnenministerium im April in seiner Antwort auf eine Kleine Anfrage mitteilte. Alleine 2019 nahmen Ermittler:innen dort demnach 54.000 Abfragen vor.
Mit deutschen Behörden dürfte PimEyes wohl nur zusammenarbeiten, wenn Kowalczyk und Tatina ihre Datenbank mit legalen Mitteln aufgebaut haben. „Eine solche Zusammenarbeit müsste eine eindeutige rechtliche Grundlage haben“, sagt Datenschützer Stefan Brink.
Verhaftet, weil man sich auf einer Demo blicken ließ
Brink warnt vor den Folgen, die der Einsatz einer Gesichtserkennung im großen Stil haben könne. „Was hier gemacht wird, hat das Potenzial, unsere Verhaltensweisen und Umgangsformen in der Gesellschaft zu verändern“, sagt er. „Das bedeutet ja nichts weniger, als dass wir die Anonymität verlieren, wenn wir uns im öffentlichen Raum bewegen, und dass wir im Prinzip jederzeit und an jeder Stelle identifizierbar werden können.“
Die Bundestagsabgeordnete Anke Domscheit-Berg sieht durch eine solche Suchmaschine die Meinungsfreiheit bedroht. „Geheimdienste und andere staatliche Stellen könnten Demonstrant:innen identifizieren und ihr Beziehungsumfeld ausforschen.“ Wenn Menschen das befürchten müssen, würden sie sich eher von Demonstrationen fernhalten.
Wie gefährlich PimEyes beim Einsatz gegen Demonstrant:innen sein könnte, wird deutlich, als wir bei der Suchmaschine ein Foto von Domscheit-Berg selbst hochladen. Es zeigt die Politikerin bei einer Demonstration, ausgerechnet gegen Massenüberwachung. Nach viereinhalb Sekunden zeigt die Software uns rund 60 Bilder an, auf denen sie Domscheit-Berg vermutet.
Dass Technologie zur Gesichtserkennung wirklich eingesetzt werden könnte, um Teilnehmer:innen von Demonstrationen zu ermitteln, machte vor drei Jahren die Hamburger Polizei vor. Im Zusammenhang mit den Protesten am Rande des G20-Gipfels sammelte sie großflächig Bild- und Videomaterial. Schließlich ließ eine Sonderkommission über mehr als 30.000 Aufnahmen eine entsprechende Software laufen, die nach Gesichtern suchte.
In Moskau ist Gesichtserkennung im Alltag schon Realität. In der russischen Hauptstadt, wo immer wieder Teilnehmende politischer Demonstrationen verhaftet werden, analysiert die Software einer Firma namens FindFace Aufnahmen von öffentlichen Überwachungskameras. „Moskau ist sicher mit FindFace“, lobt sich die Firma auf ihrer Website selbst.
Anfang dieses Jahres wurde bekannt, dass Innenminister Horst Seehofer mit dem neuen Bundespolizeigesetz sogar eine automatisierte Gesichtserkennung in öffentlichen Räumen einführen wollte. Nachdem der CSU-Politiker auf Gegenwehr stieß, zog er den Vorschlag zurück. Spätere Äußerungen vor allem aus Unionskreisen deuten aber darauf hin, dass eine Umsetzung womöglich nur aufgeschoben sein könnte.
Auch das Weißbuch zur KI-Strategie der EU-Kommission, in das politische Hoffnungen gesetzt worden waren, sieht keine gesonderte Regulierung von Technologien zur Gesichtserkennung vor. Ein Moratorium, um Zeit zur Risikobewertung zu gewinnen, verhängte die Kommission trotz anfänglicher Überlegungen nicht. Das setzt die Bundespolitik unter Druck, selbst zu reagieren.
Der digitalpolitische Sprecher der Union fordert Regulierung
Tankred Schipanski, der digitalpolitische Sprecher der Union im Bundestag, hält vor dem Hintergrund unserer Recherchen zu PimEyes eine Regulierung für notwendig. „Wenn dies auf Ebene der EU zeitnah nicht gelingen sollte, müssen wir hier als nationaler Gesetzgeber tätig werden“, sagt er gegenüber netzpolitik.org. Den gegenwärtigen Zustand bezeichnet Schipanski als unhaltbar.
„Das Missbrauchspotential einer solchen Anwendung ist enorm“, sagt Jens Zimmermann, digitalpolitischer Sprecher der SPD-Fraktion. Er fordert eine genaue Prüfung, ob die bestehenden gesetzlichen Regelungen einen ausreichenden Schutz bieten. „Wollen wir wirklich in einer Gesellschaft leben, in der Anonymität im öffentlichen Raum de facto nicht mehr möglich ist?“
Anke Domscheit-Berg ist noch einen Schritt weiter gegangen und hat sich infolge unserer Recherchen in ihrer Funktion als Bundestagsabgeordnete an den Bundesdatenschutzbeauftragten Ulrich Kelber gewandt. Sie sagt: „Wenn diese App keine Rechtsgrundlage hat, wie sie die DSGVO vorschreibt, müssen daher entsprechende Sanktionen verhängt und eine Verbreitung der App schnellstmöglich unterbunden werden.“
Über seinen Sprecher teilt Kelber mit, er werde nun die zuständige polnische Datenschutzaufsicht Urzad Ochrony Danych Osobowych (UODO) kontaktieren und dort weitere Informationen einholen.
Betroffene von Datenschutzverstößen haben Recht auf Schadensersatz
Eine Anfrage von netzpolitik.org ließ die UODO unbeantwortet. Damit bleibt zunächst unklar, ob die polnische Behörde überhaupt von PimEyes weiß. Stellt die Behörde fest, dass Kowalczyk und Tatina gegen die DSGVO verstoßen haben, droht den Gründern ein Bußgeld.
Als die UODO im vergangenen Jahr zum ersten Mal eine Strafe gegen ein Unternehmen verhängte, sollte dieses rund 220.000 Euro bezahlen. Damals ging es um nicht erfüllte Informationspflichten, betroffen waren etwa sechs Millionen Menschen. In der Datenbank von Kowalczyk und Tatina sollen 900 Millionen verschiedene Gesichter sein.
PimEyes mag seinen Sitz in Polen haben, die UODO für das Unternehmen zuständig sein. Betroffene in Deutschland, die gegen den Dienst vorgehen wollen, können sich aber an ihre jeweilige Landesbehörde für Datenschutz wenden. Diese müsste den Fall dann für sie weiterverfolgen.
Stefan Brink sieht bei der Suchmaschine einen, wie er sagt, klassischen Anwendungsfall für die Verletzung des Rechts am eigenen Bild. „Das schreit geradezu danach, das auch zivilrechtliche Schadensersatzforderungen geltend gemacht werden können.“
Die DSGVO sieht das bei Datenschutzverstößen für Betroffene vor.
Für Dylan, den Banker aus Frankfurt am Main, ist klar: Er will einfach nicht, dass sein Gesicht auf PimEyes zu finden ist. Bestimmt gebe es auch eine Menge Fotos von Fremden, auf denen er zufällig im Hintergrund zu sehen ist. „Die einzige Möglichkeit, sich vor einer solchen Suchmaschine zu schützen, wäre verschleiert herumzulaufen“, sagt er.
Auch Dylan hat das Meldeformular von PimEyes genutzt, damit die Firma sein Foto von der queeren Bootsparty aus den Suchergebnissen löscht. Wenig später kommt die Bestätigung per E-Mail.
Aber das angeblich gelöschte Motiv ist Tage später noch immer in der Suche zu finden.
Diese Veröffentlichung war sehr aufwändig und hat uns alleine durch den Zeitaufwand eine Menge Geld gekostet. Wir können uns solche aufwändigen Recherchen auch nur leisten, weil wir weitgehend auf Werbung verzichten und von Leserinnen und Lesern finanziell unterstützt werden. Mit einem Dauerauftrag und/oder einer Spende kannst Du / können Sie uns mehr Recherchen ermöglichen.
Article note: #daumendrück! (Könnte man vllt gleich noch dabei festsetzen lassen, dass Amträger:innen + Behörden ihre Inhalte immer auch noch außerhalb von den s. g. "Sozialen Medien" publizieren müssen ...!?)
Die Juristin Jacqueline Neumann erklärt im Interview, dass der Gesetzgeber die Grundrechte auch im digitalen Raum stärken müsse. Dabei geht es nicht um die sonst häufig diskutierten Fragen der Einschränkung der Informations- und Meinungsfreiheit durch die Löschpraktiken von Facebook, die Regeln von Twitter oder durch das Netzwerkdurchsetzungsgesetz (NetzDG), sondern um eine effektivere Bindung der von deutschen Behörden und Amtsträgern betriebenen Social-Media-Accounts an Recht und Gesetz.
Warum die Regierung ihre Kritiker nicht auf Facebook oder Twitter sperren darf
netzpolitik.org: Frau Neumann, Sie haben sich mit der Frage auseinandergesetzt, wie Sperrungen bei Twitter durch Amtsträger, Behörden oder andere staatliche Stellen rechtlich zu bewerten sind. Können Sie kurz erklären, worin sich der Twitter-Account etwa eines Amtsträgers oder einer Behörde von dem einer Privatperson unterscheidet, vor allem wenn es darum geht, andere Accounts zu sperren?
Jacqueline Neumann: Aus rechtlicher Sicht ist die Unterscheidung zwischen amtlichen und privaten Twitter-Accounts zentral. Es sind zwei unterschiedliche Kategorien.
In Kategorie eins fallen Accounts von Ministerien oder Behörden, beispielsweise von Polizeibehörden. Als amtliche Accounts unterliegt ihr Betrieb der Grundrechtsbindung. Damit ist gemeint, dass der zuständige Behördenmitarbeiter die im Grundgesetz garantierten Rechte der Bürger beachten muss, wie zum Beispiel das Recht auf Informationsfreiheit und Meinungsfreiheit, und nicht nach Gutdünken Kommentare löschen oder Nutzer blockieren darf.
Dann gibt es neben den Behörden-Accounts noch zahlreiche Accounts von Amtsträgern, die wie Außenminister Heiko Maas (SPD) und Gesundheitsminister Jens Spahn (CDU) auf ihrem Twitter-Profil ausdrücklich ihre Regierungsämter nennen. Hier hat man es auch mit eindeutig amtlichen Accounts zu tun. Solche Accounts kann man in der Regel immer dann in die Kategorie eins sortieren, wenn auf dem Twitter-Account das Staatsamt des Betreibers genannt wird, Staatssymbole wie Flaggen oder Wappen dargestellt werden, amtliche Informationen verbreitet werden, der betreffende Account in amtliche Öffentlichkeitsarbeit eingebunden ist oder Personen aus der Pressestelle der Behörde eingesetzt und somit öffentliche Mittel für den Betrieb des Accounts verwendet werden.
netzpolitik.org: Was ist die zweite Kategorie?
Jacqueline Neumann: Der Kategorie zwei sind all die Accounts von Politikern zuzuordnen, die entweder kein Staatsamt haben oder den Account ausschließlich für nicht amtsbezogene Nachrichten nutzen. Hierunter fällt die Kommentierung des letzten Katzenvideos wie auch die Tätigkeit von Amtsträgern für Parteien, Vereine und alle Arten von Nichtregierungsorganisationen.
Zusammengefasst: Der Betreiber eines Accounts aus der ersten Kategorie muss sich bei seinem Umgang mit anderen Accounts an die genannten Grundrechte halten. Dagegen kann der Betreiber eines Accounts aus der zweiten Kategorie andere Accounts blockieren, quasi wie es beliebt.
netzpolitik.org: Ist das Bedienen eines Twitter-Accounts eines Amtsträgers aus Ihrer Sicht eine Amtshandlung, und wenn ja, was folgt daraus?
Jacqueline Neumann: Ja, und zwar nicht nur aus meiner Sicht. Rechtlich betrachtet ist jeder Social-Media-Account eines Amtsträgers oder einer Behörde eine öffentliche Einrichtung virtueller Natur. Zu dieser virtuellen öffentlichen Einrichtung haben grundsätzlich alle Bürger gleiche Zugangsrechte.
Manche Behörden meinen, das Blockieren von Nutzern bedürfe keiner gesonderten Rechtsgrundlage. Unumstritten ist, dass das Blockieren einen Grundrechtseingriff darstellt, wie ein Gutachten der Wissenschaftlichen Dienste des Bundestages ausgeführt hat. Der Staat ist auch im digitalen Raum an die Grundrechte gebunden.
Der thüringische Ministerpräsident Ramelow und die Twitter-Sperre
netzpolitik.org: Ist denn immer klar, ob ein Twitter-Account amtlich oder privat betrieben wird?
Jacqueline Neumann: Nein, das ist es nicht. Es gibt so gesehen in Ergänzung zu den zwei genannten Kategorien noch eine weitere Kategorie – ich nenne sie mal Null-Kategorie, wenn der Betreiber meint oder vorgibt, seinen Account privat zu betreiben, ihn jedoch amtlich und dienstlich nutzt. Zu jedem Account muss letztlich geklärt werden – im Zweifel vor Gericht –, ob der Account in Kategorie eins oder zwei fällt. Daraus leiten sich dann ganz unterschiedliche rechtliche Konsequenzen ab. Unterliegt der Betreiber der Grundrechtsbindung, weil amtlich, oder unterliegt er ihr nicht, weil privat? Einen solchen Fall hatten wir 2019 gegen den thüringischen Ministerpräsidenten Bodo Ramelow vor Gericht gebracht. Er hatte zuvor den Account unseres Rechtsinstitutes gesperrt.
Screenshot des Twitter-Profils des thüringischen Ministerpräsidenten Bodo Ramelow.
netzpolitik.org: Sie hatten den thüringischen Ministerpräsidenten Ramelow wegen der Twitter-Sperre verklagt. Auf seinem Twitter-Profil sieht man jedoch, dass er sich dort nicht als Ministerpräsident mit amtlichem Account vorstellt, sondern ganz privat als „Mensch“. Warum ist er dort trotzdem nicht nur Privatperson?
Jacqueline Neumann: Eine Selbstbezeichnung als „Mensch“ ist keinesfalls ausreichend für die Einstufung als privater Account. Damit kann man nicht die rechtlichen Konsequenzen eines amtlichen Accounts unterlaufen.
Ein Beispiel: Stellen Sie sich vor, die Steuerfahndung erhält einen dicken Stapel Beweise, dass es sich bei jemandem, nennen wir ihn Herrn Ramelow, um einen Steuerhinterzieher handelt. Die Staatsanwaltschaft beabsichtigt die Einleitung von Ermittlungen und eine Hausdurchsuchung, was der Richter jedoch ablehnt, weil Herr Ramelow auf seiner Tür einen Aufkleber angebracht hat: „Ich bin Steuerzahler“. Ebenso wenig kann sich ein Amtsträger Recht und Gesetz entziehen, wenn er auf seinem Twitter-Account den virtuellen Aufkleber „Hier bin ich privat“ oder hier bin ich „Mensch“ anbringt.
Amtsträger können sich ihrer Grundrechtsbindung nicht schlicht dadurch entledigen, dass sie vorgeben, ihr Twitter-Konto privat zu betreiben und nicht in amtlicher Funktion.
In der Anlage zu unserer Klage gegen den Ministerpräsidenten hatten wir entsprechende Belege für eine amtliche Nutzung des Twitter-Accounts beigefügt. Damit hätte eine mögliche Verteidigung von Ramelow, dass er seinen Account bereits im Februar 2009 – vor dem Amtsantritt als Ministerpräsident – eingerichtet hatte und nur privat nutze, nicht gegriffen.
Netzpolitischer Präzedenzfall?
netzpolitik.org: Warum hatte Ramelow Sie gesperrt?
Jacqueline Neumann: Den genauen Grund kenne ich nicht. Als der Ministerpräsident unseren Instituts-Account gesperrt hat, lag offenkundig und nachweisbar kein Verstoß gegen eine Netiquette oder gar gegen Strafgesetze oder das Grundgesetz vor. Im Gegenteil, wir hatten ja den Ministerpräsidenten auf einen Verfassungsbruch durch seine Regierung aufmerksam gemacht. Konkret hatten wir anlässlich des hundertjährigen Jubiläums der Weimarer Verfassung versucht, ihn an seine Amtspflicht zu erinnern, die grundgesetzwidrigen Dauerzahlungen an die Kirchen in Form der Staatsleistungen zu beenden – also rein sachliche Kritik. Die Details kann man gern in der aktuellen Ausgabe der „Vorgänge – Zeitschrift für Bürgerrechte und Gesellschaftspolitik“ nachlesen.
netzpolitik.org: Wie hat Ramelow sein Sperrverhalten begründet? Und wie ging die Klage aus?
Jacqueline Neumann: Der Ministerpräsident begründete weder die Sperrung noch hob er sie trotz mehrfacher Nachfrage und öffentlicher Kritik auf. Ein außergerichtlicher Einigungsversuch scheiterte trotz gegenteiliger Ankündigung seiner Staatskanzlei noch am Fristtag. In einem ähnlich gelagerten Fall hatte der Staatsminister im Außenministerium, Niels Annen, seine Blockade gegen einen Journalisten der Jerusalem Post in diesem Stadium wieder aufgehoben. Nicht so der Ministerpräsident.
Abgesehen von der Durchsetzung unserer Interessen sahen wir daher die Möglichkeit, einen netzpolitischen Präzedenzfall zu schaffen, und reichten Klage ein. Diese lag dann einige Monate in Thüringen vor Gericht. Sodann erklärte sich das aus unserer Sicht für die Angelegenheiten des thüringischen Ministerpräsidenten Bodo Ramelow zuständige Verwaltungsgericht Weimar jedoch für unzuständig und verwies den Rechtsstreit an ein für die Privatperson Bodo Ramelow zuständiges Amtsgericht, womit zunächst weitere Wochen ins Land gingen. Bevor es jedoch zu einer Gerichtsentscheidung kam, entsperrte der Ministerpräsident unseren Account wieder. Damit war unser Schutzbedürfnis entfallen und einer abschließenden gerichtlichen Klärung die Grundlage entzogen. Die Klage musste beendet werden.
Ramelow selbst teilte lediglich zwischenzeitlich über Twitter mit, dass das Verwaltungsgericht den Rechtsstreit an das Amtsgericht verwiesen habe, weil der Ministerpräsident auf seinem Account auf staatliche Insignien verzichte und sich dort als „Mensch“ bezeichne. Inhaltlich oder zu seinem Verhalten äußerte er sich nicht.
netzpolitik.org: Immerhin hatte er die Sperre zurückgenommen, vielleicht gar aus Einsicht?
Jacqueline Neumann: Man könnte ihm zugutehalten, dass er es zunächst juristisch vielleicht nicht besser wusste oder aus einem Impuls heraus unseren Account sperrte. Andere Nutzer, die ebenfalls von Ramelow gesperrt worden waren, nachdem sie unseren Tweet retweetet hatten, gaben aber an, von ihm nicht wieder entsperrt worden zu sein. Daran sieht man: Die Meinungsfreiheit stirbt scheibchenweise.
Mit Blick auf die Art und Weise, wie er die Sperre zunächst aufrechterhielt, und dass er als erfahrener twitternder Politiker die Plattform seit über zehn Jahren gezielt politisch nutzt, liegt wohl eher ein rechtsstaatlich äußerst bedenkliches Verhalten des Ministerpräsidenten vor, das eine gerichtliche Bewertung verdient gehabt hätte.
netzpolitik.org: Aber durch das Aufheben der Sperre konnte der Rechtsweg nicht beschritten werden?
Jacqueline Neumann: Ja, und ein solches Politikerverhalten kann derzeit leider noch reüssieren. Man kann, wie Ramelow oder Annen den Exit nehmen und entsperren, bevor vom Betroffenen ein Gerichtsurteil erwirkt werden kann. Mit der Entsperrung ist dem Betroffenen das Rechtsschutzbedürfnis entzogen. Es ist machbar, nach ein paar Tagen den missliebigen Account erneut zu blockieren und den Schweinezyklus erneut zu starten. Nicht jeder Bürger kann juristisch und finanziell so dagegenhalten wie unser Rechtsinstitut. Und auch uns war es am Ende nicht möglich, zu einer Gerichtsentscheidung zu kommen.
Der Fall Ramelow zeigt, dass es für manche Politiker attraktiv zu sein scheint, einen Graubereich zu schaffen. Die für unsere Grundrechte toxische Kombination besteht darin, unter dem Deckmantel eines privaten Accounts einen amtlichen Account zu führen und andere Accounts nach eigenem Belieben willkürlich und ohne Rechtsschutz sperren zu können.
Ich finde, dieser Graubereich sollte gesetzlich geschlossen werden. Es geht um die großen Grundrechtsfragen der Informationsfreiheit, Meinungsfreiheit und Pressefreiheit und die Vereinbarung der Spielregeln im Verhältnis von Bürger und Regierung auf den wichtigen Social-Media-Plattformen.
Verlässliche Daten über die Anzahl von Sperren sind bislang Mangelware
netzpolitik.org: Die letzte Auskunft der Bundesregierung dazu, wie viele Ministerien und Bundesbehörden auf Twitter andere Accounts sperren, ist bereits zwei Jahre alt und gibt 268 blockierte Accounts an. Können Sie einen Trend ausmachen, ob diese Sperrungen zu- oder abnehmen?
Jacqueline Neumann: Eine systematische und aktuelle Erfassung des Sperrverhaltens der Bundesregierung ist nicht bekannt. Die Bundesregierung antwortete jedenfalls auf die Anfrage der Opposition, dass die Bundesressorts selbständig über die Kriterien für Sperrungen entscheiden. Als allgemeine Kriterien nannte die Regierung die Verhinderung der Verbreitung strafrechtlich relevanter Inhalte oder einen Verstoß gegen die Netiquette. Letzteres deutet auf Gutdünken hin, ist also rechtsstaatlich inakzeptabel.
Denn es ist so: Private Unternehmen dürfen sich im Rahmen der Privatautonomie eigene Regeln und AGBs geben. Staatliche Behörden haben keine Privatautonomie und dürfen das nicht. Der Staat und seine Repräsentanten dürfen ihre Verpflichtung auf die Grundrechte nicht durch Netiquette-AGBs einschränken. Noch dazu sind die Theorie und Praxis sogar innerhalb der Bundesregierung sehr unterschiedlich. Manche Behörden zeigen große Transparenz, andere wiederum kaum. Zudem sollte man auch die Behörden in den Ländern und Kommunen in den Blick nehmen. Denken wir nur an all die Accounts, die von Polizeibehörden unterhalten werden. Aktuelle verlässliche Daten über die Anzahl von Sperren und Trends sind bislang also Mangelware.
netzpolitik.org: Sollte die Bundesregierung die Daten zu Sperrungen offenlegen?
Jacqueline Neumann: Jede Behörde weiß, wie viele und welche Accounts sie auf Twitter gesperrt und welche Kommentare sie auf Facebook gelöscht hat. Zwar haben richtigerweise die Speicherung und Auswertung von Daten der Twitter-Follower enge Grenzen. Aber Daten darüber, wie viele Accounts und aus welchen Gründen sie gesperrt wurden, sollte die Öffentlichkeit erfahren und in einer freiheitlichen Demokratie diskutieren dürfen.
Als Bürger oder private Organisation ist man auf die Mitwirkung und Offenheit der Behörden angewiesen – und auf effektive parlamentarische Kontrolle und Anfragen nach dem Informationsfreiheitsgesetz. So hatte der Regierende Bürgermeister Berlins im letzten Jahr laut einer Informationsfreiheitsgesetz-Anfrage von seinen 11.400 Twitter-Followern knapp neunzig Accounts blockiert. Es handelt sich dabei nicht notwendigerweise um neunzig Bürger, sondern es sind wahrscheinlich auch Bots oder Mehrfach-Accounts darunter. Unklar ist, warum die Sperrungen erfolgten.
Aus dem Bereich der Polizeibehörden hatte allein die Hamburger Polizei nach eigenen Angaben über fünfhundert Twitter-Accounts blockiert. Diese Zahl ist allerdings schon über zwei Jahre alt und nicht weiter qualifiziert.
Das BSI betreibt vier Twitter-Accounts, darunter die Allianz für Cyber-Sicherheit.
Es wäre auch sinnvoll, die internen Richtlinien zum Betrieb der Social-Media-Accounts systematisch auszuwerten und mit einer einheitlichen Rechtsgrundlage zu versehen. In Einzelfällen hat das Informationsfreiheitsgesetz bereits Licht ins Dunkel gebracht. So kann man die Richtlinien für die Twitter-Nutzung des Bundesamts für Sicherheit in der Informationstechnik (BSI) bei FragDenStaat nachlesen. Inhaltlich sind diese BSI-Richtlinien übrigens ein positives Beispiel. Eigentlich wäre aber eine umfassende und regelmäßige Berichterstattung eine Aufgabe von Bund und Ländern.
netzpolitik.org: Wie werden Sperrungen typischerweise begründet?
Jacqueline Neumann: Im Fall Ramelow erhielten wir wie gesagt keine Begründung. Grundsätzlich kann es rein logisch nur vier Begründungskategorien geben, dass eine Behörde einen anderen Facebook-Kommentar löscht oder einen anderen Twitter-Account blockiert. Erstens ein Gesetzesverstoß, zweitens ein Verstoß gegen Netiquette, drittens einen wie auch immer motivierten Willen und Wunsch des Betreibers, sich eine Bubble zu schaffen, beispielsweise wenn die Behörde sich gestört fühlt oder nicht mit unliebsamer Kritik konfrontiert sein möchte, und schließlich viertens ein menschliches oder technisches Versagen.
Klar ist: Nur ein Gesetzesverstoß rechtfertigt einen dauerhaften Eingriff in das Grundrecht der Informations- und Meinungsfreiheit. Problematisch ist die verbreitete Praxis, dass staatliche Stellen eigene Netiquette und interne Richtlinien entwerfen. Hier stellen sie eigene hausgemachte Regeln auf, teilweise in Orientierung an den Inhalten der AGB der genutzten sozialen Netzwerke, in denen sie Straftatbestände wie „Beleidigung“ mit rechtlich unbestimmten Begriffen wie „Hass“ und „Provokation“ vermischen und diese Gemengelage zum Maßstab für Grundrechtseingriffe machen.
Wenn Behörden die „Provokation“ als Kriterium für eine Sperrung und damit den Eingriff in die Grundrechte eines Nutzers heranziehen, missachten sie die Rechtsprechung des Bundesverfassungsgerichts. Denn Meinungsäußerungen dürfen zweifelsfrei provozieren. Problematisch ist nicht zuletzt, dass die Nennung der Gründe für Grundrechtseingriffe vorenthalten werden kann und die Behörden nicht systematisch dem zuständigen Parlament oder der Öffentlichkeit Rechenschaft ablegen.
„Im Zweifel für die Meinungsfreiheit“
netzpolitik.org: Eine Sperrung bedeutet ja noch keinen Ausschluss von der Möglichkeit, Twitter-Inhalte zu lesen, wohl aber von der Möglichkeit des Kommentierens durch den von der Sperrung betroffenen Account. Sollten offizielle Accounts von Bundesbehörden und Amtsträgern jede Art von Kommentierung zulassen?
Jacqueline Neumann: Nein, jede Art von Kommentierung sollte nicht zugelassen werden und ist es auch nicht. Die zulässige Grenze des Meinungsaustausches und damit auch der Kommentierung ergibt sich aus der Verfassung und den Gesetzen. Um es klar zu sagen: Die Meinungsfreiheit hat ihre Grenze in Normen des Strafrechts und im allgemeinen Persönlichkeitsrecht anderer Nutzer, und es ist gut, wenn Strafverstöße wie Beleidigung, üble Nachrede oder Verleumdung unterbunden werden.
Insgesamt scheint mir, dass auf dem „Neuland“ des Internets in der Politik und der Justiz noch das Verständnis dafür wachsen muss, dass es vor dem Grundgesetz gleichgestellt sein muss, ob sich ein Bürger in einer analogen Diskussion mit einem Amtsinhaber oder einer Behörde oder in einer virtuellen Diskussion auf einem Twitter-Kanal befindet.
Für eine kritische Meinungsäußerung wurden wir zwar von Ministerpräsident Ramelow auf Twitter gesperrt. Es wäre jedoch kaum denkbar, dass ein Mitglied unseres Instituts für dieselbe Meinungsäußerung vom Ministerpräsidenten oder den Saaldienern bei einer Podiumsdiskussion aus dem Veranstaltungsraum geworfen worden wäre. Um dieses Verständnis zu fördern und im Sinne der Bürger abzusichern, halte ich die Überlegung für interessant, dass ergänzend zu den strafrechtlichen Verboten die gesetzlichen Regelungen zur Erteilung eines Hausverbots in analogen Einrichtungen auf virtuelle Einrichtungen übertragen werden. Dann könnte der Ministerpräsident oder eine Behörde einen Account nur dann sperren und ein digitales Hausverbot erteilen, wenn sie darlegen, dass ansonsten die Öffentlichkeitsarbeit nachhaltig gestört würde und eine Gefahr wiederholter Beeinträchtigungen bestünde.
netzpolitik.org: Wo sehen Sie konkret die Grenzen der Meinungsfreiheit?
Jacqueline Neumann: Im Zweifel für die Meinungsfreiheit. Das Bundesverfassungsgericht hat dieses Grundrecht immer sehr hochgehalten und gesagt, dass bei Staatsschutznormen besonders sorgfältig zwischen einer Polemik und einer böswilligen Verächtlichmachung unterschieden werden muss. Hintergrund ist, dass das Grundrecht der Meinungsfreiheit in der Geschichte hart erkämpft werden musste, um das Recht der Kritik der Bürger an den Regierenden und den Mächtigen zu schützen.
In jedem Fall darf es keine Rolle spielen, ob der Tweet von der Behörde oder dem twitternden Amtsträger als begründet oder grundlos, emotional oder rational, wertvoll oder wertlos, gefährlich oder harmlos eingeschätzt wird. Alle Äußerungen, mit denen wertend Stellung bezogen wird und die kein Strafgesetz verletzen, sind vom Schutzbereich der Meinungsfreiheit umfasst. Äußerungen verlieren diesen Schutz auch dann nicht, wenn sie aus Sicht des Adressaten scharf und überzogen vorgetragen werden.
Da die Meinungsfreiheit konstitutiv für unsere freiheitliche Demokratie ist, müssen Beschränkungen auch verhältnismäßig sein. Eine Blockade auf Twitter kann deshalb nur die ultima ratio sein.
Mal abgesehen von dem gänzlich indiskutablen Sperrverhalten eines Ministerpräsidenten Ramelow scheint es mir, dass insbesondere aus dem Gebiet der Behörden-Netiquette ein unguter Mischmasch aus rechtlich relevanten und rechtlich irrelevanten Kriterien für Sperrungen angeführt wird. Darin kann die Meinungsfreiheit untergehen.
netzpolitik.org: Wie würden Sie das Problem auflösen, dass sich Behörden jeweils ihre eigenen Standards basteln?
Jacqueline Neumann: Durch ordentliche Verfahrensregeln. Die deutsche Justiz hat sich von den Verwaltungsgerichten bis hoch zum Bundesverfassungsgericht wiederholt zu inhaltlichen Fragen der Öffentlichkeitsarbeit von Behörden im Internetzeitalter geäußert. So darf eine Behörde via Twitter informieren, sofern sie dies inhaltlich richtig, sachlich und neutral tut.
Jedoch liegen noch keine verlässlichen und transparenten Verfahrensregeln für die Behörden vor. Eine wie auch immer von den amtlichen Account-Betreibern ausgestaltete Netiquette reicht nicht aus. Geeignete gesetzliche Vorgaben wären von den Landtagen für die Landesbehörden und vom Bundestag für die Bundesbehörden zu erlassen. Darin sollte geregelt sein, wer unter welchen Voraussetzungen von wem wie lange gesperrt werden darf, wann eine Überprüfung der Sperrung stattzufinden hat und welche Rechtsschutzmöglichkeiten dem Betroffenen zur Verfügung stehen. Auch stellt sich die Frage einer Anhörungs- und Begründungspflicht durch die Behörde, wenn gesperrt werden soll. In einem Rechtsstaat bedürfen die Eingriffe der Exekutiven in die Grundrechte der Bürger einer gesetzlichen Ermächtigungsgrundlage. Das hat das Bundesverfassungsgericht immer wieder betont.
netzpolitik.org: Sehen Sie neben solchen Verfahrensregeln zur Stärkung der Informations- und Meinungsfreiheit noch weitere Ansatzpunkte zur Verbesserung?
Jacqueline Neumann: Ich finde es spannend, dass in der Charta der Grundrechte der Europäischen Union das Grundrecht auf eine gute Verwaltung verankert ist. Die EU-Verwaltung ist verpflichtet, schriftliche Anfragen der EU-Bürger zu beantworten. Dasselbe gilt für juristische Personen wie Nichtregierungsorganisationen, Verbände und Unternehmen. Dieses EU-Recht umfasst aber nicht die deutsche Verwaltung – leider. Dergleichen kann man sich in Deutschland bislang nur wünschen.
Übertragen auf die amtliche Nutzung von Kommunikationskanälen auf Facebook und Twitter könnte es sogar eine gute Praxis für deutsche Behörden werden, die über diese Kanäle eingehenden Anfragen auch zu beantworten. Ich weiß, dass viele Behörden großartige, bürgernahe Öffentlichkeitsarbeit leisten. Es ist nicht nur informativ, sondern macht geradezu Freude, bestimmten Accounts zu folgen, und zu sehen, wie schnell und wie sachlich kompetent sie antworten.
Jedoch hat selbst ein Verfassungsressort wie das Bundesjustizministerium hier viel aufzuholen. Als Beispiel: Im November 2019 schaltete das Ministerium ein Testimonial mit dem Vorsitzenden des Islamverbandes ZMD im Rahmen der Regierungskampagne „Wir sind Rechtsstaat“. Unser Rechtsinstitut stellte noch am Tag der Veröffentlichung sieben sachliche Klärungsfragen auf der Ministeriumsseite bei Facebook und Twitter, die wiederum ein großes Nutzerinteresse hervorriefen. Bei rund zweitausend Nutzerreaktionen auf den Facebook-Post allein auf der Ministeriumsseite dürfte der Dialogbedarf dem Ministerium nicht entgangen sein. Der Post erhielt sogar die meisten Kommentare im gesamten Jahreszeitraum. Das ist kein Wunder, da er zentrale Fragen unseres Rechtsstaatsverständnisses thematisierte. Das Ministerium ist mehrfach täglich in den sozialen Medien aktiv, auch mit aufwendig produzierten Inhalten und investiert offensichtlich erhebliche Ressourcen in die Öffentlichkeitsarbeit. Auf wiederholte sachliche Anfragen von uns und anderen kam hingegen keinerlei Antwort – bis heute nicht. Die einzige sichtbare Reaktion des Ministeriums auf die Diskussion war ein pauschaler Hinweis auf die eigene Netiquette. Letztlich bin ich erstaunt, wie wenig die Wogen hochschlugen und wie sachlich die User blieben. Viele User wurden offenbar erst durch den Hinweis auf die Netiquette etwas unduldsam.
netzpolitik.org: Fänden Sie eine Antwortpflicht angemessen?
Jacqueline Neumann: Ja, mir geht es bei diesem Punkt darum, inwiefern staatliche Stellen verpflichtet sind, den Bürgern auch auf Social Media auf sachliche Fragen zu antworten. Aus Gründen begrenzter Kapazitäten kann nicht auf alle Fragen geantwortet werden, aber es wäre sicherlich realisierbar, auf die Top-Frage des Jahres oder die zehn Top-Fragen des Monats zu antworten und darüber zu berichten.
Bekanntlich können die Debattenverläufe auf digitalen Plattformen eine wahlentscheidende Rolle spielen. Nach Ansicht des Bundesverfassungsgerichts ist eine Plattform wie Facebook für die Verbreitung von politischen Ideen und die Teilhabe an der demokratischen Willensbildung sogar von „überragender Bedeutung“. Die Aktivitäten und Social-Media-Monatsberichte des Bundeswirtschaftsministeriums zeigen, was bereits jetzt alles von einem Bundesressort geleistet und problemlos offengelegt werden kann.
Der Twitter-Account von Donald Trump
netzpolitik.org: Account-Sperrungen durch Amtsträger werden etwa in den Vereinigten Staaten als Verstoß gegen die Meinungsfreiheit gewertet, wie ein Berufungsgericht letztes Jahr für den Account von US-Präsident Donald Trump entschied. Gibt es vergleichbare Fälle hier in Deutschland?
Jacqueline Neumann: Soweit ich das überblicke, gibt es in Deutschland auch nach dem Ende der Causa Ramelow noch kein vergleichbares Urteil und insbesondere keine höchstrichterliche Entscheidung.
Das Interessante an der Gerichtsentscheidung zum Twitter-Account des US-Präsidenten ist, dass das Gericht das Argument von Trumps Anwälten, dass er seinen Account bereits vor dem Amtsantritt eingerichtet habe und er die Sperrungen als Privatperson und nicht als Präsident vornehme, nicht gelten ließ. Die Richter bewerteten Trumps Twitter-Account als öffentlich, da er diesen nachweislich für amtliche Mitteilungen nutze. Bei der Einordnung des Ramelow-Accounts wären die amerikanischen Richter sicherlich zu dem gleichen Urteil gekommen.
netzpolitik.org: Wie bewerten Sie die Diskussionen um die aktuellen rechtlichen Vorschläge Trumps, um Eingriffe in die Meinungsfreiheit auf Twitter zu verhindern?
Jacqueline Neumann: Der US-Präsident schlägt vor, das Haftungsprivileg von Twitter und anderen Plattformbetreibern zu beschränken, wonach diese für die von Nutzern veröffentlichten Inhalte nicht verantwortlich sind. Zudem sollen die Unternehmen weniger Eingriffe in Nutzerbeiträge aufgrund ihrer internen Standards vollziehen.
Auch in Deutschland ist die Diskussion um das Haftungsprivileg im Gange. Zudem diskutieren wir die Frage, ob Plattformbetreiber ebenso wie der Staat alle grundrechtlich geschützten Meinungsäußerungen zulassen müssen. Oder ob sie in Form von AGBs Kommunikationsstandards für ihre Nutzer festlegen dürfen. Dürfen sie Äußerungen kennzeichnen, die vielleicht als falsch zu bewerten sind? Dürfen sie Kommentare verbieten und löschen, die provozierend und bei manchen Nutzern unbeliebt sind, aber von der Meinungsfreiheit gedeckt sind?
Diese Fragen sind in der obergerichtlichen Rechtsprechung und der juristischen Literatur unterschiedlich beantwortet worden. Das Bundesverfassungsgericht hat sich hierzu noch nicht abschließend geäußert. Unstreitig ist, dass Plattformbetreiber aufgrund ihrer Marktmacht und Bedeutung für die politische Debatte mittelbar auch an die Grundrechte gebunden sind. Würde man eine ähnlich starke Grundrechtsbindung wie seitens des Staates annehmen und den privaten Unternehmen die Festlegung von Kommunikationsstandards untersagen, könnte dies in der Tat zu einer Liberalisierung und weniger Sperrungen führen. Denn der Großteil der Sperrungen erfolgt auf der Grundlage der eigenen Standards der Unternehmen. Damit würde jedoch die grundlegende Unterscheidung zwischen Staat und Gesellschaft aufgeweicht, die für die Marktwirtschaft und unsere Rechtsordnung erstrebenswert ist.
Es gibt seit längerem auch den Vorschlag, die übereifrige Löschung oder Sperrung rechtskonformer Inhalte mit ebenso empfindlichen Strafen zu belegen wie die ausgebliebene Löschung oder Sperrung rechtswidriger Inhalte. Wenn dieser Vorschlag in eine Reform des Netzwerkdurchsetzungsgesetzes (NetzDG) einbezogen würde, hätten die Betreiber von Social-Media-Plattformen einen Anreiz, nicht zu viel zu löschen, und würden nicht „im Zweifel gegen den Angeklagten“ entscheiden. Wobei sich dann, ebenso wie bei der Frage der Etablierung eines Put-Back-Verfahrens, die Frage stellt, ob neben den Maßnahmen aufgrund des NetzDG nicht auch die Maßnahmen der Unternehmen aufgrund der eigenen Standards davon umfasst werden müssten.
Jacqueline Neumann.
Aktuell steht auf EU-Ebene mit dem „Digital Services Act“ insbesondere eine Neuregelung der Haftung für Plattformbetreiber und der Aufbau einer zentralen EU-Regulierungsbehörde an. Der öffentliche Konsultationsprozess läuft noch bis September 2020. Daher frage ich mich, ob die deutsche Politik nach den durchwachsenen Erfahrungen mit dem NetzDG nicht besser auf eine europäische Lösung setzen sollte, wenn schon keine Einigung mit den USA möglich scheint, auch um eine weitere Rechtszersplitterung im Internet zu vermeiden. Das französische Verfassungsgericht erklärte kürzlich das dem NetzDG vergleichbare französische Gesetz für teilweise verfassungswidrig. Begründet wurde dies auch mit der Gefahr des Overblockings. Die Frage der Vereinbarkeit des NetzDG mit Verfassungs- und Europarecht steht immer noch aus, um es freundlich auszudrücken.
Article note: .oO(Immerhin weiß ich jetzt, wozu Twitter ne Nummer haben wollte ... #dankesehr!)
Yes, it's another Twitter security issue in the space of just a few days. Security researcher Ibrahim Balic told TechCrunch that Twitter's Android app had a flaw that allowed him to match 17 million phone numbers with their respective user accounts....
Yes, it's another Twitter security issue in the space of just a few days. Security researcher Ibrahim Balic told TechCrunch that Twitter's Android app had a flaw that allowed him to match 17 million phone numbers with their respective user accounts....