24.970

5 Schritte: Wie rechte „Influencer:innen“ junge Menschen auf Instagram manipulieren

von | Okt 7, 2020 | Aktuelles, Social Media

Heile Welt auf Instagram? Von Wegen! #KeinFilterfürRechts

Heile Welt auf Instagram: Foodporn, Memes, nice Pics ausm Urlaub, Selfies mit Filter drüber und so weiter. Wer kennt es nicht? Doch daneben existiert auf Instagram gleich neben den süßen Katzenbildern noch eine ganz andere Welt. Eine Welt, in der rechtsextreme Influencer:innen versuchen, junge Menschen in ihre Filterbubble zu locken und auf ihre Seite zu ziehen. All das wurde in der neuen ausführlichen Recherche von Correctiv gezeigt (Quelle): 

https://www.instagram.com/p/CGCKTgxHIfx/

Correctiv legt umfangreichen Datensatz zu rechten Netzwerken auf Instagram an

Für ihre Recherche legte Correctiv einen großen Datensatz an und wertete über 4500 Instagram Accounts und 830.000 Insta-Posts aus. Das ganze sollte dazu dienen, herauszufinden, wie die rechte Szene die Plattform Instagram nutzt, um junge Menschen systematisch zu ködern. Da die Recherche recht lang und ausführlich ist, wollen wir hier eine verkürzte Version anbieten, die die Erkenntnisse von Correctiv kurz zusammenfasst und auf das Wichtigste runterbricht. Wir empfehlen natürlich ausdrücklich das Lesen der ganzen Recherche bei Correctiv (Quelle). Wer sich für die Daten hinter der Recherche interessiert, kann hier nachlesen, wie Correctiv vorgegangen ist.

Alles nachfolgende stützt sich auf die Recherchen von Correctiv. Dann legen wir mal los:

Schritt 1: Erstelle coole Lifestyle-Bilder, um Leute anzulocken

Der Anfang der Recherche von Correctiv beginnt dort, wofür Instagram bekannt ist: Natürlich bei Fotos:

„Süßes kleines Baby-Foto“ denkt man sich auf den ersten Blick. Aber der erste Eindruck täuscht. Sieht ihr oben rechts diese kleine Sonne aus Holz? Das ist ein Symbol der Rechtsextremen Szene, die schwarze Sonne:

Screenshot taz Artikel „Faschistische Symbole erkennen“ (Quelle)

Wenn man das nicht weiß, bleibt dieses Foto auch ein harmloses. Wenn man es weiß, sollte man angeekelt sein, dass irgendwelche Leute Babyfotos für rechtsextreme Propaganda nutzen. Dazu Correctiv:

„Mehr als 600 Nutzerinnen und Nutzern gefällt das Bild. Wer es genauer betrachtet, versteht, dass es für sie etwas ganz anderes bedeutet: Das Baby ist ein „Kämpfer“, wie ein Nutzer unter das Bild schreibt. In einigen Jahren werde es bereit für die „Frühlingsangriffe“ sein.“

„Dog whistling“

Man nennt diesen Effekt auch „Dog-Whistling“.  Das bedeutet, dass auf etwas angespielt wird, was nur diejenigen erkennen können, für die auch die Message gedacht ist. Genau wie eine Hundepfeife auch nur von Hunden gehört werden kann, kann die schwarze Sonne in der Regel auch nur von Nazis erkannt werden. Oder Leuten, die das entsprechende Wissen haben. Alle anderen sehen hier einfach nur ein nettes Babyfoto. Und Liken vielleicht dann auch andere Beiträge der Seite. Wie das halt so ist auf Insta. Damit ihr ein Gefühl bekommt, wie diese Seiten arbeiten, hier ein Screenshot von „deutsche.weltanschauung“ (über 10K Abos):

Screenshot Instagram „deutsche.weltanschauung“

Man nennt das wohl „Ästethik“. Seiten in dieser Form gibt es einige. Doch worauf die Recherche von Correctiv vertiefter eingeht, ist vor allem das Agieren von rechten Frauen auf Instagram. „Rechte Influencer Girls“, ihr habt richtig gehört. Wie zum Beispiel diese AfD Frau:

Screenshot Instagram Kaiser.afd

Diese findet es anscheinend völlig richtig, dass ihr Account in Verbindung mit Rechtsextremen gebracht wird und postet das Recherche Netzwerkbild, wo auch ihr Name gelistet, wird in ihrer Insta Story:

Screenshot Instagram Story kaiser.afd

Hier nochmal das Netzwerk an rechten Influencer:innen auf Instagram in groß (wer sich das ganze hoch auflösend anschauen möchte, um die einzelnen Accounts herauslesen zu können, kann das hier tun):

Screenshot Correctiv Artikel „Wie tausende Rechte Instagrams Schwachstellen ausnutzen“ (Anklickbar)

Aber warum überhaupt Frauen? Dazu Correctiv:

„Es ist den Rechten schon lange bewusst, dass Frauen friedliebender wirken“, sagt Katrin Degen, die an der Universität Bamberg zum Thema „Gender und Sexualität in Social-Media-Diskursen der extremen Rechten“ promoviert. Schon in den 1990er-Jahren hätten Frauen auf Demonstrationen die Plakate getragen. Die wenigen Frauen in der NPD habe man gezielt aufgefordert, sich in Schulräte wählen zu lassen. In Sozialen Netzwerken wie Instagram setze sich diese Tradition fort, erklärt Degen: Frauen würden immer dort gezielt „vorgeschickt“, wo es gelte, die „Ideologie durch die Hintertür“ einzuführen.

Zurück zum Thema: Man braucht geile Bilder für Instagram, sonst funktioniert das ganze nicht. Gut, wenn man in den eigenen Kreisen Fotografen dafür hat:

Screenshot Correctiv Artikel „Wie tausende Rechte Instagrams Schwachstellen ausnutzen“

Hier abgebildet (nicht verpixelt): Mary Khan (Junge Alternative, oben rechts), Felice Ferrer Vargas (AfD Leipzig, unten Mitte) und Talisa Barfuss (ehemals Vorstand JA Berlin). Kurz zur Erinnerung, die junge Alternative wird vom Verfassungsschutz beobachtet. Dazu Correctiv:

„Der Fotograf ist Vadim Derksen, selbst Beisitzer im Bundesvorstand der JA. Im Gespräch mit CORRECTIV sagt er, der Account „germanyspride“ sei eigentlich nur ein Nebenprodukt. Es habe im September 2019 mit Bildern für eine Kampagne der Jungen Alternative Berlin mit dem Titel „Nie wieder Sozialismus“ angefangen. „Das war die Initialzündung“, sagt Derksen. Das Ziel seien Bilder gewesen, „wo wir nicht so im Biedermeier-Look rüberkommen, sondern so, wie Jugendliche halt normalerweise aussehen.“

Die JA hat offenbar erkannt, worauf es bei Instagram ankommt. „Die Menschen wollen Menschen sehen, auch positive Menschen, und eher weniger Organisationen. Das ist ganz klar“, erklärt Derksen. Jede Branche mache das so, „dass man nicht in erster Linie ein Produkt vorne hat, sondern Menschen. Und der Mensch bringt dann die Botschaft. Das ist das Einmaleins von Instagram. Genauso arbeiten wir auch, dass der Mensch im Fokus ist.““

Also nochmal zum Mitschreiben: Durch Menschen soll die politische Botschaft vermittelt werden, da das viel besser funktioniert als über Organisationen. Ganz ähnlich wie bei Inflluencer:innen, die für Produkte werben, nur das hier rechtes Gedankengut verbreitet werden soll.

Man vertraut Menschen, nicht Organisationen.

Step 1: Man braucht gute Bilder, die nach einem netten Lifestyle aussehen. 

Hier ein paar weitere Beispiele,wie solche Accounts aussehen könnten:

Aber was braucht man noch? Machen wir mal weiter.

Schritt 2: Baue Influencer:innen auf und nutze die richtigen Hashtags

Man braucht nicht nur Bilder, sondern auch die richtigen Hashtags:

„Hashtags verwendet die JA nicht zufällig. Über Hashtags stoßen Instagram-Nutzer auf neue Accounts und Inhalte zu einem Thema, das sie interessiert. Der Hashtag #Heimatliebe sei zwar etwas schwierig, weil ihn sehr viele Menschen nutzen, erklärt Vadim Derksen. „Aber der würde bei uns reinpassen, rein thematisch, deshalb verwenden wir den, um diesen Hashtag auch zu füllen.“

Heimatliebe ist offenbar etwas, das die JA auf Instagram darstellen möchte. Manche Aktivistinnen werden da deutlicher: Hana K., laut zweier Instagram-Beiträge der JA Berlin 2019 Teil des Vorstands, veröffentlicht auf ihrem privaten Profil verträumte Porträts von sich mit Texten wie: „Mögen die letzten Sonnenstrahlen des Jahres auch die letzten für Merkel in der Regierung sein!“ Und lächelnd, ein buntes Ahornblatt vor dem rechten Auge: „Ein Herbstblatt ist besser als Burka.“ Hashtag #Heimatliebe, Hashtag #patriotisch.“

Screenshot Correctiv Artikel „Wie tausende Rechte Instagrams Schwachstellen ausnutzen“

Wer sich schonmal mit der rechtsextremen „Identitären Bewegung“ auseinander gesetzt hat, wird hier einige Begrifflichkeiten wiedererkennen können.

Correctiv dazu:

„Bei unserer Recherche sehen wir, wie sich politische Inhalte unter unverfängliche Hashtags mischen. Wir geben #heimatverliebt auf Instagram ein, und sofort erscheinen rund 4.500 Beiträge – bunte Naturfotos, Architektur, Menschen in Trachten. Man scrollt und entdeckt: eine Deutschlandfahne, Hashtag #Jungealternative. Auf einem anderen Bild posiert ein junger Mann vor einem Banner mit der Aufschrift „Volk“ – es ist ein Beitrag eines rechtsextremen Accounts namens „Altstadtrevolte Bautzen“, der der Identitären Bewegung (IB) nahesteht.“

Step 2: Nutze die richtigen Hashtags.

So lockt man die Leute auf Content und Seiten, auf die man sonst nicht kommen würde. Die Hashtags dienen dazu, unerfahrene, junge Menschen in die rechte Szene hineinzuziehen. Dazu nochmal einordnend von Correctiv:

Die IB Deutschland ist laut Verfassungsschutz eine „gesichert rechtsextremistische Bestrebung“; sie vertrete einen völkischen Staatsvolk-Begriff, der dem Grundgesetz widerspreche. Die Junge Alternative wird vom Verfassungsschutz seit Januar 2019 als „Verdachtsfall“ einer extremistischen Organisation eingestuft und somit ebenfalls beobachtet.

Auf Instagram kann sie sich hinter unverfänglichen Inhalten tarnen. Die Profile junger Frauen sehen aus wie die hunderter anderer auf der Plattform.

Kommen wir zu Step 3.

Schritt 3: Nutze den Instagram Algorithmus und ziehe deine Beute in deine Echokammer

Algorithmus? Genau. Wenn man dann ein paar Accounts abonniert hat, checkt das der Instagram Algorithmus und gestaltet deinen Insta-Feed entsprechend. Correctiv hat sich hierfür einen Fake Account angelegt, mehrere solcher Seiten abonniert und hat darüber mit einer Aussteigerin gesprochen:

„Wenn gerade etwas wichtig ist, dann Instagram. Um das Netzwerk stabil zu halten und auch weiterhin zu füttern“, sagt Lisa H. Das Netzwerk bleibe unter sich, alle bekämen immer mehr vom selben zu sehen. „Eine andere Meinung kommt nicht rein.“

Was sie damit meint, können wir anhand unseres fiktiven Accounts und der Daten nachvollziehen. Wir bekommen etliche rassistische Memes in unseren Feed gespült. In einem mit mehr als 1.000 Likes ist links eine Collage aus Fotos von dürren, schwarzen Kindern zu sehen, Überschrift: „Die brauchen unsere Hilfe!“ – rechts eine Collage mit Fotos von offensichtlich geflüchteten Männern, dazu die Überschrift: „Die nicht!“

Es sind zynische Sprüche über eine angebliche „Islamisierung“, Screenshots von Artikeln der rechten Medienszene, in denen es um angebliche Gewaltverbrechen durch Asylbewerber geht: „Wir schaffen das: Asyl in Deutschland trotz 58-fachem Mordvorwurf.“ Ein Beitrag der AfD-Politikerin Beatrix von Storch, sie steht auf dem Foto mit einem Transparent auf der Straße, auf dem zu lesen ist: „Die Scharia gehört nicht zu Deutschland.“ Und zwischendurch: Veranstaltungseinladungen von rechtsextremen Organisationen wie dem „Dritten Weg“, Kritik an den öffentlich-rechtlichen Medien, Zitate von Renaud Camus, einem Vordenker der Neuen Rechten.

Rechte Dauerbeschallung – anders lässt es sich nicht beschreiben. Lisa H. habe dadurch eine extreme Angst entwickelt, erzählt sie uns. „Und das hab ich auch bei ganz, ganz vielen anderen mitbekommen, dass die wirklich permanent unter Angst stehen, und diese Angst wird durchgehend geschürt. Die ganze Zeit.“

Man ist also in einer sogenannten Filterbubble gelandet oder auch Echokammer.

Es werden einem immer wieder ähnliche Accounts vorgeschlagen, wie in diesem Beispiel zu sehen:

Screenshot Correctiv Artikel „Wie tausende Rechte Instagrams Schwachstellen ausnutzen“

Außerdem fällt es dem Instagram Algorithmus schwer, Rassismus zu erkennen (Nacktbilder hingegen verschwinden meist sofort von der Plattform):

Screenshot Correctiv Artikel „Wie tausende Rechte Instagrams Schwachstellen ausnutzen“

Sorry, Instagram-Algorithmus, rechte Influencer:innen wissen, wie sie dich betrügen können.

Step 3: Lass Instagram (und Facebook) einfach mal ihr Ding mit den Algorithmus machen und nutze die Lücken

Klar, das ganze hat natürlich auch seine Funktionen und auch Nutzen. Ich will auf Instagram auch gerne Dinge sehen, für die ich mich auch interessiere, bequem, wenn der Algorithmus da eine Vorauswahl trifft, anhand dessen, was mir sonst auch immer gefällt. Das ist jedoch was völlig anderes, wenn es um rechtes Gedankengut geht und das Rekrutieren neuer Mitglieder.

So, jetzt haben wir die potentielle Beute für das rechtsextreme Lager an der Angel. Man folgt sich, man liked sich und hat die gleichen Hashtags aufm Schirm. Aber da muss noch der direkte Kontakt her. Tja, und dafür gibt es Insta Storys.

Schritt 4: Baue einen direkten Draht mit Insta Storys auf

Die von Correctiv zitierte Aussteigerin führt weiter aus:

„Die IB geht laut Lisa H. über Instagram aktiv auf junge Menschen zu und versucht, sie dort zu örtlichen Treffen zu bewegen: „Da wird dann geguckt, wie stabil die Ideologie schon ist. Und wenn in Ordnung ist, was der sagt, wird er reingeholt.“

Die Rechten nutzen das ganze Aufmerksamkeits-Besteck der Plattform: „Am besten ist es eigentlich, auf Stories zu antworten, wenn da irgendwie was ‘Lustiges’ geteilt wird.“ Die Story-Funktion auf Instagram ist eine Art Slideshow mit Bildern und Videos, die nach 24 Stunden wieder verschwindet. Nutzer können darauf mit Text oder Emojis reagieren.

„Schickt mal einen Panzer, ein Emoji, irgendwie sowas, um eine Interaktion zu starten. Dann werdet ihr auch sehen, dass nach ganz kurzer Zeit, wenn es denn funktioniert, ihr irgendwann in die ‘engen Freunde’ reinrutscht“, sagt Lisa H. Über die „Enge-Freunde“-Funktion von Instagram kann man Stories nur mit ausgewählten Nutzern teilen.

„Und da kommt dann der harte Scheiß“, sagt Lisa H.

Eine junge Frau, der Lisa H. folgt, habe über diese Funktion zu Adolf Hitlers Geburtstag ein Meme geteilt: Hitler mit Torte in der Hand, mit Musik unterlegt. „Die dachte wirklich, das ist okay für mich.““

Step 4: Über Insta Storys wird der persönliche Kontakt geknüpft.

Da bekommt der Ausspruch „Slide into your DM´s“ eine ganze neue Bedeutung.

Man schaut sich also die Insta-Storys des jeweils anderen an. Es wird ein Stück persönlicher und der Content aufgrund der 24-Stunden sichtbar Funktion etwas exklusiver. Zeit, den potentiellen Anhänger (und es sind mehrheitlich Männer) in den Kaninchenbau auf Telegram zu holen.

Schritt 5: Locke deine Beute auf Telegram

Da die Akteur:innen wissen, dass Instagram immer noch ein halbwegs öffentlich einsehbarerer Raum ist (sofern denn jemand auch dahin schaut, wie zum Beispiel Correctiv). Und deshalb kann dort ihre wahre Ideologie nicht offen kommuniziert werden. Deshalb müssen für die harten Botschaften die Leute nach Telegram gebracht werden. Was es mit Telegram auf sich hat, haben wir im Zuge der Verschwörungsideologien hier schon einmal ausführlich erläutert:

Naidoo, Hildmann, KenFM & co: Verschwörungsideologen verschwören sich

Hierzu Correctiv:

„Ein Beispiel: Eine junge Frau namens Josephine, der unter anderem auch Reinhild Boßdorf folgt, teilte in ihrer Story kürzlich ein Bild von „Madame Europa“: Eine junge Frau mit einem geflochtenen Zopf vor einem Wald aus rosa Blüten. In einer für Instagram typischen Pose scheint sie die Person hinter der Kamera an der Hand mit sich zu ziehen. Komm, ich zeig’ dir meine Welt, sagt dieses Bild. Es trägt die Aufschrift: „When you’re white, there is no upgrade, don’t mix”.

Auf Deutsch, sinngemäß: „Wenn du weiß bist, geht es nicht mehr besser – vermische dich nicht.“

Den Verbreitern ist offenbar völlig klar, dass sie damit gegen die Regeln von Instagram verstoßen: In den Beiträgen von „Madame Europa“ selbst wird das Bild nicht angezeigt. Stattdessen wurde dort eine verschwommene Grafik veröffentlicht, mit dem Hinweis: „Dieses Bild könnte zensiert werden und zur Sperrung dieses Accounts führen. Entdecke es auf Telegram.“ Dazu wurde ein Link zum Telegram-Kanal gezeigt – und dort fanden wir das Foto der Frau mit den rosa Blüten.

Dieselbe Strategie beobachteten wir auch bei „Europa Invicta“: Ein Bild, das auf Instagram unkenntlich gemacht wurde, entpuppt sich auf Telegram als ein Vater mit drei Kindern im Blumenfeld. Ein Familienfoto in der Idylle – doch alle bis auf das kleine Mädchen halten Schusswaffen in den Händen. „Verteidige dein Land“ steht darauf.“

Screenshot Correctiv Artikel „Wie tausende Rechte Instagrams Schwachstellen ausnutzen“

Step 5: Bringe dein Ziel auf Telegram. 

Hier kann nun ungestört eine Radikalisierung stattfinden und der/die moderne rechte Influencer:in ist nun am Ziel angekommen. Angefangen mit „harmlosen“ netten Fotos, ein paar Likes hier und da und dann der persönliche Kontakt über Insta Storys haben uns an einen Punkt geführt, wo dem potentiellen neuem Mitglied der rechten Szene gesagt wird: „Komm, ich nehm‘ dich bei der Hand. Folge mir in den Kaninchenbau und ich zeige dir wie die Welt wirklich ist.“

Gruselig, aber laut Correctiv Alltag auf Instagram.

Einordnung: Was tun mit diesen Informationen?

So, nachdem man das alles weiß, fragt man sich, was man mit diesen Informationen anfangen soll. Zunächst einmal ist es die Aufgabe der Plattform, also Instagram, gegen solche Vorgänge vorzugehen. Dazu schreibt Correctiv:

„Instagram teilt uns mit, dass es in den Community-Standards „klare Regeln“ für „gefährliche Individuen und Organisationen“ auf Facebook und Instagram gebe. So würden „alle Inhalte, die diese Organisationen und Einzelpersonen und ihre Aktivitäten loben, unterstützen oder vertreten“ von der Plattform entfernt. Das gelte auch für Symbole und Slogans, die „in Neonazi-Kontext“ verwendet würden.

Instagrams Antwort liest sich, als habe die Plattform das Problem im Griff. Doch wie gut diese Sicherheitsvorkehrungen in der Praxis funktionieren, zeigt sich bei dem Bild des schlafenden Babys mit dem Sonnenrad: Erst nach unserer Anfrage entfernte Instagram es von der Plattform. Zu diesem Zeitpunkt war das Bild bereits elf Monate online gewesen.

Eine Sprecherin kündigt zudem an, „die Hashtags #DefendEuropa und #heimatverliebt zu untersuchen“. Hashtags, auf die wir Instagram hingewiesen hatten. Es sei außerdem „hilfreich“, wenn wir noch weitere Accounts nennen könnten.

Funktionierende Filter gegen rechtes Gedankengut sehen anders aus.“

Und hier kommen wir zur Krux der ganzen Geschichte. Man muss Instagram darauf hinweisen, welchen Accounts und Postings man nachgehen soll. Sicherlich machen das auch schon viele von euch in ihrem Alltag, wenn sie etwas entdecken. Aber wie die Recherche von Correctiv zeigt, gibt es immer noch Unmengen von rechtsextremen Content der auf Insta gespielt wird. Was also tun?

Fazit: Wir müssen mehr Nazi-Content melden. Und zwar systematisch

Was wir von Correctiv gelesen haben, ist der erste Teil ihrer Recherche von insgesamt vier Teilen. Wir können also davon ausgehen, dass in nächster Zeit noch mehr über die Umtriebe von Rechtsextremisten auf Instagram aufgeklärt wird. Aber schon anhand dieses Teils können wir Accounts ausmachen, von denen eine Gefahr ausgeht. Deshalb in Zukunft folgendes Vorgehen:

  1. Wenn wir auf Instagram, einen Account oder ein Posting ausmachen, der eindeutig gegen die Gemeinschaftsstandards verstößt, posten wir diesen in unserer Story und auf unserem Telegram Kanal (hier der Link: https://t.me/dervolksverpetzer) Dann kann man gemeinsam darauf aufmerksam machen, dass dieser Inhalt nichts auf Instagram zu suchen hat.
  2. Ihr könnt uns Vorschläge bei Instagram schicken, was man melden sollte, sofern ihr zuvor geprüft habt, ob gegen die Gemeinschaftsstandards auch wirklich verstoßen wurde. Es gibt natürlich einen Unterschied zwischen anderen Meinungen und einer Hass-Ideologie. Anhand der Recherche von Correctiv wisst ihr ja, wo ihr in eurer Freizeit danach suchen könntet

Diesen Artikel beende ich gerne auch mit den gleichen Worten, mit denen auch Correctiv den ersten Teil ihrer Recherche beendet haben:

„Die Tiefen von Instagram sind durchzogen von Hass. Doch es ist Hass, der sich gut zu tarnen weiß. Die Plattform scheint dagegen bisher kein wirkungsvolles Mittel gefunden zu haben. Mit unserer Datenanalyse haben wir bereits tief unter die Oberfläche geschaut. Doch den Boden haben wir noch nicht erreicht.“

Artikelbild: pixabay.com, CC0


Unsere Autor:innen nutzen die Corona-Warn App des RKI: