Die Verantwortung der Wahlgerechtigkeit angesichts von Wahlwerbung auf digitalen Plattformen

0
12
DOI: ESTE ARTIGO AINDA NÃO POSSUI DOI SOLICITAR AGORA!
PDF

ORIGINAL-ARTIKEL

BONATO, Isabelle Emy [1], GRANADO, Karina [2]

BONATO, Isabelle Emy. GRANADO, Karina. Die Verantwortung der Wahlgerechtigkeit angesichts von Wahlwerbung auf digitalen Plattformen. Revista Científica Multidisciplinar Núcleo do Conhecimento. Jahrgang 05, Ed. 03, Vol. 02, S. 85-120. März 2020. ISSN: 2448-0959, Zugriffslink: https://www.nucleodoconhecimento.com.br/gesetz/wahlwerbung

ZUSAMMENFASSUNG

Die Studie hinterfragt die Zuverlässigkeit digitaler Social-Media-Plattformen in Wahlwerbung und die Verantwortung der Wahlgerechtigkeit in diesem Zusammenhang. Sie analysiert die Notwendigkeit der Wahlgerechtigkeit, die Nutzung dieser Plattformen zu regulieren, und fragt, ob die Nutzung sozialer Netzwerke als Wahlpropagandaplattform der Demokratie schadet. In den Medien auf der ganzen Welt ist es berüchtigt, dass es digitale Mittel gibt, um persönliche Informationen zu erhalten und Informationen, ob wahr oder nicht, an bestimmte Zielgruppen weiterzugeben. Daher ist die Nutzung sozialer Medien als Wahlwerbeplattform möglicherweise nicht sicher und kann leicht manipuliert werden, und daher analysiert die vorliegende Studie, ob das Oberste Wahlgericht die Verwendung des Prinzips der Wahlglätte regeln sollte, das die freie Wahlgestaltung und die Gleichheit der Kandidaten garantiert und die brasilianische Demokratie gewährleistet.

Schlagworte: Demokratie, soziale Medien, Wahlen.

1. EINFÜHRUNG

In letzter Zeit wurde viel über die Bedeutung der Demokratie gesprochen. Einige sprechen von “Putschen” und gehen auf die Straße, um die Verteidigung der Demokratie zu fordern, andere glauben, dass es nichts zu befürchten gibt, da der demokratische Prozess mit den Präsidentschaftswahlen 2018 intakt blieb. Es wurde jedoch ein neues Problem aufgeworfen: die Zuverlässigkeit der Nutzung digitaler Plattformen in Wahlanzeigen, die vom TSE – Superior Electoral Court für diese Wahlen genehmigt wurde. Wenn es um ein so wichtiges Thema wie die Demokratie geht, ist es wichtig, das Funktionieren der sozialen Netzwerke und die bestehenden Methoden der Datenmanipulation und der Information zu kennen, um über die Wahlfreiheit und die Verteidigung und den Schutz der Demokratie nachzudenken.

Im März 2018 veröffentlichte die New York Times einige der Facebook-Skandale. Zusammen mit The Observer of London untersuchte die Zeitung eine politische Beratungsfirma namens Cambrigde Analytica und enthüllte eine mögliche neue Waffe, die von der Beratungsfirma verwendet wurde. Laut der amerikanischen Zeitung ist diese Waffe eine Software, die in der Lage ist, Persönlichkeitsmerkmale basierend auf dem, was Menschen auf Facebook genießen, zu kartieren. Cambridge hatte Zugriff auf die persönlichen Daten von Millionen von Nutzern dieses Netzwerks, in der Lage, unter anderem persönliche Eigenschaften, die empfängliche Kapazität von jedem vorherzusagen, die politische Vision, IQ, persönliche Zufriedenheit, ob die Person verdächtig ist oder nicht, ob es offen ist oder nicht usw. Dieses Unternehmen war für Donald Trump Wahlkampf 2016 verantwortlich und sprach die Frage der Sicherheit personenbezogener Daten in sozialen Netzwerken (ROSENBERG; CONFESSORE; CADWALLADR, 2018). In einem anderen Bericht sprechen wir über die Existenz von bots[3] in der Cyber-Welt, die in der Lage sind, spezifische Informationen an bestimmte Gruppen zu richten und eine Wahl zu beeinflussen (PATTERSON, 2018). Mit diesen Informationen wächst die Sorge über die Glätte bei Wahlen auf der ganzen Welt. In Brasilien zum Beispiel gab es den Skandal um die Verwendung eines Geräts namens “Content Boosting Service”, das vom damaligen Präsidentschaftskandidaten Jair Bolsonaro bei der Verbreitung von Fake News (PERON; MARTINS, 2018), ein weiteres Thema, das in dieser Arbeit untersucht wird.

Ein dem demokratischen Rechtsstaat innewohnender Grundsatz ist das von Ramayana (2015, S.31) definierte Prinzip der Wahllisura: “Die Garantie der Reibungsloskeit der Wahlen nährt ein besonderes Gefühl des Schutzes der Grundrechte der Staatsbürgerschaft (Bürger-Wähler) und findet eine rechtsveinige Grundlage in den Künsten. 1, Punkt II und 14 Nr. 9 des Grundgesetzes.” Dieser Verfassungsgrundsatz zielt darauf ab, die Beteiligung der Bevölkerung an der freien und wahrheitsgemäßen Wahl ihrer Vertreter zu gewährleisten. Die Wahljustiz ist dafür verantwortlich, den Willen der Wähler zum Ausdruck zu bringen und alle Wahlverfahren so zu operationalisieren, dass sie sich in Harmonie und Transparenz entwickeln, ohne durch die Souveränität des Volkes behindert zu werden (VELLOSO; AGRA, 2016). Daher ist es äußerst wichtig, die Instanddesmöglichkeiten der Datenmanipulation zu untersuchen, die in aktuellen digitalen Plattformen vorhanden sind, damit sie über die Verantwortung der Wahljustiz bei der Nutzung sozialer Netzwerke für politische Propaganda nachdenken kann. Zu diesem Zweck werden aktuelle Artikel untersucht, in denen verschiedene Formen der Datenmanipulation und deren Ergebnisse bei Wahlen erörtert werden und wie andere Länder dieses Thema diskutieren, um über die Zuverlässigkeit digitaler Plattformen für den Einsatz in politischen Anzeigen nachzudenken.

Die Arbeit beginnt mit der Ausstellung von wissenschaftlichen Artikeln und Materialien wie Büchern und Berichten, die die Manipulation personenbezogener Daten in der virtuellen Welt zeigen, um das Vorhandensein von Mechanismen aufzuzeigen, die in der Lage sind, spezifische Informationen an eine Zielgruppe zu richten, die das Ergebnis bei Wahlen beeinflussen kann, wodurch die grundlegende verfassungsmäßige Garantie des Rechts auf freie Wahl verletzt wird. Basierend auf grundlegenden Prämissen wie Demokratie, den verfassungsrechtlichen Grundsätzen des Wahlrechts und den Funktionen der brasilianischen Wahljustiz, der neuen Formulierung, die der Kunst gegeben wird. 57-C des Gesetzes Nr. 9,504/1997 (Wording durch Gesetz Nr. 13,488, 2017), das die Nutzung digitaler Plattformen in Wahlanzeigen bei den letzten Wahlen erlaubte und es ermöglichte, über die Verantwortung der Wahljustiz bei der Nutzung digitaler Plattformen und die Folgen für Wahlkampagnen und die brasilianische Demokratie nachzudenken.

2. DIGITALE PLATTFORMEN UND IHRE GEFAHREN

Digitale Plattformen sind mit dem Versprechen entstanden, Menschen zusammenzubringen und mehr “egalitäre Wege zu bekennen, sich zu treffen und zu diskutieren [qualquer assunto]”. online medien haben die Art und Weise, wie Menschen kommunizieren, debattieren und Meinungen bilden, grundlegend verändert. Digitale Plattformen werden durch komplexe Kaskadenprozesse organisiert. So verbreitet sich die Nachricht als “wildes Feuer in sozialen Netzwerken” durch direkte Verbindungen zwischen Lesern und Nachrichtenproduzenten, was es immer schwieriger macht, zwischen ihnen zu unterscheiden. Dieses Phänomen hat jedoch die Art und Weise verändert, wie die Gesellschaft ihre Erzählungen über die gemeinsame Welt komponiert (TÖRNBERG, 2018, S.1).

Peter Törnberg vom Institut für Soziologie der Universität Amsterdam erklärt:

Trotz des anfänglichen Optimismus in Bezug auf diesen angeblich dezentralisierten und demokratischen Treffpunkt erscheint die online welt immer weniger wie ein gemeinsamer Tisch, der uns zusammenbringt, um die Probleme der Gesellschaft in einer neuen Art von öffentlicher Sphäre zu diskutieren und frei zu identifizieren. Stattdessen scheint es das Schlimmste menschlicher Instinkte zu bringen: Wir gruppieren uns in Stämme, die uns mit Bekräftigung trösten und uns vor Meinungsverschiedenheiten schützen; sind echo chambers[4] ammern, die bestehende Perspektive verstärken und Bestätigungsvorurteile fördern. Die Technologie, die entwickelt wurde, um die Bindungen zwischen den Menschen weiter zu knüpfen, scheint zu einer Abnutzung unseres sozialen Gefüges geführt zu haben, da wir in soziale Gruppen mit unterschiedlichen Weltanschauungen unterteilt sind. (TÖRNBERG, 2018, p.1).

Das Internet hat sich zu einer Quelle leicht zugänglichen Wissens entwickelt, aber mit der Zeit nimmt die Qualität und Glaubwürdigkeit von Informationen drastisch ab. Zunehmend gebe es “ein Informationsklima, das sich durch vorurteilsbehaftete Erzählungen, Falschmeldungen, Verschwörungstheorien, Misstrauen und Paranoia auszeichnet” (TÖRNBERG, 2018, S.2). Die digitale Welt ist zu einem fruchtbaren Boden für das Wachstum von Fehlinformationen geworden. Studien zeigen, dass Fake News schneller und weiter verbreitet werden als echte Nachrichten in sozialen Netzwerken. Laut Törnberg kann dieses Phänomen relevante Aspekte des Bürgerlebens in allen Bereichen beeinflussen. Daher kann diese Fehlinformation sogar das Ergebnis einer Wahl gefährden und nicht nur ein Risiko für die menschliche Gesellschaft darstellen, wie der Autor sagt, sondern auch eine Bedrohung für die Demokratie eines Landes.

Anscheinend gibt es einen Zusammenhang zwischen echo chambers und der Verbreitung von Fehlinformationen, da diese homogenen Nutzergruppen mit einer Vorliebe für Selbstbestätigung Gewächshäuser für die Veränderung von Gerüchten und Fehlinformationen zu bieten scheinen. Mit einem polarisierten digitalen Raum neigen Nutzer dazu, ihre Lieblingserzählungen zu fördern, polarisierte Gruppen zu bilden und Informationen zu widerstehen, die nicht ihren Überzeugungen entsprechen (TÖRNBERG, 2018, S.2). So bilden Armeen von Anhängern bestimmter Produkte oder Marken und sogar Armeen von Präsidenten (oder Kandidaten zu), die schnell mobilisiert werden. Dies kann bedeuten, dass echo chambers Fake News viraler machen, da Informationen, die bei voreingenommenen Nutzergruppen mitschwingen, eher über ein Netzwerk verbreitet werden (TÖRNBERG, 2018, S.3).

Törnberg Studie legt in ihrer Schlussfolgerung nahe, dass die einfache Gruppierung von Nutzern mit der gleichen Weltsicht ausreicht, um die Viralität von Informationen zu beeinflussen. Dies deutet darauf hin, dass es nicht nur die Algorithmen sind, die die Nachrichten filtern und sie beeinflussen, sondern die Tatsache, dass soziale Medien diese Dynamik von Gruppierungen zulässt, verändert auch die Dynamik der Viralität. Das ist Teil der großen Frage, wie sich soziale Medien auf politische und gesellschaftliche Prozesse ausgewirkt haben (TÖRNBERG, 2018, S.16-17).

2.1 KÜNSTLICHE INTELLIGENZ AUF DIGITALEN PLATTFORMEN

Es gibt viele Möglichkeiten, künstliche Intelligenz zu verwenden, darunter zwei sind besser geeignet für diese Arbeit, die versucht, die Zuverlässigkeit von Plattformen zu analysieren: software, die das Profil des Benutzers identifiziert und bots, die in der virtuellen Welt interagieren.

2.1.1 IDENTIFIZIEREN DES PROFILEs DER NUTZER

Im Zeitalter des Algorithmus treffen Facebook selbst und Google eine Auswahl nach Personen, ob im Zusammenhang mit der Auswahl von Produkten, Reisen oder Präsidentschaftskandidaten. Algorithmen wissen viel über ihre Nutzer, und mit der Entstehung von künstlicher Intelligenz, neigen sie dazu, immens zu verbessern. Sie lernen und lernen viel über jeden einzelnen und werden, wenn sie nicht mehr sind, in der Lage sein zu wissen, was jeder Mensch will oder was er will, besser als sie selbst. Sie werden sogar ihre Emotionen kennen und in der Lage sein, menschliche Emotionen auf eigene Faust nachzuahmern (SUNSTEIN, 2017, S. 13). Derzeit kann ein Algorithmus, der ein wenig über eine Person lernt, herausfinden und sagen, was Menschen wie sie mögen. Robert Sunstein, Professor an der Harvard University es Law School, erklärt:

Eigentlich geschieht dies jeden Tag. Wenn der Algorithmus weiß, dass Sie bestimmte Arten von Musik mögen, kann er mit hoher Wahrscheinlichkeit wissen, welche Arten von Filmen und Büchern Sie mögen und welche politischen Kandidaten Ihnen gefallen werden. Und wenn Sie wissen, welche Websites Sie besuchen, können Sie wissen, welche Produkte Sie wahrscheinlich kaufen werden und was Sie über Klimawandel und Einwanderung denken. Ein kleines Beispiel: Facebook kennt wahrscheinlich Ihre politischen Überzeugungen und kann andere informieren, auch Kandidaten für ein öffentliches Amt. Er kategorisiert seine Nutzer als sehr konservativ, konservativ, gemäßigt, liberal und sehr liberal (SUNSTEIN, 2017, S. 13).

Sunstein erklärt, dass Facebook seine Nutzer politisch kategorisiert, indem es die Seiten sieht, die sie mögen, und erklärt, dass es einfach ist, ein politisches Profil zu erstellen, wenn der Nutzer bestimmte Meinungen mag, aber nicht von anderen. Wenn der Benutzer einige Kandidaten positiv oder ungünstig erwähnt, ist die Kategorisierung noch einfacher. Und das Schrecklichste ist, dass Facebook nicht verhehlt, was es tut. “Auf der Seite “Anzeigeneinstellungen” auf Facebook können Sie nach ‘Interessen’, dann ‘Mehr’, ‘Lifestyle und Kultur’ und schließlich ‘US-Politik’ suchen und[5] Kategorisierung erscheinen” (SUNSTEIN, 2017, S. 13). Maschinelles Lernen kann verwendet werden, um raffinierte Unterscheidungen zu erzeugen, sagt der Professor, wie die Meinung der Nutzer zu Fragen der öffentlichen Sicherheit, der Umwelt, der Einwanderung und der Gleichstellung. Er fügt hinzu: “Um es milde auszudrücken, diese Informationen können für andere nützlich sein – Kampagnenmanager, Werbetreibende, Spendensammler und Lügner, einschließlich politischer Extremisten” (SUNSTEIN, 2017, S. 13).

Darüber hinaus können die Hashtags berücksichtigt werden: #elenão, #partiu, #tbt, #lulalivre, #foratemer, #elesim #EuApoioaLavaJato. Sie können eine große Anzahl von Gegenständen finden, die den Benutzer interessieren oder die zu ihren Überzeugungen passen (und sie sogar stärken). “Die Idee des Hashtags ist es, den Leuten zu ermöglichen, Tweets und Informationen zu finden, die sie interessieren. Es ist ein einfacher und schneller Klassifizierungsmechanismus” (SUNSTEIN, 2017, S. 14). Es gibt eine große Leistung der so genannten “Unternehmer des Hashtags”; Hashtags zu erstellen oder zu verbreiten, um Ideen, Perspektiven, Produkte, Menschen oder vermeintliche Fakten zu fördern. Dies erhöht Komfort, Lernen und Unterhaltung. Schließlich will fast niemand Anzeigen für Produkte sehen, die sie nicht interessieren. Die Architektur dieser Kontrolle hat jedoch einen gravierenden Nachteil und wirft grundlegende Fragen zu Freiheit und Demokratie auf (SUNSTEIN, 2017, S. 14). Davon stellt der Professor in Frage, welche sozialen Voraussetzungen für die individuelle Freiheit und für ein funktionierendes demokratisches System wären:

Könnte der bloße Zufall wichtig sein, auch wenn die Nutzer es nicht wollen? Könnte ein perfekt kontrolliertes Kommunikationsuniversum – ein benutzerdefinierter Feed – eine Art Dystopie selbst sein? Wie können soziale Medien, die Explosion von Kommunikationsmöglichkeiten, maschinelles Lernen und künstliche Intelligenz die Fähigkeit der Bürger verändern, sich selbst zu regieren? (SUNSTEIN, 2017, S. 14,).

Sunstein kommt zu dem Schluss, dass diese Themen eng miteinander verbunden sind und befürwortet eine digitale Architektur der Serendipity. Der Zufall würde verhindern, dass künstliche Intelligenz die persönlichen Daten der Nutzer nutzt, um ihre online Erfahrung zu verbessern. Wenn diese marketingorientierten Informationen nicht erhalten werden, werden keine personenbezogenen Daten zur Manipulation politischer Interessen verwendet. Diese Maßnahme wäre “zum Nutzen des individuellen Lebens, des Gruppenverhaltens und der Demokratie selbst” (SUNSTEIN, 2017, S. 16). In dem Maße, in dem Anbieter in der Lage sind, für jeden Benutzer so etwas wie benutzerdefinierte Erlebnisse oder geschlossene Communities oder bevorzugte Themen und bevorzugte Gruppen zu erstellen, ist es wichtig, dass Vorsicht geboten ist. “Selbstisolierung und Personalisierung sind Lösungen für einige echte Probleme, aber sie verbreiten auch Unwahrheiten und fördern Polarisierung und Fragmentierung” (SUNSTEIN, 2017, S. 17). Dies ist eine wichtige Klarstellung bei der Analyse der Natur der Freiheit, sowohl persönlicher als auch politischer Art, und der Art der digitalen Kommunikation, die einer demokratischen Ordnung am besten entspricht.

2.1.2 INTERAKTION MIT DEM BENUTZER

In einer weiteren Studie, die am Zentrum für Informations- und Kommunikationstechnologie der Bruno Kessler Stiftung in Italien durchgeführt wurde, wurde analysiert, “auf mikroskopischer Ebene, wie soziale Interaktionen zu aufkommenden globalen Phänomenen wie sozialer Segregation, Verbreitung von Informationen und Verhalten führen können” (STELLA; FERRARA; DOMENICO, 2018, p.1). Die Autoren behaupten, dass digitale Systeme nicht nur von Menschen bevölkert werden, sondern auch von bots, die softwaregesteuerte Agenten für bestimmte Zwecke sind, die vom Senden automatisierter Nachrichten bis hin zur Übernahme spezifischer sozialer oder antisozialer Verhaltensweisen reichen. So können Bots die Struktur und Funktion eines sozialen Systems beeinflussen (STELLA; FERRARA; DOMENICO, 2018, p.1)

Aber wie können bots mit Benutzern interagieren? Grassi Amaro, phD-Professor am FGV, erklärt:

Roboter werden in sozialen Netzwerken eingesetzt, um falsche, bösartige Informationen zu verbreiten oder eine künstliche Debatte zu entsteht. Um dies zu tun, müssen sie so viele Anhänger wie möglich haben (GRASSI et al., 2017, S.12)[…]. Auf diese Weise fügen Roboter eine große Anzahl von Menschen zur gleichen Zeit hinzu und folgen echten Seiten berühmter Persönlichkeiten, zusätzlich zu den folgenden und gefolgt von einer großen Anzahl von Robotern, so dass sie am Ende gemischte Gemeinschaften schaffen – die reale und gefälschte Profile enthalten (FERRARA et al., 2016 apud GRASSI et al., 2017, S.12).

Einige bots haben Mechanismen, um menschliches Verhalten zu imitieren, als solches erkannt zu werden, sowohl von Benutzern als auch von anderen bots. Andere zielen nur darauf ab, die Aufmerksamkeit auf ein bestimmtes Thema abzulenken (GRASSI et al., 2017, S.12). Mit maschinellem Lernen kann das System Menschen und Roboter durch Profilverhalten identifizieren, z. B. unter Berücksichtigung , “dass echte Benutzer mehr Zeit im Netzwerk verbringen, um Nachrichten auszutauschen und die Inhalte anderer Benutzer zu besuchen, wie Fotos und Videos, während Roboterkonten Zeit damit verbringen, Profile zu recherchieren und Freundschaftsanfragen zu senden” (GRASSI et al. , 2017, S.14).

Bots kennen das Profil jedes Benutzers und wissen, wie man mit ihm interagiert, und können verwendet werden, um Gedanken, Handlungen zu beeinflussen und sogar soziale und politische Bewegungen zu initiieren. Daher ist es wichtig, die Rolle der künstlichen Intelligenz in politischen Angelegenheiten und damit im demokratischen Wahlprozess zu verstehen.

2.2 FAKE NEWS

Fake News ist in Brasilien bereits zu einem bekannten Begriff geworden, aber es ist wichtig, seine Definition und Erklärung hervorzuheben. Nach Ruediger und Grassi:

Fake News, oder Fake News auf Portugiesisch, ist zu einem häufig angenommenen Ausdruck für die Identifizierung der Offenlegung von falschen Informationen geworden, vor allem im Internet. Die Entwicklungen dieses Phänomens in der vernetzten Gesellschaft haben jedoch gezeigt, dass der Begriff nicht in der Lage ist, die Komplexität seiner Praktiken zu erklären, und wird mehrfach zu einem Instrument eines politischen Diskurses, der von einer solchen Vereinfachung profitiert. (RUEDIGER; GRASSI, 2018a, p.8)

In Brasilien zeigt die Studie von FGV DAPP, dass bots “versuchen, gefälschte Diskussionen zu schaffen und sich in Debatten einzumischen”, indem sie Fehlinformationen schaffen, die in Wahl- und demokratische Prozesse eingreifen können. Die Studie zeigt, dass das Aufkommen automatisierter Konten Manipulationsstrategien durch Gerüchte und Diffamierung ermöglichte. Neben Robotern wurden auch Cyborgs (teilweise automatisierte Konten) (RUEDIGER identifiziert; GRASSI, 2018, S.12).

Studien über den Einfluss von Fake News bei der US-Wahl haben gezeigt, dass jeder vierte Mensch falschen Gerüchten ausgesetzt war. Diese Nachrichten machten jedoch nur 2,6 % des Nachrichtenuniversums aus, und 60 % der Besuche in diesen Berichten wurden mit einer konservativeren Voreingenommenheit an die Wähler übermittelt, die 10 % der Wählerschaft ausmachten. Auch wenn Fake News im Korpus der Wahlnachrichten keine nennenswerte Zahl haben, war sie in der Lage, das politische System zu beeinflussen und die politische Polarisierung zu verstärken. Die Verwendung von erfundenen Fake News ist ein altes Phänomen, aber soziale Netzwerke und technologische Fortschritte haben Desinformation auf ein nie dagewesenes Niveau gebracht  (DELMAZO; VALENTE, 2018 apud RUEDIGER; GRASSI, 2018, p.13).

Fake News haben verheerende Macht und haben bereits die Aufmerksamkeit der Wahlrichterin erregt, die den Begriff “Fehlinformation” lieber verwendet. Vor allem in Wahlperioden gab es jedoch immer Wieder Fake News. Die größte Gefahr liegt in software und Programmen, die die idealen Ziele für den Empfang dieser Fehlinformationen identifizieren. Ebenso wie bots, die bei der Bildung von echo chambers helfen und eine stärkere Verbreitung von Fake News ermöglichen.

3. KÜNSTLICHE INTELLIGENZ UND IHRE EINFLUSSREICHE ROLLE BEI WAHLEN

Laut einem Experiment, das 2017 an der Universität Oxford in Zusammenarbeit mit dem Alan Turing Institute und dem Institut für Politische Ökonomie an der Kings Universität in London durchgeführt wurde, geschieht politisches Verhalten zunehmend auf digitalen Plattformen, wo Menschen eine Vielzahl von sozialen Informationen präsentiert werden. (HALE et al, 2017, p.1).

Dieses Experiment versuchte zu verstehen, wie “soziale Informationen” die politische Partizipation der Wähler prägen. Er erklärt, dass soziale Informationen das sind, was Menschen sowohl in der digitalen Welt als auch in der realen Welt tun oder getan haben und eine lange Geschichte in der Sozialpsychologie haben. Es ist jedoch schwierig zu beobachten, was eine große Anzahl von Menschen off-line tun. Andererseits zeigen in der digitalen Welt “viele online Plattformen deutlich an, wie viele Menschen gemocht, verfolgt, retweetet, Petitionen unterschrieben oder anderweitig verschiedene Maßnahmen ergriffen haben.” (HALE et al, 2017, p.2)

Die Studie kommt zu dem Schluss, dass die Struktur digitaler Plattformen erhebliche Auswirkungen auf das politische Verhalten der Nutzer haben kann. In ähnlicher Weise legt die Studie nahe, dass soziale Informationen “die Turbulenzen bei der politischen Mobilisierung verschärfen können” (HALE et al, 2017, S.16).

2012 wurde eine weitere Studie vom Department of Political Science der University of California (USA) veröffentlicht. Das Experiment wurde kontrolliert durch Botschaften der politischen Mobilisierung durchgeführt, die 61 Millionen Facebook-Nutzern während der US-Kongresswahlen 2010 übermittelt wurden. (BOND, 2012, p.1):

“Die Ergebnisse zeigen, dass die Botschaften die politische Selbstdarstellung, die Suche nach Informationen und das reale Abstimmungsverhalten von Millionen von Menschen direkt beeinflusst haben. Darüber hinaus beeinflussten die Nachrichten nicht nur die Benutzer, die sie empfangen, sondern auch die Freunde der Nutzer und die Freunde von Freunden. Die Auswirkungen der sozialen Übertragung auf die reale Abstimmung waren größer als die direkte Wirkung der Botschaften selbst, und fast die gesamte Sendung fand unter “engen Freunden” statt, die eher eine persönliche Beziehung hatten. Diese Ergebnisse deuten darauf hin, dass starke Bindungen der Schlüssel zur Verbreitung von online und realem Verhalten in menschlichen sozialen Netzwerken sind.” (BOND, 2012, p.1).

Die Ergebnisse dieser Studie haben viele Implikationen. Die politische Mobilisierung im Netzwerk wirkt, indem sie die politische Selbstdarstellung provoziert und auch die Sammlung sozialer Informationen ins Leben ruft. Es hat sich auch gezeigt, dass die soziale Mobilisierungs online netzwerken wesentlich effektiver ist als die Informationsmobilisierung. Die Tatsache, dass die Informationen, die online von bekannten Gesichtern gesehen werden, die Effektivität einer Mobilisierungsnachricht dramatisch verbessern können. Neben den direkten Auswirkungen der online mobilisierung zeigte sich die Bedeutung des gesellschaftlichen Einflusses, um die Veränderung des Nutzerverhaltens zu beeinflussen (BOND, 2012, S.5).

Wenn man also versucht, das Verhalten eines Nutzers außerhalb der digitalen Welt zu beeinflussen, muss man darauf achten, “dass eine Nachricht nicht nur auf diejenigen wirkt, die sie erhalten, sondern auch auf die Wahrscheinlichkeit, dass sich die Botschaft und das Vonihr anregende Verhalten über das soziale Netzwerk von Mensch zu Mensch ausbreiten”. (BOND, 2012, p.5). Dieses Experiment legt nahe, dass Online-Messaging eine Vielzahl von Offline-Verhalten beeinflussen kann, und seine Autoren waren bereits 2012 damit beschäftigt, die Rolle der sozialen Medien in der Gesellschaft zu verstehen. Daran erinnern, dass:

Gesellschaften sind komplexe Systeme, die dazu neigen, in Untergruppen von Individuen mit dramatisch entgegengesetzten Perspektiven zu polarisieren. Dieses Phänomen spiegelt sich in sozialen Online-Netzwerken wider – und verstärkt sichoft – in sozialen Online-Netzwerken, in denen der Mensch jedoch nicht mehr die einzigen Teilnehmer ist und mit Social bots koexistiert – also softwaregesteuerten Konten  (STELLA; FERRARA; DOMENICO, 2018, p.1,).

Die Daten konsolidierten Informationen von fast 4 Millionen Twitter-Nachrichten von fast 1 Million Nutzern generiert. In dieser Analyse wurden die beiden polarisierten Gruppen von Unabhängigen und Konstitutionalisten identifiziert und die strukturellen und emotionalen Rollen von Social bots quantifiziert. Bots haben gezeigt, dass sie in Bereichen des Sozialsystems handeln, um einflussreiche Menschen aus beiden Gruppen anzugreifen. In diesem Referendum wurden Unabhängige mit gewalttätigen Inhalten bombardiert, was ihre Exposition gegenüber negativen und hetzerischen Narrativen erhöhte und soziale Konflikte im Internet verschärfte. (SUNSTEIN, 2017, p. 7; STELLA; FERRARA; DOMENICO, 2018, p.1). Diese Ergebnisse unterstreichen die Bedeutung der Entwicklung von Maßnahmen, um diese Formen automatisierter sozialer Manipulation zu entlarven, da soziale Medien das Abstimmungsverhalten von Millionen von Menschen tiefgreifend beeinflussen können:

Durch die Einmischung in die Entwicklung von Debatten über soziale Netzwerke beeinflussen Roboter politische und demokratische Prozesse direkt durch den Einfluss der öffentlichen Meinung. Seine Wirkung kann z. B. eine künstliche Meinung oder eine unwirkliche Dimension einer bestimmten Meinung oder öffentlichen Figur hervorbringen, indem sie Versionen eines bestimmten Themas teilt, die sich im Netz verbreiten, als ob es unter dem dort vertretenen Teil der Gesellschaft eine sehr starke Meinung zu einem bestimmten Thema gäbe (Davis et al., 2016 apud GRASSI et al., 2017, S.14).

Es ist möglich, dass der Leser denkt, dass sich seine Meinung über einen bestimmten Kandidaten aufgrund des Einflusses von Nachrichten, die von bots erzeugt werden, nicht ändern wird. Das Ziel dieses sozialen Hacking sind jedoch unentschlossene Wähler. Wie Grassi et al., die koordinierte Gemeinsamenutzung einer bestimmten Meinung, erklärt, gibt es “ein unwirkliches Volumen[…], das unentschlossene Nutzer zu diesem Thema beeinflusst und die radikalsten Nutzer in der organischen Debatte stärkt, angesichts der häufigeren Lage von Robotern an den Polen der politischen Debatte.” (2017, S.14)

3.1 FOLGEN FÜR WAHLKÄMPFE

Fake News, bots und echo chambers  können den Verlauf einer Wahl ändern, wie im vorherigen Kapitel ausführlich diskutiert und gezeigt wurde. Cambridge Analytics selbst nutzte die folgende Zeile in einer Verkaufspräsentation seiner Dienstleistungen: “Wir sind eine Agentur für Verhaltensänderungen. Der heilige Gral der Kommunikation ist, wenn du anfängst, das Verhalten zu ändern [von Leuten].” (PRIVACIDADE…, 2019)

Echo Chambers kann Menschen dazu bringen, an Unwahrheiten zu glauben, und es kann schwierig oder unmöglich sein, sie zu korrigieren. Ein Beispiel, das professor Sunstein angefertigt hat, ist der Glaube, dass Präsident Barack Obama nicht in den Vereinigten Staaten geboren wurde. Als Unwahrheiten ist dies nicht die schädlichste, sondern spiegelt sich wider und trug zu einer Politik des Misstrauens, des Misstrauens und manchmal des Hasses bei.

Ein weiteres, schädlicheres Beispiel sind die Unwahrheiten, die dazu beigetragen haben, 2016 für den “Brexit”[6] zustimmen. Falsche Nachrichten über die Türkei, die angeblich Teil der Europäischen Union ist und folglich das Vereinigte Königreich für die Einwanderung öffnet en masse Türken für das Land waren für das Ergebnis des Referendums von wesentlicher Bedeutung. In der Präsidentschaftskampagne 2016 in den USA verbreiteten sich Unwahrheiten schnell auf Facebook und sind immer noch überall. (SUNSTEIN, 2017, S. 20; DATENSCHUTZ …, 2019). Laut Sunstein “haben soziale Medien bisher nicht dazu beigetragen, einen Bürgerkrieg auszulösen, aber dieser Tag wird wahrscheinlich kommen. Sie haben bereits 2016 dazu beigetragen, einen Staatsstreich in der Türkei zu verhindern” (SUNSTEIN, 2017, S. 20):

Es stellt sich die Frage nach der individuellen Freiheit. Wenn Menschen mehrere Möglichkeiten und die Freiheit haben, zwischen ihnen zu wählen, haben sie Wahlfreiheit, und das ist äußerst wichtig. Freiheit erfordert bestimmte Rahmenbedingungen, die es den Menschen ermöglichen, ihren eigenen Horizont zu erweitern und zu lernen, was wahr ist. Es impliziert nicht nur die Befriedigung aller Präferenzen und Werte, die Menschen haben, sondern auch Umstände, die der freien Bildung von Präferenzen und Werten günstig sind. Aber wenn sich Die Menschen in gleichgesinnten Gemeinschaften qualifizieren, ist ihre eigene Freiheit in Gefahr. Sie leben in einem Gefängnis ihrer eigenen Schöpfung. (SUNSTEIN, 2017, p.20).

Wenn unentschlossene Wähler nicht wissen, was wahr ist, können ihre Entscheidungen während des Wahlprozesses gefährdet werden, was sich direkt auf die Demokratie und das Wahlrecht auswirken würde, und sogar das Wahlergebnis ändern.

3.2 FOLGEN IN BRASILIEN

Der Wahlprozess, der 2018 stattgefunden hat, stellt einen Zeitrahmen dar, um die Nutzung digitaler Plattformen für Wahlpropaganda zu verstehen und die Verbreitung von Desinformation zu bekämpfen.

3.2.1 INTERAKTION MIT BOTS

Die Direktion für Politikanalyse der FGV (FGV-DAPP)[7] hat einige Fallstudien durchgeführt, um das Vorhandensein von bots in wichtigen politischen Situationen in Brasilien zu analysieren, wie z. B.: die Debatte von Rede Globo am 2. Oktober 2014 mit den Präsidentschaftskandidaten in der ersten Runde der Wahlen; die Debatte von Rede Globo am 24. Oktober 2014 mit den Präsidentschaftskandidaten Dilma Rousseff und Aécio Neves, die um den zweiten Wahlgang wetteiferten; die Pro-Impeachment-Demonstrationen am 13. März 2016; die Debatte von Rede Globo mit den Kandidaten für das Amt des Bürgermeisters von São Paulo am 29. September 2016; der Generalstreik am 28. April 2017 und die Abstimmung über die Arbeitsreform im Senat am 11. Juli 2017 (GRASSI et al., 2017, S.16)

Der FGV-Professor erklärt, wie Daten erhoben werden:

Die von FGV/DAPP gesammelten Datenmassen bestehen aus Metadaten – Informationen über die Daten selbst – und durch sie untersuchen wir die Möglichkeiten, Konten zu identifizieren, die während der Zeiträume der Analysen automatisch gehandelt haben. So haben wir identifiziert, dass sich die Metadaten namens Generator auf die Plattform bezieht, die den Inhalt des Tweets generiert, was sehr nützlich für die Erkennung von Robotern ist. (GRASSI et al., 2017, p.16)

Um den Betrieb der betreffenden Roboter zu veranschaulichen, erstellte FGV eine Grafik (BILD. 1), mit den Ergebnissen der Analyse, die während der Abstimmung über die Arbeitsreform im Senat gemacht wurde. In der Grafik stellen die rosa Punkte Konten dar, die verdächtige Generatoren verwendet haben (GRASSI et al., 2017, S.17) und grüne Punkte, Konten, die mindestens zweimal zwei aufeinander folgende Tweets in weniger als einer Sekunde generiert haben (S.18). In diesem Wie in den anderen sind Roboter an beiden Enden der Debatte präsent, “in dieser Analyse in größerer Zahl gegen die Reform am Pol” (S. 23).

Abbildung 1: Abstimmung über die Arbeitsreform

Quelle: (FGV-DAPP, 2017)Die[8]
Studie stellte fest, dass die Wirkung der Herstellung automatisierter Inhalte nicht ausschließlich in einem politischen Pol stattfindet. “Die Analyse der sechs ausgewählten Fälle legt nahe, dass Gruppen mit unterschiedlichen Interessen, insbesondere solche, die sich an den Extremen des politischen Spektrums befinden, sich gegenseitig mit dieser Praxis aufblähen und angreifen.” (GRASSI et al., 2017, p.26).

Diese Analysen zeigen, dass automatisierte Aktionen von bots bei der Durchführung einer öffentlichen Debatte wirksam waren, “zunehmend in Netzwerken präsent sind und Momente der Beugung und Determinanten für die Zukunft direkt beeinflussen”. (GRASSI et al., 2017, p.26).

Aufgrund des Erfolgs dieser Studie mit dem Titel  Robôs, Redes Sociais e Política No Brasilf, die die Anwesenheit von Robotern auf Twitter entdeckte (GRASSI et al., 2017), wurde FGV DAPP eingeladen, am Beirat für Internet und Wahlen des Obersten[9] Wahlgerichts (TSE) teilzunehmen. (RUEDIGER; GRASSI, 2018, p.4). Im Juli 2018 wurde in Rio de Janeiro der Raum für digitale Demokratie ins Leben gerufen, der[10]darauf abzielte, “die öffentliche Debatte im Internet zu überwachen und Aktionen von Desinformation, Drohungen und illegitimen Eingriffen in den politischen Prozess mit der Veröffentlichung täglicher und wöchentlicher Analysen zu identifizieren”. FGV DAPP sezierte über eine Hotsise[11] und eine Anwendung #observa2018 die Analyse der Netzwerke. (RUEDIGER; GRASSI, 2018, p.5).

Unter diesen Veröffentlichungen, eine Analyse in der Woche vom 8.-13. August 2018 durchgeführt, FGV DAPP “entdeckt, durch seine eigene Methodik der Roboter-Identifikation, das Vorhandensein von 5.932 automatisierteKonten in der Debatte über die Wahlen und Präsidentschaftskandidaten. Diese Profile generierten 19.826 Publikationen” (RUEDIGER, 2018, S.4) nur auf dem sozialen Netzwerk Twiter:

Im Jahr 2018 veröffentlichte Facebook Maßnahmen zum Schutz der Wahlen in Brasilien. Zu den Verpflichtungen gehörte der Kampf gegen Desinformation; größere Transparenz der Anzeigen auf der Plattform; die Entfernung von Betrüger-Konten; und die Entfernung santinhos digitais – wird verwendet, um die Wähler zu täuschen, indem das Foto eines Kandidaten und die Parteinummer einer anderen Partei platziert werden. Diese und andere Maßnahmen wurden ergriffen, um die Echtheit der auf der Plattform veröffentlichten Inhalte zu gewährleisten (RUEDIGER; GRASSI, 2018a, S.16).

Aber das scheint nicht genug zu sein. Die Fgv-DAPP-Analyse während der Wahlkampagnen 2018 zeigt, dass “die von Robotern geförderten Interferenzen oft artikuliert und synchronisiert von botnets (Roboternetzwerken)” (RUEDIGER; GRASSI, 2018a, S.27). Die folgenden Ergebnisse der durchgeführten Analyse sind im Folgenden:

In der Zeit vor der Kampagne waren mindestens drei Roboternetzwerke für die Veröffentlichung von 1.589 Tweets in einer Woche verantwortlich. Die Botschaften versuchten im Allgemeinen, Kandidaturen zu verstärken und/oder zu demobilisieren, insbesondere in den Zentren größerer Polarisierung: Jair Bolsonaro-Lula/Haddad.

Die Stützpunkte Pro-Bolsonaro und Pro-Fernando Haddad waren es auch, die während des Kampagnenzeitraums die meisten Eingriffe von Robotern darstellten. Vom 12. bis 18. September wurden beispielsweise 7.465.611 Tweets und 5.285.575 Retuites zu den Kandidaten gesammelt. In dieser Datenbank fand die Robotererkennungsmethode von FGV DAPP 3.198 automatisierte Konten, die 681.980 Interaktionen erzeugten – 12,9 % der gesamten Graphenretweets unten.

Auf der rechten Seite machten automatisierte Konten 17,8% der Retweets der Gruppe aus, die für den Bundesabgeordneten der PSL günstig waren; auf der linken Seite entfielen 13,2 % der Interaktionen, die mit der PT-Kandidatur und in geringerem Maße mit der Kandidatur von Guilherme Boulos von der PSol in Einklang stehen. (RUEDIGER; GRASSI, 2018a, p.28)

Abbildung 2: Interaktionen mit Robotern bei den Wahlen 2018

Quelle: (FGV-DAPP, 2018a)Es[12]
gibt auch, außerhalb der Kapazität für akademische Analysen, die Rolle von WhatsApp. In der zweiten Runde gab es heftige Debatten über die Förderung gefälschter Nachrichten. Der Kampagne des gewählten Kandidaten wurde vor der TSE vorgeworfen, illegal Nachrichten über diese Plattform zu verbreiten. Die Aktion, die die Nachrichtenförderung untersucht, ist noch nicht abgeschlossen. Laut der Zeitung Folha de Sao Paulo begann die TSE im August dieses Jahres, Zeugen zu vernehmen[13]. Anfang Oktober, “WhatsApp zugegeben, dass die Leistung der privaten Unternehmen in der massiven Schießerei von Nachrichten während der Präsidentschaftswahlen im vergangenen Jahr aufgezeichnet” (NETTO, 2019) und dann “die nationale Korrektur der Wahljustiz, Minister Jorge Mussi, beschlossen … Offene gerichtliche Ermittlungsmaßnahme, die von der Arbeiterpartei (PT) beantragt wurde, um die Vorwürfe zu untersuchen, dass Unternehmen groß angelegte Schießpakete von Nachrichten auf WhatsApp gegen die Legende und die Kampagne von Fernando Haddad (PT) an die Präsidentschaft der Republik gekauft haben” und am selben Tag die “PGR die Untersuchung von Fake News im Zusammenhang mit den beiden Präsidentschaftskandidaten beantragt hat” (PUPO UND PIRES , 2019).

WhatsApp hat einen privaten Kommunikationscharakter und konnte von FGV-DAPP nicht analysiert werden, jedoch stellte es Folgendes fest:

Angesichts der Besonderheiten der Plattform, wie der Art der privaten Kommunikation, des reduzierten sozialen Umfangs (Familie, Freunde, Mitarbeiter) und der geringeren direkten Interaktion zwischen Influencern und einfachen Bürgern, gab es ein anderes Phänomen der Streuung und Viralisierung politischer Inhalte als in anderen jüngsten Szenarien (national und international), in denen Facebook und Twitter stärker in den Vordergrund gerückt waren. Die vielen sozialen Netzwerke, die heute bei den Brasilianern beliebt sind und weit verbreitet sind, um über die Wahlen und die politischen Konjunkturzuläufe zu debattieren, stellen Besonderheiten in Bezug auf den Produktionsprozess und die Interaktion mit Inhalten dar. Alle Strategien zur Weitergabe von Informationen sind jedoch an die Eigenschaften jeder Plattform angepasst und sind damit mehrere Möglichkeiten, Fehlinformationen zu manifestieren und falsche Informationen zu teilen. Nicht nur von Links oder Seiten, die journalistische Aktivitäten simulieren, sondern mit intensiver Verwendung von Videos, Tutorials, Blogs, Memes, apokryphen Texten und sensationellen Publikationen; verschiedene Subtypen von Fake News. (RUEDIGER; GRASSI, 2018a, p.29)

Obwohl nicht bewiesen ist, dass Interaktionen mit bots oder die Verbreitung von Fake News das Ergebnis der Präsidentschaftswahlen 2018 in Brasilien verändert haben, ist es notwendig, sich dieser Möglichkeit bewusst zu sein. Wie bereits gezeigt wurde, gelang es dem inzwischen aufgelösten Unternehmen Cambridge Analítica, den Kandidaten der Wahlkampfagentur zu wählen, der ihn bei der US-Präsidentschaftswahl 2016 eingestellt hatte.

Der derzeitige Präsident der Republik wurde mit einer winzigen Zeit der Wahlpropaganda im Fernsehen gewählt, was zeigt, dass er durch seine Kampagne auf sozialen Plattformen gewählt worden wäre. Es habe einen “strukturellen Wandel in der Art und Weise gegeben, wie erfolgreiche Kampagnen organisiert wurden – die sozialen Netzwerke sind zur Hauptachse des Dialogs zwischen Wählern und gewählten Beamten geworden” (RUEDIGER; GRASSI, 2018a, S.29).

Auf der anderen Seite berichten Ruediger und Grassi von positiven Folgen in diesem digitalen Szenario. Darunter:

1) die größere Forderung nach Transparenz in den institutionellen Beziehungen der Politik;                                                                                                                                                                                                                        2) die Fähigkeit, schnell zu handeln und sich in den Entscheidungsprozess von staatlichen Agenten und gewählten Vertretern durch direkten Kontakt mit ihnen über das Internet einzumischen;

3) und die Ausweitung der potenziellen Rolle, die der Bürger bei der Durchführung öffentlicher Politiken und Handlungen spielen kann, die ihn interessieren. Beschleunigtes Feedback und die Geschwindigkeit der Übertragung, des Teilens und der Produktion von Inhalten, Verbesserungen in der Art und Weise, wie journalistische Aktivitäten und politische Debatten auf diese neuen Paradigmen reagieren (2018a, S.29-30), werden ebenfalls zwingend erforderlich.

3.2.2 VERBREITUNG VON FAKE NEWS

Die FGV-DAPP-Analyse, die während der Wahlperiode 2018 durchgeführt wurde, kam zu dem Schluss, dass es “keine automatisierte und massenhafte Verbreitung von Fake News” gebe. Es heißt, Dassininformation sei vorhanden, “aber Roboter waren nicht die am meisten für ihre Verbreitung verantwortlich.” In der Woche der Messerattacke gegen Bolsonaro beispielsweise wurden nur 0,9% der Interaktionen von Robotern (RUEDIGER; GRASSI, 2018a, S.29). Nach der Analyse die Fake News, die am meisten herausragten, waren diejenigen, die in Feige verwandt waren. 3:

Abbildung 3: Fake News

Quelle: (FGV-DAPP, 2018a)[14]

3.3 FOLGEN FÜR DIE DEMOKRATIE

Im Jahr 2016 machten die US-Präsidentschaftswahlen auf neue Wege aufmerksam, Politik und politische Kampagnen über digitale Plattformen zu machen. Bei den Wahlen handelte es sich um Fälle von fake News, die weltweite Auswirkungen hatten, wie “der angebliche Einfluss russischer Hacker, die über die Internet Research Agency gefälschte Inhalte generiert hätten” und Millionen von Wählern über Facebook und Twitter erreichten. (RUEDIGER; GRASSI, 2018, p.12)

Zuvor gab es im Vereinigten Königreich ein Referendum über seinen Austritt aus der Europäischen Union. Bei Untersuchungen im Zeitraum von 2017 bis Anfang 2019 wurde nachgewiesen, dass die Firma Cambrigde Analytics zusammen mit anderen Agenturen das Ergebnis der Abstimmungen beeinflusste und ihre falschen Nachrichten an eine bestimmte Gruppe von Personen weiterleitete. Das Unternehmen war in der Lage, Wähler mit Facebook-Nutzerdaten zu profilieren. Der Facebook-Skandal wurde weltweit Anfang 2018 mit der Veröffentlichung von Daten der britischen Journalistin Carole Cadwalladr (ROSENBERG; CONFESSORE; CADWALLADR, 2018), der seither über diese neue Bedrohung der Demokratie spricht. Das Parlament stellte schließlich seine Untersuchungen ein und veröffentlichte Anfang 2019 einen Bericht. Es lohnt sich, einige Schlussfolgerungen über die Nutzung dieser Plattformen hervorzuheben:

Das Wahlgesetz ist nicht zweckdienlich und muss geändert werden, um Änderungen in den Wahlkampftechniken Widerspiegelung zu sein […]. Es muss absolute Transparenz der politischen Online-Kampagnen geben, einschließlich klarer und anhaltender Markierungen auf allen bezahlten politischen Anzeigen und Videos, die Quelle und den Werbetreibenden angeben; eine Kategorie, die für digitale Ausgaben für Kampagnen eingeführt wurde; und explizite Regeln für die Rolle und die Verantwortlichkeiten der benannten Befürworter.

Politische Werbeartikel müssen in einem durchsuchbaren Repository öffentlich zugänglich sein – wer für Anzeigen bezahlt, welche Organisationen die Anzeige sponsern, wer von Anzeigen ins Visier genommen wird -, damit die Öffentlichkeit das Verhalten einzelner Werbetreibender verstehen kann. Sie muss unabhängig von der Werbeindustrie und den politischen Parteien geführt werden. (HOUSE…, 2019, p.24)

Es wird darauf hingewiesen, dass “demokratische Gesellschaften auf der ganzen Welt in den letzten Jahren das Entstehen eines neuen Kommunikationsakteurs erlebt haben, um die öffentliche Meinung in politischen Debatten, Wahlen, Referenden und nationalen Krisen erfolgreich zu gestalten: Desinformation” (RUEDIGER; GRASSI, 2018a, S.4). Die Verbreitung von Fake-News-basierten Kampagnen über digitale Plattformen in Schlüsselmomenten der Gesellschaft, zusammen mit der Aktion der künstlichen Intelligenz bei der Steuerung automatisierter Kontobots, “ist zu einem Schlüsselinstrument in der Strategie bestimmter Gruppen geworden, um digitalen Verkehr anzulocken, Debatten zu engagieren oder sogar zu beeinflussen, Gegner zu demobilisieren und falsche politische Unterstützung zu generieren” (RUEDIGER; GRASSI, 2018a, S.4) wird zu einer großen Bedrohung für Demokratien auf der ganzen Welt.

Eine weitere Gefahr, die digitale Plattformen der Demokratie bieten, ist die Leichtigkeit, die für die Bildung von echo chambers besteht, die bereits in dieser Arbeit diskutiert wurde. Isolierte Gruppen verstärken die politische Polarisierung und den Hass und geben dem Funktionieren von bots und der Verbreitung von Fake News noch mehr Treibstoff.

Aber die verbindende Frage in vollem Umfang werden die verschiedenen Probleme für eine demokratische Gesellschaft sein, die durch die Filterkraft geschaffen werden können. Demokratien mögen zerbrechlich sein oder auch nicht, aber Polarisierung kann ein ernstes Problem sein, und sie wird verstärkt, wenn Menschen in verschiedenen Kommunikationsuniversen leben – wie sie es in den Vereinigten Staaten, dem Vereinigten Königreich, Frankreich, Deutschland und anderswo manchmal zu tun scheinen. Es besteht kein Zweifel daran, dass das moderne Kommunikationsumfeld, einschließlich der sozialen Medien, zum Aufstieg der Parteilichkeit beiträgt. (SUNSTEIN, 2018, p.36)

Jede extremistische Gruppe, jede terroristische oder jede politische Partei, die über die Mittel verfügt, um Social-Media-Plattformen zu kontrollieren, hätte dann die Macht zu regieren, nachdem sie eine theoretisch demokratische Wahl beeinflusst hat, die eine Reihe von Bedrohungen für das demokratische System darstellen würde.

In diesem Sinne richtet Carole Cadwalladr in dem Dokumentarfilm Privacidade Hackeada einen bewegenden Appell, darüber nachzudenken, wie soziale Netzwerke genutzt werden können, um Böses und Hass zu verbreiten und Länder zu polarisieren:

Sieht so aus, als ob wir in eine neue Ära eintreten. Wir sehen, dass autoritäre Regierungen auf dem Vormarsch sind. Und sie nutzen diese Politik des Hasses und der Angst auf Facebook. Schauen Sie sich Brasilien an. Es gibt diesen Rechtsextremisten, der gewählt wurde, und wir wissen, dass WhatsApp, das Teil von Facebook ist, eindeutig in die Verbreitung von Fake News verwickelt war. Und schauen Sie, was in Myanmar passiert ist. Es gibt Hinweise darauf, dass Facebook benutzt wurde, um Rassenhass zu schüren, der Völkermord verursachte. Wir wissen auch, dass die russische Regierung Facebook in den USA verwendet hat. Es gibt Beweise dafür, dass die Russen gefälschte Black Lives Matter Memes erstellt haben, und als die Leute auf sie klickten, war es auf Seiten gerichtet, auf denen sie tatsächlich zu Protesten eingeladen wurden, die von der russischen Regierung organisiert wurden. Und gleichzeitig richteten sie Seiten ein, die sich gegen gegnerische Gruppen wie Blue Lives Matter richteten. Es geht darum, Angst und Hass zu schüren, um das Land gegen sich selbst zu wenden. Teilen und erobern. Diese Plattformen, die geschaffen wurden, um uns zu verbinden, werden jetzt als Waffen verwendet und es ist unmöglich zu wissen, was auf den gleichen Plattformen passiert, wo wir mit unseren Freunden sprechen oder Bilder von Babys teilen. Nichts ist, was es scheint” (PRIVACY …, 2019, 96 min)

4. WAHLJUSTIZ IN BRASILIEN

Die Wahljustiz hat den Anwendungsbereich, um die “Wahlwahrheit” zur Verwirklichung der Demokratie zu verwirklichen (VELLOSO, 1996, S.9 apud VELLOSO; AGRA, 2016), bedeutet dies, dass die Wahljustiz dafür verantwortlich ist, “den Willen der Wähler zum Ausdruck zu bringen, alle Wahlverfahren so zu operationalisieren, dass sie sich in Harmonie und Transparenz entwickeln, ohne von der Volkssouveränität gestört zu werden” (VELLOSO; AGRA, 2016).

Die Wahljustiz ist für die Disziplinierung und Organisation der Ausübung des Wahlrechts verantwortlich, um die Volkssouveränität zu verwirklichen. Durch die Wahlen ist die freie Wahldeswille und die Gleichheit zwischen den Kandidaten gewährleistet, um die brasilianische Demokratie zu gewährleisten.

Kunst. 105 des Wahlgesetzes (9.504/97) besagt, dass das Oberste Wahlgericht eine normative Funktion hat. “Sie können alle Anweisungen erteilen, die für Ihre treue Hinrichtung erforderlich sind, die im Voraus in einer öffentlichen Anhörung die Delegierten oder Vertreter der politischen Parteien gehört haben.” So kann das TSE Regeln zur Steuerung der Nutzung digitaler Plattformen für Wahlkampagnen bearbeiten.

4.1 WAHLJUSTIZVERANTWORTUNG BEI DER NUTZUNG DIGITALER PLATTFORMEN

Im Jahr 2017 hat das TSE das Gesetz Nr. 9,504/1997 (Wording durch das Gesetz Nr. 13.488, 2017) geändert und der Art eine neue Formulierung gegeben. 57 damit digitale Plattformen wie Facebook, Twitter und andere ab August des Wahljahres in Wahlkämpfen eingesetzt werden können. So wurde während der Kampagne für die Präsidentschaftswahlen im Jahr 2018 viel für diese Methode gesagt, die mit geringen finanziellen Investitionen mehr Ergebnisse generiert.

Die großartige Analyse der Medien, post accounting der Umfragen, konzentrierte sich darauf, wie der Präsidentschaftskandidat mit der längsten Zeit im Fernsehen (SHALDERS, 2018), Geraldo Alckmin (PSDB) wurde nicht einmal in den zweiten Wahlgang gewählt, während der gewählte Kandidat, Jair Bolsonaro (PSL), der nur 8 Sekunden in der Wahlzeit hatte, erzielte viel höhere Ergebnisse. Der Präsident selbst hat seinen Platz in den sozialen Netzwerken oft genutzt, um die Tatsache zu loben, dass sein Wahlkampf weit weniger gekostet hat als der anderer hochkarätiger Kandidaten. In ähnlicher Weise erzielte auch der Kandidat Joo Amoedo (NOVO-Partido), der bisher den meisten brasilianischen Bevölkerungen unbekannt war, ausdrucksstarke Ergebnisse, ohne an einer Debatte teilzuhaben, die von Fernsehsendern gefördert wurde und soziale Medien nutzt, und belegte in der ersten Runde den 5. Platz vor anderen besser bekannten Kandidaten. So spiegelten die Wahlen 2018 die Veränderungen im politischen Wahlkampfszenario wider, die von diesem Moment an auch über digitale Plattformen stattfanden.

Doch nach dem Skandal um Facebook und dem inzwischen aufgelösten britischen Unternehmen Cambridge Analytica erkannte die Welt, wie profitabel der Markt für personenbezogene Daten sein kann. In Brasilien gibt es Gesetze, die den Kauf von Stimmen verbieten und kriminalisieren[15], aber diese Gesetze enthalten nicht mehr die aktuelle Realität von Wahlkämpfen. Sie können bekämen Geld für Anzeigen auf Facebook, Google oder YouTube, und niemand wird es wissen, da diese Daten nicht zugänglich sind. Was Sie haben, ist die Rechenschaftspflicht mit der TSE, die Es Ihnen ermöglichen würde zu wissen, wie viel für diese Anzeigen ausgegeben wurde, aber der Inhalt derselben wird nie enthüllt werden. Carole Cadwalladr stellt in ihrem Vortrag auf einer TED-Konferenz im April dieses Jahres fest:

… Was auf Facebook passiert, bleibt auf Facebook, denn nur wir sehen den Inhalt unserer Seite, der dann verschwindet. Es ist unmöglich, irgendetwas zu erforschen. Wir haben keine Ahnung, wer welche Anzeigen gesehen hat, welche Auswirkungen es hatte oder welche Daten verwendet wurden, um die Zielgruppe auszuwählen. Nicht einmal, wer die Anzeigen platziert, wie viel Geld ausgegeben wurde, oder welche Nationalität sie waren. (CADWALLADR, 2019)

Die überraschende Anzahl von Studien und vorhandenen Daten, die den Zusammenhang zwischen der Interaktion von Bots, die die Nutzer während der Wahlperioden beeinflussen, zeigen, wie sehr “Plattformen auf die Einhaltung des Rechtsrahmens für Wahlkampagnen in sozialen Netzwerken achten sollten” (RUEDIGER; GRASSI, 2018, S.25). Zu diesem Zweck sollte die TSE Standards schaffen, die besser überwachen, ob die Plattformen die bereits gesetzlich vorgesehenen Grenzwerte einhalten. Es liegt in der Verantwortung des Gerichtshofs, die Reibungsloskeit der Wahlen zu gewährleisten und die Demokratie zu schützen. Ruediger schlägt weiter vor:

… die überraschende Menge der Interaktionen von Kandidaturen, auf Twitter, Facebook, YouTube und Instagram, zeigen, dass Plattformen auf die Einhaltung der rechtlichen Rahmenbedingungen für Wahlkampagnen in sozialen Netzwerken achten müssen, um parallel die Aufrufe der Nutzer zu ihren Richtlinien und Standards (RUEDIGER; GRASSI, 2018, S.25).

Die TSE sollte keine Wahlkampagnen auf diesen Plattformen zulassen, die unzugänglich und nicht zu überwachen sind. Es gibt keine Möglichkeit, die mögliche Manipulation einer bestimmten Zielgruppe durch Anzeigen zu diesem Zweck zu überwachen. Daher müssen Regeln eingeführt werden, um soziale Plattformen zu zwingen, das zu tun, was im oben zitierten Bericht des britischen Parlaments vorgeschlagen wurde, und die Autoren von Veröffentlichungen mit Wahlinhalten zu identifizieren.

Caldas e Caldas erklären, was in Bezug auf dieses Thema in anderen Teilen der Welt getan wurde:

In diesem Sinne hat die Europäische Union am 25. Mai 2018 die Datenschutz-Grundverordnung (EUROPÄISCHE KOMMISSION, 2018) nach Studien geschaffen, die darauf hindeuten, dass die Verbreitung von Fake News aus der Analyse von Nutzerdaten erfolgte (MARTENS et al., 2018 apud CALDAS; CALDAS, S.214, 2019). In diesem Zusammenhang hat der Nationalrat für Menschenrechte am 11. Juni 2018 die Empfehlung Nr. 04 vom 11. Juni 2018 angenommen, die sich “mit Maßnahmen zur Bekämpfung von Fake News und der Gewährleistung des Rechts auf freie Meinungsäußerung” befasst (BRASIL, 2018b apud CALDAS; CALDAS, S.214, 2019), der die Annahme eines Gesetzes zum Schutz personenbezogener Daten empfiehlt (BRASIL, 2018th apud CALDAS; CALDAS, S.214, 2019), wenn man bedenkt, dass “die Produktion und das Targeting von so genannten Fake News heute in direktem Zusammenhang mit der massiven und wahllosen Erhebung und Behandlung personenbezogener Daten steht” (BRASIL, 2018b apud CALDAS; CALDAS, S.214, 2019) (CALDAS; CALDAS, S.214, 2019).

5. WIE DIE TSE HAT MIT DIESEM ISSUE SINCE THE 2018 ELECTIONS

Im Mai 2019 veranstaltete die TSE zusammen mit der Europäischen Union ein internationales Seminar über Fake News und Wahlen. Das Seminar fand in Brasilia statt und hatte mehrere Referenten, darunter Ministerin Rosa Weber, Präsidentin des Obersten Wahlgerichts (TSE), Minister Luiz Fux, Vizepräsident des Obersten Bundesgerichtshofs (STF) und Minister Sergio Moro, Minister für Justiz und öffentliche Sicherheit.

Laut der TSE-Website über das Seminar:

Im Laufe des Jahres 2018 entwickelte der vom Obersten Wahlgericht (TSE) am 7. Dezember 2017 eingesetzte Beirat für Internet und Wahlen zahlreiche Aktivitäten im Zusammenhang mit dem Einfluss des Internets bei den Wahlen, insbesondere in Bezug auf das Risiko von Fake News und den Einsatz von Robotern bei der Verbreitung von Informationen, Aktionen, die zur Erweiterung des Wissens über Wahlgerechtigkeit angesichts des Themas beigetragen haben. , um nicht nur die Konfrontation mit dem ernsten Problem im Zusammenhang mit der Verbreitung von Fake News während der Parlamentswahlen 2018 zu verhindern, sondern auch zu erleichtern. (BRASIL, 2019f).

Noch auf dem Seminar erkennt die TSE ihre Hauptverantwortung für den Schutz der brasilianischen Demokratie an, wenn sie erklärt:

Angesichts der komplexen Gleichung des Phänomens, das als Fake News bekannt ist, in allen Zweigen der Gesellschaft, sowohl in Brasilien als auch im Ausland, ist es an der Wahljustiz, das Problem im Auge zu behalten, um effektivere Wege zu finden, um bei zukünftigen Wahlen zurechtzufinden. (BRASIL, 2019f).

Das Hauptziel des Seminars war es, Unter Berücksichtigung der bei den Wahlen 2018 gewonnenen Erfahrungen Wege zur Verhinderung oder Minimierung der Verbreitung von Fake News bei den Kommunalwahlen 2020 zu schaffen. So sollte die Daten zusammengestellt, Erfahrungen austauschen, Vorschläge begrüßen, über tragfähige Maßnahmen zur Bekämpfung von Fake News diskutieren und eine Quelle von Studien und Vorschlägen fördern, die an das Wahlgericht und den Nationalkongress weitergeleitet werden sollen (BRASIL, 2019f).

Im Februar dieses Jahres wurde die Verordnung Nr. 115 auf dem TSE-Portal veröffentlicht, die “eine Arbeitsgruppe einrichtet, die für die Durchführung von Studien zuständig ist, um Konflikte in der aktuellen Norm, die sich aus Wahlreformen ergeben, zu identifizieren und die jeweilige Systematisierung vorzuschlagen” (BRASIL, 2019a). Aus dieser Verordnung entstand Diálogos para a construção da Sistematização das Normas Eleitorais, Vorstudien mit dem Ziel:

… die einschlägigen Rechtsvorschriften zu ermitteln und zu systematisieren, auf Inkonsistenzen, Auslassungen und/oder Überregulierung, mit der Bundesverfassung als Parameter und aus den Rechtstexten, Entschließungen und sogar juristischen Diskussionen hinzuweisen, um daraus einen prägnanteren, kohärenteren und umfassenderen Text zur aktuellen Realität der brasilianischen Demokratie zu haben.” (BRASIL, 2019, S.3).

Er hebt auch die Notwendigkeit hervor, “z. B. Fragen, die eine Konvergenz zwischen Wahlrecht, Technologie und digitalem Marketing erfordern, besondere Aufmerksamkeit zu widmen” und dabei auch die “Möglichkeit von Boosts, die erstmals bei den Parlamentswahlen 2018 genutzt werden” (BRASIL, 2019, S.3). Durch diese Studie kann man sehen, dass die TSE bereits das Problem der Boosts und Bots analysiert, die von sozialen Medien verwendet werden.

Das Gesetz 9.504/97, das 2017 eine Mini-Reform durchlief und die Nutzung digitaler Plattformen in Wahlanzeigen erlaubt, weist noch immer einige Ungereimtheiten auf. Nach dem Gesetz ist der Schub für Einzelpersonen verboten und auf Kandidaten oder Koalitionen beschränkt. So gibt Caldas e Caldas (S. 213, 2019) an:

… Wahlrechtsexperten bewerten:

Mit dem bezahlten Schub werden Schlupflöcher für illegalen Missbrauch wirtschaftlicher Macht, Missbrauch politischer Macht, Missbrauch der Medien, verbotene Propaganda (von Kirchen, Gewerkschaften und juristischen Personen im Allgemeinen durchgeführt), Fake News, unter anderem mögliche illegale Handlungen, geöffnet. Einige dieser Illegalen können zur Amtsenthebung der Antragsregistrierung, des Diploms (falls gewählt) und zum Verlust des Mandats führen. (ALMEIDA; LOURA JUNIOR, 2018 apud CALDAS e CALDAS)

Der ursprüngliche Text hatte in seiner Kunst. 57-B, 6 Bestimmung, die wirksamere Maßnahmen zur Bekämpfung von Fake News während der Wahlen vorsah. Das gleiche wurde jedoch vom damaligen Präsidenten der Republik Michel Temer sein Veto eingelegt. Der ursprünglich vorgesehene Text von Nr. 6 (CALDAS e CALDAS, S. 213, 2019):

Die Denunziation von Hassreden, die Verbreitung falscher Informationen oder Beleidigungen zum Nachteil einer Partei oder eines Kandidaten, die vom Nutzer einer Anwendung oder eines sozialen Netzwerks im Internet über den für diesen Zweck im Anbieter zur Verfügung gestellten Kanal vorgenommen werden, führt zu einer maximalen Aussetzung der gemeldeten Veröffentlichung um maximal 24 Stunden, bis der Anbieter sicherstellt, dass die persönliche Identifizierung des Nutzers veröffentlicht wurde. , ohne dem Whistleblower Daten des gemeldeten Hinweises zur Verfügung zu stellen, außer per Gerichtsbeschluss. (BRASIL, 2017, Grifo nosso apud CALDAS e CALDAS).

Die Rechtfertigung für das Veto, so Caldas e Caldas, sei die Existenz von “Angst, dass eine Gesetzgebung, gegen Fake News vorzugehen, eine Einschränkung der Meinungsfreiheit erzeugen kann”, insbesondere in einem Szenario , in dem “intensive politische Polarisierung, in der politische Leidenschaften die Grenze zwischen Wahrheit, objektivem und subjektivem Punkt verblassen lassen”. (CALDAS e CALDAS, S. 214, 2019)

Schließen Sie Caldas e Caldas, dass, trotz Der Kunst. 25 der Resolution Nr. 23,551/2017 TSE enthalten “Gerät, um die Verbreitung von Fake News zu verhindern… die Geschwindigkeit der Gerechtigkeit wird wahrscheinlich nicht ausreichen, um dieses Ereignis zu verhindern… gerade weil seine Eigenschaft die Geschwindigkeit in der Ausbreitung ist.” (CALDAS e CALDAS, S. 214, 2019).

Es ist klar, dass es nicht einfach sein wird, eine plausible Lösung zu finden. Jede drastischere Maßnahme, Fake News zu hemmen oder bestimmte Arten der Nutzung digitaler Plattformen zu verhindern, wird möglicherweise die Meinungsfreiheit konfrontieren. Ein Paradoxon, das schwer zu lösen ist. Der Gerichtshof hat jedoch einige Schritte unternommen.

Das TSE-Portal und seine Seiten in sozialen Netzwerken haben anschauliche und pädagogische Videos über “die Mythen bei Wahlen” und sogar Tipps für Wähler, den Titel des Wählers nicht zu verlieren. Allerdings gab es bis September dieses Jahres kein Video, das die Wähler auf die Gefahr von Fake News aufmerksam machte und sensibilisiert. Die TSE begann dann Anfang September auf ihrem YouTube-Kanal, der Videoserie[16]Desinformation begegnen (BRASIL, 20[17]19b), zu senden. Diese Serie, bis heute (21. Oktober 2019), hat 6 Videos, die erklären, wie effektiv und schnell die TSE bei der Lösung der Frage der Fake News über den Betrieb von elektronischen Wahlmaschinen war, und auch den Wähler lehren, den Begriff Fake News nicht zu verwenden, für einen abwertenden und nicht-konkreten Sinn, nach den Experten in den Videos interviewt. Darüber hinaus ist der Begriff ihrer Meinung nach mehrdeutig, ungenau und disqualifiziert die Presse, die von Politikern zu diesem Zweck verwendet wird. Daher wird empfohlen, den Begriff “Fehlinformation” zu verwenden.

Wie man sieht, loben die von der TSE produzierten Videos das Gericht selbst, in dem es heißt, wie schnell das Gericht im Kampf gegen Fehlinformationen gehandelt hat, und erklären nicht nur, warum die Verwendung des Begriffs Fake News falsch ist. Obwohl sie ein paar Sekunden Tipps haben, wie man Fehlinformationen reduzieren kann, sind die Videos nicht pünktlich, um dem Wähler die Existenz automatisierter Konten mit potenziellen Influencern in der öffentlichen Meinung zu klären, zum Beispiel den Betrieb von Bots zu erklären. Die vom Gerichtshof produzierten Videos verdeutlichen zu keinem Zeitpunkt die Folgen, die Fehlinformationen zum Ausgang einer Wahl haben können. Abgesehen davon, dass nicht an einem Ort der einfachen Kenntnis des Wählers zur Verfügung. Wie viele Wähler werden sich diese Videos ansehen? Bisher gibt es nicht einmal 500 Ansichten von ihnen.

In einem weiteren Versuch, die Verbreitung von Fake News zu verhindern, fügte die Legislative Branch in diesem Jahr 2019 Kunst hinzu. 326-A bis Gesetz 4.737/65 (Wahlgesetz) in verbis:

Kunst. 326a. Anlass für die Einleitung von polizeilichen Ermittlungen, Gerichtsverfahren, Verwaltungsuntersuchungen, Ziviluntersuchungen oder verwaltungsrechtlichem Fehlverhalten, indem man jemandem die Begehung eines Verbrechens oder einer Verletzung zuschreibt, von der er unschuldig ist, zu Wahlzwecken:

Strafe – Freiheitsstrafe, von 2 (zwei) bis 8 (acht) Jahre, und Geldstrafe.

1 – Die Strafe wird ab dem sechsten Teil erhöht, wenn der Agent Anonymität oder vermeintlichen Namen verwendet.

2 – Die Strafe wird um die Hälfte reduziert, wenn die Zustellung ein Vergehen Praxis ist.

3 – Die gleichen Strafen dieses Artikels werden von denjenigen verflucht, die nachweislich die Unschuld des Angeklagten kennen und zu Wahlzwecken die ihm fälschlicherweise zugeschriebene Handlung oder Tat mit irgendwelchen Mitteln oder Formen offenlegen oder vorschlage[18]n. (BRASIL, 1965)

Der Präsident der Republik legte sein Veto gegen Das Veto gegen Ziffer 3 ein und behauptete, dass “die Verleumderung mit Wahlzwecken bereits in einer anderen Bestimmung des Wahlge [com] setzbuches von sechs Monaten bis zwei Jahren typisiert ist”, was den “Grundsatz der Verhältnismäßigkeit” verletzt. Das Veto wurde jedoch im August 2019 vom Kongress gekippt und damit ein weiteres Wahlverbrechen begangen. (Congresso…, 2019).

Ebenfalls im August startete die TSE das Programa de Enfrentamento à Desinformação com Foco nas Eleições 2020. Wie auf der Website des Hofes erläutert:

Das Programm war in sechs thematischen Achsen organisiert. Die erste, “Interne Organisation”, zielt auf die Integration und Koordinierung zwischen den Ebenen und Bereichen ab, die die Organisationsstruktur der Wahljustiz bilden, und die Definition der jeweiligen Zuschreibungen gegen Desinformation.

Eine weitere Achse, an der gearbeitet wird, ist “Medien- und Informationskompetenz”, die darauf abzielt, Menschen in die Lage zu versetzen, Eine Fehlinformation zu identifizieren und zu überprüfen, und gleichzeitig das Verständnis für den Wahlprozess zu fördern.

Zum Thema “Eindämmung der Desinformation” sollen konkrete Maßnahmen ergriffen werden, um die Verbreitung falscher Informationen zu verhindern. Mit der Achse “Identifizierung und Überprüfung von Desinformation” will die TSE die Verbesserung und neue Methoden zur Ermittlung möglicher Praktiken der Verbreitung von trügerischen Inhalten anstreben.

Die Achsen “Verbesserung des Rechtssystems” und “Verbesserung der technologischen Ressourcen” sind ebenfalls Teil des von der TSE lancierten Programms.

Vor der Unterzeichnung der Beitrittsperiode kündigte Ministerin Rosa Weber die Einrichtung einer Website an, die[19] Informationen über Desinformation sammeln wird, und auch ein Buch, das das Ergebnis der Debatten ist, die auf dem Internationalen Seminar Fake News and Elections im Mai dieses Jahres in der TSE stattfanden. Die Arbeiten sind auf dem Hofportal verfügbar[20]. (BRASIL, 2019e)

Am 22. Oktober dieses Jahres schlossen sich Google, Facebook, Twitter und WhatsApp dem Programm an. Ministerin Rosa Weber stufte damals “die durch Desinformation verursachten Auswirkungen der Desinformation auf die Demokratie, den Wahlprozess und die Gesellschaft im Allgemeinen als schädlich ein”. Und er sagte, der Schwerpunkt des Programms sei es, “die Beteiligung aller sozialen Sphären an der Bekämpfung der Verbreitung irreführender Informationen im Internet zu provozieren”. (BRASIL, 2019c). Er sagte auch, dass diese Unternehmen in der Lage sind, Technologien zu verbessern, die “den Missbrauch von Bots und anderen automatisierten Content-Verbreitungstools” identifizieren. Der Präsident der TSE schloss seine Rede mit folgender Sehnsucht ab:

Ich hoffe, dass wir das Ende der Wahlen 2020 erreichen können, in der Überzeugung, dass der Wahlprozess nicht stärker unter dem Phänomen der Desinformation gelitten hat und dass dies dem Beitrag der Partner unseres Programms zu verdanken ist. (BRASIL, 2019c).

Das Programm des Hofes scheint bereits einige Ergebnisse der Plattformen selbst zu bringen, die sich ihm angeschlossen haben. Am 29. Oktober 2019 traf sich das soziale Netzwerk Twiter mit der Managementgruppe des Programms, um “gemeinsame Strategien auszurichten” (BRASIL, 2019d). Am nächsten Tag gab die Presse bekannt, dass das soziale Netzwerk beschlossen hat, alle Arten von politischer Propaganda zu verbieten (TWITER…, 2019). Es scheint jedoch, dass die Sorge der Wahljustiz nur auf die Bekämpfung von Fehlinformationen abzielt, ohne die Fähigkeit zu erwähnen, dass Unternehmen wie die inzwischen nicht mehr existierende Cambridge Analytics politische Profile über Nutzer von Wählerdaten in sozialen Medien klassifizieren müssen.

6. FAZIT

Die Analyse sozialer Netzwerke als Influencer politischer Debatten ist von grundlegender Bedeutung für das Verständnis der Phase, in der sich Demokratien treffen (RUEDIGER; GRASSI, 2018) und über die zukunft der brasilianischen Wahlen nachdenken.

Damit die sozialen Netzwerke ein demokratischer Raum der Meinung und Information bleiben, ist es daher notwendig, die Organischkeit der Debatten zu verstehen und die Verantwortlichen für koordinierte Aktionen zur Förderung von Botschaften zu identifizieren. Netzwerke müssen transparenter werden, um die Interessen zu verstehen, die hinter der Einstellung dieser Automatisierungsdienste stehen, und Desinformation verbreiten. Die Erweiterung der Fähigkeit, böswillige Automatisierung von Social-Media-Profilen zu identifizieren und hart durchzugreifen, sollte eine Priorität sein. (GRASSI et al., 2017).

In der Zwischenzeit sollte der Wahlgerichtshof Sensibilisierungspolitiken für Wähler fördern, die digitale Plattformen nutzen, über die Mechanismen, die für Manipulationen verwendet werden, von der Bildung von echo chambers bis hin zum Einsatz künstlicher Intelligenz und bots, die ihre Botschaften absichtlich an bestimmte Empfänger richten. Dies ermöglicht es den Menschen, zu filtern, was sie sehen, und auch in der Lage, die zunehmende Macht der Anbieter zu begrenzen, jeden Benutzer einzeln auszuwählen, indem sie auf der Grundlage von sozialen Informationen analysiert werden, die in ihren Profilen auf diesen Plattformen erfasst wurden.

Cass Sunstein hat Recht, wenn er darauf besteht, dass das System der Meinungsfreiheit und des Rechts auf Privatsphäre in einer vielfältigen Gesellschaft viel mehr erfordert als Einschränkungen der staatlichen Zensur und die Achtung individueller Entscheidungen. Während Zensur eine Bedrohung für Demokratie und Freiheit darstellt, muss ein gut funktionierendes System der freien Meinungsäußerung zwei unterschiedlichen Anforderungen generadiegen: Erstens sollten die Menschen Materialien ausgesetzt sein, die sie nicht im Voraus ausgewählt hätten, und so die Bildung von echo chambers vermeiden. Und zweitens sollten Themen und Ansichten Themen und Ansichten beinhalten, die die Nutzer digitaler Plattformen nicht gesucht haben und mit denen sie vielleicht nicht einmal einverstanden sind, die aber wichtig sind, um Polarisierung und Extremismus zu vermeiden. Der Harvard-Professor erklärt, dass er nicht vorschlägt, dass die Regierung die Menschen zwingt, Dinge zu sehen, die sie vermeiden wollen. Aber er sagt, dass ungeplante und unvorhergesehene Treffen von zentraler Bedeutung für die Demokratie sind und damit ihren Aufruf zur Serendipity machen (SUNSTEIN, 2017).

Laut Caldas e Caldas (2019) verbreiten sich Fake News oder Fehlinformationen schnell und lassen lange Konsequenzen. Der Umgang mit diesem Phänomen erfordert effiziente und schnelle Maßnahmen, um seine Verbreitung und Auswirkungen zu verringern, da diese Verbreitung in den demokratischen Prozess Brasiliens eingreifen kann, wie in dieser Arbeit zu sehen ist. Es ist auch notwendig, Instrumente zu schaffen, um die Agenten zu identifizieren, die für diese Episoden verantwortlich sind, und Werkzeuge, um den möglichen Schaden zu messen, der bei einer Wahl verursacht wird. Zusätzlich zu Maßnahmen, die eine bessere Zugriffskontrolle auf Benutzerdaten ermöglichen, da Content Targeting von der Identifizierung der Profile einer Zielgruppe abhängt.

Es ist äußerst dringend und wichtig, dass die Wahljustiz zusammen mit der Legislative Mittel zum Schutz digitaler Daten schafft, um zu verhindern, dass neue Cambridge Analytics entstehen, und ihre Analyse von Profilen nutzen, um Botschaften an ausgewählte Ziele zu richten, um in den demokratischen Prozess der Wahlen einzugreifen.

Bis diese Maßnahmen ergriffen sind, müssen die Wähler sensibilisieren. Brasilien lebt die Ära der politischen Polarisierung. Es ist eine Tatsache, ausgedrückt. Es macht keinen Unterschied, ob der Einzelne für eine linke oder rechte Politik ist. Die Tendenz dazu besteht nicht darin, eine Idee zu unterstützen, die aus einer Partei entstanden ist, die seiner Vision zuwiderläuft, auch wenn er damit einverstanden ist. Auf diese Weise scheint es einfach, eine Zielgruppe so zu manipulieren, dass Hass und Chaos verbreitet werden. Und wie in diesem Papier zu sehen ist, wäre es sogar möglich, das Ergebnis einer Wahl zu ändern.

So versteht man, dass das Vorgehen der Wahljustiz angesichts der in dieser Debatte eingebrachten Ausschnitte zaghaft ist, d. h. um die Wähler, die diese Plattformen nutzen, über die Gefahren der Datenmanipulation in sozialen Netzwerken aufzuklären, zusätzlich zu dem Fokus, der dem Bewusstsein für Desinformation gewidmet wurde.

Fake News gab es schon immer, im Gegensatz zu der Fähigkeit, dass einige Software hat, um das Profil jedes Wählers Benutzer zu analysieren. Diese Fähigkeit ist eine Neuheit dieses digitalen Zeitalters und hat ein immenses Potenzial, eine bestimmte Gruppe anzusprechen und kann sogar das Ergebnis eines Wahlprozesses manipulieren.

Die Wahlrichtermüssen müssen die Glätte bei den Wahlen zu schätzen wissen. Daher ist es notwendig, die Bevölkerung für diese Mittel der Manipulation zu sensibilisieren. Erziehen Sie Menschen, ihre Daten zu schützen und Informationen zu hinterfragen, die sie erhalten, insbesondere in sozialen Netzwerken. Wer weiß, diese Polarisierung nimmt eines Tages ab, und damit das Manipulationspotenzial, das in sozialen Plattformen vorhanden ist.

REFERENZEN

BECKER, Lauro. Site, blog, landing page, hotsite ou e-commerce? Entenda a diferença! Orgânica Digital, jul. 2016. Disponível em: https://www.organicadigital.com/blog/site-blog-landing-page-hotsite-ou-e-commerce-entenda-a-diferenca/. Acesso em: 20 out. 2019.

BITTAR, Eduardo C. B. Metodologia da pesquisa jurídica. 15. ed. São Paulo: Saraiva, 2017. ISBN: 9788547220037.

BOND, Robert M. et al. A 61-million-person experiment in social influence and political mobilization. Nature, n. 489, p. 295-298, set. 2012. DOI: https://doi.org/10.1038/nature11421. Disponível em: https://www.nature.com/articles/nature11421. Acesso em: 8 jan. 2019.

BRASIL. Presidência da República. Casa Civil. Subchefia para Assuntos Jurídicos. Constituição da República Federativa do Brasil de 1988. Portal da Legislação. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 10 mai. 2019.

BRASIL. Presidência Da República. Casa Civil. Subchefia Para Assuntos Jurídicos. Lei Nº 9.504, de 30 de setembro de 1997. Lei da Eleições. Portal da Legislação. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l9504.htm Acesso em: 10 mai. 2019.

BRASIL. Presidência Da República. Casa Civil. Subchefia Para Assuntos Jurídicos. Lei Nº 4.737, de 15 de julho de 1965. Código Eleitoral. Portal da Legislação. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l4737.htm Acesso em: 22 out. 2019.

BRASIL. Tribunal Superior Eleitoral. Diálogos para a construção da Sistematização das Normas Eleitorais. 2019. Disponível em: http://www.tse.jus.br/legislacao/sne/arquivos/gt-iii-propaganda-estudos-preliminares. Acesso: em: 12 ago. 2019.

BRASIL. Tribunal Superior Eleitoral. Legislação. 2019a. Disponível em: http://www.tse.jus.br/legislacao/compilada/prt/2019/portaria-no-115-de-13-de-fevereiro-de-2019 Acesso: em: 12 ago. 2019.

BRASIL. Tribunal Superior Eleitoral. Portal da Comunicação TSE. 2019b. Disponível em: http://www.tse.jus.br/imprensa/noticias-tse/2019/Setembro/enfrentamento-a-desinformacao-tse-veicula-serie-de-cinco-videos-sobre-o-tema?fbclid=IwAR2JRU6Yu0u-gRV1-wACl3K4Eic8l-jtllgIjG64kpTVwW1so6Xi8NSx2yY. Acesso em: 21 out. 2019.

BRASIL. Tribunal Superior Eleitoral. Portal da Comunicação TSE. 2019c. Disponível em: http://www.tse.jus.br/imprensa/noticias-tse/2019/Outubro/google-facebook-twitter-e-whatsapp-aderem-ao-programa-de-enfrentamento-a-desinformacao-do-tse. Acesso em: 30 out. 2019.BRASIL. Tribunal Superior Eleitoral. Portal da Comunicação TSE. 2019d. Disponível em: http://www.tse.jus.br/imprensa/noticias-tse/2019/Outubro/grupo-gestor-do-programa-de-enfrentamento-a-desinformacao-recebe-representante-do-twitter-para-alinhar-estrategias-conjuntas. Acesso em: 30 out. 2019.

BRASIL. Tribunal Superior Eleitoral. Portal da Comunicação TSE. 2019e. Disponível em: http://www.tse.jus.br/imprensa/noticias-tse/2019/Agosto/tse-lanca-programa-de-enfrentamento-a-desinformacao-com-foco-nas-eleicoes-2020. Acesso em: 30 out. 2019.

BRASIL. Tribunal Superior Eleitoral. Seminário Internacional sobre Fake News e Eleições. 2019f. Disponível em: http://www.tse.jus.br/hotsites/seminario-internacional-fake-news-eleicoes/. Acesso: em: 12 ago. 2019.

CADWALLADR, Carole. Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach. The Guardian, 17 mar. 2018. Disponível em: https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election Acesso em: 26 abr. 2019.

CADWALLADR, Carole. Facebook’s role in Brexit — and the threat to democracy. TED Ideas worth spreading, Abr, 2019. Disponível em: https://www.ted.com/talks/carole_cadwalladr_facebook_s_role_in_brexit_and_the_threat_to_democracy/transcript?language=en. Acesso em: 4 ago. 2019.

CALDAS, Camilo O. L.; CALDAS, Pedro N. L. Estado, democracia e tecnologia: conflitos políticos e vulnerabilidade no contexto do big-data, das fake news e das shitstorms. Perspectivas em Ciência da Informação, Belo Horizonte, v.24, n. 2, abr./jun. 2019. Disponível em:  http://www.scielo.br/scielo.php?script=sci_arttext&pid=S1413-99362019000200196&tlng=pt. Acesso em: 20 out. 2019.

Congresso derruba veto e mantém pena para “fake news” eleitoral. Exame, ago. 2019. Disponível em: https://exame.abril.com.br/brasil/congresso-mantem-veto-a-prestacao-de-assistencia-odontologica-obrigatoria/. Acesso em: 22 out. 2019.

FERRARA, Emilio, et al. The Rise of Social Bots. Communications of the ACM, New York, v. 59 n. 7, jul. 2016. Disponível em: https://cacm.acm.org/magazines/2016/7/204021-the-rise-of-social-bots/fulltext#R24. Acesso em: 20 out. 2019.

GRASSI, Amaro. Et al. Robôs, redes sociais e política no Brasil: estudo sobre interferências ilegítimas no debate público na web, riscos à democracia e processo eleitoral de 2018. FGV DAPP, Rio de Janeiro, 20 ago 2017. Disponível em: http://hdl.handle.net/10438/18695. Acesso em: 12 jan. 2019.

HALE, Scott et al. How digital design shapes political participation: A natural experiment with social information. PLoS One, 27 abr. 2018. DOI: 10.1371/journal.pone.0196068. Disponível em: https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0196068. Acesso em: 8 jan. 2019.

HOUSE OF COMMONS (Reino Unido). Disinformation and ‘fake news’: Final Report. Londres: House of Commons, 2019, 111 p. Disponível em: https://publications.parliament.uk/pa/cm201719/cmselect/cmcumeds/1791/1791.pdf. Acesso em: 19 fev. 2019.

MONTEIRO, Cláudia S.; MEZZAROBA, Orides. Manual de metodologia da pesquisa no Direito. 7. ed. São Paulo: Saraiva, 2017. ISBN: 9788547218720.

MUNGER, Kevin. Influence? In this economy? Tech-savvy young people take internet literacy for granted, and that can cause all kinds of problems. The Outline, 17 fev. 2018. Disponível em: https://theoutline.com/post/3443/devumi-twitter-bots-savviness-gap. Acesso em: 14 jan. 2019.

NETTO, Paulo R. WhatsApp confirma ação de empresas em disparo de mensagens durante eleições. O Estado de São Paulo, 8 out. 2019. Disponível em: https://politica.estadao.com.br/blogs/estadao-verifica/whatsapp-confirma-acao-de-empresas-em-disparo-de-mensagens-durante-eleicoes/. Acesso em: 2 nov. 2019.

PRIVACIDADE Hackeada. Direção: Karim Amer, Jehane Noujaim. Produção: Karim Amer, Pedro Kos, Geralyn Dreyfous, Judy Korin. Intérpretes: Brittany Kaiser, Carole Cadwalladr, David Carrol e outros. Roteiro: Karim Amer, Pedro Kos, Erin Barnett. Estados Unidos: Netflix, 2019 (113 min). Produzido por Netflix. Disponível em: https://www.netflix.com Acesso em: 4 ago. 2019.

PUPO, Amanda; PIRES, Breno. TSE abre ação sobre compra de mensagens anti-PT no WhatsApp. O Estado de São Paulo, 19 out. 2019. Disponível em: https://politica.estadao.com.br/noticias/eleicoes,tse-abre-acao-sobre-compra-de-mensagens-anti-pt-no-whatsapp,70002555142. Acesso em: 2 nov. 2019.

RAMAYANA, Marcos. Direito Eleitoral. 16. Edição. Niterói: Impetus, 2018. ISBN: 9788576269601.

ROSENBERG, Matthew; CONFESSORE, Nicholas; CADWALLADR, Carole. How Trump consultants exploited the Facebook data of millions. The New York Times, 17 mar. 2018. Disponível em: https://www.nytimes.com/2018/03/17/us/politics/cambridge-analytica-trump-campaign.html. Acesso em: 20 dez. 2018.

RUEDIGER, Marco A. O estado da desinformação: Eleições 2018. FGV DAPP, Rio de Janeiro, 18 set 2018. Disponível em http://hdl.handle.net/10438/25743. Acesso em: 3 jan. 2019.

RUEDIGER, Marco A.; GRASSI, Amaro. Redes sociais nas eleições 2018. FGV DAPP, Rio de Janeiro, 5 out 2018. Disponível em http://hdl.handle.net/10438/25737. Acesso em: 3 jan. 2019.

RUEDIGER, Marco A.; GRASSI, Amaro. Desinformação na era digital: amplificações e panorama das Eleições 2018. FGV DAPP, Rio de Janeiro, 30 nov 2018a. Disponível em http://hdl.handle.net/10438/25742. Acesso em: 3 jan. 2019.

RUEDIGER, Marco A.; GRASSI, Amaro. Bots e o Direito Eleitoral Brasileiro nas Eleições de 2018. FGV DAPP, Rio de Janeiro, 15 jan 2019. Disponível em http://hdl.handle.net/10438/26227. Acesso em 17 fev. 2019.

SHALDERS, André. Eleições 2018 estreia na TV com força em cheque. BBC News Brasil, 18 ago. 2018. Disponível em: https://www.bbc.com/portuguese/brasil-45364384 Acesso em: 18 ago. 2019.

SILVA, Carla A. et al. Uso de redes sociais e softwares para disseminação e combate de fake news nas eleições. In: CONGRESSO NACIONAL UNIVERSIDADE, EAD E SOFTWARE LIVRE, 2018, Belo Horizonte. Anais […]. Belo Horizonte: UFMG, 2018. Disponível em: http://www.periodicos.letras.ufmg.br/index.php/ueadsl/article/view/14413. Acesso em: 4 jan. 2019.

STELLA, Massimo; FERRARA, Emilio; DOMENICO, Manlio. Bots increase exposure to negative and inflammatory content in online social systems. Proceedings of the National Academy of Sciences of the United States of America, v. 115, p. 12435–12440, dez. 2018. DOI: 10.1073/pnas.1803470115. Disponível em: https://www.pnas.org/content/115/49/12435. Acesso em: 8 jan. 2019.

SUNSTEIN, Robert C. #Republic: Divided democracy in the age of social media. Princeton University Press, 2017. ISBN: 9780691175515.

TÖRNBERG, Petter. Echo chambers and viral misinformation: Modeling fake news as complex contagion. PLoS One, 20 set. 2018. DOI: 10.1371/journal.pone.0203958. Disponível em: https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0203958. Acesso em: 13 jan. 2019.

TWITTER vai banir todo tipo de propaganda política, o que pressiona Facebook. O Globo, 30 out. 2019. Disponível em: https://oglobo.globo.com/mundo/twitter-vai-banir-todo-tipo-de-propaganda-politica-que-pressiona-facebook-24051553. Acesso em: 31 out. 2019.

VELLOSO, Carlos M. D. S.; AGRA, Walber D. M. Elementos de direito eleitoral. 5. ed. São Paulo: Saraiva, 2016. ISBN: 9788547208073.

ANHANG – FUßNOTENREFERENZEN

3. Ein Social Bot ist ein Computeralgorithmus, der automatisch Inhalte produziert und mit Menschen in sozialen Medien interagiert und versucht, ihr Verhalten nachzuahmen und möglicherweise zu verändern. (FERRARA, 2016). 4. Echokammern oder Echokammern sind Umgebungen, in denen eine Person nur Überzeugungen oder Meinungen findet, die mit ihren eigenen übereinstimmen, so dass ihre bestehenden Ansichten gestärkt werden und alternative Ideen nicht berücksichtigt werden (CAMBRIDGE, 2019) 5. Dieser Artikel ist in der brasilianischen Version der Facebook-Seite nicht vorhanden. 6. Austritt des Vereinigten Königreichs aus der Europäischen Union 7. Zentrum für angewandte Sozialforschung, das die Aufgabe hat, Innovation für die öffentliche Politik zu fördern. 8. Verfügbar in: http://hdl.handle.net/10438/18695. Zugriff am: 12 Jan. 2019.

9. Erstellt im Dezember 2017, um die möglichen Auswirkungen von Fake News und den Einsatz von Robotern während der Wahlen 2018 in Brasilien zu diskutieren. (RUEDIGER; GRASSI, 2018, p.4)

10. Der Raum hat auch eine Gruppe von Beobachtern der digitalen Demokratie, die die erstellten Analysen verfolgen. Zu dieser Gruppe gehören Forscher des Department of Communication Studies/Northwestern University, des Center for Studies on Medios Y Sociedad in Argentinien, der Universidad San Andrés, des José Maurécio Domingues – Institute of Social and Political Studies/State University of Rio de Janeiro, der School of Communications and Art/USP, Luciano Floridi – Oxford Internet Institute/Oxford, University, University and University of Brasilia. (RUEDIGER; GRASSI, out 2018, p.5)

11. “Die Hotsite ist eine kleinere Seite oder Website, die für bestimmte Situationen und für einen bestimmten Zeitraum erstellt wurde.” (BECKER, 2016)

12. Verfügbar in http://hdl.handle.net/10438/25742. Zugriff am: 3 Jan. 2019.

13. Verfügbar in https://www1.folha.uol.com.br/poder/2019/08/tse-ouve-testemunha-em-acao-sobre-mensagens-pro-bolsonaro-no-whatsapp.shtml. Zugriff am: 22 Aug. 2019

14. Verfügbar in http://hdl.handle.net/10438/25742. Zugriff am: 3 Jan. 2019.

15. Kunst. 41a, caput des Gesetzes Nr. 9,504/97 (Wahlgesetz): Vorbehaltlich der Bestimmungen der Kunst. 26 und seine Einschnitte, stellt die Ergreifung des Wahlrechts, verboten durch dieses Gesetz, der Kandidat spenden, bieten, versprechen oder liefern, an den Wähler, um ihm die Stimme zu erhalten, gute oder persönliche Vorteil jeglicher Art, einschließlich Beschäftigung oder öffentliche Funktion, von der Registrierung der Kandidatur bis zum Tag der Wahl, einschließlich, unter Strafe von tausend bis fünfzigtausend Ufir , und die Annullierung der Registrierung oder des Diploms, vorbehaltlich des in Art. 22 des Ergänzungsgesetzes Nr. 64 vom 18. Mai 1990.

Kunst. 299, caput des Gesetzes Nr. 4,737/1965 (Wahlgesetzbuch): Dar, angebot, versprechen, bitten oder empfangen, für sich selbst oder andere, Geld, Spende oder andere Vorteile, zu erhalten oder zu wählen und zu erreichen oder zu versprechen Enthaltung, auch wenn das Angebot nicht angenommen wird: Strafe – Freiheitsstrafe bis zu vier Jahren und Zahlung von fünf bis fünfzehn Tagen Geldstrafe.

16. Den TSE Youtube Kanal finden Sie unter: www.youtube.com/tse

17. Die Serie finden Sie unter: https://www.youtube.com/watch?v=1fSmN6BQvt0&list=PLljYw1P54c4zazS2rQVEneIyvTlSh27bo

18. Kunst. 326-A plus Kunst. 2. des Gesetzes Nr. 13,834/2019

19. http://www.justicaeleitoral.jus.br/desinformacao/#

20. http://www.justicaeleitoral.jus.br/desinformacao/arquivos/livro-fake%20news-miolo-web.pdf

[1] Technologe in Technologie der Analyse und Entwicklung von Systemen von Unifran; Studium der Rechtswissenschaften.

[2] Promotion in Umweltwissenschaften. Master in Umwelttechnik. Spezialisierung auf Post-Graduation Lato sensu im Steuerrecht. Studium der Rechtswissenschaften.

Eingesandt: Januar 2020.

Genehmigt: März 2020.

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here