„Hatedemics“: EU plant Einsatz von KI im Kampf gegen Verschwörungstheorien im Netz

Die Europäische Union (EU) will Künstliche Intelligenz einsetzen, um gegen das vorzugehen, was sie unter Desinformationen, Verschwörungstheorien und Hassreden versteht. Dazu startete am 1. April 2024 ein Forschungsprojekt mit dem Namen „Hatedemics“. Dieses Kofferwort ist ganz offensichtlich eine Zusammensetzung aus Hass (hate) und Pandemien (Pandemics).

Verschwörungstheorien wirksam bekämpfen

Wie „Apollo News“ mitteilte, ist es das Ziel, „NGOs, Faktenprüfer, Behörden und Jugendliche“ als „Aktivisten“ zu „empowern“, um „Polarisierung, die Verbreitung rassistischer, fremdenfeindlicher und intoleranter Äußerungen sowie Verschwörungstheorien wirksam zu verhindern und zu bekämpfen“.

Die EU fördert das Projekt, das die Entwicklung einer Software zum Ziel hat, mit einer Million Euro. Es ist auf zwei Jahre angelegt und soll am 31. März 2026 abgeschlossen sein.

Die Fördermittel verteilen sich auf ein Konsortium aus 13 Unternehmen. An der Spitze steht die 2007 durch Landesgesetz gegründete multidisziplinäre Stiftung Fondazione Bruno Kessler mit Sitz in Trient, Italien. Ihr Arbeitsschwerpunkt liegt in den Bereichen Technologie, Innovation sowie Geistes- und Sozialwissenschaft. Benannt ist sie nach dem italienischen Politiker Bruno Kessler (1924–1991). Die Arbeit der Stiftung gliedert sich in verschiedene Zentren. Eines davon ist der Bereich Internetsicherheit.

Projekt ist Teil des EU-Programms CERV

Wie der Journalist Norbert Häring auf seiner Internetseite schreibt, gehört außerdem die weltweit tätige Sicherheitsfirma Saher (Arabisch für Wachmann, Sicherheitspersonal) dazu. Der Konzern ist unter anderem im Bereich der Terrorabwehr aktiv. Des Weiteren sind die regierungsnahen Faktenchecker FACTA und Pagella Politica dabei. Faktenchecker aus anderen Ländern sowie Bürgerorganisationen aus den Bereichen Diversität und Gleichberechtigung vervollkommnen die Runde.

Hatedemics ist Teil des EU-Programms „Bürgerinnen und Bürger, Gleichstellung, Rechte, Werte“ (CERV). Das 2021 aufgelegte Programm will die in den EU-Verträgen und der Charta der Grundrechte verankerten Rechte und Werte der Union fördern und schützen. CERV läuft bis 2027 und ist mit mehr als 1,4 Milliarden Euro ausgestattet. Nach eigener Darstellung verteilt sich das Budget auf alle am CERV-Programm teilnehmenden Staaten der Europäischen Union.

In der Ausschreibung von CERV heißt es auf Seite fünf unter dem Kapitel „Hintergrund“ unter anderem: „Hassrede und Hassverbrechen haben in den letzten Jahren in der EU ein beängstigendes Ausmaß angenommen. Die COVID-Pandemie und der Krieg in der Ukraine haben zu einer weiteren Polarisierung und zur Ausbreitung rassistischer, fremdenfeindlicher und intoleranter Äußerungen beigetragen. […] Es gibt häufig ein Kontinuum zwischen Hassrede, insbesondere im Netz, und durch Hass motivierten Angriffen und Gewalt in der Realität. Die Bekämpfung von Hassrede und Hassverbrechen durch eine verstärkte Zusammenarbeit zwischen der Zivilgesellschaft und Behörden und anderen Interessenträgern ist für den Schutz der Grundrechte (Recht auf freie Meinungsäußerung, Menschenwürde und Nichtdiskriminierung) und für die Sicherung gesunder und pluralistischer Demokratien entscheidend.“

Software erstellt „dialogbasierte Gegenerzählungen“

Laut Norbert Härings Ausführungen soll das Projekt Hatedemics mithilfe von Künstlicher Intelligenz Regierungsstellen und zivilgesellschaftliche Organisationen auf den Kampf gegen sogenannte Hassrede im Netz fit machen. Unterstützung fänden sie durch die KI, um entsprechende Äußerungen zu entdecken und zu melden.

Auch soll die Software „dialogbasierte Gegenerzählungen“ erstellen. Das Programm wäre dann auch in der Lage, dadurch Veränderungen im Verhalten zu erreichen. „Die Kombination dieser Technologien wird gezieltere und rechtzeitige Online-Interventionen ermöglichen“, versprechen die Projektträger.

Wie Häring weiter schreibt, seien eine Million Euro Investition für die Entwicklung eines KI-Programmes nicht viel. Doch gebe es einen „Vorreiter“ aus den USA. So habe die National Science Foundation (NSF), die US-Behörde zur Förderung der Wissenschaft, ab 2021 mindestens 39 Millionen Dollar an verschiedene Universitätsteams und Unternehmen verteilt. Mit dem Geld werde KI zur automatisierten Ausforschung und Zensur der Medien im digitalen Raum entwickelt.

US-Ausschuss: Beteiligten ist klar, dass es ein Zensurprogramm ist

Das, so Häring, stehe in einem Zwischenbericht der NSF zum Untersuchungsausschuss des US-Kongresses über illegale Zensuraktivitäten der Regierung. Nach der Auswertung von E-Mails und Präsentationen habe der Ausschuss festgestellt, dass sich „die Beteiligten darüber im Klaren waren, dass es sich um ein Zensurprogramm handelte“.

Häring nennt weitere Zensurprogramme und schlussfolgert, dass Hatedemics aus diesen nur noch etwas „Passendes für die vielsprachige EU zusammenschustern“ müsse.

Laut „Apollo News“ soll die KI auch Änderungen im Nutzerverhalten messen, die durch die KI-generierte „Gegennarrativ-Intervention“ entstanden sind. „Die Kombination dieser Technologien ermöglicht gezieltere und zeitnähere Online-Interventionen (d. h. eine erweiterte gezielte Suche gefolgt von relevanten Textvorschlägen)“, heißt es in der Beschreibung weiter.

---