Machine-Learning-basierte Identifikation von Fake News, Hate Speech und extremistischen Dynamiken – innovative Methoden in der Analyse von Social-Media-Daten
Die Anzahl an Social-Media-Nutzerinnen und Nutzern steigt kontinuierlich, sowohl für den privaten Gebrauch als auch zur professionellen Informationsbeschaffung. Leider gehören dazu auch Fake News, Hate Speech und extremistische Dynamiken, die die freiheitlich-demokratische Grundordnung bedrohen. Provokante, beleidigende und falsche Kommentare können sich über Social Media scheinbar ungehemmt verbreiten. Lösungen werden gesucht, um solche Beiträge gezielt aus einer schier unüberschaubar großen Menge an Aktivitäten identifizieren und ihnen beispielsweise im Rahmen der Kriminalprävention begegnen zu können.
Prof. Dr. Dennis Klinkhammer vom ifes Institut für Empirie & Statistik der FOM hat herausgefunden, dass die Kommunikationsmuster in sozialen Medien maßgeblich durch die übergeordneten Themen der Social-Media-Kanäle beeinflusst werden. Die Kommunikationsmuster beim Thema Sport ähneln beispielsweise bedeutend denen beim Thema Politik, wie er in seinem methodischen Grundlagenbeitrag mit dem Titel „Analysing Social Media Network Data with R: Semi-Automated Screening of Users, Comments and Communication Patterns“ herausstellt. „Sowohl beim Sport als auch in Bezug auf politische Themen wird auf Social-Media-Kanälen engagiert kommuniziert. In der Reichweite, gemessen an der Anzahl der aktiven Nutzerinnen und Nutzer und deren Kommentaren, aber auch in der Art wie eine Kernaussage durch ein soziales Netzwerk transportiert wird, ähneln sich Sport und Politik mehr als bspw. die ebenso beliebten Social-Media-Themen Musik und Computerspiele“, so der Forscher. In der Grafik sieht man, wie sich Themen verbreiten (grün), wie kommuniziert oder geantwortet (violett bzw. orange) und wie weitreichend kommuniziert wird (Anzahl der Ringe). Diese Erkenntnis ist eine wichtige methodische Grundlage für eine automatisierte Identifikation von Fake News, Hate Speech und extremistischen Dynamiken. Diese verbreiten sich entlang fast aller gängiger Social-Media-Themen und -Kanäle. Allerdings verbreiten sie sich innerhalb der Themen auf unterschiedliche Art und Weise. Wenn man das grundlegende Kommunikationsmuster kennt, kann man deren Besonderheit umso gezielter erkennen.
Gestern wurden weiterführende Befunde in dem Sammelband „Extremistische Dynamiken im Social Web – Befunde zu den digitalen Katalysatoren politisch und religiös motivierter Gewalt“ mit einem Beitrag des FOM Wissenschaftlers veröffentlicht. Das Werk erscheint mit einem Vorwort des Innenministeriums NRW zur Bedeutung der Themen Fake News, Hate Speech und extremistische Dynamiken im Verlag für Polizeiwissenschaft. In seinem Beitrag geht Klinkhammer insbesondere auf die quantitativen Indikatoren für Radikalisierung und Extremismus auf YouTube ein. Es geht darum, wie man diese beispielsweise über die Programmiersprachen R und Python adressieren und in ein geeignetes Machine-Learning-Modell zur automatischen Identifikation von Extremisten und Terroristen nutzen kann. Dies könnte die Kriminalprävention dahingehend vereinfachen, dass nicht mehr alle Kommentare in Social-Media-Kanälen auf mögliche Rechtsverstöße überprüft werden müssten, sondern dass eine sorgfältig getroffene Vorauswahl den Fokus schärft, ohne dabei falsche Verdächtigungen aufkommen zu lassen.
Professor Klinkhammer setzt das Verfahren ebenfalls in seiner Lehre, u. a. im Bereich „Praxis der Datenanalyse“ am FOM Hochschulzentrum Köln, ein: „Die Studierenden greifen die Methode gezielt auf und adaptieren sie eigenständig und zu ihren jeweiligen Studiengängen passend. Daraus sind beispielsweise Arbeiten im Gesundheits- und Sozialmanagement zum Thema Prävention von Mobbing, aber auch zur rechtzeitigen Erkennung von gegen Unternehmen gerichteten Shitstorms in den Business-Studiengängen entstanden. „Schließlich geht es darum, dass das Internet auch wirklich nett bleibt“, scherzt Klinkhammer.
Prorektorat Forschung | 17.12.2020
Suche nach Beiträgen
Beitrag teilen
Engagement im Bereich sozialer, wirtschaftlicher & ökologischer Nachhaltigkeit an der FOM | Teil 1: German SDG-Award, UNIDO Innovation Award & das KompetenzCentrum für nachhaltige Entwicklung
Dies ist Teil 1 der Serie zum wissenschaftlichen Engagement der FOM Hochschule für eine globale nachhaltige Entwicklung. Die FOM orientiert sich dabei an den von den Vereinten Nationen (United Nations, UN) im Rahmen der Agenda 2030 verabschiedeten 17 globalen Ziele für eine solche Entwicklung. Die Ziele, die Sustainable Development Goals (SDGs), umfassen soziale, wirtschaftliche und ökologische Nachhaltigkeit. Sie sind an Staaten, Zivilgesellschaft, Wirtschaft, Wissenschaft sowie jede und jeden Einzelnen gerichtet und erfordern eine globale Kooperation aller, natürlich auch der Unternehmen.
WeiterlesenWhistleblowing in Unternehmen jetzt vereinfacht. Hinweisgeberschutzgesetz regelt nicht alles – doch FOM Rechtswissenschaftler schließen die Lücken
„Einer, der nicht wegschauen wollte“, titelte 2007 die Tageszeitung taz. Es ging damals um den Lkw-Fahrer Miroslav Strecker, dem ein Missstand auffiel, der daraufhin die Polizei rief und damit einen bundesweiten Gammelfleischskandal aufdeckte. So mutig sind nicht alle Mitarbeitenden in Unternehmen ...
Weiterlesen„Bei zukünftigen Geschäftsmodellen des Mittelstands müssen auch die soziale und ökologische Verantwortung von Unternehmen bedacht werden“ – Vortrag des Prorektors für Forschung der FOM in Aserbaidschan
Als Vertreter der FOM Hochschule und Repräsentant des International Council for Small Business (ICSB) sprach unser Prorektor für Forschung, Prof. Dr. Thomas Heupel, am 13. November beim 2023 SME World Forum in Baku, Azerbaijan, zu den zukünftigen Herausforderungen des Mittelstands. Dabei betonte ...
Weiterlesen