Entwicklung eines modularen und konfigurierbaren KI-Baukastens zur kontextualisierten Erkennung von Hassrede und Shitstorms in Online-Communities

Online-Communities verfügen über individuelle Regeln (Netiquetten), die vor allem toxische und strafrechtlich relevante Inhalte untersagen. Oft schaukeln sich Kommentarfolgen zu Shitstorms hoch, die zu schlimmen Folgen für Personen oder Personengruppen führen. Betreiber stecken daher erhebliche Aufwände in die Moderation. Ziel des Verbundprojekts ist es, mit Hilfe von generativer KI einen neuartigen, individuell konfigurierbaren Baukasten zur automatisierten Erkennung von Hassrede und sich anbahnenden Shitstorms zu entwickeln, der Kontext aus ganzen Konversationen, tagesaktuellen Meldungen von RSS-Feeds und weitere Meta-Informationen über die Community nutzt, um eine neue Stufe der Erkennungsqualität zu erreichen. Der Baukasten generiert zudem passgenaue Erklärungstexte, Texte zu Gegenreden und zur Deeskala-tion von Shitstorms. Mit dem neuen Baukasten werden beliebige Online-Communities in die Lage versetzt, auf die eigenen Bedarfe zugeschnittene Moderations-Pipelines zu entwickeln.