Was tun gegen Hass­rede im Netz? Lud­wig Gre­ven spricht mit dem Kri­mi­nal­psy­cho­lo­gen Jan-Ger­rit Keil über den Ein­satz der Poli­zei gegen Dis­kri­mi­nie­run­gen in den sozia­len Medien, über das Prä­ven­ti­ons­pro­jekt „Zivile Hel­den“ und die Auf­gabe der Kul­tur- und Bil­dungs­ein­rich­tun­gen im Kampf gegen Rassismus.

Lud­wig Gre­ven: Was kenn­zeich­net Ras­sis­mus in den sozia­len Medien?
Jan-Ger­rit Keil: In ers­ter Linie han­delt es sich um Hass­kri­mi­na­li­tät bzw. die im eng­lisch­spra­chi­gen Raum als „Hate Crime“ klas­si­fi­zier­ten Delikte: Kom­men­tare oder Posts – das kön­nen auch Filme, Bil­der, Memes oder Lie­der sein –, die ras­sis­ti­sche Äuße­run­gen oder Dar­stel­lun­gen ent­hal­ten. Viel­fach erge­ben sich dabei inhalt­li­che Über­schnei­dun­gen mit der rechts­extre­mis­ti­schen Szene oder dem poli­ti­schen Rechts­po­pu­lis­mus. Es fin­den sich aber auch ras­sis­ti­sche oder anti­se­mi­ti­sche Kom­men­tare, die nicht ein­deu­tig einer poli­tisch extre­mis­ti­schen Rich­tung oder einer fun­da­men­ta­lis­ti­schen Reli­gi­ons­aus­le­gung zuzu­ord­nen sind. Die Aus­sa­gen spie­geln dann ent­we­der all­tags­ras­sis­ti­sche Res­sen­ti­ments wider oder haben ihren Ursprung vor­der­grün­dig mehr in frau­en­feind­li­chen, ver­schwö­rungs­theo­re­ti­schen oder eso­te­ri­schen Milieus. Diese Milieus sind wie­derum häu­fig mit Ver­satz­stü­cken rechts­extre­mis­ti­scher Ideo­lo­gie verwoben.

Schwie­ri­ger wird es aus poli­zei­li­cher Sicht sicher­lich, wenn Bei­träge nicht so ein­deu­tig sind.
Natür­lich gibt es im Netz auch sub­li­mere For­men von struk­tu­rel­lem Ras­sis­mus. So wer­den in der Wer­bung und durch Influen­ce­rin­nen bestimmte Schön­heits­ideale pro­te­giert. Schwar­zen Men­schen wer­den Bleich­cremes zur ver­meint­li­chen Ver­bes­se­rung der Job­chan­cen ange­bo­ten. Algo­rith­men repro­du­zie­ren bestehende Macht­ver­hält­nisse und bie­ten Schwar­zen Men­schen sys­te­ma­tisch Anzei­gen für Jobs im Dienst­leis­tungs­ge­werbe statt Stel­len im höhe­ren Manage­ment an. Das muss jedoch mit den Mit­teln der Kul­tur- und Bil­dungs­po­li­tik ange­gan­gen werden.

Was unter­schei­det Ras­sis­mus im öffent­li­chen Raum von Ras­sis­mus im Netz?
Die wesent­li­chen Unter­schiede bestehen in der Anony­mi­tät der Täter, der theo­re­tisch unend­li­chen Öffent­lich­keit und der Dau­er­haf­tig­keit. Eine ver­bale Dis­kri­mi­nie­rung an einer Super­markt­kasse wird nur von der umste­hen­den Hand­voll Leu­ten wahr­ge­nom­men und gerät schnell in Ver­ges­sen­heit. Zudem kann die ver­ur­sa­chende Per­son unmit­tel­bar fest­ge­stellt wer­den, was dem Opfer bes­sere Hand­lungs­op­tio­nen für Gegen­maß­nah­men ermög­licht. Eine ras­sis­ti­sche Dif­fa­mie­rung in den sozia­len Medien wird dage­gen häu­fig aus dem Schutz der Anony­mi­tät her­aus began­gen, sie ist poten­zi­ell einem welt­weit rie­si­gen, eben­falls größ­ten­teils anony­men Publi­kum zugäng­lich und bleibt durch Tei­len, Liken und Wei­ter­ver­sen­den mit ihrer häss­li­chen Bot­schaft über einen sehr lan­gen Zeit­raum bestehen. Diese drei Fak­to­ren füh­ren dazu, dass der psy­chi­sche und soziale Stress von Inter­net­ras­sis­mus um ein Viel­fa­ches poten­ziert ist, weil sich Hand­lungs­kon­trolle und Schutz für die Opfer viel schwie­ri­ger her­stel­len lässt.

Wel­che Ansätze ver­folgt die Poli­zei bei der Bekämp­fung von Hass­kri­mi­na­li­tät im Netz?
Wie sonst auch glie­dert sich das in die zwei gro­ßen Berei­che Prä­ven­tion und Repres­sion. Anders als die Straf­ver­fol­gung, die allein Sache der Poli­zei und Staats­an­walt­schaft ist, muss die Prä­ven­tion als gesamt­ge­sell­schaft­li­che Auf­gabe auch von ande­ren Akteu­ren wie den Schu­len, Sport, Kir­chen, Kul­tur und Poli­tik wahr­ge­nom­men wer­den. Trotz­dem genießt die Poli­zei als norm­ver­deut­li­chende Insti­tu­tion ins­be­son­dere bei Kin­dern und Jugend­li­chen nach wie vor ein hohes Anse­hen. Gerade in den Zei­ten von Fake-News-Debat­ten und Medi­en­skep­sis wer­den die Accounts der poli­zei­li­chen Pres­se­por­tale als hoch­gra­dig glaub­wür­dig ange­nom­men, wodurch die Ansprü­che und Erwar­tun­gen an digi­tale poli­zei­li­che Pres­se­ar­beit deut­lich gestie­gen sind. Spe­zi­ell für die junge Ziel­gruppe wur­den im Rah­men des Zivile-Hel­den-Pro­jek­tes der poli­zei­li­chen Kri­mi­nal­prä­ven­tion des Bun­des und der Län­der inter­ak­tive Videos ent­wi­ckelt, durch die sich die Nut­zer durch­kli­cken und dadurch den Ver­lauf der Geschich­ten selbst mit­be­stim­men kön­nen. Dabei wer­den spie­le­risch Lern­in­halte über Extre­mis­mus, Radi­ka­li­sie­rung und „Hate Speech“ ver­mit­telt. Mit dem Zivile-Hel­den-Por­tal konn­ten wir unter zivile-helden.de eine Reich­weite von bis zu 2,3 Mil­lio­nen Kon­tak­ten errei­chen. Die Uni­ver­si­tät Han­no­ver hat das Pro­jekt eva­lu­iert, beglei­tet und konnte eine nach­hal­tige prä­ven­tive Wirk­sam­keit der Videos in der rele­van­ten jugend­li­chen Ziel­gruppe nach­wei­sen. Bei den 30. Inter­na­tio­na­len Wirt­schafts­film­ta­gen wurde der Auf­klä­rungs­film „Chris & Lea“ über anti­se­mi­ti­sche Ver­schwö­rungs­my­then aus­ge­zeich­net. Bei aller gerecht­fer­tig­ter Kri­tik, dass die Poli­zei immer noch mehr machen könnte und sollte, kann man also fest­stel­len, dass es ihr gelun­gen ist, hier ein jugend­ge­rech­tes digi­ta­les Prä­ven­ti­ons­an­ge­bot auf die Beine zu stel­len, wel­ches auf der Höhe der Zeit ist und die Pro­bleme von Hass­kri­mi­na­li­tät im Netz ernst nimmt.

Wie stark wer­den Hass­ver­ge­hen und Ras­sis­mus im Netz inzwi­schen gemel­det und verfolgt?
Es ist davon aus­zu­ge­hen, dass die poli­zei­lich gemel­de­ten Fälle nur die Spitze des Eis­bergs dar­stel­len. Nicht jede Straf­tat kommt zur Anzeige. Dies gilt aber in ähn­li­cher Form auch für ras­sis­ti­sche Belei­di­gun­gen und Bedro­hun­gen im ana­lo­gen All­tag. Dar­über hin­aus haben sich im Netz zum Teil ver­rohte Umgangs­for­men eta­bliert, die sich Men­schen in ana­lo­gen Situa­tio­nen nie­mals gefal­len las­sen wür­den, die sie im Inter­net aber als ver­meint­lich unver­meid­lich und nor­mal in Kauf neh­men. Ein zusätz­li­ches Pro­blem bei der Ver­fol­gung ist die schon ange­spro­chene Anony­mi­tät vie­ler Täter. Die gesetz­li­chen Rege­lun­gen im Zusam­men­hang mit der Ände­rung des Netz­werk­durch­set­zungs­ge­set­zes soll­ten die Situa­tion seit Februar ver­bes­sern, stel­len aber immer noch ein Pro­blem dar, weil natio­na­les Recht auf welt­weit agie­rende Fir­men mit Ser­vern im Aus­land anzu­wen­den ist. So hat Face­book in Europa z. B. sei­nen Sitz in Irland und muss nach den dort gel­ten­den Regeln regu­liert wer­den. Dem möchte die EU mit dem Digi­tal Ser­vices Act begeg­nen, der vom EU-Par­la­ment bereits beschlos­sen wurde und kurz vor der end­gül­ti­gen Ver­ab­schie­dung steht. Dann soll­ten sich die Straf­ver­fol­gungs­mög­lich­kei­ten zumin­dest EU-weit verbessern.

Wel­che Mög­lich­kei­ten gibt es sonst noch, den Ver­fol­gungs­druck zu erhöhen?
Bis­lang kann die Poli­zei über­wie­gend nur die­je­ni­gen ras­sis­ti­schen Straf­ta­ten ver­fol­gen, die ange­zeigt wer­den. Das Inter­net ist kein rechts­freier Raum, es darf aber auch kein recht­durch­set­zungs­freier Raum sein. Da gibt es noch Ver­bes­se­rungs­po­ten­ziale. Des­we­gen bemüht sich die Poli­zei ver­mehrt, auch in der digi­ta­len Welt prä­sent zu sein, um selbst Fälle auf­zu­de­cken. Dafür müs­sen Digi­tal­stra­te­gien ent­wi­ckelt wer­den und es muss sich die Poli­zei­aus­bil­dung anpas­sen, um die Kom­pe­tenz im Bereich der Cyber­kri­mi­na­li­tät ins­ge­samt zu stei­gern. „Digi­tale Strei­fen“ kön­nen jedoch wie im ech­ten Leben die Lücke zwi­schen Hell- und Dun­kel­feld nie­mals voll­kom­men schlie­ßen. Eine effek­tive Bekämp­fung von Ras­sis­mus im Netz erfor­dert daher immer auch die medi­en­päd­ago­gi­sche Arbeit der Kul­tur- und Bil­dungs­ein­rich­tun­gen sowie einen pro­fes­sio­nel­len, län­der­über­grei­fen­den Umgang mit kri­mi­no­ge­nen Inhal­ten sei­tens der Inter­net­wirt­schaft und der Anbie­ter von sozia­len Diens­ten und der Plattformen.

Die Platt­form­be­trei­ber sträu­ben sich jedoch gegen eine Regu­lie­rung und wol­len selbst ent­schei­den, wel­che Inhalte sie löschen. Wel­che kon­kre­ten Ansätze sehen Sie da?
Hier ist als Stra­te­gie das soge­nannte „Deplat­forming“ zu nen­nen, bei dem die Inter­net­an­bie­ter bestimmte rechts­extre­mis­ti­sche Ange­bote oder ras­sis­ti­sche Kanäle dau­er­haft sper­ren und von ihren Platt­for­men ver­ban­nen. Dies kann auf Hin­weis der Poli­zei, häu­fi­ger aber auch von Nut­zern über die Beschwer­de­tools der Fir­men sowie durch die eige­nen Algo­rith­men, manu­elle Qua­li­täts­kon­trolle und KI-Sys­teme der Fir­men selbst gesche­hen. Dabei kön­nen die eige­nen Löschungs­re­geln der Inter­net­an­bie­ter zum Teil auch stren­ger oder anders­lau­tend als die Straf­rechts­norm sein.

Wel­che Stra­fen dro­hen bei ras­sis­tisch moti­vier­ten Äuße­run­gen in den sozia­len Medien?
Bei Volks­ver­het­zung dro­hen Frei­heits­stra­fen zwi­schen drei Mona­ten und fünf Jah­ren, bei Belei­di­gung und Bedro­hung bis zu zwei bzw. drei Jahre – vor­aus­ge­setzt, die Täter kön­nen ermit­telt wer­den. Wäh­rend Volks­ver­het­zung die Stö­rung des öffent­li­chen Frie­dens vor­aus­setzt, kom­men Belei­di­gun­gen und Bedro­hun­gen auch im pri­va­ten Rah­men vor. Bei bei­den Delik­ten wirkt sich die Aus­füh­rung in der Öffent­lich­keit straf­ver­schär­fend aus. In den sozia­len Medien kann davon im Regel­fall aus­ge­gan­gen wer­den, sodass hier die höhe­ren Straf­maße in Betracht gezo­gen wer­den müs­sen. Ver­mut­lich ist nicht jedem bei der Straf­be­ge­hung aus dem Wohn­zim­mer, am Handy oder Lap­top bewusst, dass er oder sie in einem öffent­li­chen Raum agiert. Es fin­den sich aber auch gezielt ver­brei­tete Pro­pa­gan­da­straf­ta­ten, bei denen deut­lich erkenn­bar ist, dass sie von Anfang an auf die Errei­chung eines mög­lichst gro­ßen Publi­kums ange­legt sind. Die vor­han­de­nen gesetz­li­chen Mög­lich­kei­ten müs­sen aus­ge­schöpft wer­den, damit sich die Täter ihrer Sache nie­mals sicher sein kön­nen. Des­halb ist es auch wich­tig, dass dar­über berich­tet wird, wenn sie z. B. Poli­ti­ke­rin­nen und Poli­ti­ker mit straf­re­le­van­ten Hass­kom­men­ta­ren bele­gen, und dass sie dafür zur Ver­ant­wor­tung gezo­gen wer­den. Wegen der abschre­cken­den Wir­kung, aber auch damit die Opfer erfah­ren, dass sie nicht hilf­los aus­ge­lie­fert sind und sie sich mit den Mit­teln des Geset­zes zur Wehr set­zen können.

Vie­len Dank.

Die­ser Text ist zuerst erschie­nen in Poli­tik & Kul­tur 07-08/2022.