"Gut gemeint ist oft das Gegenteil von gut getan", Johann Wolfgang von Goethe
Ich nahm gestern am netzpolitischen Abend im Metalab teil, mit dabei Florian Cech (über den AMS-Algorithmus) und Sigrid Maurer (es ging um ihre rechtliche Auseinandersetzung mit dem Craftbeershop-Besitzer, über dessen Account als sexistisch bzw. drohend einstufbare Botschaften per intransparenter Facebook-Botschaft gesendet wurden). (Meine eigene Meinung dazu ist immer mit einem "mMn" für "meiner Meinung nach" gekennzeichnet).
Der AMS-Algorithmus stuft AMS-Kunden in drei Gruppen ein, je nach geschätzter Chance auf Wiedereinstieg in den Arbeitsmarkt.
Davon abhängig werden dann Vermittlungsversuche, bzw. Schulungen gemacht oder auch nicht.
Laut Angaben der Regierung hat dieser Algorithmus eine Trefferquote von 80-90%. Woran man natürlich bemängeln kann, dass es keine 100 sind, aber pragmatisch stellt sich mMn die Frage, ob diese Trefferquote besser oder schlechter oder gleichgut ist wie das bisher praktizierte System menschlicher Einstufungen und menschlicher Zuteilung.
In diesem Zusammenhang wies Cech richtigerweise darauf hin, dass es eine Art Mathematik- und Computergläubigkeit gibt, die es schwer macht, Einstufungen, die der Computer macht, zu hinterfragen.
Allerdings sind auch Einstufungen, die Menschen machen, mMn schwer zu kritisieren und zu hinterfragen, auch deswegen, weil wegen Datenschutz und/oder Amtsgeheimnis an diese Daten sowieso schwer heranzukommen ist oder auch nicht.
Cech vertrat auch die These, der Algorithmus repliziere und verstärke vielleicht sogar Vorurteile des Marktes und der Arbeitgeber.
Aber wenn es um die Vermittlung geht, der ein beiderseitiges Einverständnis erfordert, dann sind mMn Vorurteile beider (von Arbeitgeber wie von Arbeitnehmern) natürlich immer potenziell von Bedeutung; und weder menschliche noch algorithmisierte Zuteilungsverfahren können diese Vorurteile aus der Welt schaffen und eine Arbeitsverhältnislösung in Konfliktfällen ermöglichen; bei den Schulungen mag das anders aussehen.
Cech erwähnte, dass in anderen Ländern, in denen derartige Systeme verwendet werden, schlecht Eingestufte aus dem System aussteigen würden und entweder keine Arbeit mehr suchen würden, oder auf eigene Initiative Arbeit suchen würden.
(was vielleicht mMn gar nichts unbedingt und immer schlechtes ist: manche haben mit dem AMS schlechte Erfahrungen gemacht und sind schwer zu betreuen).
Cech erwähnte ein Mißtrauen in intransparente Algorithmen, aber mMn ist dieses Misstrauen ein Phänomen neuer Technologien, dasselbe Misstrauen hätte man bei den alten Verfahren, die auch intransparent waren, auch haben können, aber eine "normative Kraft des Faktischen" und ein Gewöhnungseffekt führt dazu, dass man alten Systemen weniger misstraut als neuen, bei gleicher Problematik.
Überhaupt nicht thematisiert wurde die Kostenfrage: alles in allem scheint der AMS-Algorithmus (u.a. auch bei gleicher Fehlerquote) billiger zu sein als das menschliche Verfahren: erstens weil Computer billiger sind als menschliche Arbeitskraft, zweitens weil man annehmen kann, dass dann weniger Schulungen vergeben werden.
Natürlich kann ein derartiger Algorithmus diskriminierende Effekte haben, vielleicht gegen Frauen und gegen Minderheiten, aber menschliche Verfahren können das mMn auch.
Während seines Vortrags ging Cech nicht ein auf den Systemvergleich (ja, ich vergleiche "krampfhaft", wie mir in diesem Forum schon unterstellt wurde) Algorithmus-Mensch, aber im SmallTalk nach den Vorträgen hatte ich die Möglichkeit, ihn das zu fragen, was im Vortrag und in den Publikumsfragen nicht zur Sprache kam: und seine Antwort war: "Wir werden nie wissen, ob der Mensch oder der Computer besser ist".
Was irgendwie eine andere Botschaft war als die Position in seinem Vortrag, aber schliesslich ist sein Fachgebiet "kritische Algorithmenanalyse", und nicht "kritische Menschenanalyse".
Und nun zu Sigrid Maurer und ihrem Kampf gegen das, was sie als gegen Frauen gerichtete Hassrede einstuft:
Maurer behauptete, die Betroffenen von Hassrede seien zu zwei Drittel Frauen. Das kommt mMn immer darauf an, wie man Hassrede einstuft. In einem ihrer Blogs behauptete Maurer, der Gender Pay Gap betrage in Österreich 69%, während er laut meinen Recherchen 23% beträgt, d.h. es ist möglich, dass sie im rücksichtslosen Kampf für die Sache der Frauen, zu dem sie sich laut Twitter-Profil bekennt, auch schon mal falsche Zahlen zu verwenden berechtigt betrachtet.
Und sie sagte, Mittel gegen Hassrede sollten schnell, unbürokratisch und billig sein. Das Kriterium der rechtsstaatlichen Zuverlässigkeit nannte sie nicht, d.h. die "false positives"-Problematik, die gerade im vorhergehenden Vortrag von Cech, dem sie beiwohnte, angesprochen wurde, sah sie nicht, d.h. wenn strafgesetzliche oder verwaltungsstrafgestzliche Maßnahmen einen Unschuldigen treffen.
Aber selbst "schnell, unbürokratisch und billig" sind durch den Rechtsstaat eher nicht zu erreichen; viel eher durch die Möglichkeit des Blockens und Löschens.
Da Maurer es mit der Beweisbarkeitsfrage nicht so ernst nimmt, hält sie auch eine Klarnamenspflicht nicht nur für nicht nützlich, sondern sogar schädlich. Und zwar schädlich in den Fällen, in denen Arbeitnehmer anonym Arbeitgeber kritisieren können sollen. Diese Arbeitnehmerlastigkeit ist wahrscheinlich der bzw. ein Grund, warum bei der letzten Wahl praktisch die komplette "Grüne Wirtschaft", also die grünen Wirtschaftskammer-Mitglieder zum Beispiel, zu den NEOS gewechselt sind, was (gemeinsam mit der Abspaltung der "Liste Pilz" ) den Fall der Grünen unter die Vierprozenthürde (nach 12,4%) und damit ihren Rausflug aus dem Parlament bedeutete.
Maurer argumentierte auch, dass ihr Fall beweise, dass Klarnamenspflicht keine Lösung sei. Was höchst fragwürdig ist, denn es ist anzunehmen, dass nach der ersten Prozesswelle nach einem etwaigen neuen Anti-Hassrede-Gesetzes ohne Klarnamenspflicht ein Großteil der Hassredner auf anonyme Internet-Accounts umsteigen wird, womit "Hassrede" illegal, aber fast unbeweisbar wird.
Das Problem mit der Klarnamenspflicht könnte viel eher eines der Unilateralität sein: eben, weil das Internet inter ist, also international, bringen nationale Alleingänge wenig. Und je mehr Staaten sich rein theoretisch auf Klarnamenspflicht einigen, umso höher wird der Anreiz für andere Staaten, nicht mitzumachen, aus aus finanziellen Gründen.
Sie sprach auch an das Thema der Fahrlässigkeit in Bezug auf den Computer bzw. den Account. Meine Ansicht dazu ist: selbst wenn man unfahrlässig handelt, kann es einem passieren, dass der Computer samt Passwörtern gestohlen wird. Wenn man einen Kunden bedienen muss oder schnell aufs WC muss, dann kann es, auch wenn man im Prinzip ein sorgfältiger Mensch ist, passieren, dass man vergisst, auszuloggen, herunterzufahren, oder auf Standby- oder Energiesparmodus geht, die ein neuerliches Einloggen erforderlich machen.
Maurer als Politikerin oder Ex-Politikerin übersieht auch einen sehr wesentlichen Punkt: es gibt zahlreiche Judikate, die besagen, dass Politiker und -innen sich mehr Kritik gefallen lassen müssen als Nicht-Politiker. D.h. ihre mutmaßlichen Absicht, das Sprachrohr der Frauen zu sein, kann sie so gesehen vielleicht gar nicht erfüllen.
Der frühere US-Präsident Harry Truman sagte einmal über Politik: "If you can´t stand the heat, then don´t come into the kitchen". Sehr frei übersetzt: "Politik ist kein Mädchenpensionat".
Eine Formulierung, die Ex-Kanzler Kern (SPÖ) verwendet hatte, der dafür nur einen klitzekleinen Sexismusvorwurf erntete, der im Vergleich zum Anti-Dönmez-Shitstorm wegen seines Knie-Sagers lächerlich klein erscheint.
Allerdings: bereits in den 1960er Jahren verwendete der Spiegel ähnliche Formulierungen. Auch eine KPÖ-Politikerin verwendete ähnliche Formulierungen, der Shitstorm blieb hier völlig aus.
Politisch korrekt wurde dieser Zitatenklassiker umformuliert zu: "Politik ist keine Kuschelparty".
Ein großes Problem besteht auch bei der Definition von "Hassrede": so wie ich das einschätze, haben die politische Rechte und die politische Linke unterschiedliche Vorstellungen, sodass keine Definition von "Hassrede" möglich sein wird, die eine Zweidrittelmehrheit erreicht, was für Verfassungsfragen wichtig sein kann.
Z.B. Faschismus- oder Nazi-Vorwürfe der politischen Linken kann die politische Rechte als "Hassrede" empfinden, und da Linksparteien (mit Ausnahme der Piratenpartei) einen Frauenanteil unter den Wählenden von über 50% haben, und die FPÖ einen Frauenanteil von weit unter 50%, werden politische Differenzen überlagert durch geschlechtliche.
Diese Polarisierung, insbesondere zwischen Grünen und FPÖ, kann einer der Hauptgründe für Hassrede sein, die man durch Gesetze wahrscheinlich nicht wegbekommen wird.
Auch deswegen, weil Menschen erfinderisch sind, und zu allen Zeiten Zensur- und Verbotsumgehungsmechanismen erfunden haben.
Mutmaßlich, weil die "gefährliche Drohung" per StGB mit Strafe bedroht ist, passierte mir eine Art Morddrohung durch Fast-Unfall: anläßlich eines mehreren Personen bekannten Termins raste ein Auto auf mich zu und bremste knapp vor mir ab, mit zur Morddrohungstheorie passendem Kennzeichen.
Der grüne Ex-Abgeordnete Karl Öllinger schlug einmal vor, den Auschwitz-Zweifel zu verbieten, weil die früheren Auschwitz-Leugner wegen des Gesetzes auf das Auschwitz-Anzweifeln umgestiegen waren. Aber dann würde auch Rene Descartes und sein methodischer Zweifel an Allem unter nationalsozialistische Wiederbetätigung fallen.
Der Fehler vieler Politiker scheint darin zu bestehen, etwas anderes erwartet zu haben.
Ähnliche Phänomene werden wir auch bei der Hassrede erleben: viele, die Hassrede praktizieren wollen, werden umsteigen auf das, was gerade noch legal ist. Und weil viele dieser Umsteiger sich, egal wie die Gesetze aussehen, immer in Illegalitätsnähe befinden, werden sehr oft gelöscht als Kollateralschäden mit ihnen diejenigen werden, die ohne Umsteigen sich in der Nähe der Grenze befinden, die durch die Politik an sie herangelegt wurde.
Wenn die Drohung mit Vergewaltigung verboten und streng betraft wird, werden Viele z.B. Blumen-und-Bienen-Metaphern verwenden und auf Bestäubungsdrohungen umsteigen, wobei sie hinterher dann natürlich sagen können, sie hätten eigentlich "geistiges Bestäuben" gemeint, na, freilich.
Gewonnen ist damit gar nichts: denken werden sowohl Sprecher als auch viele Hörer an Vergewaltigung, auch wenn sie das nicht klar sagen.
Man könnte sagen, der einzige Sinn und das einzige Resultat solcher Zensur- und Verbotsgesetze bestehe darin, den Metaphernreichtum zu erhöhen. Aber das ist natürlich falsch, weil auch Anwälte und Anwältinnen sich massiv an Hassrede-Prozessen bereichern; so gesehen ist es auch logisch, dass die Artikel, die Hassrede-Bestrafung fordern, zu 60% von Juristen und Juristinnen geschrieben werden.
Eine weitere Problematik der Hassredebestrafung ist die Einschränkung der Meinungsfreiheit und das Overblocking: Maurer sprach sich dafür aus, die Einstufung, ob Hassrede vorliege oder nicht, den Forenbetreibern oder Serverbetreibern aufzuhalsen, was diese aus Sicherheits- oder Prestige- oder Kosten-Gründen wahrscheinlich überschiessend mit Overblocking erledigen werden: zahlreiche Postings, die zwar legal, aber in einer gewissen Nähe zur Illegalität sind, werden dann wohl gelöscht werden.
Eine extreme Form des Overblocking scheint der Onlineauftritt von oe24, bzw. "Österreich" gefunden zu haben: nämlich die Pseudokommentarfunktion, in der Kommentare nur dem Postenden, aber niemandem sonst sichtbar gemacht werden, mit der passenden Cookie-Verwendung. Das spart "Österreich" einen Haufen juristische Spitzfindigkeiten, eine Löschertruppe und damit viel Geld. Und es erspart "Österreich" möglicherweise auch einen (noch) schlecht(er)en Ruf, den ein Boulevard-Forum ihm wahrscheinlich eintragen würde.
D.h. die Möglichkeiten des freien Internets werden durch Anti-Hassrede-Paragraphen vielfach zunichte gemacht, und das alte "Meinungsfreiheit ist die Freiheit von 10 reichen Medienbesitzern, ihre Meinung zu verbreiten" wird wiederauferstehen, und damit das 19. Jahrhundert.
Aber das scheint Maurer egal zu sein, Hauptsache, es passiert im Namen des Schutzes der Frauen.
Was Hassrede gegenüber einer Person ist, kann sich im Laufe der Zeit ändern: während im Standard-Online-Forum früher Kritik an der früheren Grünen-Sprecherin Eva Glawischnig schnell gelöscht wurde, durfte nach dem Wechsel von Glawischnig zum "Klassenfeind" Novomatic auch heftige Hassrede gegen Glawischnig im Standard-Forum erscheinen.
Der Vorwand der Hassrede wird so zu einem Mittel der beliebigen Willkür.
Im Small Talk nach den netzpolitischen Abend gab es auch Mordabsichtsäußerungen gegen Regierungspolitiker und ähnliche, die aber von Anderen nicht als Hassrede oder gefährliche Drohung eingestuft wurden und mit Hausverweis oder Verbot geahndet wurden, sondern die als mehr oder weniger normale Äußerung eingestuft wurden, gegen die man halt anargumentieren müsse.
Aber auch hier besteht natürlich zweierlei Mass: wieso soll im eigenen Kreis die Hassrede erlaubt sein, die man den Anderen, dem anderen politischen Lager verbieten will ?
Und noch ein Punkt, auf den ich schon in meinem Glawischnig-Blog aufmerksam machte: es gibt zahlreiche verfahrenseinstellende Bescheide, die ähnliche Aussagen nicht als "Hassrede", sondern als "milieubedingte Unmutsäußerungen" einstufen. Es stellt sich auch die Frage, ob die Abhandlung aller möglichen Arten von Hassrede nicht ein viel größeres Justizsystem und damit auch Steuererhöhungen erfordern würde.
In ihrem Blog zum Thema E-Voting meinte Maurer, Computer und elektronische Systeme seien intransparent und unnachvollziehbar. So gesehen hätte sie eigentlich wissen müssen, dass ihr öffentlich gemachter Vorwurf, der Craftshop-Beer-Besitzer habe hinter den beiden Botschaften gestanden, ihr mangels Transarenz und Nachvollziehbarkeit Probleme verschaffen würde.
Zu Maurers "Dokumentieren, dokumentieren, dokumentieren" kann ich nur sagen, auch ich habe schon so manches dokumentiert, aber nur wenig verwertet, mit moderner Speichertechnik geht´s relativ leicht. Aber trotzdem weiß man oft erst, was man hätte dokumieren sollen, nachdem es zu spät ist.
Das von Maurer angesprochene Ignorieren ist in vielerlei Hinsicht die bessere Option.
Auch das Thema, wie weit die Bekämpfung angeblicher "Hassrede" gehen müsse, blieb ausgespart: muss man nur direkte Hassrede löschen, oder auch Links auf Hassrede ?? Auch Links auf Links auf Hassrede ?? Auch Links auf Links auf Links auf Hassrede ??? Und wer hat die Zeit, das alles zu überprüfen ??
Auch auf die Unterschiedlichkeit der beiden Botschaften und zahlreiche andere Fragen wollte ich Maurer im Nach-Vortrags-Small-Talk ansprechen, was aber nicht funktionierte. Auch die Frage, was sie für die Gründe halte warum das heutrige Frauenvolksbegehren ein Viertel weniger Unterstützung hatte als das vor 20 Jahren, bei gestiegener Bevölkerung, hatte ich zwar vorbereitet, konnte ich aber nicht stellen.
Siehe auch:
https://www.fischundfleisch.com/dieter-knoflach/wichsvorlage-sexistisches-hassposting-50780
"Models are opinions embedded in mathematics", da ist was dran und das Wortspiel "Weapons of Math Destruction" ist irgendwie genial.
Links:
https://twitter.com/netzpat/status/1055164062701621248
https://twitter.com/lyrixderaven
https://netzpolitischerabend.wordpress.com/
Zum Euronews-Video: woher soll man wissen, wieviele der FakeAccounts Facebook gelöscht hat ? Und wie haben wir eine Garantie, dass Facebook nicht einseitig gelöscht hat, als nur die FakeAccounts des einen politischen Lagers, aber nicht des anderen ?
Reines Jubeln über gelöschte FakeAccounts ist zuwenig ...
Löschungen durch Facebook erscheinen mir nicht als richtige Antwort. Ceterum censeo, Facebookum esse delendum.
Für eine Zerschlagung von Facebook, unter anderem durch Vorschreiben von Interfaces, die es ähnlichen Social media-Betreibern leicht machen, User von Facebook abzuziehen.
Die Monopole der Fast-Monopole der IT-Riesen (google, Facebook, Amazon, Microsoft und vielleicht auch youtube) sind in der Tat ein Problem, das man durch Facebook-Meldungen wie "Wir haben ein paar böse Hate-Accounts gelöscht" nicht lösen kann.
