0160 – Ist Personalisierung im Netz per se gefährlich?

Personalisierung ist m.E. dann gefährlich, wenn sie allein einer kapitalistischen Logik der Profit- und Datenmaximierung folgt. Wenn z.B. Google dazu gezwungen würde, personalisierte Verkehrsdaten nur ohne Rückschlussmöglichkeit auf ein Individuum zu verarbeiten, wären die sich daraus ergebenden Analysemöglichkeiten ein Segen für z.B. die dynamische Steuerung von Verkehrssystemen.

Die Fridays4Future-Bewegung ist eine Bewegung, die durch soziale Netzwerke entstanden ist und die sich durch sie organisiert und am Leben hält – auch durch Algorithmen und personalisierte Daten. Das heutige Netz leistet auch sonst auf vielfältige Art und Weise einen Beitrag zur Demokratisierung von Gesellschaft. Dadurch dass das Netz eines freies Publikationsmedium ist, wurden auch viele Verfehlungen staatlicher Organisationen oder von Konzernen publik und einer breiteren Öffentlichkeit überhaupt erst zugänglich – vor allem in den letzten Jahren.

Medizinische Daten ermöglichen schon heute wesentlich verfeinerte Diagnose- und Heilungsmethoden. Soziale Netzwerke können auch durch Personalisierung Horte des Wissenstransfers werden, in denen Menschen zusammengebracht werden, die vorher nie voneinander gewusst hätten – z.B. im Bereich der Wissenschaften, der Kunst, der Politik. In diesem idealisierten Modell würde das Netz zurückkehren zur Phase des Graswurzelvertrauens, allerdings erheblich aufgewertet durch personalisierte Algorithmen, die z.B. Menschen gleicher Interessen noch effektiver zusammenführen.

Alte und lokal gebundene Menschen erhalten durch die sozialen Medien wieder einen Zugriff auf die Welt. Sie können z.B. Anteil an der Entwicklung ihrer Kinder und Enkelkinder nehmen, was vor dem personalisierten Internet in dieser Form kaum möglich erschien.

Nicht das personalisierte Internet bereitet uns heute Probleme, sondern die ihm innewohnende kapitalistische Marktlogik.

0150 – Der Staat und das personalisierte Internet

Spätestens seit Edward Snowden wissen wir, dass nicht nur Internetkonzerne personalisierte Daten sammeln. Auch staatliche Institutionen haben spätestens seit 9/11 ein großes Interesse daran, möglichst umfassende Informationen über ihre Bürgerinnen und Bürger zu erhalten – in totalitären Systemen mehr als in demokratischen Strukturen.

Um die Probleme der Überwachung öffentlicher Räume wissen wir. Wir wissen um die Problematik von Funkzellenabfragen (als Polizei alle Handydaten in der Umgebung eines Verbrechens auslesen) und wie wissen um die Möglichkeit totaler staatlicher Überwachung, wenn z.B. Schnittstellen zu sozialen Netzwerken von der Polizei anlasslos und ohne Richtervorbehalt genutzt würden. Im Kern läuft es immer auf ein Aushebeln der Unschuldsvermutung hinaus: Durch Überwachungsmaßnahmen geraten immer massenhaft unbeteiligte Menschen mit ihren Daten in den Fokus staatlicher Exekutivorgane. Für die Ausweitung staatlicher Befugnisse wird immer wieder ins Feld geführt, dass sich Kriminelle zunehmend im digitalen Räumen organisieren und der Staat hier handlungsfähig bleiben muss. Selbst in einer starken Demokratie wie Deutschland sind hier die Grenzen und Bedingungen noch lange nicht ausgehandelt.

Den Handlungen des Staates gegenüber sind wir nach meiner Beobachtung deutlich kritischer eingestellt als z.B. den Aktionen digitaler Großkonzerne – solange nicht eigene Handlungsfelder von uns Lehrenden betroffen sind.

Auch Schule ist in vielen europäischen Ländern eine staatliche Institution. Insbesondere durch die deutsche Schulpflicht wird in erheblicher Art und Weise in das Erziehungsrecht der Eltern eingegriffen, weil wir durch die Geschichte dafür eine ausführliche Folgenabschätzung als Gesellschaft vorgenommen haben.

Ausgerechnet im liberalen Schweden gab es im letzten Jahr einen Vorfall staatlicher Überwachung in einer Schule. Die Anwesenheit der Schülerinnen und Schüler wurde in einer Klasse nicht durch Klassenbucheintragungen, sondern im Pilotbetrieb vollautomatisch durch Gesichtserkennung festgestellt. Aus einer einseitigen Perspektive klingt das Verfahren genial: Nie mehr lästige Blicke am Anfang der Stunde, nie mehr verlorene Unterrichtszeit und dadurch eine große Entlastung der jeweiligen Lehrkraft. Der Preis dafür ist die Speicherung und Verarbeitung biometrischer Daten von Kindern und Jugendlichen. Wer garantiert dafür, dass das nicht in der Cloud geschieht? Wer garantiert dafür, dass diese Daten auch künftig allein auf die Schule beschränkt bleiben? Wie handle ich pädagogisch bei einem Schüler, der zu Hause arge Probleme hat und daher oft verspätet oder gar nicht kommt? Daten lügen nicht. Ab einer bestimmten Fehlquote gilt u.U. für diesen Schüler ein Fach als unbelegt – mit u.U. weitreichenden, sich verschärfenden Folgen für seine Zukunft.

Auch Lehrplattformen sind prinzipiell Instrumente, die geeignet sind, personalisierte Daten von Schülerinnen und Schülern zu erfassen. Lehrplattformen unterscheiden sich für mich von Lernplattformen dadurch, dass vom Design her bei Lehrplattformen die Lehrkraft bestimmt, was eine Schülerin oder ein Schüler auf der Plattform darf- bei z.B. Mahara oder Wikis ist das grundsätzlich anders. Lehrplattformen sind natürlich attraktiv, weil sie – mit Bedacht eingesetzt – große Transparenz darüber schaffen, auf welchem Lernstand sich eine Schülerin oder ein Schüler befindet – dadurch fallen zumindest in der Theorie weniger Menschen durch das Raster und es wird eine individuelle Förderung möglich. Leider scheitert eine tatsächliche Umsetzung meist an menschlichen Ressourcen, die im Gegensatz zu algorithmischen nicht unbegrenzt skalieren.

  • Lange Zeit habe ich Blogsysteme als Lehrplattformen verwendet. Blogsysteme ermöglichen u.a., dass Texte online erstellt werden und für alle Mitglieder einer Lerngruppe sichtbar sind. Das hatte für mich als Lehrperson immense Vorteile:
  • Ich wusste schon am Abend vorher, welche Fehlerschwerpunkte in der Lerngruppe auftreten und konnte für die Stunde gezielt Übungsmaterial zusammenstellen
  • Durch das Blog war ich nicht an Dateiformate gebunden und konnte querlesen – endlich kein x‑faches Geklicke mehr in der Hoffnung, dass meine Textverarbeitung das aktuelle Microsoftformat frisst.
  • Durch den Beitragszähler bei den Autorennamen wusste ich ganz genau, wer in welchem Umfang gearbeitet, bzw. die Hausaufgabe überhaupt erledigt hat.
  • Gerade für stillere Schülerinnen und Schüler war von Vorteil, dass ihre Leistungen dokumentiert waren und für die Benotung der „sonstigen Leistung“ mit herangezogen werden konnte. So wurde niemand dafür bestraft im Unterricht still zu sein.
  • Durch die Sortierung nach Autoren entstanden nach und nach Portfolios, die auch dabei halfen, Schülerinnen und Schülern Entwicklungen in ihren Schreibfertigkeiten aufzuzeigen.

Ein Schüler äußerte sich kritisch zu diesem Ansatz – sinngemäß in etwa so:

Herr Riecken, zu Ihrer Bloggerei mit uns, muss ich Ihnen mal ein paar Dinge sagen. Immer wenn ich eine Hausaufgabe innerhalb des Blogs erledige, fühle ich mich genötigt, das besonders zeitaufwendig und gut zu machen, weil es eben für immer und ewig dort stehenbleibt. Das kostet mich Zeit und ist im Vergleich zum normalen Heft einfach unglaublich aufwändig. Außerdem werde ich ja immer ’erwischt’, wenn ich etwas nicht erledigt habe. In einer normalen Unterrichtsstunde kann ich hoffen, einfach nicht dranzukommen – es gibt neben den ganzen Hausaufgaben schließlich immer noch sowas wie ein Leben – gerade in Zeiten von G8. Zu dieser ganzen Portfolio- und ’Sonstige Leistungen’-Geschichte: Machen Sie das mit allen Ihren Schüler*innen? Um Klausuren zu korrigieren, brauche Sie doch jetzt schon eher Wochen als Tage. Sie schauen sich ernsthaft für alle Ihre Schülerinnen und Schüler die Schreibentwicklung an? Hallo? Wachen Sie mal auf und kommen Sie in der Realität an. Kriegen Sie mal Ihre tägliche Verwaltungsarbeit in den Griff, bevor Sie hier Ihr Traumtänzerzeug mit uns machen!

Ich denke, dass kann man unkommentiert so stehen lassen. Momentan werden große Hoffnungen darauf gesetzt, in Lehrplattformen weitgehend automatisiert Wissen und sogar Kompetenzstände kleinteilig zu überprüfen. Entsprechend der Ergebnisse würden dann den Schülerinnen und Schülern individuell neue Lehrinhalte präsentiert. Nebenbei entstehen bei diesem Ansatz Unmengen an personalisierten Daten, die für die weitere Zukunft eines Individuums von Bedeutung sein könnten, würden sie z.B. im Sinne einer kapitalistisch konzipierten Algorithmik verarbeitet und die dabei gewonnenen Daten später an potentielle Arbeitgeber veräußert – im Sinne der Schutzbedürftigkeit von Kindern und Jugendlichen wird man hier sehr genau hinschauen und demokratisch kontrollierbare Regelungen finden müssen.

 

0130 – Wie Google etablierte Webtechniken weiterentwickelt

Ein geradezu prototypisches Beispiel dafür, wie sich Datenverarbeitung unter dem Einfluss von Personalisierung verändert hat, sind die CAPTCHAs. CAPTCHAs sollten ursprünglich in Webformularen nachweisen, dass tatsächlich ein Mensch und nicht etwa ein Programm gerade Daten eingibt. Sie kennen solche Sicherungen alle:

ReCaptcha - früher

Bildquelle: wikimedia.org, Public Domain

Daraus entwickelte sich mit der Firma reCAPTCHA schon früh eine Geschäftsidee: Man präsentierte dem Nutzer ein bekanntes Wort und eines, welches Texterkennungsprogramme aus Digitalisierungsprojekten (z.B. in Archiven) nicht erkennen konnten.

Es lässt sich statistisch herausfinden, ob die Eingabe eines Benutzers korrekt ist: Die Wortkombination wird innerhalb eines sehr kurzen Zeitraums mehreren Benutzern zugleich präsentiert und die häufigste Eingabe wird als richtig angenommen.

( https://de.wikipedia.org/wiki/ReCAPTCHA )

Man trainierte also unter Ausnutzung von Menschen unauffällig die eigene Texterkennungssoftware! Es wurde dabei jedoch nur die Eingabe verwertet, keine anderen Daten. Google kaufte 2009 reCAPTCHA und der Dienst machte daraufhin ein bemerkenswerte Entwicklung durch. Heute sehen CAPTCHAs ganz anders aus:

Heutiges Captcha

Ein heutiges CAPTCHA

Sie klicken einfach auf ein Feld Ich bin kein Roboter- und die Trennung zwischen Mensch und Programm funktioniert trotzdem perfekt. Was geschieht da? Ein Hacker namens neuroradiology hat sich die Mühe gemacht, den dahinterliegenden JavaScript-Code zu analysieren. Google verwendet unter anderem folgende Daten, um zu bestimmen, ob ein Mensch die Checkbox klickt:

  • Browser und genutzte Plugins,
  • Zeitzone und Ausführungszeit des Computers,
  • IP-Adresse und grober Standort,
  • Bildschirmauflösung,
  • Anzahl der Klick-, Tastatur-, beziehungsweise Touch-Aktionen,
  • Vermutlich auch serverseitige Cookies,
  • Und einiges mehr.

Man muss nicht alle diese Punkte verstehen, um zu begreifen, dass hier personalisierte Daten in großem Umfang an Google fließen – beim Klick auf eine simple Checkbox! Und das nicht nur auf dem Handy – bei jedem Endgerät, mit dem das Internet genutzt wird! Bei einigen Daten ist es sogar denkbar, dass sich Benutzer über verschiedene Geräte hinweg wiedererkennen lassen – trotz Adblocker und anderer Sicherheitsmaßnahmen – solange JavaScript aktiv ist (und ohne JavaScript ist fast kein Surfen möglich). Google arbeitet im Übrigen daran, selbst diese Checkbox verschwinden zu lassen und Menschen allein auf Basis von Daten wiederzuerkennen, die ihre Endgeräte beim Surfen liefern.

Die Entwicklung von reCAPTCHA zeigt für mich beispielhaft, wie sich das kommerzielle Netz von der Phase der Kommerzialisierung zur Phase der Überwindung des Marktes hin verändert hat.

0110 – Die Überwindung des klassischen Marktes oder die Phase der Personalisierung

Im Jahre 2007 kam das iPhone als technische Neuerung auf den Markt, die das Internet erneut revolutionieren sollte.

Hand, die ein iPhone hält

Bild von Jan Vašek auf Pixabay

Heute stellen wir Ihnen drei revolutionäre Produkte vor: Das erste ist ein Breitbild-iPod mit Touchscreen. Das zweite ist ein revolutionäres Mobiltelefon und das dritte ist ein neues, bahnbrechendes Internet-Kommunikationsgerät. Kapiert ihr es? Das sind nicht drei verschiedene Geräte. Das ist ein Gerät. Und wir nennen es: iPhone. Heute wird Apple das Telefon neu erfinden! (Steve Jobs, 2007)

Bisher erfolgte Internetzugriff meist über Laptops oder Desktop-PCs, also Geräte, die in der Regel zumindest im privaten Umfeld von mehreren Personen genutzt wurden. Das iPhone war das erste personalisierte Gerät, also ein Gerät, das genau einem Menschen zuzuordnen war.

Bei der Vorstellung im Jahre 2007 stand dieser Gedanke noch nicht so sehr im Vordergrund – vielmehr erlaubte das iPhone erstmals, das Internet ständig bei sich in der Hosentasche zu tragen und damit auch ständig onzu sein. Es schuf eine Verbindung zwischen der eigenen analogen Welt und dem globalen Netz. Man konnte jetzt überall Musik hören, Bilder aus seinem Leben auf einfache Weise mit Freunden z.B. auf Facebook zu teilen oder über Messenger kostenlos zu texten – der Niedergang der SMS war damit besiegelt. Alles war auf einmal nur einen Klick oder besser Wisch entfernt, Uploads konnten aus der Euphorie des Augenblicks heraus erfolgen.

Wir haben heute schon fast vergessen, dass man vor dem iPhone erst eine Digitalkamera an einen Rechner anschließen musste, um dann in einem sozialen Netzwerk Bilder hochladen zu können – ein aus heutiger Sicht unzumutbar umständlicher Weg, der aber auch durch den zeitlichen Abstand zur eigentlichen Handlung zumindest theoretisch Reflexionsprozesse ermöglichte: Think before you post! war schon 2007 eine gängige Floskel von Jugendschutzorganisationen, die an Aktualität bis heute nichts verloren hat.

Da das iPhone als Gerät bisher auf dem Markt beispiellos war, konnte wahrscheinlich selbst Steve Jobs bei Markteinführung nicht absehen, wohin sich diese wahrscheinlich ursprünglich auf Nutzungserfahrung optimierte Geräteklasse in der Folge entwickeln würde: Das Smartphone als Geräte ermöglichte erstmals die personenbezogene Erfassung von Nutzerdaten – sein Handy teilt man schließlich ebenso wie die eigene Unterhose nicht einmal mit dem (Ehe-)Partner.