Zwischen Willkür und Berechnung:  Das Social-Scoring-Experiment aus Sicht der Scorer

Zwischen Willkür und Berechnung: Das Social-Scoring-Experiment aus Sicht der Scorer

Wir sind Andreas und Suska, zwei Studierende aus dem zweiten Semester des Studiengangs Online-Redaktion an der TH Köln. Wir haben vor Kurzem das zweite KI-Barcamp besucht. Dieses Mal waren wir nicht nur als Zuschauer*innen dabei, sondern wir durften bei dem Social-Scoring-Experiment mit den Gästen mitmachen.

Auf dem Barcamp, das von unseren Dozentinnen Prof. Dr. Amelie Duckwitz und Miriam Schmitz zusammen mit 16 Kommiliton*innen aus dem vierten Semester organisiert wurde, gab es auch dieses Mal sehr interessante Touchpoints und Keynotes. Insgesamt gab es sechs Touchpoints, die wieder einmal die vielen Facetten der Künstlichen Intelligenz dargestellt haben und den Besucher*innen zeigten, wie hilfreich, aber auch wie bedrohlich diese Technologie sein kann. Einer der Touchpoints hat beispielsweise auf Cookies und Datenschutz hingewiesen, indem ein Stummfilm mit einem Playmobil-Männchen gezeigt wurde. Ein anderer Touchpoint hat die OR-Cam vorgestellt, eine Brille, die von blinden Menschen getragen werden kann und der Person einzelne Texte vorliest, aber auch Produkte, Menschen oder bestimmte Sachen wiedererkennen kann.

Ein Smartphone wird über einige Gegenstände gehalten, die auf einem Tisch liegen. Die Kamera des Smartphones ist an
Am Stand mit den KI-Assistenzen konnten Texte auf Flyern, Banknoten oder Drogerie-Produkte, aber auch Gesichter gescannt werden. Bild: Linn Frütel

Das große Thema des Barcamps war dieses Mal “Social Scoring”. Denkt man über eben jenes Thema im Vorfeld nach, überkommen einen Gedanken von Kontrolle des eigenen natürlichen Verhaltens durch Künstliche Intelligenz. Man kennt das Social-Scoring-Konzept vielleicht aus der Serie Black Mirror oder hat schon mal gehört, dass es in China ein solches System gibt.

Unsere Erfahrungen mit dem Scoring

Welche Details für den Prozess, den wir anstelle der KI durchführen würden, wichtig sind, haben wir erst bei der Veranstaltung erfahren. Was im Vorfeld klar war: dass wir andere Menschen akribisch beobachten und ihr Verhalten unter verschiedenen Gesichtspunkten bewerten sollten. Dazu bekamen alle Besucher*innen am Eingang eine Nummer zugewiesen, die dann auf die vordere und hintere Seite des Oberteils geklebt werden mussten. Wir führten Checklisten mit uns, auf denen die Nummern sowie die Bewertungskriterien vermerkt waren. Es gab keine Ausnahmen: ob Professor*in, Kommiliton*in oder einfach nur Gast, selbst die kleine Tochter unserer Professorin wurde bewertet – und hat sogar, zu unserer großen Überraschung, deutlich besser abgeschnitten als so mancher Studierender. Wer kein fester Bestandteil des Barcamps war, musste sich am Ende seinem Social Score entgegenstellen. 

Bild vom Event-Raum mit vielen Zuschauer*innen
Wer genau hinsieht, kann einige Scorer erkennen: wir sind die mit den Zetteln in der Hand. Ich stehe am Buffet und warte auf "Wiederholungstäter". Bild: Jan Aimene

 

Die Kriterien waren recht simpel gewählt. Es gab zum Beispiel ein großes und sehr gutes Buffet, welches zu großem Teil die Bewertung beeinflussen sollte. Das mehrmalige Besuchen des Buffets, um sich den Teller aufzufüllen, der Genuss von Bier, ob der eigene Teller geleert wurde oder nicht und Verstöße gegen gesellschaftliche Normen wurden negativ bewertet. Gerade wenn man die Qualität und den Aufbau des Buffets, nämlich komplett aus Fingerfood bestehend, bedenkt, wurden die Gäste für normales menschliches aber vor allem neutrales Verhalten, negativ bewertet. Es wurde sehr schlecht angesehen sich mehr als drei mal am Buffet zu bedienen und sich während eines laufenden Vortrags zu unterhalten, was im Endeffekt auch zu den meisten Minuspunkten führte.

Dennoch gab es auch Pluspunkte für normgerechtes Verhalten wie eine höfliche Begrüßung und eine allgemein freundliche Art. Konzentriertes Zuhören bei Vorträgen und das Leeren des eigenen Tellers wurden auch positiv bewertet, denn wenn man schon am Buffet war, sollte man die Häppchen auch alle aufessen.

Ein Buffet-Tisch: im Vordergrund Weintrauben, im Hintergrund Kuchen
Die Falle: das Buffet, mit Pluspunkten (Weintrauben) im Vorder- und Minuspunkten (Kuchen) im Hintergrund

Sehr schwer: das Geheimnis zu wahren

Als Social Scorer hatten wir wenig Zeit, uns mit den Touchpoints zu beschäftigen. Es war außerdem schwieriger, die Vorträge komplett zu verfolgen, da wir auch zwischen den Vorträgen weiter bewerten mussten. Als  dann der Impulsvortrag von der Buchautorin und Datenschutzbeauftragten Dr. Aleksandra Sowa startete, welcher sich genau mit unserem Thema befasste, wussten die Gäste noch nicht, dass genau wovon hier berichtet wurde in diesem Moment mit ihnen geschah. Der Vortrag war daher ziemlich interessant und teilweise situationsbedingt etwas witzig, aber vor allem gruselig. Aus dem Vortrag ging hervor, dass Social Scoring durch Künstliche Intelligenz eine Klasseneinteilung und vor allem Trennung a lá “Sie wollen einen Kredit, aber unsere KI sagt Sie sind dafür ungeeignet” oder “Tut mir leid, laut unserer KI können wir Sie leider nicht versichern” geben könnte und auch wahrscheinlich geben wird.

Noch schwerer: akkurat zu scoren

Während des Events wurden uns verschiedene Bereiche des Raumes zugeteilt, in denen wir dann bewerten sollten. Die Gäste haben uns auch des Öfteren gefragt, was wir denn eigentlich mit unseren Zetteln machen. Als dann nach der Hälfte der Veranstaltung das Konzept des Scorings und der Zwischenstand der Punkte bekannt gegeben wurden, äußerten die Leute auch Theorien, wofür sie denn nun eigentlich bewertet wurden. Daran merkte man, wie sehr das Social Scoring das Interesse der Beteiligten geweckt hatte, aber auch, wie schwer es für sie war, die Kriterien nachzuvollziehen. Darzustellen, dass Bewertungskriterien nicht transparent, nicht für alle nachvollziehbar und auch sehr situationsabhängig sind, war ja ein Ziel des Experiments. Viele Gäste dachten zum Beispiel, dass sie für den Blick auf ihr Mobiltelefon bestraft worden wären, was erstmal auch sinnvoll klingt. Wenn man aber bedenkt, dass diese unter anderem auch die Event-Tweets der Online-Redakteure teilen könnten, sieht die Sache schon ganz anders aus. Manche der Kriterien waren schwer zu beobachten (vor allem wenn man sich merken musste, wer wie oft am Buffet war) und waren daher bestimmt nicht ganz fair – auch das war ja Teil des Plans. Am Ende haben sich einige wenige sehr stark negativ vom Rest abgehoben, da diese sich relativ regelmäßig unterhalten haben. Reden während eines Vortrags wurde sehr schwer bestraft (zehn mal innerhalb eines 15-Minute-Vortrags miteinander zu reden ergab schon 80 Minuspunkte), und zwar unabhängig davon, ob es mit dem Thema zu tun hatte. Die Nummern, die von den Gästen getragen wurden, waren teilweise sehr schwer zu erkennen, insbesondere bei Frauen mit langen Haaren oder Menschen mit Umhängetaschen, vor allem weil wir auch nicht auffällig sein durften.

Unser Fazit

Das zweite KI Barcamp, an dem wir teilnehmen und auch mitwirken durften, war – wie das erste auch – wirklich sehr interessant und nochmal ein großer Schritt nach vorn. Die Vorträge waren beeindruckend, divers, gut gehalten und teilweise erschreckend – wenn man bedenkt, was in Zukunft alles auf einen zukommen kann. Social Scoring ist eine sehr realistische Möglichkeit für die Zukunft der Bewertung von Kreditwürdigkeit und weiteren wichtigen Entscheidungen, die unser Leben betreffen. Die allgemeine Organisation des Events war wirklich sehr gut, der Raum war sehr groß und schön aufgeteilt. Es gab viele interessante Projekte, die von den ORlern aus dem vierten Semester organisiert wurden. Unter den Gästen waren diesmal deutlich mehr Studierende, die alle aufmerksam und interessiert die Vorträge verfolgten und aktiv an den Touchpoints teilnahmen. Ob als Gast oder aktives Mitglied würden wir die nächste Veranstaltung jederzeit wieder besuchen!

Autor*innen: Suska Gutzeit und Andreas Jansen

Menü schließen