A - I n f o s

ein mehrsprachiger Informationsdienst von, fr und ber Anarchisten **
Nachrichten in allen Sprachen
Die letzten 40 Artikel (Homepage) Artikel der letzten 2 Wochen Unsere Archive der alten Artikel

Die letzten 100 Artikel, entsprechend der Sprache
Greek_ Castellano_ Català_ Deutsch_ Nederlands_ English_ Français_ Italiano_ Português_ Russkyi_ Suomi_ Svenska_ Türkçe_ The.Supplement

Die ersten paar Zeilen der letzten 100 Artikel auf:
Greek_ 中文 Chinese_ Castellano_ Català_ Deutsch_ Nederlands_ English_ Français_ Italiano_ Polski_ Português_ Russkyi_ Suomi_ Svenska_ Türkçe
Die ersten paar Zeilen aller Artikel der letzten 24 Stunden

Links zu den Listen der ersten paar Zeilen aller Artikel der letzen 30 Tage | von 2002 | von 2003
| von 2004 | of 2005 | of 2006 | of 2007 | of 2008 | of 2009 | of 2010 | of 2011 | of 2012 | of 2013 | of 2014 | of 2015 | of 2016 | of 2017 | of 2018 | of 2019

(de) FDA-IFA, Gai Dao #102 - Interview zu Chinas Social Credit System - Interview: A-Radio Berlin

Date Mon, 29 Jul 2019 09:03:33 +0300


[Teil 1 von 2, Teil 2 erscheint in Gai Dao N o 103 07/2019] ---- Dieser Artikel ist ein verschriftlichtes Interview, welches das A-Radio Berlin mit Katika Kühnreich vom Chaos Computer Club geführt hat. Die Audiodatei ist nachzuhören im Aprilrückblick 2019 unter aradio.blogsport.de. Sämtliche Fußnoten im Artikel sind als durch die Redaktion vorgenommene Erklärungen des Kontextes zu verstehen. ---- Ich spreche mit Katika Kühnreich: Du arbeitest schon seit langem zu gesellschaftlichen Auswirkungen von Digitalisierung und im Besonderen hast du dich mit den in Erprobung stehenden Sozialkreditsystemen in China beschäftigt. Sozialkreditsysteme beschreiben Systeme, bei denen anhand unterschiedlicher gesammelter Daten Personen bewertet werden. In Deutschland könnte man als Vergleich die SCHUFA anbringen, aber das was in China nächstes Jahr obligatorisch eingeführt werden soll, geht über Kreditwürdigkeit
hinaus. Dabei gibt und gab es verschiedene Pilot-
projekte, die auf unterschiedliche Datenquellen
zurückgreifen und unterschiedliche Akteur*in-
nen involviert haben. Aber da es hier auch um
staatliche Interessen geht, befinden wir uns da-
mit im Kontext von Kontrolle und Disziplinie-
rung. Das ist nichts, was für den chinesischen
Staat spezifisch ist, sondern spielt in solchen
Herrschaftsverhältnissen prinzipiell immer eine
Rolle. Dennoch ist das, was die chinesische Regie-
rung anstrebt, anders als das, was in den westli-
chen Ländern momentan denkbar wäre. Könntest
du für uns skizzieren, was das genau ist? Also wie
ab 2020 das chinaweite Sozialkreditsystem wahr-
scheinlich aussehen wird und welche Form von
Daten hierfür wahrscheinlich ausgewertet wer-
den?

Was in China gerade läuft, geht über die SCHUFA
hinaus. Aber ich finde den Vergleich eigentlich sehr
schön, weil ich sehr oft erlebe, dass die Leute denken,
dass wir im Westen in einem kleinen Datenwunder-
land leben, in dem alles super läuft, und nur in China
sei es ganz böse, weil sich da der Staat darum küm-
mert. Ich persönlich sehe es nicht als besser an, wenn
das die Wirtschaft macht - was in westlichen Ländern
und in China vorkommt, auch da arbeitet die Wirt-
schaft bei Daten mit. Zum anderen hat der NSA-Skan-
dal, den Edward Snowden ausgelöst hat, gezeigt, dass
nicht nur der chinesische Staat Interesse an Daten hat.

Die sozialen Kreditsysteme sind tatsächlich weitgrei-
fend, weil sie im Moment in über 70 verschiedenen
Testgebieten verschiedene Modelle ausprobieren. Da
gehen sowohl analoge als auch digitale Verhaltenswei-
sen ein. Das wird zum einen möglich gemacht durch
sogenannte "intelligente Kameras" (also Kameras, die
Gesichtserkennungsprogramme angeschlossen haben)
und natürlich eine weitreichende Erfassung biometri-
scher Daten der Bevölkerung. Und zum anderen eben
auch durch "klassische Methoden" wie die, dass Leute,
die anderen anzeigen, belohnt werden. Das heißt wir
haben im Moment in China den Ansatz eines sehr
umfassenden, zum Teil auch ‚holistisch‘ 1 genannten,
gesellschaftlichen Experiments zur Disziplinierung
und Kontrolle, wie ihr es bezeichnet habt. Ich würde
sagen zur "Lenkung und Erziehung".

Dabei bleiben sowohl im Westen als im Osten die Al-
gorithmen geheim. Wir kennen nicht den SCHUFA-
Algorithmus und wir kennen nicht den Algorithmus,
mit dem Facebook berechnet, ob wir selbstmordge-
fährdet sind (In der EU dürfen sie das nicht, aber au-
ßerhalb der EU dürfen sie z.B. die Behörden
benachrichtigen, dass man selbstmordgefährdet sei.
Dann bekommt man eine Intervention zur Wohnung,
egal ob man wirklich selbstmordgefährdet ist oder
nicht.) Das heißt wir haben die Tendenz, dass sich Da-
ten mehr und mehr als Macht herausstellen. Die chi-
nesische Regierung hat das meiner Meinung nach sehr
früh so gesehen und hat auch sehr früh den Begriff des
"Sozialen Management" eingeführt. Und hier landen
wir dann im Bereich der Kybernetik 2 , für die sowohl
der Kapitalismus als auch der Sozialismus ein sehr
großes Herz haben.

Zu dem, was jetzt nächstes Jahr eingeführt wer-
den soll: Kannst du etwas dazu sagen, um welche
Daten es dabei geht? Wie das konkreter aussehen
könnte?

Die chinesische Regierung hat einen ersten Plan bis
2020 herausgegeben. Das Tolle an dem ersten Plan ist,
dass man danach einen zweiten, dritten, vierten ma-
chen kann. Es werden, was sehr typisch für die chine-
sische Regierung ist, ganz viele verschiedene Systeme
gegeneinander ausprobiert. Also in einem Bereich
wird ein sehr straffes System gemacht, in einem ande-
ren Bereich hingegen eines, das sehr flexibel ist und
dann auch einen sehr unterschiedlichen
Punktestand hat - oder Auszeichnungen: Es
gibt nämlich nicht immer nur Punkte, es gibt
auch "gute" und "schwarze" Listen.

So wird im laufenden Betrieb ausprobiert, wie
die Menschen darauf reagieren. Damit sind
wir wieder im steuernden Bereich der Kyber-
netik. Im Moment gibt es diese 70 staatlichen
Systeme, in denen auch unterschiedliche
Leute drinnen sind. Was damit erfasst wird:
Generell wird versucht, die Ideale, die die
chinesische kommunistische Partei hat, sich
in diesen Punkteständen widerspiegeln zu
lassen.

Ich beschäftige mich vor allem mit dem System für In-
dividuen. Es gibt aber gleichzeitig auch noch ein Sys-
tem für Firmen und Organisationen, welches sehr viel
weiter ist. (Dazu arbeitet in Berlin Mirjam Meissner
mit Sinolytics.) Hieran sieht man, dass es sehr um-
fänglich ist, weil es die Wirtschaft miteinbezieht und
das Individuum und beides auch verknüpft. In welcher
Region welches System wie weit ist und welche Daten
einfließen, hält die chinesische Regierung bisher noch
im nicht veröffentlichten Bereich.

Hältst du es für wahrscheinlich, dass es ein glei-
ches System für ganz China geben wird? Oder
könnte es auch sein, dass es vielleicht je nach In-
dustrie und anderen Zusammenhängen in jeder
Region andere Systeme geben könnte?

Das ist wie Wünschelrutenlaufen mit Blick in die Ver-
gangenheit. Die chinesische Regierung, also die KPCh
(kommunistische Partei Chinas), mag Einheitslösun-
gen, weil die natürlich einfacher sind. Auf der anderen
Seite ist China in verschiedene Bezirke aufgeteilt: Es
gibt kreisfreie Städte, so wie bei uns; es gibt soge-
nannte autonome Regionen; es gibt Provinzen... Es
wäre möglich, dass es in verschiedenen Gebieten ver-
schiedene Systeme gibt, die dann wieder zusammen-
gefasst werden können in ein großes System. Dass es
sozusagen kleinere Subsysteme gibt: Bergbau hätte ein
anderes Subsystem als Digitale Währung oder ähnli-
ches. Das ist möglich.

Auch was mit Individuen ist, ist zurzeit in der wissen-
schaftlichen Gemeinde noch nicht klar. Es kann gut
sein, dass die Systeme in einer nächsten Stufe erst
noch mehr ausprobiert werden und die KP dann erst
entscheidet, was für ein System sie einführt. Im Mo-
ment gibt es die Unterscheidung in privatwirtschaftli-
che Systeme, die bundesweit laufen so wie bei uns
Payback, und diese staatlichen Testsysteme. Die priva-
ten sind freiwillig; allerdings ist Freiwilligkeit im digi-
talen Kapitalismus ein sehr interessantes Wort. Denn
Freiwilligkeit heißt meistens: Wenn ich es mache,
kann ich teilnehmen an ganz vielen Sachen, und wenn
ich es nicht mache, kann ich nicht teilnehmen oder
bekomme nicht die vergünstigten Angebote oder die
Informationen, die wichtig sind, um zum Beispiel
mein finanzielles Auskommen oder meine Wohnung
zu halten oder eine neue zu finden. Deswegen finde
ich nicht, dass es freiwillig ist. Ich finde auch nicht,
dass wir freiwillig Daten abgeben. Wir geben oft unbe-
wusst Daten ab und werden in solche digitalisierten
Möglichkeiten hineingedrängt.

In deiner Forschung spielt auch der Begriff der
Gamification oder Gamifizierung eine Rolle.
Kannst du kurz erklären, was damit gemeint ist?
Gamifizierung kommt aus dem Computerspiele-Be-
reich, wo - wie auch bei Brettspielen früher oder Kar-
tenspielen - nach den Mechanismen gesucht wird, die
den Leuten das Weiterspielen interessant machen;
durch die unser Spieltrieb gekitzelt wird und wir, in
guten Spielen, die Zeit vergessen. Bei Computerspielen
hat sich herausgestellt, dass das faszinierend klappt.
Vielleicht kennen das viele Leute: Auf den Bildschirm
geguckt, ein bisschen herumgespielt und schon sind
drei oder sechs Stunden herum. Man macht nur noch
das eine Level zu Ende und schon ist der nächste Tag.

Gamifizierung heißt, dass Mechanismen, die eigentlich
dazu entwickelt wurden, dass wir mehr Zeit und mehr
Spaß mit Spielen haben, auf Bereiche, die nicht com-
puterspielverwandt sind, übertragen werden. Eines der
ersten kommerziellen Systeme war Payback. Das Sys-
tem wurde eigentlich für die USA entwickelt, aber
dann nach Deutschland exportiert. Sieht man sich an,
wie viele Leute Payback-Punkte sammeln und dass
glaube ich an keiner deutschen Supermarktkasse Leute
mit Maschinengewehren stehen und die Leute dazu
zwingen, Payback-Kund*in zu werden, ist es ein gutes
Beispiel, wie so etwas funktioniert: Uns wird eine klei-
ne Belohnung versprochen, für die wir einen kleinen
Trick ausführen. Der ist manchmal ganz einfach, wie
beim Bezahlen eine Plastikkarte oder ein Handy hin-
zustrecken. Und dann kriegen wir Geschenke.

Dieser Mechanismus wurde ursprünglich von einem
Herrn Skinner in kleinen Boxen mit Ratten auspro-
biert. (Die hießen deswegen auch "Skinner-Boxen").
Inzwischen funktioniert das auch eins a über Handys.
Angewendet wird das zum Beispiel bei diesen soge-
nannten Umsonstspielen, wo man dann irgendwann
alles Zubehör kaufen muss. Oder für Bewerbungssys-
teme. Gamifizierung kann man fast überall einsetzen -
selbst für das Militär wird das inzwischen eingesetzt.

Und bezüglich dieser Sozialkreditsysteme heißt das
dann, dass dort auch diese Mechanismen eine Rolle
spielen? Dass irgendwelche Anreize geschaffen wer-
den, um Punkte zu sammeln?

Genau. Zum Beispiel Sesame Credit von Alibaba, ei-
nem der größten Technologieunternehmen. Die haben
etwas, was ganz typisch ist bei Gamifizierung: Es gibt
Level oder Ebenen, die man vollbringen muss, um in
den nächsten Spielstand zu gehen. Oder es gibt kleine
Belohnungen (im Englischen oft "tokens" genannt).
Oder es gibt Auszeichnungen: Kleine Orden, die man
sich anpinnen kann. So einfach sind wir: Man braucht
uns nur einen digitalen Keks zu machen und wir ler-
nen Tricks dafür.

Das Schwierige an der Gamifizierung finde ich, dass,
ähnlich wie die Algorithmen nicht offengelegt werden,
auch die Regeln der Gamifizierung nicht offengelegt.
Uns wird nicht erzählt, dass wir gerade mit digitalen
Keksen in eine Falle gelockt werden. Und das ist wie-
der eine Machtverschiebung: Wir werden von den
Leuten, die die Systeme entwickeln, oft für genauso
relevant gehalten, wie ein*e Laborarbeiter*in seine*ih-
re Ratte sieht.

Soweit ich weiß, war es bisher so, dass in den Pi-
lotprojekten zu den Sozialkreditsystemen nur mit
solchen Anreizen gearbeitet wurde. Aber es ist
auch die Rede davon, dass es Bestrafungen geben
könnte für einen niedrigen Punktewert oder bei
schlechtem Verhalten. Welche Form der Strafen
sind deiner Meinung nach dabei zukünftig rea-
listisch? Und würde nicht spätestens das mit der
Gamifizierung brechen? Würden Leute dann
nicht realisieren, dass es kein Spiel ist, sondern
bitterer Ernst?

Die Gamifizierung wird vor allen Dingen im privat-
wirtschaftlichen Bereich angesetzt. Die Pilotprojekte
hingegen sind Zwang, wenn man in der Gegend
wohnt. Die müssen gar nicht gamifizieren. Aber allein
dieser Punktestand, wenn es einen gibt, oder ob man
jetzt A Plus Plus ist, wie so ein Kühlschrank, oder D
Minus: Das schafft den Anreiz, der Gruppe hinterher
oder vorweg zu laufen.

Es gibt auch jetzt schon negative Auswirkungen, zum
Beispiel, dass Leute keine Tickets für Hochgeschwin-
digkeitszüge oder Flüge kaufen können. Allerdings
muss man sagen, dass auf diesen Datenbanken zum
Teil auch Leute gelandet sind, die zum Beispiel den
Notausgang während des Fluges öffnen wollten. Da
gibt es also eine Vermischung von Verschiedenem:
Nicht nur politisch Unbeliebte kriegen schlechte
Punkte, das ist nicht unbedingt so.

Aber solche negativen Auswirkungen gibt es schon.
Damit werden die Systeme auch beworben: Es wird
gesagt "Wir stellen damit Gerechtigkeit her zwischen
allen Leuten". In China, so meine Erfahrung, ist der
Bevölkerung sehr bewusst, dass es große und immer
weiter aufklaffende Unterschiede gibt, zwischen Reich
und Arm zum Beispiel, oder wer welche Chancen auf
was hat. Also wird das Thema Gerechtigkeit sehr stark
mitbeworben. Das hat so etwas wie von einem "guten
Gott" oder einem "guten König": Die Guten werden
belohnt, die Schlechten werden bestraft. Es gibt also
eine höhere Instanz, die jetzt digital ist, welche hilft
dafür zu sorgen, dass es eine wie auch immer geartete
Gerechtigkeit gibt. Das ist es ja auch, was viele Leute
von künstlicher Intelligenz erwarten: Das bessere
Mensch.

Die eigene Punktzahl berechnet sich nicht nur
aus dem Konsum- und Kommunikationsverhal-
ten. Auch das eigene Umfeld hat Einfluss auf den
eigenen Score: Die Punktezahl meines Umfeldes
ist relevant für meine eigene. Kannst du erklä-
ren, wie das konkret umgesetzt wird oder werden
könnte? Wie wird das "eigene Umfeld" ermittelt
und was sind hier die konkreten Effekte?

Das ist das, Wirtschaftssysteme ebenso machen wie
auch westliche Polizei, Geheimdienste usw. Man kann
sich das so vorstellen: Man wird als Punkt in der Mitte
dargestellt, von dem Strahlen zu verschiedenen ande-
ren Punkten, also Personen, ausgehen. Die können
dann dicker sein, wenn wir öfter mit der Person Kon-
takt haben, wie mit jemandem, mit dem wir zusam-
menwohnen. Aber das bezieht sich auf die digitale
Kommunikation. Das heißt, wenn wir mit jemandem
zusammenwohnen, aber nie digital in Berührung
kommen, ist die Person vielleicht komplett unsichtbar
auf dieser Karte. Das ist ja auch das Wichtige: Wenn
man sich auf eine Sache fokussiert, sieht man andere
nicht mehr so genau. Das heißt digitale Sachen wer-
den fokussiert, analoge werden eventuell übersehen.
Dieses Umfeld wurde bei privaten Anbietern dann
mitbewertet, indem zum Beispiel gesagt wurde: "Dei-
ne Punktzahl bezieht sich auch darauf, wie erfolgreich
dein Umfeld ist." Das heißt wenn du sieben Leute mit
neunhundert Punkten hast und eine Person mit zwei-
hundert, dann kannst du einfach deinen eigenen
Punktestand verbessern, indem du diesen Loser mit
den zweihundert Punkten loswirst. Und das ist dann
natürlich eine sehr starke Selektion.

Du hast jetzt sehr oft unterschieden zwischen
diesen kommerziellen Systemen und dem, was
vom Staat ausgeht. Ist zu erwarten, dass es da ei-
ne Integration geben könnte in ein flächende-
ckendes System? Dass zum Beispiel auch Sesame
integriert werden würde in ein chinaweites, ge-
nerelles System?

Da sind wir bei einem grundsätzlichen Problem von
Daten: Sie sind nämlich leicht kopierbar und von allen
möglichen Spieler*innen zu nutzen. Ich vergleiche das
gerne mit einem Urteil, das es letztes Jahr in Deutsch-
land gab. Da wurde nämlich gefragt, ob es rechtlich in
Ordnung sei, dass der BND auf dem physischen Inter-
netknoten in Frankfurt sitzt und die Daten mitliest.
(Das ist einer der zentralen Internetpunkte der Welt,
sozusagen eine der Hauptautobahnen.) Das wurde als
ok bestätigt. Sind das jetzt also privatwirtschaftliche
oder staatliche Daten, die über diesen Knoten gehen?
Denn der BND liest sie ja mit. Aber die Infrastruktur
ist privat.

In China gab es 2012, wenn ich mich nicht irre, die Er-
laubnis für acht private digitale Firmen, wobei gesagt
wurde: "Ihr könnt auch diese Social Credit Systeme
machen; aufgrund der Daten, die ihr habt, kann man
ja auch bewerten, ob jemand zuverlässig ist." Dann hat
der Staat das aber letztes Jahr eingeschränkt und be-
stimmt, dass diese Daten in eine zentrale Datenbank
gegeben und erneut ausgewertet werden. Also hat der
Staat sowieso Zugriff auf die Daten, wenn Staat und
Private zusammenarbeiten?

Jetzt kam in Deutschland ja raus, dass die Aufnahmen
von Bodycams der Polizei auf Amazon-Cloud-Servern
gespeichert wurden. Wenn dann natürlich gesagt wird,
das sei verschlüsselt, ist die Frage, wie gut es ver-
schlüsselt ist, wo es verschlüsselt ist, wie Daten trans-
portiert werden und ob sie auch verschlüsselt
verschickt werden. Es bringt ja nichts, wenn ich sie
zunächst unverschlüsselt verschicke und dann nachher
sage: "Ich mache jetzt mal meinen Briefumschlag dar-
um."
Das zeigt eben auch, wie abhängig der Staat von der
Privatwirtschaft ist. Auch das amerikanische Militär
kauft sich Serverspeicher auf Amazons "Cloud" ge-
nanntem Serverraum. Ein anderes Beispiel ist die Dis-
kussion über 5G: Dass gesagt wird, man brauche die
chinesischen Firmen, weil es in Deutschland leider
keine Infrastruktur dafür gibt. Um bei 5G zu bleiben:
Selbst wenn das, was jetzt eingerichtet ist, komplett
überprüft ist - alle diese Hardware braucht Software-
Updates. Das heißt, es muss keine Hintertür eingebaut
werden, da sind bereits komplette Türen offen, damit
man diese Teile updaten kann.

Wer die Macht über die Infrastruktur hat, hat inzwi-
schen sehr viel Macht.
Endnoten
1 holistisch: das Ganze betreffend, ganzheitlich.
2 Kybernetik: Wissenschaft über die Regelung und Steue-
rung von dynamischen Systemen, sozialen Organisationen
oder auch Maschinen durch Informationssammlung und
-verarbeitung.
_________________________________________
A - I n f o s Informationsdienst
Von, Fr, und Ber Anarchisten
Send news reports to A-infos-de mailing list
A-infos-de@ainfos.ca
Subscribe/Unsubscribe http://ainfos.ca/mailman/listinfo/a-infos-de
Archive: http://www.ainfos.ca/de