Die Bedeutung von Selbstbestimmung in der digitalisierten Gesellschaft Beate Rössler

Was will ich zeigen, wie gehe ich vor? Ein kurzer Blick auf Chancen und Gefahren der Digitalisierung - für die individuelle und demokratische Selbstbestimmung Genauer schauen auf ein Problem: microtargeting als manipulative Praktik– was ist es, wie schadet es uns Cambridge Analytica - was genau ist Manipulation Wie hängen Manipulation und Selbstbestimmung zusammen Praktiken der personalisierte Werbung; ethische und politische Folgen und Probleme

Was heisst digitalisierte Gesellschaft? Ubiquität von Daten, Big Data Globalisierung von Informationen/Kommunikationen Entgrenzung des Lebens online und offline Die Bedeutung von Materialität, materialen Infrastrukturen, auf der die Digitalisierung beruht Sicherung aus Gründen der individuellen wie der demokratischen Selbstbestimmung (Zugang für alle etc)

Chancen von indiv. und demokratischer Selbstbestimmung in der digitalen Gesellschaft Individuell: Zugang zu Informationen, Zugang zu Kommunikationen, veränderte, verbesserte Arbeitsbedingungen Generell vereinfachter Konsum, vereinfachtes Leben im digitalen Heim Demokratisch: politische Informationen leichter zugänglich, auch politische Partizipation – auf lokaler, nationaler, transnationaler Ebene Betrifft sowohl Institutionen und formalisierte Prozeduren, wie auch soziale Bewegungen und Proteste

Gefahren von demokratischer Selbstbestimmung in der digitalen Gesellschaft Internationaler Datenverkehr: Verlust Kontrollfähigkeit über Daten; Schutz von Grundrechten von BürgerInnen gegen Übergriffe von anderen (Firmen oder Staaten) Eingriffe in und Verwendung von Daten durch andere folgt nicht mehr demokratisch legitimierten Prozeduren; Schutz persönlicher Daten (häufig) nicht gewährleistet Gefahren möglicher Überwachung: Vorwegnehmende Selbstbeschränkung (radikale politische Meinung nicht online vertreten; Petition nicht unterschreiben)

Gefahren von Selbstbestimmung in der digit Gefahren von Selbstbestimmung in der digit. Gesellschaft – für die individuelle Person Der Schutz informationeller Privatheit nicht durchgehend gewährleistet Unterschiedliche Verletzungen Privatheit und Autonomie in den sozialen Netzwerken (von anderen, von Personen selbst; status, self-branding) Gezielte personalisierte Werbung; personalisierte Kommunikation (filter bubbles) Neue rechtliche und ethische Herausforderungen beim Umgang mit Daten von smart things (Alexa, Siri)

Unterschiedliche Formen der Beeinflussung Facebook zielt auf Teener mit der personalisierten Konsumentenwerbung Uber’s driver platform: nutzt Techniken der Gamisierung um Fahrer/innen zu beeinflussen (Beeinflussung am Arbeitsplatz) Cambridge Analytica: versucht, Wähler/innern direkt zu beeinflussen Im besten Fall finden wir diese Fälle beunruhigend, im schlimmsten gefährlich – warum? Sorge/Problematik genauer artikulieren

Ein Beispiel genauer anschauen: Cambridge Analytica Große Anzahl persönl. Daten aus den unterschiedlichsten Quellen verwendet für gezielte persönl. politische Werbung Die Daten werden erst sortiert, mit Hilfe Verhaltens-wissenschaften: OCEAN (Openness, Conscientiousness, Extraversion, Agreeableness, Neuroticism); computer-basierte Persönlichkeitsurteile machen Profil möglich Werbung auf spezifische Wähler gezielt: „As for why you see the ads you do, it's not really anything you can control, it's about who you are“ (A. Nix, CEO) „Persuading people to vote is the same as persuading people to purchase products or services“

Verschiedene Formen von Einflussnahme Überzeugen: rationale Argumente (Erziehung) Verführen, verleiten: traditionelle Werbung, makrotargeting - transparent; wir haben gelernt damit umzugehen Nudging/Schubsen: transparent, keine versteckten Motive, im Interesse der wählenden Person Manipulation Betrug, Täuschung, Lügen: wie z.B. fake news Zwang: Handlungsalternativen ausgeschlossen

Wie funktioniert Manipulation? Sie verändert die Entscheidungsarchitektur: präsentiert uns eine bestimmte manipulative Auswahl an Optionen/Anzeigen; immer Teil manipulativer Praktiken Sie verändert die Entscheidungsprozedur: versucht, das eigene Überlegen zu umgehen und schiebt uns in bestimmmte Richtung, denn: Wir sollen uns gerade nicht auf unsere eigenen rationalen Fähigkeiten verlassen, Sie muss verborgen sein: wüssten wir von dem set-up, würden wir anders handeln

Manipulation: besondere Kennzeichen Untergräbt die Fähigkeit einer Person, selbständig nachzudenken und zu entscheiden –immer verborgen Überlegungen, Überzeugungen, Gefühle werden beeinflusst und kognitive und emotionale Schwächen ausgenutzt Nur so sind die manipulativen Intentionen erfolgreich; sind genau gezielt aufgrund eines persönlichen Profils Durch die Änderung der Entscheidungsarchitektur und -prozedur werden die individuellen Handlungsgründe verändert

Warum ist die Wahl, das Entscheiden so wichtig? Selbstbestimmung Personen treffen eigene Entscheidungen; konstitutiv in liberal-demokratischen Gesellschaften Unsere eigene Entscheidung: wir wissen was wir tun; heißen meistens die Prinzipien unserer Entscheidung gut Das heisst, wir können meistens vernünftig überlegen, was wir wollen: wir handeln aus eigenen Gründen Autonomie Bedingung dafür, dass eine Person Verantwortung für ihr Leben übernehmen kann; in ihren Entscheidungen drückt sie sich selbst aus

Autonome Entscheidungen in sozialen Kontexten Autonomie keine Präferenz wie andere: sondern das Prinzip, nach dem Präferenzen verfolgt werden Selbstbestimmung immer in sozialen Kontexten Diese sozialen, kulturellen, politischen Kontexte machen Entscheidungen/Wahlen möglich und können sie zugleich erschweren Überwachung und big data verändern soziale/politische Kontexte, machen uns manipulierbarer: ermöglichen targeting, gestalten Entscheidungsarchitekturen, bleiben verborgen

Noch einmal zu: microtargeting, Cambridge Analytica Manipulationen beeinflussen/verzerren – für uns unbewusst - die Art wie wir überlegen; nutzen unsere Schwächen aus (kognitive Faulheit, Willensschwäche) Greifen in die Mikro-Bedingungen unserer Entscheidungen ein; gestützt auf genaue persönliche Profile Wir wählen dann etwas, was gut is für andere – die Republikaner – und täuschen uns, dass dies es sei, was wir selbst wollten Dies gilt auch für weniger dramatische Fälle: Amazon

Selbstbestimmug und die digitalisierte Gesellschaft Digitalisierung als gezielte Überwachung: Sammeln, Klassifizieren, Anwenden von big personal data Immer bessere Rückschlüsse auf unser Verhalten möglich, manipulative Interventionen immer einfacher und immer schwieriger zu durchschauen Verletzen strukturell (wie kommt CA an seine Daten?) nicht nur unsere informationelle Privatheit, sondern auch unsere dezisionale - deshalb Ethische und politische Relevanz des Schutzes von Daten als Schutz von Selbstbestimmung