Wie und wo entscheiden Algorithmen über unsere Köpfe hinweg? Workshop 4: Gefährden Algorithmen unsere Demokratie? – Wo entscheiden sie über unsere Köpfe hinweg? Ein Algorithmus ist… …eine für jede erfahrene Programmiererin und jeden erfahrenen Programmierer ausreichend detaillierte Lösungsvorschrift, so dass bei korrekter Implementierung der Computer für jede korrekte Inputmenge den korrekten Output berechnet – in endlicher Zeit. Gruppenfoto Namen der Teilnehmer Alltagsproblem 1 Alltagsproblem 2 Alltagsproblem 3 Mathematisches Problem Algorithmus 1 Algorithmus 2 Algorithmus 3 Lösung Wie und wo entscheiden Algorithmen über unsere Köpfe hinweg? Algorithmen Beipackzettel (Was wären seine Aufgaben?) Welches Problem „kuriert“ der Algorithmus? Was ist das Einsatzgebiet des Algorithmus‘, was seine Modellannahmen? Welche „Nebenwirkungen“ hat der Algorithmus? Meinungsbildung durch Suchmaschinen Feed-Bubbles: Sortierung der Suchergebnisse nach persönlichen Daten (Standort, Klickverhalten) → Berechenbarkeit des persönlichen Profils Abdullah-X (Projekt von Google Jigsaw): Wenn jemand nach einem radikal islamistischen Inhalt in Google sucht, wird auf eine Website mit moderaten islamischen Video-Inhalten verlinkt. Page Rank: Sortiert Suchergebnisse nach der Anzahl der Verlinkungen. Je mehr Verlinkungen ein Suchergebnis hat, desto weiter oben wird es angezeigt. → Folge: Manipulierung durch Bot-Netze Bot-Netze: Leere Websites, welche von Robotern ferngesteuert sind, werden gegenseitig verlinkt, um eine hohe Einordnung bei Suchmaschinen zu erreichen. → Folge: Es entsteht ein Markt für Botnetze. Social Media (Personalisierung des Feeds) Social Media Marketing Hauptbestandteil der digitalen Kommunikation personalisierte Werbeanzeigen steigern die Werbewahrnehmung und den Umsatz der Unternehmen auch Nachrichten werden durch Algorithmen auf den User zugeschnitten ein Profil einer Person wird durch Suchbegriffe oder Themen erstellt Die digitale Kommunikation wird sich also immer mehr den individuellen Bedürfnissen der Kunden/User und ihrem sozialen/lokalen Umfeld anpassen. Zudem sollte man aber dabei bedenken, dass die Gefahr des Missbrauchs dieser personalisierten Daten weiterhin durch die Digitalisierung der Kommunikation und durch die Auswertung von Profilen („Big Data“) wächst! Bekannte Fälle der Manipulation (Wahlkampfmanipulation) Wahlstrategie: Mensch in Wählergruppen aufteilen/darauf reduzieren > Gezieltes Ansprechen von einzelnen potenziell überzeugbaren Wählern Gefahr: Verfall der Gleichwertigkeit der Stimmen! Erstellung von Täterprofilen Option 1: Präventive Eingriffe aufgrund von Tatvermutungen: Tatspezifische Analyse ("Gefährder"-Eigenschaften i.S.v. potenziellen Terroristen, bspw. aufgrund des Besuchs einschlägiger Veranstaltungen, bestimmte Äußerungen etc.) Objektspezifische Analyse ("Hotspot"-Eigenschaften, bspw. bestimmte Gebiete mit erhöhtem Einbruchdiebstahl, Körperverletzungsdelikten etc.) Individualspezifische Analyse (Verdächtigungs-Eigenschaften, bspw. aufgrund von Tipps aus der Bevölkerung bzgl. auffälligem Verhalten oder bestimmter Kommunikation) Option 2: Rückfall-Prognosen bei bereits verurteilten Tätern: vor allem bei Prüfung von vorzeitiger Haftentlassung relevant Algorithmen errechnen aus historischen Daten die vermeintliche individuelle Rückfallwahrscheinlichkeit Gefahren: Menschen können auf einen Datensatz reduziert werden Verdächtigte haben keine Interventions- und Erläuterungsmöglichkeiten: Wen der Code als weiterhin gefährlich kategorisiert, der kann das Gegenteil womöglich nie beweisen!