Digitalisierung des Entscheidens

Aus Chaos Computer Club Bremen e.V. (CCCHB)
Wechseln zu: Navigation, Suche
ALT Diese Seite ist eine Altlast! Sie könnte veraltete Informationen enthalten.

Diskussion: Digitalisierung des Entscheidens

Der CCCHB nimmt an einem Panel "Digitalisierung des Entscheidens" teil. Es soll darüber diskutiert werden ob, wie und das Entscheidungen "Algorithmisiert" werden, und was das für die Selbstbestimmung des Menschen über sein Leben bedeutet.


Eine Ankündigung der Veranstaltung folgt.


Teilnehmer: folgen
Termin: 2017-09-28 20:00
Ort: Villa Ichon
Organisation: Silja Samerski
Teilnehmer Frieder Nake, Lars Fischer, Kai Osterhage

Diskussionsvorlage

Stichpunkte, TakeAways

Disclaimer: CCC HB ist keine politische Partei, ich vertrete keine abgestimmte Meinung.

Worum es geht:

  • nach der Automatisierung der manuellen Arbeit -> Automatisierung des Denkens und Entscheidens (großes Wort)
  • Versprechen:
  • Lernalgorithmen machen Computer klug
  • Effizienzgewinn (Zeit und Ressourcen)
  • Eigentlich: Generierung von (Clustering-)Algorithmus aus Daten
  • Nutzer: Versicherungen, Banken, Verkehrsplaner,..., Ärzte,
  • Computer sind toll! Aber muss man da gleich eine Religion von machen.
  • Problem Überprüfbarkeit: was macht der Computer eigentlich warum?
  • menschgemachte Systeme sind schon komplex
  • computergemachte Systeme sind schwieriger nachzuvollziehen
    • schnellere, häufigere Entscheidungen
    • gigantische Datenbasis
    • unverständliche Programmiersprache (z.B. "Neuronen")
  • Korrektheit oder Qualität ist nicht wirklich bewertbar
  • Frage immer: cui bono?
  • Frage heute:
  • Wird das irgendwann besser?
  • Welche Kriterien wollen wir anlegen?

(CCC HB abgestimmt)

  • Maschinelles Lernen: der Computer programmiert sich aus Daten
  • erfordert diskriminierungsfreie, "saubere" Daten.
  • praktisch schwer einlösbar -> Statistische Erkenntnis

Lars Diskussionspunkte:

  • Hacken ist Selbstermächtigung gegenüber Technik
  • Technik ist Besitz, Besitz verstärkt Ungleichheit
  • Robin Hood ist Selbstermächtiger
  • Gleiche Anforderung wie an Menschen: Begründung von Entscheidungen
  • Rücknahme/Verbote schwierig durchsetzbar
  • Nutzer sind meist große, multi-nationale Unternehmen, Too-big-to-fail oder anderweitig wichtige Arbeitgeber und Innovationstreiber.
  • Regulierung von bisheriger Politik in D-Land nicht ernsthaft gewollt
  • Anbieter stellen wichtige Infrastruktur (Suchmaschinen, Banken, Kommunikationsdienste, Versicherungen,...)
  • Dienst oder nicht Dienst, dass ist die Frage
  • Anreize zur Nutzung (Gewinnmaximierung) zu groß
  • Nachteil durch Verzicht zu groß (Wettbewerbssituation)

Erwartete Punkte von Silja:

  • Menschliche Entscheidungen sind besser, Menschen können Gnade walten lassen, haben eine Seele, und freien Willen...

Impulstext

Der Grad an Selbstbestimmung, der jedem Wesen gelassen wird, muss ständig neu ausgehandelt werden. Menschen, als die dominante Spezies des menschlichen Erfahrungshorizontes, definieren die Freiheitsgrade von Flora und Fauna auf diesem Planeten. Wenn wir jetzt darüber diskutieren, in welchem Umfang Menschen Entscheidungsprozesse an Computer delegieren sollen, dann muß im wesentlichen diskutiert werden, in wieweit diese Auslagerung sich auf den Menschen als Individuum und als soziale Gruppe auswirkt.

Wir diskutieren im wesentlichen über den Unterschied zwischen menschlichem Denken und digitalen Algorithmen — insbesondere die aktuell breit diskutierten, heuristischen Methoden die unter dem Begriff „maschinelles Lernen” zusammengefasst werden.Dabei ist es in meinen Augen angebracht differenzierte Betrachtungen für unterschiedliche Anwendungsbereiche zu unternehmen und sich vor Pauschalisierungen in Acht zu nehmen. Ohne hier eine Lanze für eine rein materialistische Betrachtung brechen zu wollen, können wir weder silizium-, noch kohlenstoff-basierte Entscheidungsmaschinen für grundsätzlich überlegen betrachten. Wenn die Maschine zu einer bestimmten Frage überwiegend bessere Entscheidungen als der Mensch trifft, dann klingt es folgerichtig, dass wir diese Art von Entscheidung an die Maschine delegieren.

Wesentlich ist dabei aber, dass Maschinen — wie Menschen — bestimmte Anforderungen bei ihren Entscheidungsprozessen erfüllen. Wichtige, insbesondere existentielle, Entscheidungen müssen, für die Betroffenen und Dritte nachvollziehbar sein. Für menschliche Urteile sollte nichts anderes gelten. Wesentlich für das was hinten raus kommt ist das was vorne rein geht: Nachvollziehbare Entscheidungen fangen mit der Auswahl einer verzerrungsfreien Datenbasis an, noch bevor wir über statistische Algorithmen, nachvollziehbare Heuristiken und transparente Bewertungskriterien reden.

Die menschliche Geschichte ist eben nicht nur eine Ansammlung positver Beispiele herausragender Entscheidungen, sondern zeichnet ein buntes Sammelsurium menschlicher Fehlleistungen nach. Genau deshalb darf die Entscheidung darüber welche Automatismen an welcher Stelle eingesetzt werden nicht auf Basis von z.B. egoistischem Gewinnstreben einzelner Menschen oder Organisationen gefällt werden, sondern muss den entscheidungsfähigen, also ausreichend gebildeten und informierten Willen aller Betroffenen berücksichtigen. Der vermeintlichen Fehlleistung computerisierter Entscheidungsprozesse basiert deshalb nicht zuletzt auf einer Fehlleistung menschlicher Systeme.