Wie ethisch verantwortlich muss die digitale Wirtschaft sein? Müssen Algorithmen offengelegt werden? Wie beeinflusst KI unsere Gesellschaft? Im Panel diskutieren Matthi Bolte-Richter (Sprecher für Wissenschaft, Innovation, Digitalisierung und Datenschutz, Grüne Landtagsfraktion NRW) Eva-Maria Kirschsieper (Director of Public Policy bei Facebook Deutschland) Sabine Sachweh (Professorin für Angewandte Softwaretechnik FH Dortmund) und Katrin Reuter (Gründerin des E-Health Start-ups Trackle) über digitale Ethik und den Umgang mit Algorithmen.
Trackle ist ein Fertilitäts-Tracker – jeden Tag geben Nutzerinnen hier freiwillig ihre sensiblen Zyklusdaten ein. Ein Widerspruch in Zeiten der DSGVO? „Wir haben festgestellt, dass Endkundinnen gar nicht so restriktiv mit eigenen Daten umgehen – das hat mich auch überrascht“, sagt Katrin Reuter. „Aber natürlich sind wir als Hersteller da in der Verantwortung.“ Auch Facebook ist bemüht, User in gewisser Weise zu „erziehen“, damit sie selbst die Kontrolle über ihre Daten haben. „Erst vor kurzem gab es nochmal eine Verschärfung der internen Praktiken“, sagt Eva-Maria Kirschsieper. „Das Verhalten der Nutzer liegt natürlich nicht ganz in unserer Hand. Aber wir wollen die entsprechenden Einstellungen bereitstellen, mehr Kontrolle abgeben und ein positives Nutzererlebnis schaffen.“
„Die Technologie muss sich an den Menschen anpassen“
Fakt ist: Technologie durchdringt unsere Lebenswelt, viele Nutzer sind von der großen Vernetzung und Komplexität der Systeme zum Teil überfordert. Sabine Sachweg ist der Meinung, dass es jedoch nicht reicht, nur das User-Interface zu verbessern. Sie fordert eine Verbesserung der Prozesse: „Wir müssen den Mensch in den Mittelpunt stellen und es maximal einfach machen. Die Technologie muss sich an den Menschen anpassen. Und wir müssen Kompetenzen bei den Mitarbeitern und Kunden aufbauen. Regulation ist da nur ein Aspekt. Und bewusst auch Leute aktivieren, die nicht technologieaffin sind. Die Digitalisierung kann sonst Menschen ausgrenzen – das darf nicht passieren.“
Mit einem Fairness Flow gegen Diskriminierung
Auch Matthi Bolte-Richter sieht das Thema Diskriminierung – gerade im Bereich KI - kritisch: „Hier muss es in Zukunft politische Entscheidungen geben. Das radikale amerikanische „Anything Goes“ ist meiner Meinung nach die falsche Herangehensweise. Wir versuchen in Europa mit diversen Kommissionen einen neuen Weg zu finden.“ Auch Facebook nimmt sich aktuell diesem Problem an: „Wir müssen es schaffen die Algorithmen so zu coden, dass sie diskriminierungsfrei sind“, sagt Kirschsieper. „Wir haben da ein eigenes Team, das sich mit Ethik in KI auseinandersetzt und einen Fairness Fow entwickelt hat – das prüft den Algorithmus auf seine möglichen Vorurteile hin. Wir versuchen also mit Technologie dem möglichen Bias zu begegnen und den Algorithmus neutral zu machen.“Technologie darf nicht verteufelt werden
Überall Algorithmen - wir setzen eine Technologie ein, die keiner mehr versteht.Die Experten sind sich einig, dass hier mehr Verständnis geschaffen werden muss. Auf der anderen Seite darf die Technologie auch nicht verteufelt werden. Und auch der Panik rund um die DSGVO muss begegnet werden. Keine Fotos mehr vom Kind am ersten Schultag? Das sehen auch die Panel-Teilnehmer als übertrieben an. „Das Beispiel mit den Schulfotos zeigt gut, wo wir in Deutschland stehen“, sagt Bolte-Richter. „Plötzlich kamen Menschen auf die Idee, sich mit Datenschutz auseinanderzusetzen. Das hat natürlich zu Panikreaktionen geführt. Da müssen wir allesamt dran arbeiten. Und haben verdammt viel zu tun.“