24. Mai 2024
Können wir KI vertrauen?
Lebhaftes FIAS Forum mit IT-Ethikerin Judith Simon
Können wir KI vertrauen - und wo liegen die Fallstricke? Diesen komplizierten Fragen widmete sich die erste deutsche Professorin für Ethik der Informationstechnologie, Judith Simon (Universität Hamburg), im Rahmen der öffentlichen Vortragsreihe FIAS Forum.
"Wer nutzt KI?", fragte Judith Simon in die gut gefüllten Zuhörerreihen - um das zögerliche Publikum umgehend zu überzeugen, dass wir nicht darum herumkommen, etwa bei Finger- und Gesichtserkennung vom Handy oder Online-Routenplanern. Aber können wir dieser Technik vertrauen? Immerhin greift sie bereits jetzt wesentlich in unsere Daten ein: Schon fünf Likes auf Facebook führen zu 93% richtiger Geschlechts- und 95% ethnischer Zuordnung.
"Statistische Vorhersagen bestimmen immer mehr unser Leben", so Simon. Aber KI generiere seine Informationen aus alten Daten. So seien etwa weiße Männer in höheren Jobs häufiger, sodass Einstellungs-Software sie möglicherweise auch künftig als "geeigneter" bevorzuge.
Generative KI wie ChatGPT täusche zudem "Menschlichkeit" vor und sei immer schwerer unterscheidbar, wie auch Beispiele in der anschließenden Diskussion zeigten.
"KI vertrauen wir nur, wenn wir den Konstrukteuren dahinter vertrauen", so Simon. "Ich glaube, wir werden sie in vielen Bereichen nicht einsetzen können, wo wir die Nutzung begründen müssen" - also etwa bei Gerichtsurteilen, die auf Beweisen und Tatsachen, nicht Wahrscheinlichkeiten beruhen müssen.
"Vertrauenswürdigkeit gibt es nur näherungsweise", so ihr Fazit. Und die Geschwindigkeit der Entwicklungen sei so hoch, dass akute Bedrohungen etwa bei Wahlen oder auch mit wissenschaftlichen Fehlinformationen sehr konkret drohen. Ein Beispiel für die Geschwindikeit nannte sie aus ihrer Mitarbeit im Ethikrat: Der sei von der Veröffentlichung von ChatGPT und seiner furiosen Nutzung überall selbst überrollt worden.
Die lebhafte und durchaus nachdenkliche Diskussion im Anschluss an den schwungvollen Vortrag wurde im Anschluss bei Brezeln und Wein auf der wunderbaren FIAS-Dachterrasse mit 360°-Blick auf Skyline und Taunus fortgesetzt.
