10 Künstliche Intelligenz eröffnet vielen Menschen neue Möglichkeiten und birgt gleichzeitig Herausforderungen, während andere sie als Bedrohung sehen. Um diese Debatte ernst zu nehmen, ist es zunächst wichtig zu verstehen, was diese Technologie ist und wie sie funktioniert, um die damit verbundenen Risiken zu erkennen und sie zu minimieren. Dies zeigt sich deutlich in einer ihrer attraktivsten Anwendungen: ihrer Vorhersagefähigkeit. Nichts fasziniert die Menschen mehr als die Möglichkeit, die Zukunft vorherzusagen, und KI beherrscht diese Fähigkeit sehr gut. Die Arbeit der KI hat jedoch nichts mit besonderer Intuition zu tun, sondern vielmehr mit ihrer Fähigkeit, Informationen aus vergangenen Daten zu verarbeiten und daraus Muster und Modelle abzuleiten, die Vorhersagen ermöglichen. Diese Vorhersagen können auch Auswirkungen auf Menschen haben, die beispielsweise versuchen, vorhergesagte Ereignisse wie die Auswirkungen bestimmter Wetterphänomene zu beeinflussen. Problematisch werden diese Vorhersagen jedoch, da sie im Bereich der Physik angesiedelt sind, wenn sie sich auf menschliches Verhalten beziehen. Ein bekanntes Beispiel ist die COMPAS-Software, die in den USA Gerichte bei der Einschätzung der Rückfallwahrscheinlichkeit von Straftätern unterstützt. Sie leistet dabei keine schlechte Arbeit. Die Entscheidungen von COMPAS sind genauer als die eines unerfahrenen Richters, aber schlechter als die eines Teams erfahrener Richter. Ihre Effektivität wäre durchaus zufriedenstellend, gäbe es da nicht ein Detail: Wenn sie einen Fehler macht, ist die betroffene Person in den meisten Fällen schwarz. Das Problem ist, dass diese rassistische Voreingenommenheit, die ein verwerflicher Fehler wäre, wenn sie von einem Richter käme, nicht als Fehlfunktion der KI abgetan werden kann, da diese keine moralischen Vorurteile hat. Wie bereits erwähnt, verwendet die KI ausschließlich historische Daten, und wenn schwarze Gefangene in der Vergangenheit häufiger als potenziell rückfallgefährdeter galten, ist dies ein Muster, das sie nicht ignorieren kann.

]]>