Die Aufgabe war scheinbar einfach. Ein KI-System sollte entscheiden, ob auf einem Foto ein Hund oder ein Wolf zu sehen ist. Das System entschied sich dafür, dass der Hund, in diesem Fall ein Husky, ein Wolf sei. Eine Fehlentscheidung. Wie konnte das passieren?

Man muss der KI erst einmal zugutehalten, dass das bei bestimmten Hunderassen keine leichte Aufgabe ist. Besonders beim Husky. Die Schlittenhunde sehen dem Wolf nun einmal sehr ähnlich.

Das System war vorher mit vielen Fotos von Hunden und Wölfen trainiert worden. Zu jedem Ergebnis, das es im Lernverlauf lieferte, erhielt es ein Feedback, wie gut es seine Aufgabe gelöst hatte. Dadurch konnte das System kontinuierlich seine Erkennungsraten verbessern. Es wurde immer sicherer in seinen Entscheidungen. Und dennoch versagte es ­schlussendlich beim Husky-Foto. Die Frage war, warum die falsche Entscheidung getroffen wurde. Das nachzuvollziehen war nicht einfach, denn im Kontext maschinellen Lernens (ML) gibt es das „Black-Box-Phänomen“, das heißt, die KI kommuniziert ihren Lösungsweg nicht, ihre Entscheidungsfindung ist intransparent.

Nach einer umfangreichen Analyse fanden die Programmierer heraus, dass das System gar nicht die Tiere selbst verglichen hatte, sondern die Umgebung, in der sie gezeigt wurden, zur Entscheidungsfindung heranzog. Das System hatte somit einen cleveren Umweg gewählt, denn es war nur mit Wolfsbildern trainiert worden, auf denen Schnee zu sehen war. Damit war ihm – zumindest scheinbar – klar: Schnee ist Wolf, kein Schnee ist Hund. Der Husky auf dem fraglichen Bild stand ebenfalls im Schnee. Mag das Beispiel zum Schmunzeln anregen, bei einer autonomen Autofahrt möchte man diese spezielle KI nicht an Bord haben.

Aktuell versucht man KI-Systeme zu entwickeln, die ihre Entscheidungen nachvollziehbar und transparent machen. Das ist ein entscheidender Faktor bei der Akzeptanz von KI. Die meisten potenziell KI-affinen Entscheider können sich den Einsatz einer KI in ihrem Unternehmen nur vorstellen, wenn diese nicht weitgehend autonom agiert, sondern den Menschen nur teilweise entlastet. Dahinter steckt die Angst, dass sich autonom handelnde Systeme, deren Vorgehensweisen man nicht kennt, dem menschlichen Zugriff entziehen könnten. Eine transparente Entscheidungsfindung, bei der man nötigenfalls auch eingreifen kann, könnte viele dieser Befürchtungen entkräften.

Das Husky-Beispiel zeigt vor allem eines: Entscheidend ist, wie die KI trainiert wird. Die Ergebnisse sind immer nur so gut wie das Trainingsmaterial. Warum braucht KI überhaupt ein Training? Um das zu verstehen, muss man sich von der Vorstellung lösen, dass man ein KI-System auf dem Rechner startet, ihm danach irgendeine Aufgabe stellt und erwartet, es würde schon etwas Nützliches dabei herauskommen. KI als maschinelles Lernen kann aber nur dann funktionieren, wenn man eine spezifische Fragestellung programmiert und dem System eine große Zahl von dazu passenden Daten – hier Fotos von Hunden und Wölfen – zur Verfügung stellt.

Aber es genügt eben nicht, eine beliebig große Menge von Fotos herzunehmen. Diese müssen auch fehlerfrei und repräsentativ sein. Fotos von Wölfen, auf denen im Hintergrund ausnahmslos Schnee zu sehen ist, sind weder repräsentativ noch ­fehlerfrei.

KI ist mittlerweile in der Arbeitswelt angekommen, aber längst nicht flächendeckend. Nach einer repräsentativen Umfrage des Branchenverbandes Bitkom aus dem Jahr 2020 sehen zwar 73 Prozent der befragten Unternehmen KI als wichtigste Zukunftstechnologie an. Jedoch hatte zum Zeitpunkt der Umfrage nur jedes siebte Unternehmen in KI-Technologie investiert. Die Studie „PAiCE“, durchgeführt durch das iit-Institut für Innovation und Technik im Auftrag des Bundesministeriums für Wirtschaft und Energie (BMWi), sieht ein enormes Wachstumspotenzial für diese Technologien. Die Auswirkungen sind jetzt schon spürbar. So würde nach den Berechnungen der Studie ein Drittel des prognostizierten zukünftigen Wirtschaftswachstums im produzierenden Gewerbe auf KI-getriebene Verfahren entfallen. Das entspräche bis 2023 einer zusätzlichen Bruttowertschöpfung von rund 32 Milliarden Euro.

Wie KI heute in den Unternehmen eingesetzt wird, zeigen Beispiele. So hat der Online-Bezahldienst PayPal die Betrugsprävention (engl. Fraud Detection) mithilfe von KI automatisiert. KI ist in diesem Fall in der Lage, Transaktionen zu erkennen, in denen ein Missbrauch zu vermuten ist. Ziel ist es, einen besseren Schutz für die PayPal-Nutzer zu gewährleisten. Durch die Analyse diverser Parameter ist es möglich, verdächtigen von unverdächtigem Zahlungsverkehr zu unterscheiden.

Wenn der Algorithmus beispielsweise einen Nutzer erkennt, der innerhalb einer Woche fünf Einkäufe aus fünf unterschiedlichen Ländern getätigt hat, dann wäre es angebracht, sich diesen Fall näher anzusehen. Ist der KI allerdings bekannt, dass der Nutzer als Pilot bei einer Fluggesellschaft tätig ist, dann wird der Fall nicht mehr als verdächtig bewertet und die Durchführung der Transaktionen zugelassen.

In der Versicherungsbranche konnte die Allianz durch ihre Schaden-Express-App den Prozess der Bewertung von Kfz-Schäden erheblich beschleunigen. Der Kfz-Fahrer kann ein Foto vom Fahrzeugschaden erstellen und an die Allianz schicken. Die KI vergleicht den vorliegenden Schaden mit vergangenen Schäden, die in einer zentralen Datenbank abgespeichert sind. Auf Basis der Vergangenheitsdaten kann der Algorithmus die Entschädigungssumme in Echtzeit einschätzen. Diese wird dann umgehend an den Fahrer übermittelt. Ist der Fahrer mit der Summe einverstanden, bekommt er sein Geld überwiesen. Somit wird die Ermittlung von Schadenersatzsummen im Versicherungsgeschäft mittels KI erheblich automatisiert.

Im Februar 2020 hat die Europäische Kommission als Bestandteil ihrer Digitalstrategie ein Weißbuch zur KI veröffentlicht. Mit ihrem Vorschlag will die Kommission einerseits die Nutzung von KI fördern, andererseits die mit der Technologie einhergehenden Risiken eindämmen. Zentrales Anliegen des Weißbuchs ist es, das Vertrauen der Gesellschaft in die Möglichkeiten von KI zu stärken.

Maschinelles Lernen ist heute nicht mehr und nicht weniger als ein Verfahren, spezifisch gestellte Aufgaben anhand von großen Datenmengen besonders effizient zu lösen. KIs können Daten besser, genauer und schneller verarbeiten als Menschen –
wirklich verstehen können sie die Zusammenhänge nicht.