«Assistenzsysteme müssen transparent sein»

Unternehmen setzen zunehmend auf KI. Je nach Unternehmensgrösse zeigen sich hierbei jedoch sehr unterschiedliche Herangehensweisen. Im Gespräch mit Dr. Christof Nitsche, Leiter zuverlässige KI am Fraunhofer IPA in Stuttgart, über KI-basierte Geschäftsmodelle.

Die Abteilung «Cyber Cognitive Intelligence» am Fraunhofer IPA berät und unterstützt Unternehmen bei der Einführung von Künstlicher Intelligenz (KI) und maschinellem Lernen. Erzählen Sie uns von Ihren Beobachtungen?

Dr. Christof Nitsche: In grösseren Unternehmen ist es oftmals so, dass eine Abteilung oder ein Bereich den Auftrag bekommt, irgendetwas mit KI zu machen. Schliesslich ist es gerade ein Hype-Thema und man möchte auf keinen Fall etwas verpassen! Die Betroffenen, die dann den Auftrag umsetzen sollen, wissen aber meist gar nicht, was sie eigentlich tun oder machen sollen.

Kleinere Firmen sind da viel pragmatischer unterwegs. Diese haben ein Problem und suchen für dieses eine konkrete Lösung. Ob das Problem dabei mit Hilfe einer KI oder sonst irgendwie gelöst wird, ist zweitrangig! Sie wollen eine Lösung, die funktioniert und vor allem bezahlbar ist.

Demnach muss es nicht immer KI sein?

Überhaupt nicht! Wenn das Thema nicht zu komplex ist, probiert man es zunächst einmal ohne KI, da diese in der Anwendung nicht trivial ist. Daher versucht man das Problem mit mechanischen oder physikalische Verfahren oder auch mit klassischer Statistik zu lösen.

Gilt es allerdings bei einer Lösung multidimensionale, nichtlineare Abhängigkeiten zu berücksichtigen, benutzen wir unseren Werkzeugbaukasten. Dieser stellt verschiedene Bausteine zur Problemlösung bereit. Stellt sich heraus, dass sich ein Problem nur mit Hilfe einer KI lösen lässt, ist diese dann aber auch erste Wahl.

Wo wäre das beispielsweise der Fall?

Das könnte die optische Inspektion am Ende eines Fliessbandes sein, bei dem die Qualität eines Produktes bestimmt wird. Gerade bei der Bilderkennung setzt man heute meist auf KI, da maschinelles Lernen die Programmierung praktisch selbst übernimmt. Das muss also nicht mehr ein Programmierer aufwendig machen, sondern es erfolgt bis auf die Konfigurierung des Systems vollkommen automatisch.

Sind Daten prinzipiell eine Grundvoraussetzung für ein KI-basiertes Geschäftsmodell?

Ja, wobei es den Weg über generative KI mit synthetischen Daten gibt. Diese können gerade in der Anfangsphase sinnvoll sein, wenn es noch keine echten Daten gibt. Mit solchen synthetischen Daten könnte man beispielsweise einen Produktionsprozess simulieren und anhand dieser Simulation einen Proof of Concept durchführen. Wenn später echte Daten zur Verfügung stehen, kann man mit diesen das Modell anreichern. Sollte es allerdings nicht möglich sein, echte Daten zu generieren, kann man Prozesse weiterhin auf Basis einer Simulation laufen lassen.

Einheitlicher Datenraum Manufacturing-X

Der VDMA und der ZVEI haben den einheitlichen Datenraum «Manufacturing-X» mit angestossen, bei dem Unternehmen ihre Daten teilen. Ist das nicht problematisch, schliesslich könnte man durch die Daten sein Know-how verraten?

Da haben Sie natürlich Recht! Aber ein Unternehmen muss ja bei Manufacturing-X oder anderen Initiativen nicht seine aktuellen Daten teilen. Es können ja ältere Daten aus einem früheren Entwicklungsstadium sein, so dass man nicht das aktuelle Wissen preisgibt, aber dennoch mit diesen verdienen kann. Sobald ein Produkt auf dem Markt ist, kann es jeder untersuchen und herausfinden, was darin steckt. Das Produkt selbst ist nicht mehr geheim, lediglich die Forschungs- und Entwicklungsphase davor bleibt vertraulich.

Was ist zu berücksichtigen, wenn eigene Daten mit denen Dritter vermischt werden sollen?

Aus technischer Sicht ist darauf zu achten, dass die Datenformate zusammenpassen und sinnvoll kombinierbar sind. Natürlich muss dabei sichergestellt sein, dass man sich mit diesen Daten keine Schadsoftware einfängt. Geht es um personenbezogene Daten, muss man zudem über Anonymisierung oder Pseudonymisierung nachdenken. Aber in der Regel ist das bei solchen Datenplattformen bereits implementiert, sodass sich der Kunde nicht mehr darum kümmern muss.

Was ist bei der Internationalisierung eines KI-basierten Geschäftsmodells zu beachten?

Von regulatorischer Seite sind die internationalen und regionalen Gesetze ganz genau anzuschauen. Das kann sehr aufwendig sein, da Dinge, die zum Beispiel in den USA erlaubt sind, hier in Europa nicht möglich sind. Aus meiner Sicht manchmal leider auch nur aus Überregulierung

Ausserdem sollte man sich die Märkte genau ansehen und sich kritisch fragen, ob das Produkt überhaupt interessant ist. Ein weiterer, aber ganz wichtiger Aspekt, ist die Berücksichtigung der jeweiligen Kulturen. Das ist vor allem im B2C-Bereich, wo KI häufig eingesetzt wird, entscheidend. Bei Millionen oder Milliarden Kunden müssen die Produkte entweder angepasst oder so allgemein gehalten sein, dass sie weltweit funktionieren und akzeptiert werden.

Das kommunikative Element ist wichtig

Was ist zu bedenken, wenn ein smartes Assistenzsystem mit einem KI-basierten Geschäftsmodell kombiniert werden soll?

Ältere Software-Systeme, von denen viele verwendet werden, sind nicht intuitiv, nicht personalisierbar und nicht benutzerfreundlich. Ausserdem ist oftmals nicht ersichtlich, was bei diesen im Hintergrund passiert. Durch den vermehrten Einsatz von KI, die oftmals wie eine Blackbox ist, wird das nicht besser. Daher ist es sehr wichtig, Assistenzsysteme transparent und nachvollziehbar zu gestalten. Wenn ein solches beispielsweise eine Operation überwacht, muss es dem Arzt erklären, aus welchem Grund beim Patienten gerade der Blutdruck fällt. Gleiches gilt für die Fabrik. Der Werker, der einen Roboter einrichtet, muss die Anweisung seines Assistenzsystems zu jeder Zeit nachvollziehen können.

Da klingt so, als sei die Kommunikation mit einem Assistenzsystem entscheidend?

Genau. Das kommunikative Element ist extrem wichtig. Dabei ist es egal, ob es die Anweisungen über Sprache, Text, Bilder oder sogar bewegte Bilder übermittelt. Wenn diese nicht verständlich sind, ist es wertlos.

Und wie bekomme ich das verständlich hin? In dem ich Testpersonen befrage?

Das ist ein Punkt. Ein weiterer ist, es lernfähig zu halten. Ausserdem muss sich das Assistenzsystem an den Lernfortschritt seines Benutzers anpassen, also mit der Zeit seine Unterstützung sukzessive aufs Notwendigste herunterfahren.

Abschliessendes Fazit zum Thema

Was sollte aus Ihrer Sicht abschliessend zum Thema gesagt werden?

Ein wichtiger Aspekt bei KI ist das Thema «Nachhaltigkeit und Energieeinsparung». Sie kann hervorragend dazu eingesetzt werden, um Energie einzusparen, etwa indem sie herausfindet, was in einer Fabrik zu einem hohem Energieverbrauch führt oder wie sich diese effizienter steuern lässt.

Das Problem besteht darin, dass KI-Systeme selbst einen erheblichen Energiebedarf haben. Daher ist es entscheidend, sie möglichst ressourcenschonend zu gestalten. Sowohl Software als auch Hardware müssen hierfür optimiert werden, insbesondere vor dem Hintergrund des aktuellen Trends, bei dem generative KI-Tools wie ChatGPT zunehmend herkömmliche Suchmaschinen ersetzen. Diese Tools sind in der Regel deutlich energieintensiver. Aus diesem Grund ist es unverzichtbar, bei der Entwicklung und Nutzung von KI stets auf Energieeffizienz zu achten und diesen Aspekt nicht aus den Augen zu verlieren.