«Für unsere KI spielt die Hautfarbe keine Rolle»

Die Luis Technology GmbH entwickelt ihre KI ausschliesslich in Deutschland, um einer Diskriminierung bestimmter Personengruppen durch die KI vorzubeugen. Im Gespräch mit CTO Stephan Rave über Abbiegeassistenten im Allgemeinen und die KI-Inhouse-Entwicklung im Speziellen.

Sie bieten Kamera-Monitor-Systeme für verschiedene Branchen an. Wieso lassen sich diese Branchenanforderungen nicht mit einem einzigen System abdecken?

Das wäre schön, wenn das ginge. Wir sind mit unseren Lösungen hauptsächlich in den Brachen Logistik, Flurförderfahrzeuge, Landwirtschaft und Bau vertreten. Diese haben zwar hinsichtlich Robustheit ähnliche Anforderungen, unterscheiden sich im Detail aber zum Teil gravierend. Agrarmaschinen gibt es beispielsweise mit offenen oder geschlossenen Kabinen, woraus sich unterschiedliche Anforderungen an den Monitor ergeben. Gleiches gilt für die Sichtfelder der Kameras, die nach Installationshöhe und Ausrichtung variieren.

Ein weiterer Punkt ist die Fahrzeug-Integration. Wir haben Kamera-Monitor-Systeme, die ohne zusätzlichen Monitor auskommen, und solche, die auf existierenden Displays das Bild darstellen. Dazu kommen diverse Kommunikationsstandards. Generell lässt sich sagen, dass unser Portfolio mit jeder neuen Anwendung und mit jedem neuen Markt wächst. Nur mit dieser sukzessiven Ausweitung des Angebots sind wir in der Lage, unsere Kunden zufriedenstellen.

Inwieweit modularisieren Sie Ihre Systeme, um den Entwicklungsaufwand klein zu halten?

Unser Unternehmen zählt knapp 80 Mitarbeitende, von denen rund die Hälfte in der Entwicklung tätig ist. Von daher können wir es uns gar nicht erlauben, viele parallele Entwicklungsprojekte zu betreiben. Wir modularisieren daher mit Hilfe von Plattformen. Ein Beispiel ist unsere neue Digitalkamera Edge 3, die im dritten Quartal auf den Markt kommt. Diese gibt es im identischen Gehäuse in verschiedenen Ausführungen, zum Beispiel mit oder ohne Künstliche Intelligenz.

Technischer Aufbau eines Abbiegeassistenten

Sie gelten als Marktführer für Abbiegeassistenten. Erklären Sie doch bitte kurz, aus welchen technischen Komponenten sich ein solches System zusammensetzt?

Im Wesentlichen sind es drei Komponenten, wenn man die Halterungen, Kabel und all das andere Kleinmaterial weglässt. Das erste ist das Kameramodul, das zwei Kameras integriert. Die eine Kamera zeigt leicht nach vorne unten, die andere nach hinten. Die zweite Komponente ist das Anzeigegerät, das entweder ein klassischer Monitor mit Visualisierung oder eine Art Ampel ist, die mit Lichtsignalen arbeitet.

Das dritte Element ist eine Embedded Controller, der das Kamerabild verarbeitet und der in die Fahrzeugsteuerung integriert ist. Diese Integration kann den Lenkwinkel, die Geschwindigkeit sowie ein Blinksignal umfassen, um zusätzlich den Fahrzeugstatus zu kennen.

Ist das System nur auf der Beifahrerseite verbaut? Auf der linken Seite wird man vermutlich nicht so oft von Fahrradfahrern überholt!

Genau, klassische Abbiegeassistenten sind wegen der Fahrradfahrer auf der rechten Fahrzeugseite verbaut. Es gibt aber natürlich auch Varianten für den Linksverkehr.

Herausforderungen bei der Entwicklung von Abbiegeassistenten

Mit welchen Herausforderungen ist die Entwicklung eines solchen Abbiegeassistenten verbunden?

Zunächst einmal sind da Wetterbedingungen, wie Regen, Schnee, Nebel, Hagel oder eine tiefstehende Sonne. Es muss immer sichergestellt sein, dass die Kameras auch unter solchen Bedingungen ein gutes Bild liefern. Wichtig ist es auch die Kenntnis, ob das System wegen Verschmutzung oder vereister Kameralinse gestört ist. In dem Fall benötigt der Fahrer einen Warnhinweis. Ein weiteres Thema ist die Objekterkennung und Klassifizierung. Das System muss Menschen in allen möglichen Szenarien sicher identifizieren, egal ob diese mit einem Fahrrad oder einem E-Scooter unterwegs sind.

Die mechanische Integration ist eine weitere Herausforderung, da die Aerodynamik eines Fahrzeugs deswegen nicht verändert werden darf. Regulatorische Themen spielen ebenfalls eine Rolle, vor allem bei Spiegelersatz-Abbiegeassistenten. Es gibt EU-Bestimmungen, wie etwa die Erkennung bis zu 30 Meter nach hinten. Das ist für ein Kamerasystem sehr weit und es stehen nur noch ein paar wenige Pixel bereit, die aber eindeutig zugeordnet werden können müssen.

Ein weiterer wichtiger Punkt ist die Akzeptanz des Benutzers. Ein System, das ständig Fehlalarme erzeugt, wird schnell ignoriert. Am Ende muss es ausserdem wirtschaftlich sein, damit der Markt auch bereit ist, für dieses zu bezahlen.

Inwieweit beeinflusst Kondenswasser, das sich bei grossen Temperaturunterschieden bildet, die Zuverlässigkeit solcher Systeme?

Generell sind Temperaturveränderungen für elektronische Systeme immer eine grosse Herausforderung. Wir setzen deshalb ausschliesslich klassische, für den Automotive-Bereich freigegebene Produkte ein. Unsere Hardware ist in einem Temperaturbereich von -40 bis 85 Grad einsatzfähig. Die Bildung von Kondenswasser verhindern wir mit speziellen Druckausgleichsventilen, die in die Kameragehäuse integriert sind. Ein Heizsystem sorgt indes dafür, dass die Kameralinse nicht vereist.

Diversität verhindert Diskriminierung durch KI

Luis Technology investiert rund 30 Prozent seines Umsatzes in Forschung und Entwicklung. Was verursacht diesen enormen Aufwand?

Wir entwickeln und trainieren unsere KI ausschliesslich in Deutschland und haben dafür ein entsprechendes Team aufgebaut. In Asien ginge das billiger, aber das ist nicht unser Anspruch. Ein grosser Vorteil dieser Inhouse-Entwicklung ist die Kenntnis über die verwendeten Daten. Wir kennen jedes Bild und können so sicher sein, dass die KI richtig trainiert wird.

Nun schliesst eine in Deutschland trainierte KI nicht aus, dass es zu Diskriminierung oder Falscheinschätzungen des Systems kommt. Wie verhindern Sie das?

Solche Probleme vermeiden wir mit einem diversen Team und dem Einsatz diverser Bilddaten. Für uns ist es wichtig, dass die KI mit einer Vielzahl von Bilddaten und Szenarien trainiert wird, damit diese eine korrekte Erkennung treffen kann. Daher ist es wie schon angesprochen entscheidend, die Trainingsdaten zu kennen. Wir haben mit null Bildern begonnen und unsere KI sukzessive von Grund auf aufgebaut. Dabei verknüpfen wir mehrere Ansätze. Zum einen arbeiten wir mit einem breiten Spektrum an Bildern, um sicherzugehen, dass liegende, hockende, stehende, grosse oder auch kleine Personen ausreichend berücksichtigt sind. Diese Daten kombinieren wir dann mit virtuellen Daten, um möglichst viele Situationen abzudecken.

Und wie stellen Sie sicher, dass andersfarbige Menschen ebenso gut erkannt werden?

Indem wir unsere Netzwerke und Daten augmentieren. Das heisst, wir verändern die Farbräume der Fotos, um sicher zu sein, dass die KI beziehungsweise die Kamera unabhängig von Farben zuverlässig arbeitet. Ein Mensch wird also, egal ob dieser nun schwarz, weiss, gelb oder rot ist, immer sicher erkannt, weil die Hautfarbe für unsere KI keine Rolle spielt. Dieser Ansatz verursacht zwar höhere Entwicklungskosten, dafür können wir mit Stolz sagen, dass unsere KI schon heute im Einklang mit dem kürzlich verabschiedeten Vorgaben des EU Act steht.

KI-basierte Kameras versus konventioneller Kameras

Was haben KI-basierte Kamerasysteme konventionellen Kamerasystemen voraus?

Ein konventionelles System erzeugt lediglich ein Lagebild. Eine Kamera deckt zum Beispiel einen Sichtbereich ab, den der Fahrzeugführer oder Maschinenbediener so nicht einsehen würde.

Mit Hilfe der KI wird aus diesem passiven ein aktives System. Sie hilft also dem Bildbetrachter, eine Situation besser zu verstehen und warnt ihn, wenn sich zum Beispiel eine Person einem gefährlichen Bereich nähert. Diese Warnung kann in der ersten Stufe ein Warnlicht oder -signal sein. Wenn auf diese Warnung nicht reagiert wird, greift die KI In der zweiten Stufe aktiv in die Steuerung ein, um ein Fahrzeug zu bremsen oder einen Arbeitsvorgang zu stoppen. Ein passives System kann das nicht.

Sie setzen auch KI ein, um die Laderaumfläche in Lastkraftwagen zu visualisieren und zu analysieren. Was ist der Gedanke dahinter?

Studien zeigen, dass die Hälfte der eingesetzten Lastkraftwagen nur zu 41 Prozent beladen ist. Unser System ermöglicht Disponenten daher einen Echtzeitblick auf die Ladefläche, so dass diese wissen, ob der Lastkraftwagen weitere Ladung mitnehmen kann. Dadurch lassen sich Routen optimieren und Betriebskosten reduzieren.

Und wie schätzt der Disponent anhand des Kamerabilds das Ladegewicht ab? Vielleicht ist ja mit einer zu 30 Prozent belegten Ladefläche schon das maximale Ladegewicht erreicht?

Das stimmt, aber auch das bekommt unsere KI hin. Sie hat Zugriff auf die Daten des Lastkraftwagens und kennt dessen Beladung genau. Wenn der Disponent also auf die Ladefläche blickt, bekommt er parallel eine Ladeliste inklusive Gewicht übermittelt.

Bei Luis Technology nutzen Sie KI bereits intensiv. Haben Sie deren Möglichkeiten schon voll ausgeschöpft oder stehen Sie hier erst am Anfang?

Sicherlich haben wir die Möglichkeiten noch nicht voll ausgeschöpft. Wir nutzen die KI beispielsweise für typische Büroarbeiten wie Übersetzungen, lassen diese aber bei allen sicherheitsrelevanten Arbeiten aussen vor. Es wird zwar immer wieder diskutiert, diese für die Code-Entwicklung zu nutzen, aber da fürchte ich, dass wir diesen nicht mehr verstehen und testen können. Bei funktional sicheren Prozessen, die wir mit unseren Lösungen zu jederzeit garantieren müssen, wäre das höchst fahrlässig. Bei Risikoanalysen und FMEA für Kunden setzen wir KI wiederum ein, um sicher zu sein, dass nichts vergessen wurde.