Grundlagen für den verantwortungsvollen Einsatz von KI

Kontrolle, Nachvollziehbarkeit und Transparenz im Umgang mit Künstlicher Intelligenz

Standards zur Datennutzung und -analyse durch KI 

Gerade weil das Potenzial grenzenlos zu sein scheint, müssen wir bedenken, wie sich Künstliche Intelligenz auf unsere Gesellschaft auswirkt und uns in diesem Zusammenhang mit Fragen rund um Moral und Risiken beschäftigen. Nur wenn Unternehmen die eingesetzten intelligenten und adaptiven Systeme sowie ihre Entscheidungen verstehen, können sie die Kontrolle über ihre Algorithmen behalten.

Zudem sollten Unternehmen, die KI einsetzen, deren Verwendung für die Betroffenen so transparent und verständlich wie möglich kommunizieren. Hierdurch lassen sich Ängste und Vorurteile gegenüber dem Einsatz von intelligenten und adaptiven Systemen reduzieren.  

Wer sowohl das Vertrauen seiner Kunden als auch seiner Mitarbeiter bewahren will, sollte zunächst eine allgemeine Akzeptanz für diese Systeme schaffen. Hierzu ist es sinnvoll, alle entscheidenden Abteilungen in den Prozess einzubinden.

Die Rechtsabteilung eines Unternehmens muss Standards zum Einsatz von KI etablieren und die Datennutzung und -analyse der KI-Systeme auf ihre Kompatibilität mit staatlichen Richtlinien und Gesetzen prüfen (z.B. DSGVO, AGG).

Eine Schlüsselrolle kommt der Personalabteilung als Vermittlerin zwischen der Unternehmensführung und den Mitarbeitern zu. Sie kann Beurteilungsprozesse und Weiterbildungsvorschläge prüfen und sollte befragt werden, wenn es darum geht, auf welcher Basis Personalentscheidungen gefällt werden.

Produktion und Vertrieb schließlich können KI für ein wettbewerbsfähiges Produktangebot nutzen. Die Mitarbeitenden sollten geschult werden, um zu verstehen, welche Chancen und Herausforderungen sich mit dem Einsatz von KI in Produktion, Vertrieb und Marketing ergeben.

KI-Systeme sind nicht unvoreingenommen

Grundsätzlich verwenden KI-Systeme bestimmte Merkmale, um vordefinierte Aktionen auszulösen. Auf Algorithmen basierende Modelle sind nie vollkommen unvoreingenommen, denn die ihnen zugrundeliegenden Daten werden nach vorher festgelegten Kriterien beurteilt und kategorisiert. Bei der Definition der vordefinierten Aktionen spielen deshalb rechtliche und ethische Standards eine entscheidende Rolle.

Ein Beispiel: Der Heimatort einer Person ist für sich genommen nur ein Datenfragment. Doch wenn die KI auf Grundlage dieser Daten beispielsweise einen Kunden benachteiligt, da er mutmaßlich weniger einkommensstark und damit weniger profitabel ist, ist das eine ungerechte und unethische Diskriminierung. Wird das Merkmal Heimatort dagegen dazu genutzt, um dem Kunden in der Warteschleife Musik vorzuspielen, die ihn an seine Heimat erinnert, hat das eventuell einen positiven Einfluss auf das Kundenerlebnis. In beiden Fällen hat die KI das gleiche Merkmal verwendet, um eine Aktion auszulösen.

Algorithmen muss eine möglichst umfassende Datenbasis zugrunde liegen, um die Voreingenommenheit zu verringern. Sowohl Datenbasis als auch Algorithmus von intelligenten Systemen müssen permanent optimiert werden.  

Verantwortungsbewusster Einsatz von KI

Ein verantwortungsbewusster Umgang mit KI-Systemen basiert auf drei Säulen:

• Kontrolle der durch die KI produzierten Ergebnisse anhand von Leitlinien;
• Nachvollziehbarkeit von KI-Entscheidungen von der Datenerhebung bis zur Aktion;
• Transparenz hinsichtlich Datenerfassung und -analyse durch die KI.

Unternehmen bleiben während des gesamtem Lebenszyklus eines KI-Systems für dessen Entscheidungen verantwortlich. Hieraus folgt nicht nur eine juristische, sondern auch eine ethische Verantwortung.

In Track 8 der embedded world Conference 2023 finden Sie Vorträge rund um das Thema Einsatz von KI in eingebetteten Systemen.

Quelle: Die Originalfassung dieses Artikels von Heinrich Welter, Genesys,  lesen sie auf elektroniknet.de