Grundlagen für den verantwortungsvollen Einsatz von KI
25.11.2022 Autonomous & Intelligent Systems Expertenwissen embedded world

Grundlagen für den verantwortungsvollen Einsatz von KI

Wie lässt sich KI verantwortungsvoll einsetzen? Welche Grundlagen müssen Unternehmen schaffen? Der Einsatz von Künstlicher Intelligenz (KI) zur Etablierung neuer Geschäftsmodelle, zur Analyse großer Datenmengen sowie zur Automatisierung von Geschäftsprozessen bietet enormes Potenzial für Unternehmen und spielt bei der Entwicklung von embedded systems eine immer größere Rolle. Rechtliche und ethische Standards müssen dabei aber von Anfang an berücksichtigt werden.

Grafik eines Gehirns, das sich aus vernetzten Punkten zusammensetzt Die Einsatzmöglichkeiten von KI sind nahezu unbegrenzt, es kommt darauf an, sie verantwortungsvoll einzusetzen (Copyright: istock.com/Khanchit Khirisutchalual)

Kontrolle, Nachvollziehbarkeit und Transparenz im Umgang mit Künstlicher Intelligenz


Standards zur Datennutzung und -analyse durch KI 

Gerade weil das Potenzial grenzenlos zu sein scheint, müssen wir bedenken, wie sich Künstliche Intelligenz auf unsere Gesellschaft auswirkt und uns in diesem Zusammenhang mit Fragen rund um Moral und Risiken beschäftigen. Nur wenn Unternehmen die eingesetzten intelligenten und adaptiven Systeme sowie ihre Entscheidungen verstehen, können sie die Kontrolle über ihre Algorithmen behalten.

Zudem sollten Unternehmen, die KI einsetzen, deren Verwendung für die Betroffenen so transparent und verständlich wie möglich kommunizieren. Hierdurch lassen sich Ängste und Vorurteile gegenüber dem Einsatz von intelligenten und adaptiven Systemen reduzieren.  

Wer sowohl das Vertrauen seiner Kunden als auch seiner Mitarbeiter bewahren will, sollte zunächst eine allgemeine Akzeptanz für diese Systeme schaffen. Hierzu ist es sinnvoll, alle entscheidenden Abteilungen in den Prozess einzubinden.

Die Rechtsabteilung eines Unternehmens muss Standards zum Einsatz von KI etablieren und die Datennutzung und -analyse der KI-Systeme auf ihre Kompatibilität mit staatlichen Richtlinien und Gesetzen prüfen (z.B. DSGVO, AGG).

Eine Schlüsselrolle kommt der Personalabteilung als Vermittlerin zwischen der Unternehmensführung und den Mitarbeitern zu. Sie kann Beurteilungsprozesse und Weiterbildungsvorschläge prüfen und sollte befragt werden, wenn es darum geht, auf welcher Basis Personalentscheidungen gefällt werden.

Produktion und Vertrieb schließlich können KI für ein wettbewerbsfähiges Produktangebot nutzen. Die Mitarbeitenden sollten geschult werden, um zu verstehen, welche Chancen und Herausforderungen sich mit dem Einsatz von KI in Produktion, Vertrieb und Marketing ergeben.

Seien Sie mit dabei! Treffen Sie die Embedded-Community von 14.-16. März 2023 im Messezentrum in Nürnberg und tauschen Sie sich mit internationalen Experten aus!

KI-Systeme sind nicht unvoreingenommen

Grundsätzlich verwenden KI-Systeme bestimmte Merkmale, um vordefinierte Aktionen auszulösen. Auf Algorithmen basierende Modelle sind nie vollkommen unvoreingenommen, denn die ihnen zugrundeliegenden Daten werden nach vorher festgelegten Kriterien beurteilt und kategorisiert. Bei der Definition der vordefinierten Aktionen spielen deshalb rechtliche und ethische Standards eine entscheidende Rolle.

Ein Beispiel: Der Heimatort einer Person ist für sich genommen nur ein Datenfragment. Doch wenn die KI auf Grundlage dieser Daten beispielsweise einen Kunden benachteiligt, da er mutmaßlich weniger einkommensstark und damit weniger profitabel ist, ist das eine ungerechte und unethische Diskriminierung. Wird das Merkmal Heimatort dagegen dazu genutzt, um dem Kunden in der Warteschleife Musik vorzuspielen, die ihn an seine Heimat erinnert, hat das eventuell einen positiven Einfluss auf das Kundenerlebnis. In beiden Fällen hat die KI das gleiche Merkmal verwendet, um eine Aktion auszulösen.

Algorithmen muss eine möglichst umfassende Datenbasis zugrunde liegen, um die Voreingenommenheit zu verringern. Sowohl Datenbasis als auch Algorithmus von intelligenten Systemen müssen permanent optimiert werden.  

Verantwortungsbewusster Einsatz von KI

Ein verantwortungsbewusster Umgang mit KI-Systemen basiert auf drei Säulen:

  • Kontrolle der durch die KI produzierten Ergebnisse anhand von Leitlinien;
  • Nachvollziehbarkeit von KI-Entscheidungen von der Datenerhebung bis zur Aktion;
  • Transparenz hinsichtlich Datenerfassung und -analyse durch die KI.

Unternehmen bleiben während des gesamtem Lebenszyklus eines KI-Systems für dessen Entscheidungen verantwortlich. Hieraus folgt nicht nur eine juristische, sondern auch eine ethische Verantwortung.

In Track 8 der embedded world Conference 2023 finden Sie Vorträge rund um das Thema Einsatz von KI in eingebetteten Systemen.

Quelle: Die Originalfassung dieses Artikels von Heinrich Welter, Genesys,  lesen sie auf elektroniknet.de