Online-Weiterbildung
Präsenz-Weiterbildung
Produkte
Themen
Dashöfer

Vertrauenswürdige KI-Anwendungen: Empfehlungen für Unternehmen

04.09.2024  — Online-Redaktion Verlag Dashöfer.  Quelle: Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO.

Das Fraunhofer IAO hat im Auftrag des Innovationsparks Künstliche Intelligenz (IPAI) ein Whitepaper zu vertrauenswürdiger KI veröffentlicht. Das Forschungsteam hat in der Publikation zentrale ethische Leitlinien analysiert und praxisnahe Empfehlungen erarbeitet, die Unternehmen dabei unterstützen, KI-Systeme verantwortungsvoll einführen, umsetzen und steuern zu können.

Die Einsatzmöglichkeiten und Anwendungsbereiche von Künstlicher Intelligenz sind so vielfältig und variabel, dass Unternehmen aller Branchen davon profitieren können. Andererseits birgt die Technologie unterschiedliche Risiken, beispielsweise intransparente Ergebnisse oder die Verstärkung von Vorurteilen und Diskriminierung. So wird eine KI-Anwendung, die auf einem Datensatz basiert, in dem Frauen stark unterrepräsentiert sind, für Frauen schlechter funktionieren. Das kann je nach Einsatz der KI-Anwendung zu Benachteiligungen und Ausschlüssen führen. Wie können Unternehmen bei der Entwicklung und dem Einsatz von KI Risiken minimieren und Potenziale heben?

Schlüsselaspekte für die Implementierung vertrauenswürdiger KI in Unternehmen

Als Reaktion auf die mit KI-Systemen verbundenen Risiken wurden zahlreiche ethische Leitlinien von akademischen Einrichtungen, Regierungen oder Interessensgruppen entwickelt. Um Unternehmen angesichts dieser Vielzahl an Leitlinien Orientierung zu bieten, hat das Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO im Auftrag des Innovationsparks Künstliche Intelligenz (IPAI) das Whitepaper »Vertrauenswürdige KI und verwandte Konzepte verstehen und anwenden« veröffentlicht. »Unsere Analyse zeigt, dass die ethischen Anforderungen der analysierten Konzepte sich stark überschneiden und für Unternehmen als guter Orientierungsrahmen dienen können, KI-Systeme verantwortungsbewusst zu entwickeln und einzusetzen. Für den konkreten Anwendungsfall im Unternehmen, müssen die Konzepte spezifisch operationalisiert werden«, erläutert Jessica Wulf, wissenschaftliche Mitarbeiterin und eine der Hauptautorinnen des Whitepapers.

Die Handlungsempfehlungen umfassen folgende Punkte:

  • Spezifizierung: Konzepte wie vertrauenswürdige KI dienen als Grundgerüst, das für spezifische Anwendungsfälle im Unternehmen Orientierung bietet.
  • Interdisziplinarität: Interdisziplinäre Teams ermöglichen es, ethische Anforderungen und technische Entwicklung von Anfang an zusammen zu denken und sind für die Umsetzung vertrauenswürdiger KI wichtig.
  • Priorisierung und Risikoabwägung: Anforderungen an vertrauenswürdige KI müssen im Spannungsfeld zur Leistungsfähigkeit der Systeme unternehmensspezifisch und kontextabhängig abgewogen werden
  • Rollen und Verantwortlichkeiten: Die Vermenschlichung von KI-Systemen kann zu Verantwortungsdiffusion führen, daher sind klar definierte Verantwortlichkeiten notwendig.
  • Partizipation: Die Mitarbeitenden sollten bei der Einführung von KI-Systemen aktiv einbezogen werden, um Raum für Mitbestimmung und Bedenken sicherzustellen.

Das Ziel des Whitepapers ist es, Unternehmen eine fundierte und praktikable Auseinandersetzung mit dem Thema vertrauenswürdige KI und verwandte Konzepte zu ermöglichen.

Bild: Tara Winstead (Pexels, Pexels Lizenz)

nach oben
FAQ