Startseite » Industrie 4.0 »

IBM öffnet Black Box der KI

Transparenz für Künstliche Intelligenz: Software von IBM deckt Fehler in Daten und Modellen auf
IBM öffnet Black Box der KI

IBM_Davd_Kenny_2018.jpg
„IBM hat bei der Festlegung von Vertrauens- und Transparenzgrundsätzen für die Entwicklung neuer KI-Technologien Maßstäbe für die ganze Industrie gesetzt“, erklärt David Kenny, SVP of Cognitive Solutions bei IBM. „Es ist an der Zeit, diesen Prinzipien auch Taten folgen zu lassen.“ Bild: IBM
Anzeige

Eine Software von IBM soll mehr Transparenz in den Bereich der Künstlichen Intelligenz (KI) bringen. Bislang gilt insbesondere das Maschinelle Lernen (ML) in künstlichen neuronalen Netzwerken als undurchschaubre Black Box, weil die komplexen trainierten Modelle nur schwer interpretierbar sind. Sie bestehen aus Millionen verschiedener Parameter, die alle auf sehr komplizierte Weise interagieren. Dieses Blackbox-Problem macht es kompliziert, Machine-Learning-Modelle in Bereichen einzusetzen, in denen Sicherheit und Vorhersagbarkeit wichtig sind.

IBMs Software zeigt in Echtzeit auf welcher Grundlage Entscheidungsvorschläge zustande kommen und erkennt automatisch quantitative und qualitative Mängel in Daten und KI-Modellen. Sie läuft auf der IBM Cloud und soll Unternehmen helfen, KI-Systeme für eine große Bandbreite an Branchen und Kunden nutzbar zu machen, indem sie Vertrauen in die Qualität der Entscheidungsvorschläge schafft. Zusätzlich übergibt IBM Research ein KI-Toolkit zur Erkennung von systematischen Fehlern und Anpassung an die Open-Source-Community. Damit soll der weltweite Austausch und die Zusammenarbeit zur Entwicklung von vorurteilsfreien KIs gefördert werden.

David Kenny, SVP of Cognitive Solutions bei IBM: „Wir geben den Unternehmen, die KI einsetzen und dem potenziellen Risiko durch fehlerhafte Entscheidungen ausgesetzt sind, neue Transparenz und Kontrolle.“ Damit will IBM auch Anwender-Befürchtungen zerstreuen: Laut Untersuchungen von IBMs Institute for Business Value streben zwar 82 Prozent der Unternehmen eine KI Einführung an, aber 60 Prozent befürchten Probleme mit der Verlässlichkeit der Technologie. Und 63 Prozent haben nicht die Mitarbeiter im Haus, um die Technik sicher zu managen.

Entscheidungen der KI sichtbar machen

Die neue Software in der IBM Cloud arbeitet mit Modellen, die sich aus einer Vielfalt von Frameworks für maschinelles Lernen und KI-Umgebungen wie Watson, Tensorflow, SparkML, AWS SageMaker, und AzureML zusammensetzt. Somit profitieren Unternehmen von den Kontrollmöglichkeiten für die meistverbreiteten KI Frameworks. Man kann damit aber auch die Entscheidungsgrundlagen von jedem Workflow überwachen. Die Software lässt sich also an die individuellen Bedürfnisse der Unternehmen anpassen.

Der vollautomatisierte Software-Service erklärt die Entscheidungsfindung durch KI während der Verarbeitung. So werden potentielle Mängel in Quantität oder Qualität der dem System zur Verfügung gestellten Daten oder nicht balancierte Ergebnisse von vornherein vermieden. Die Software empfiehlt gegebenenfalls automatisch, dem Modell mehr Daten hinzuzufügen, um Anpassungen vorzunehmen.

Die Erklärungen sind einfach zu verstehen und zeigen alle Faktoren klar auf, die Entscheidungen der KI in die eine oder andere Richtung beeinflusst haben und wie vertrauenswürdig der Vorschlag ist. Die Datengrundlagen zur Treffsicherheit, Ausführung und Fairness und die Herkunft des jeweiligen KI-Modells werden aufgezeichnet. So können Kundenservice oder Compliance-Verantwortliche jederzeit Einsicht nehmen, was auch für die europäische Datenschutzrichtlinie DSGVO wichtig ist.

Diese Möglichkeiten können Mitarbeiter ohne IT-Kenntnisse mit Hilfe von visuellen Dachboards nutzen. So können nicht nur spezialisierte KI-Experten nachvollziehen, wie KI-Entscheidungen getroffen werden, was Abhängigkeiten verhindert und mehr Vertrauen schafft. IBM stellt auch neue Beratungsservices zur Verfügung, mit denen Unternehmen ihre eigenen Prozesse und Schnittstellen von Mensch zu KI erstellen können – um systematische Fehler in den Entscheidungsvorschlägen von KI zu minimieren.

https://www.ibm.com/de-de/


Mehr zum Thema Industrie 4.0
Anzeige
Aktuelle Ausgabe
Titelbild Automationspraxis 7
Ausgabe
7.2020
LESEN
ABO
Schlagzeilen
Newsletter

Jetzt unseren Newsletter abonnieren

mav Innovationsforum 2020 DIGITAL EDITION

Jetzt Webcast ansehen und spannende Themen und Innovationen erleben!

Messevideo


Mechatronik in der Mensch-Roboter-Kollaboration: Die Zimmer Group zeigt, wie es geht.

Kalender

Aktuelle Termine für die Automatisierungsbranche

Whitepaper

Whitepaper aller unserer Industrieseiten

Alle Webinare & Webcasts

Webinare aller unserer Industrieseiten

Anzeige
Anzeige

Industrie.de Infoservice
Vielen Dank für Ihre Bestellung!
Sie erhalten in Kürze eine Bestätigung per E-Mail.
Von Ihnen ausgesucht:
Weitere Informationen gewünscht?
Einfach neue Dokumente auswählen
und zuletzt Adresse eingeben.
Wie funktioniert der Industrie.de Infoservice?
Zur Hilfeseite »
Ihre Adresse:














Die Konradin Verlag Robert Kohlhammer GmbH erhebt, verarbeitet und nutzt die Daten, die der Nutzer bei der Registrierung zum Industrie.de Infoservice freiwillig zur Verfügung stellt, zum Zwecke der Erfüllung dieses Nutzungsverhältnisses. Der Nutzer erhält damit Zugang zu den Dokumenten des Industrie.de Infoservice.
AGB
datenschutz-online@konradin.de