Di, 23. Oktober 2018

Mehr Transparenz

19.09.2018 09:52

IBM öffnet „Black Box“ der künstlichen Intelligenz

IBM will mit einem neuen Software-Werkzeug mehr Transparenz in Anwendungen mit künstlicher Intelligenz bringen und damit das Vertrauen in solche Lösungen stärken. Die Software öffne die „Black Box“ der KI und erkenne automatisch mögliche Verfälschungen bei den Ergebnissen, teilte das Unternehmen am Mittwoch mit.

„Alle Entscheidungen, die künstliche Intelligenz trifft, haben ihre Basis in den eingegebenen Daten“, erklärte Wolfgang Hildesheim, der bei IBM in Deutschland für KI zuständig ist. „Da kann der Algorithmus so gut sein, wie er will.“ IBMs neue Technologie überprüfe daher etwa, ob eine ausgewogene und signifikante Datenbasis vorliege und damit auch tatsächlich verlässliche und relevante Ergebnisse geliefert werden können.

KI-Entscheidungen nachvollziehen
Das Werkzeug soll in Echtzeit Licht ins Dunkel bringen, wie eine KI-Anwendung zu ihren Entscheidungen kommt. Soll sie etwa den Bankberater dabei unterstützen, über die Kreditwürdigkeit eines Kunden oder geeignete Finanzprodukte zu entscheiden, müsse die entsprechende KI-Datenbasis so neutral und ausgewogen wie möglich sein. Der Service lasse sich auf verschiedenen Plattformen für maschinelles Lernen innerhalb IBMs Cloud-Angebot nutzen, sagte Hildesheim. Einen Teil der Lösung will das Unternehmen zudem allen Entwicklern aus der Open-Source-Gemeinde zur Verfügung stellen.

Vertrauen in KI stärken
IBM wolle damit vor allem auch das Vertrauen in KI-Systeme stärken. „Ohne Transparenz gibt es kein Vertrauen“, sagte Hildesheim. Eine Studie des Unternehmens habe jüngst herausgefunden, dass 82 Prozent der Unternehmen gerne künstliche Intelligenz zur Umsatzsteigerung nutzen würde. 60 Prozent der insgesamt 5000 befragten Entscheider hätten allerdings angegeben, dass sie Sorge haben, für mögliche Fehlentscheidungen der Systeme zur Verantwortung gezogen zu werden. 63 Prozent fehlt nach eigener Einschätzung das Know-how.

 krone.at
krone.at

Kommentare

Eingeloggt als 
Nicht der richtige User? Logout

Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung.

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB).

Newsletter

Melden Sie sich hier mit Ihrer E-Mail-Adresse an, um täglich den "Krone"-Newsletter zu erhalten.