Entscheidungen von Künstlichen Intelligenzen sichtbar gemacht

Entscheidungen von Künstlichen Intelligenzen sichtbar gemacht

(Quelle: Pressemitteilung der Fraunhofer Gesellschaft , 01.07.2019)

Heute gibt es kaum noch einen Bereich, in dem Künstliche Intelligenz (KI) keine Rolle spielt, sei es in der Produktion, der Werbung oder der Kommunikation. Doch bisher wusste man nicht, wie ein Neuronales Netz Entscheidungen trifft. Forschende des Fraunhofer Heinrich-Hertz-Instituts HHI und der Technischen Universität Berlin haben nun eine Technik entwickelt, die erkennt, anhand welcher Kriterien KI-Systeme Entscheidungen fällen.

Viele Unternehmen nutzen lernende und vernetzte KI-Systeme, etwa um präzise Nachfrageprognosen anzustellen und das Kundenverhalten exakt vorherzusagen. Auf diese Weise lassen sich beispielsweise Logistikprozesse regional anpassen. KI-Systeme können aber auch für das Stromnetz mit all seinen Akteuren wie konventionelle und regenerative Kraftwerke, stromverbrauchende und auch -erzeugende Haushalte, Stromspeicher (Redox-Flow-Batterien oder Wasserstoffelektrolyse) und Großverbraucher wie die Stahlindustrie Anwendung finden, wie am Karlruher Institut für Technologie (KIT) erforscht wird. Bei solchen Anwendungen ist es extrem wichtig, die Entscheidungen der KI nachzuvollziehen um gegebenenfalls Fehler zu beheben. Bislang war es jedoch nicht nachvollziehbar, wie KI-Systeme Entscheidungen treffen. Eine neuartige Methode erlaubt nun den Blick in die »Black Box« einer KI.

Die Wissenschaftler des Fraunhofer-HHI und der TU Berlin haben eine Technik entwickelt, die KI-Prognosen überprüfbar macht und somit unsichere Problemlösungsstrategien aufdeckt. Dies wurde im Magazin Nature Commun. veröffentlicht und anhand einiger Beispiele von falschen Lösungsstrategien erklärt. Es handelt sich um ein Verfahren, welches die Relevanz einzelner Informationen (z.B. Pixel eines Bilder) für die Entscheidungsfindung einer KI als Heatmaps darstellt und somit für Menschen leicht interpretierbar macht.

Mit der entwickelten Open-Source-Software lassen sich die Lösungsstrategien von Künstlichen Intelligenzen prüfen. Die falschen Strategien können dann mittels besserer Datensätze verlernt und bessere Lösungsstrategien erlernt werden. Frei nach dem Motto: jede KI ist nur maximal so gut wie ihr zum Lernen zur Verfügung stehender Datensatz.