Verfahren zur Einflussbestimmung für fusionierende künstliche neuronale Netzwerke

Damit die Entscheidungen von trainierten fusionierenden neuronalen Netzwerken besser nachvollzogen werden können, wurden neue Analysemethoden entwickelt. Mithilfe der neuen Verfahren ist es möglich zu quantifizieren welches Bild von einem gegebenen Eingangsbildpaar mehr Einfluss auf die Entscheidung des trainierten Klassifikators hat. Zudem kann qualifiziert werden, welche Bildbereiche für diese Entscheidung wichtig sind. Die erhobenen Bilddaten und ein trainiertes neuronales Netzwerk-Ensemble des neuen Typs wurden mithilfe der neuen Analyseverfahren untersucht. Es zeigte sich, dass Netzwerke mit einer guten Performanz ähnliche Konzepte wie menschliche Beobachter benutzen um die Bildinhalte zu klassifizieren.

Eingangsbildpaar mit dazugehörigen visualisierten Einflussregionen (links). Performanzkurven zur Bestimmung welches Bild mehr Einfluss auf die Entscheidung des Klassifikators hat (rechts).

Paper: https://www.eurasip.org/Proceedings/Eusipco/Eusipco2020/pdfs/0001427.pdf

Veröffentlicht auf der EUSIPCO 2020, https://doi.org/10.23919/Eusipco47968.2020.9287315, Copyright liegt bei IEEE.

Comments are closed.