Klassifizierung von Gemälden
Computer Vision Algorithmen analysieren Kunstwerke
Wenn man ein Gemälde untersucht, kann man in der Regel mehrere Folgerungen daraus ziehen. Zusätzlich zum Verständnis des Bildgegenstandes, ist man wahrscheinlich in der Lage, das Bild z.B. nach Epoche, Stil und Künstler zu klassifizieren. Aber kann auch ein Computeralgorithmus ein Gemälde gut genug verstehen, um diese Klassifizierungsaufgaben wie ein Mensch durchzuführen?
Bild 1: Ein Algorithmus ermittelte den Einfluss von Diego Velázquez Papstporträt ‚Innozenz X‘ (links) mit Francis Bacons ‚Study After Velázquez’s Portrait of Pope Innocent X‘ (rechts). (Bild: ©Wikimedia Commons/Gemeinfrei (links) / ©Francis Bacon (rechts))
Am Art and Artificial Intelligence Laboratory der Rutgers University in New Jersey sind verschiedene Forscher mithilfe von Matlab und einer Datenbank mit tausenden Gemälden aus den letzten sechs Jahrhunderten dieser Frage nachgegangen. Außerdem wurden noch zwei weitere Fragen über die Leistungsfähigkeit und Beschränkungen von KI-Algorithmen (Künstliche Intelligenz) erörtert: Können diese Algorithmen ermitteln, welche Gemälde den größten Einfluss auf nachfolgende Künstler hatten und die Kreativität eines Gemäldes messen, indem sie sich nur auf visuelle Merkmale stützen?
Extrahieren visueller Merkmale
Ziel war es, Algorithmen zu entwickeln, die in der Lage sind, große Gruppen von Gemälden nach ihrem Stil (Kubismus, Impressionismus, abstrakter Expressionismus, Barock…), Genre (Landschaftsmalerei, Porträt, Stillleben…) und Künstler zu klassifizieren. Eine Anforderung für diese Klassifizierung war die Fähigkeit, Farbe, Komposition, Textur, Perspektive, Motiv und andere visuelle Merkmale erkennen zu können. Eine zweite Anforderung war die Fähigkeit, die visuellen Merkmale auszuwählen, die die Ähnlichkeiten zwischen den Gemälden am besten verdeutlichten. Mithilfe von Matlab und der Image Processing Toolbox entwickelte man Algorithmen, um die visuellen Merkmale eines Gemäldes zu extrahieren. Der Merkmalextraktionsalgorithmus ist im Bereich Computer Vision gängige Praxis und lässt sich einfach implementieren. Die schwieriger zu bewältigende Aufgabe war es, die besten Techniken für maschinelles Lernen zu finden. Daher wurden Support Vector Machines (SVMs) und andere Klassifizierungsalgorithmen der Statistics and Machine Learning Toolbox getestet, um visuelle Merkmale zu ermitteln, die zur Klassifizierung des Stils nützlich sind. Danach setzte man in Matlab Techniken zum Erlernen von Abstandsmetriken an, um die einzelnen Merkmale zu gewichten und dadurch die Fähigkeit des Algorithmus, Gemälde zu klassifizieren, nochmals zu verbessern. Die Algorithmen konnten die Stile der Gemälde in der Datenbank mit einer Genauigkeit von 60% klassifizieren; bei einer Klassifizierung nach dem Zufallsprinzip wäre man nur auf eine Genauigkeit von 2% gekommen. Obwohl Kunsthistoriker diese Aufgabe mit einer weitaus höheren Genauigkeit als 60% durchführen können, liefert der Algorithmus eine höhere Leistung als eine durchschnittliche, nicht fachkundige Person.
Maschinelles Lernen deckt Kunsteinflüsse auf
Als die Algorithmen die Ähnlichkeiten zwischen Gemäldepaaren zuverlässig ermitteln konnten, stand die nächste Herausforderung an: mit maschinellem Lernen Einflüsse in der Kunst offenbaren. Die Hypothese war, dass visuelle Merkmale, die für die Klassifizierung des Stils (Problemstellung mit überwachtem Lernen) nützlich sind, auch dazu verwendet werden können, die Einflüsse zu bestimmen (Problemstellung mit unüberwachtem Lernen). Wenn Kunsthistoriker Theorien zu den Einflüssen in der Kunst entwickeln, stützen sie sich auf Informationen wie die Arbeitsweise und Reisen der Künstler und ob diese mit Zeitgenossen ausgebildet wurden. Die neuen Algorithmen verwendeten nur visuelle Elemente sowie Kompositionsdaten. Unter der Annahme, dass ein Algorithmus, der Objekte und Symbole des Gemäldes berücksichtigt, effektiver ist als ein Algorithmus, der sich auf Low-Level-Merkmale wie Farbe oder Textur stützt, setzte man Klassifizierungsalgorithmen ein, die auf Google Bildern trainiert wurden, bestimmte Objekte zu erkennen. Die Algorithmen wurden an über 1.700 Gemälden von 66 unterschiedlichen Künstlern aus eine Zeitspanne von 550 Jahren getestet. Der Algorithmus ermittelte auf Anhieb den Einfluss von Diego Velázquez’s Papstporträt ‚Innozenz X‘ auf Francis Bacons ‚Study After Velázquez’s Portrait of Pope Innocent X'(Bild 1). Die Ähnlichkeiten von Komposition und Motiv bei beiden Gemälden sind auch von Laien einfach zu erkennen, aber der Algorithmus hat auch Ergebnisse hervorgebracht, die Kunsthistoriker überraschten. Der Algorithmus erkannte beispielsweise ‚Bazilles Atelier in der Rue Condamine 9‘ des französischen Impressionisten Frédéric Bazille von 1870 als möglichen Einfluss auf Norman Rockwells ‚Shuffleton’s Barbershop‘, das 80 Jahre später entstand (Bild 2). Obwohl sich die beiden Gemälde auf den ersten Blick nicht ähneln, offenbaren sich bei genauerem Hinsehen Gemeinsamkeiten bei Komposition und Motiv, einschließlich der Öfen in der unteren rechten Ecke der beiden Gemälde, der Gruppe von drei Männern in der Mitte und den Sesseln und dreieckigen Flächen in der linken unteren Ecke. In dem entsprechenden Datensatz haben die Algorithmen 60% der 55 Einflüsse, die von Kunsthistorikern erkannt wurden, richtig bestimmt, was vermuten lässt, dass allein eine visuelle Ähnlichkeit ausreichend Informationen bietet, damit Algorithmen (und wahrscheinlich auch Personen) eine Vielzahl an Einflüssen bestimmen können.
Bild 2: Der gleiche Algorithmus fand auch Einflüsse bei Frédéric Bazilles ‚Bazilles Atelier in der Rue Condamine 9‘ (links) mit Norman Rockwells ‚Shuffleton’s Barbershop‘ (rechts). Die gelben Kreise zeigen ähnliche Objekte an, die roten Linien die ähnliche Komposition und die blauen Rechtecke markieren ähnliche Strukturelemente. (Bild: ©Wikimedia Commons/gemeinfrei (links) / ©Norman Rockwell(rechts))
Messen von Kreativität
Bild 3: Errechnete Kreativitätspunkte (y-Achse) für Gemälde zwischen den Jahren 1400 und 2000 (x-Achse), welche die höchsten Punktwerte ausgewählter Gemälde in den einzelnen Epochen zeigen. (Bild: ©Wikimedia Commons/gemeinfrei / ©Roy Lichtenstein)
In letzter Zeit konzentrierte sich die Forscher auf das Entwickeln von Algorithmen zum Messen von Kreativität in der Kunst. Das Projekt stützt sich auf eine weit verbreitete Definition, die ein Objekt als ‚kreativ‘ identifiziert, wenn es sowohl neuartig als auch einflussreich ist. Nach dieser Definition unterscheidet sich ein kreatives Gemälde von vorher entstandenen Gemälden (es ist neuartig), ähnelt jedoch Gemälden, die danach entstanden sind (es ist einflussreich). Beim Bearbeiten dieser Problemstellung kamen erneut die Matlab-Algorithmen zur Ermittlung von Ähnlichkeiten zwischen Gemälden zum Einsatz. In Matlab wurde ein Netzwerk erstellt, in dem die Eckpunkte Gemälde sind und jede Ecke eine Ähnlichkeit zwischen zwei Gemälden an ihren Eckpunkten repräsentiert. Durch eine Reihe von Transformationen innerhalb dieses Netzes stellten man fest, dass es sich bei diesem Verfahren – dem Ziehen von Rückschlüssen auf die Kreativität mittels eines Graphen – um eine Problemstellung der Netzzentralität handelt, die mit Matlab gelöst werden kann. Die Kreativitätsalgorithmen wurden mit zwei Datensätzen getestet, die über 62.000 Gemälde enthalten. Der Algorithmus ergab hohe Punktwerte bei mehreren Werken, die von Kunsthistorikern sowohl als neuartig, als auch als einflussreich angesehen wurden. Einige dieser Werke sind in Bild 3 aufgeführt: Edvard Munchs ‚Der Schrei‘ (1893) und Pablo Picassos ‚Les Demoiselles d’Avignon‘ (1907). In derselben Epoche ergaben mehrere Gemälde von Kasimir Malewitsch einen noch höheren Punktwert als Picassos Werk. Dieses Ergebnis überraschte anfangs. Allerdings ergaben Nachforschungen, dass Malewitsch der Gründer der Suprematismus-Bewegung war, eine der frühesten Entwicklungen abstrakter Kunst. Zur Durchführung einer Basisvalidierung des Algorithmus wurde das Datum bestimmter Kunstwerke geändert, wodurch sie in der Zeit zurück oder nach vorne verschoben wurden. Bei diesem Zeitmaschinen-Experiment zeigte sich, dass sich die Kreativitätspunkte impressionistischer Kunstwerke, die in das 17. Jahrhundert zurückversetzt wurden, erheblich erhöhten und die Punkte barocker Werke, die in das 20. Jahrhundert verlagert wurden, erheblich verringerten. Die Algorithmen bildeten also korrekt ab, dass das, was vor 300 Jahren kreativ war, heute nicht mehr kreativ ist und dass sich bei heutigen kreativen Werken der Kreativitätsgrad erhöhen würde, wenn sie bereits in der Vergangenheit eingeführt worden wären. Das Matlab-Framework zur Identifizierung von Ähnlichkeiten und zur Messung von Kreativität ist nicht alleine auf die Kunst beschränkt. Man kann es ebenso für Literatur, Musik oder andere kreative Bereich everwenden, sofern einzelne Werke so decodiert werden können, dass sie für Algorithmen erschließbar sind.
