Das Internet ist voller Katzen, meldete die New York Times im Juni 2012. Das an sich war aber gar nicht die Neuigkeit, sondern die Art, wie die Erkenntnis gewonnen wurde. Eine Gruppe von Forschern des Internetkonzerns Google hatte 16 000 Computerprozessoren zu einem Netzwerk verbunden und auf Webvideos losgelassen. Das künstliche neuronale Netz der Wissenschaftler sollte die darin aufgefundenen Objekte kategorisieren und hatte sich im Zuge dessen drei Konzepte selbst beigebracht: menschliche Gesichter, menschliche Körper - und Katzen. Damals hörte ich das erste Mal von Deep Learning. Seither hat das Prinzip erstaunliche Leistungen vollbracht. Es braucht kein Vorwissen über Zusammenhänge, sondern findet diese mit Rechengewalt in riesigen Datenmengen (S. 40). Beides gibt es massig in unserer hochdigitalisierten Gesellschaft. Angesichts der Erfolge lassen Forscher, Konzerne und Regierungen in vielen Bereichen bereits Algorithmen verschiedenste Folgerungen aus den Daten ihrer Experimente, Kunden und Bürger ziehen. Oft bleibt dabei aber im Dunkeln, was die Maschine auf dem Weg zum Urteil eigentlich interessant fand. So haben kalifornische Dermatologen einen Algorithmus mit fast 130 000 klinischen Bildern darauf trainiert, Hautkrebs zu erkennen (Nature 542, S. 115-118, 2017). Am Ende gelang ihm das zwar ähnlich gut wie menschlichen Spezialisten. Doch auf dem Weg dahin hatten die Forscher dem Programm stattdessen unabsichtlich beigebracht, auf Lineale anzusprechen - denn diese hatten die Ärzte beim Fotografieren meist neben verdächtige Läsionen gelegt. Der Algorithmus unterschied also nicht zwischen sinnvollen und nutzlosen Merkmalen. Im besten Fall bemerkt das jemand, im schlechtesten reproduzieren die Algorithmen lediglich in den Datensätzen verborgene systematische Fehler. Deep Learning steckt auch in den sensorbewehrten Automobilen der Zukunft, die sich voraussichtlich nicht nur verstärkt elektrisch (Artikelserie S. 6-33), sondern obendrein zunehmend autonom bewegen werden (S. 34). Hier sind die drohenden Gefahren durch Irrtümer des Bordcomputers offensichtlich. Subtiler wird es in der Physik: Maschinelles Lernen filtert die Datenmassen moderner Teilchenbeschleuniger, und einige Quanteninformatiker wollen damit gar die komplexen Architekturen und die störanfälligen Regelsysteme für Quantencomputer (S. 84) in den Griff bekommen. Wenn Algorithmen Systeme auf Wegen verbessern, die Menschen kaum mehr nachvollziehen können, müssen wir solche potenziell bahnbrechende Entwicklungen kritisch auf ihre Schwächen abklopfen. Sonst laufen wir Gefahr - um eine Definition des Schriftstellers Ambrose Bierce für Revolutionen zu verwenden -, lediglich abrupt von einer Form der Misswirtschaft in eine neue zu wechseln. Was wir erschaffen, ist bestimmt mindestens so fehlerhaft wie wir. Aber aus Fehlern kann man ja lernen. Mike Beckers, Spektrum der Wissenschaft.