Weltverändernd, revolutionär, voller Möglichkeiten – und zugleich eine potenzielle Gefahr für Mensch und Gesellschaft? Wenn es nach Sabine Köszegi von der TU Wien geht, ist künstliche Intelligenz (KI) all dies zugleich. „KI ist eine General Purpose Technology, die in sehr vielen Bereichen einsetzbar ist und viel verändern wird, vergleichbar etwa mit dem Internet oder dem elektrischen Strom“, sagt Köszegi. Sie selbst forscht an der Schnittstelle zwischen Mensch und Maschine, ihr Interesse gilt dabei einem breiten soziotechnischen Kontext.
KI ist eine technologische Revolution, ihr disruptives Potenzial für fast alle Lebens- und Arbeitsbereiche enorm. Ein Allheilmittel ist KI jedoch nicht, vielmehr wird der Begriff oft missverstanden und falsch eingesetzt.
„Es sollte nicht KI heißen, sondern Datenanalytik“, erklärt Köszegi. Der Begriff Intelligenz suggeriere, dass hier ein System selbstständig denkt und sich wie ein Mensch verhält. Das sei aber keineswegs der Fall.
Die zum Einsatz kommenden Algorithmen sind auf Korrelationen basierende Wahrscheinlichkeitsrechnungen, die sich hervorragend eignen, Muster in großen Datenmengen zu erkennen. Dies ist beispielsweise in medizinischen Anwendungsfällen von großem Nutzen, wo es oft darum geht, auf Krankheiten hinweisende Auffälligkeiten in Daten zu identifizieren. Die Systeme sind auch insofern intelligent, als sie dazulernen: Sie werden in ihrer Auswertung präziser, je öfter eine Analyse vorgenommen wird.
Doch darüber hinaus reichen die Kompetenzen von KI nicht. Denn auch von Berücksichtigung eines für Menschen selbstverständlichen Rahmens ethischer und moralischer Regeln kann keine Rede sein. So könne man einer Maschine zwar ohne Weiteres moralische Regeln vorgeben, ihr einprogrammieren, was gut und was schlecht ist – doch nur Menschen könnten die Sinnhaftigkeit von Regeln hinterfragen, um diese zu verändern oder in Ausnahmesituationen zu brechen, so Köszegi. „Diese kritische Auseinandersetzung muss immer vom Menschen kommen – sie kann gar nicht von einer Maschine kommen“, sagt die Forscherin.
KI eignet sich laut Köszegi daher ideal für Standardaufgaben und auch als Unterstützungssystem im Entscheidungsfindungsprozess, jedoch bestimmt nicht, um beispielsweise wichtige strategische Entscheidungen in einem Unternehmen oder einem Krankenhaus zu treffen. „Eine Maschine wird nie eine kluge strategische Entscheidung treffen. Visionen und Wertvorstellungen sollten immer von uns Menschen kommen. Das ist der ureigenste Teil unserer Autonomie, die wir nie aus der Hand geben sollten.“
Sabine Köszegi
ist Professorin für Arbeitswissenschaft und Organisation am Institut für Managementwissenschaften der TU Wien. Sie studierte in Österreich und den USA und ist seit 2009 wissenschaftliche Leiterin des MBA-Programms Innovation, Digitalization & Entrepreneurship an der TU Wien. Köszegis Forschungsschwerpunkte umfassen unter anderem die Untersuchung von Organisationskulturen und der ökonomischen Folgen der Digitalisierung und Robotik. Sie ist darüber hinaus Mitglied der High-Level Expert Group on AI der Europäischen Kommission.
Berücksichtigt werden muss in diesem Zusammenhang, dass man bei künstlichen neuronalen Netzen, einer Unterkategorie von KI, oft nicht weiß, wie das System zu einer Kategorisierung kommt. Es brauche hier, so Köszegi weiter, Expert*innen, die diese Systeme transparent aufsetzen. Bis dato sei das aber noch unzureichend entwickelt. „Die Explainability (Erklärbarkeit, Anm.) ist oft nicht vorhanden. Keine Ärztin würde sich bei einer wichtigen Entscheidung auf eine Blackbox verlassen und dann die Verantwortung tragen“, so Köszegi.
Auch potenzielle Gefahren der neuen Technologie sollten nicht verschwiegen werden. Sie reichen von der Auswertung online verfügbarer Informationen und damit einhergehenden Verletzungen der Privatsphäre bis zu einer Gefährdung demokratischer Strukturen durch gezielte Manipulation von Menschen. Die potenziellen Auswirkungen, insbesondere auf den Menschen, seine Grundrechte und gesellschaftliche Strukturen, seien riesig und vielfältig. Eben wegen dieser Vieldimensionalität sei es auch schwer, die Auswirkungen zu verstehen und sinnvolle Nutzungen zu entwickeln, so Köszegi: „Die Frage ist hier nicht nur, was wir tun können, sondern auch, was wir tun wollen.“
Köszegi ist Mitglied der High-Level Expert Group on AI der Europäischen Kommission. Ziel dieses interdisziplinären Expertenrats ist die sinnvolle Regulierung der Technologie, was zunächst eine Klassifizierung der Systeme voraussetzt. Auf Basis eines risikobasierten Ansatzes soll schließlich festgelegt werden, welche Systeme zum Schutz der Menschen auf politischer Ebene reguliert oder verboten werden müssen.
Eine Anpassung an die neuen technologischen Gegebenheiten ist laut Sabine Köszegi aber nicht nur in der Politik, sondern auf allen gesellschaftlichen Ebenen notwendig. Während sich Routineaufgaben automatisieren lassen, verlangen Positionen auf der Führungsebene in Zukunft höhere, differenzierte Kompetenzen, im Idealfall auch hybride Skillsets.
Das MBA-Programm Innovation, Digitalization & Entrepreneurship, dessen Lehrgangsleiterin Köszegi ist, möchte an dieser Stelle ansetzen. Das dreisemestrige Programm fokussiert auf die Schnittstelle zwischen Management und Technologie; Absolvent*innen lernen, Innovationspotenziale zu erkennen und diese in weiterer Folge auch unternehmerisch umzusetzen. Die erworbenen Qualifikationen und Fähigkeiten sollen dabei unterstützen, herausfordernde unternehmerische Projekte wie die Gründung von Start-ups erfolgreich umzusetzen.
Doch nicht nur in der Hochschulausbildung brauche es entsprechende Schwerpunkte, auch Bildungspläne benötigen im Hinblick auf die Herausforderungen der neuen technologischen Realität eine dringende Überarbeitung, so die Expertin: „Die Herausforderung ist heute nicht mehr so sehr, wie man Zugang zu Wissen erhält und ob man es reproduzieren kann, sondern zu beurteilen, was überhaupt Wissen ist – also ob man beurteilen kann, welche Informationsquellen zuverlässig und welche Informationen richtig sind. Es braucht daher analytische Kompetenzen, die uns erlauben, mit der wachsenden Komplexität durch den mehr oder weniger unbeschränkten Zugang zu Informationen aus unterschiedlichsten Quellen umzugehen.“
Wichtig seien an dieser Stelle auch zutiefst menschliche Fähigkeiten wie etwa Kreativität, divergentes Denken oder soziale Skills, sagt Sabine Köszegi. Es sollte so früh wie möglich angesetzt werden: „Wir müssen die Art des Lernens neu aufsetzen. Und das beginnt bereits im Kindergarten.“