Generative KI entfesselt: Kontrolle, Kreativität, Krise?

Hier geht eine geradezu idealtypische Disruption vor sich, entsteht eine neue Konkurrenz für die kognitiven und kreativen Fähigkeiten des Menschen. Selbstverständlich ist KI auch ein Streßtest für Organisationen, kommerzielle Unternehmen ebenso wie staatliche Institutionen einschließlich des Bildungssystems. Angesichts der enormen Entwicklungsgeschwindigkeit und der Marktdynamik wird die Anpassungsfähigkeit der betroffenen Sektoren zum entscheidenden Faktor für die Zukunftschancen einer Gesellschaft und ihrer Kultur. Dementsprechend resümierte Prof. Dr.-Ing. Alois Knoll, TU München, der die Möglichkeiten und Perspektiven generativer KI in der Industrie untersuchte, seine Forderungen: China-Speed und Bildung.

Diese Forderungen sind nicht ganz neu, werden aber neu drängend und treffen Deutschland an verwundbaren Stellen. Insofern hätte man sich auch einen Referenten aus dem Kultusministerium gewünscht. Die Bayerische Digitalministerin Carolin Stimmelmayr hatte eher die Wahrung staatlicher Deutungshoheit als Grundlage des demokratischen Gemeinwesens im Auge und stellte dafür die Bayern-Allianz gegen Desinformation vor. Die entsprechende Kampagne "Glaube nicht alles, was du siehst" richtet sich gegen immer zahlreicher werdende Deep-Fakes und fügt sich in das wohlbekannte Konzept der Medienerziehung ein, in dem auch ein Medienführerschein und ein Digitalführerschein angeboten werden.

Die Erziehung zu Skepsis und Distanz ist an anderer Stelle leider noch zu sehr wirksam, so jedenfalls die Folgerung aus aktuellen Umfragen, die Florian Kunzke, SAP, zitierte. Nach einer Gartner-Studie glauben 77% aller Geschäftsführer, dass ihre Belegschaften nicht genügend KI-Expertise mitbringen oder aufbringen. Gleichzeitig glauben aber laut einer McKinsey-Studie 87% der Geschäftsführer, daß die KI in den nächsten drei Jahren für Umsatzwachstum sorgen wird. Hier paßt offensichtlich einiges nicht zusammen, oder anders gewendet: die Unternehmen haben noch enorme Veränderungen vor sich.

Wo angesetzt werden muß, ist kein Geheimnis: fehlende Datenverfügbarkeit oder -kompatibilität, hinderliche Regulierung, nicht beherrschte technische Komplexität und nicht zuletzt kulturelle, auch firmenkulturelle Widerstände. Eine klare Strategie ist ebenso notwendig wie ein dazugehöriges "Change Management". Zu solcher Strukturveränderung steuerte Katharina Meiler, Finanz Informatik (FI), einen originellen Ansatz bei: "Verlernen für Fortschritt: Was es heißt sich radikal zu hinterfragen und dadurch echte Transformation zu ermöglichen".

Man müsse das Alte und Überkommene erst aktiv außer Kraft setzen, ehe man das Neue erfolgreich einsetzen könne. Und wo ist das Überkommene sedimentiert? "Führung und Kultur sind die größten Blockaden". Es geht also um einen strukturellen Umbau und oft auch einen Abbau von Hierarchien, außerdem um eine Revision von Arbeitsplätzen, also um organisationale Mobilität statt fester Zuordnung. Verlangt wird nicht mehr Führung, die alles im Griff hat (oder zu haben glaubt), sondern Führung, die loslässt. Meilers Verlern-Manifest lautet demnach: "Menschen geben Energie – nicht Systeme. Vertrauen schafft Verantwortung. Führung klärt – sie kontrolliert nicht."

Die globale Perspektive

Um die europäische Innovationsbereitschaft und -kraft ist es bekanntermaßen nicht zum Besten bestellt, wie einschlägige EU-Regularien zeigen. Dies führte auf der Konferenz auch ein Kontinentalvergleich vor Augen: USA-China-Europa. In den USA wird keine allgemeine und pauschale Risikobewertung akzeptiert, sondern immer nur konkrete Regulierung vorgenommen. Dazu kommt selbstverständlich der Schutz der heimischen Industrie, deren Handlungs- und Erfolgsspielraum man nicht einschränken will. Daß man Rechenzentrumskapazität mühelos expandieren und dafür auch Kernkraftwerke einsetzen kann, gehört zur materiellen Basis des KI-Booms.

In China werden Rechenzentren ebenfalls großzügig neu gebaut, denn man versteht sich, nicht nur was KI angeht, in einer Technologieschlacht, die man gewinnen will. Zwar übt der autoritäre Staat politische Kontrolle über die gesellschaftlichen Auswirkungen der KI aus, läßt aber den B2B-Sektor unreguliert, so daß man dort keine hinderliche Rechtsprechung zu fürchten hat. Für die EU läßt sich bestenfalls feststellen, daß der AI-Act noch interpretationsbedürftig ist. Daß er Innovation per se nicht fördert - weil sie ja von Unternehmen kommen muß -, versteht sich.

Man kann aber noch etwas tiefer nach der Begründung derartiger Regulierung fragen, nämlich, woraus sie ihre Kriterien bezieht, wenn man die wirklich großen und einflußreichen LLMs gar nicht aus eigener Produktion kennt. Und selbst, wenn man in der Lage wäre, LLMs bewußt anpassen zu wollen, bliebe die Frage: an wen - wie Prof. Dr. Frauke Kreuter, Ludwig-Maximilians-Universität München, darlegte. Sie untersuchte den Interpretationsspielraum bei Annotationen, also beim Etikettieren/Kategorisieren der Ausgangsdaten.

Sobald sich eine Gesellschaft als pluralistisch versteht, gibt es ein gemeinsames Wertesystem nur noch in kleinen Bereichen. Einen Kulturkampf hatten wir schon im Kaiserreich, und gerade erleben wir wieder, ausgelöst durch die importierte "woke" Weltanschauung, einen ideologischen Kampf um die Diskurs- und Deutungshoheit. Auch von der Wikipedia kennt man Editorenkämpfe. Daß LLM-Antworten am Ende offenbar noch einen Freundlichkeitsfilter durchlaufen, ist keine Lösung. Nicht verwunderlich, daß Sam Altman 2023 erklärte, am meisten fürchte er die Verzerrungen durch die menschlichen Feedback-Bewerter.