Am 18. März 2026 war der KI Klub Werder zu Gast bei Jobst Heitzig, der direkt von der Pariser KI-Sicherheitskonferenz berichtete, die Ende Februar bei der UNESCO stattfand. Jobst war dort nicht nur Teilnehmer, sondern auch als Workshop-Leiter eingebunden. Entsprechend dicht, vielseitig und zugleich persönlich fiel sein Rückblick aus. Es ging nicht einfach um einen Konferenzbericht, sondern um eine Einordnung der Frage, wie wir mit immer leistungsfähigeren KI-Systemen umgehen wollen, bevor uns ihre gesellschaftlichen Folgen überrollen.
Schon zu Beginn machte Jobst deutlich, dass sich die Debatte über KI-Sicherheit verändert hat. Während vor einigen Jahren oft zwei Lager nebeneinander standen — hier die eher technisch geprägte AI Safety Community und dort die stärker gesellschaftlich argumentierende AI Ethics Community — zeigte die Pariser Konferenz, dass beide Perspektiven inzwischen enger zusammenrücken. Das ist wichtig. Denn Fragen nach Kontrollverlust, Machtasymmetrien, Diskriminierung, Manipulation, Kinderrechten, Demokratie und internationaler Regulierung lassen sich nicht sinnvoll getrennt voneinander behandeln. Genau diese Zusammenführung war einer der spannendsten Eindrücke des Abends.
Zwischen Vorsicht und Beschleunigung
Ein zentrales Motiv des Vortrags war die wachsende Governance-Lücke. Die Fähigkeiten heutiger KI-Systeme steigen schnell, während gesellschaftliche Institutionen, Gesetze und Kontrollmechanismen deutlich langsamer reagieren. Jobst beschrieb das als strukturelles Problem, das wir aus anderen Technologien bereits kennen, das bei KI aber besonders heikel ist, weil die Systeme nicht nur Werkzeuge sind, sondern zunehmend selbstständig handeln, kommunizieren und Entscheidungen vorbereiten.
Auf der Konferenz wurde immer wieder betont, dass wir nicht erst dann über Regeln sprechen dürfen, wenn ein System bereits zu mächtig, zu vernetzt oder zu undurchsichtig geworden ist. Entsprechend groß war die Forderung nach internationaler Governance, nach gemeinsamen Standards, nach unabhängigen wissenschaftlichen Gremien und nach klaren Grenzen für besonders riskante Entwicklungen.
Dabei wurde aber auch sichtbar, dass selbst unter führenden Forschenden keine Einigkeit herrscht. Einige sehen in KI vor allem eine enorme Chance, wenn man sie klug reguliert. Andere warnen deutlich schärfer davor, dass wir in Bereiche vordringen, in denen sich Kontrollverlust nicht mehr im Nachhinein reparieren lässt. Wieder andere halten viele Risiken für technisch beherrschbar und sehen in der Debatte mitunter auch Übertreibungen. Gerade diese Spannungen machten den Vortrag so interessant, weil Jobst sie nicht glattbügelte, sondern offen benannte.
Was bedeutet Alignment eigentlich wirklich?
Ein wichtiger Teil des Abends drehte sich um die Frage, wie KI-Systeme überhaupt dazu gebracht werden können, das zu tun, was wir wollen. Das klingt zunächst einfach. In der Praxis wird es sofort kompliziert. Wer ist überhaupt dieses wir? Ein einzelner Nutzer? Ein Unternehmen? Eine Regierung? Eine Gesellschaft? Oder die Menschheit insgesamt? Und was heißt es konkret, wenn eine KI unsere Werte achten soll, obwohl Menschen selbst sehr unterschiedliche Werte, Prioritäten und Weltbilder haben?
Jobst zeigte, dass ein rein technischer Blick auf Alignment zu kurz greift. Lange wurde in diesem Feld stark mit Nutzenfunktionen und Maximierung gearbeitet. Doch genau das kann gefährlich werden. Wenn ein System eine Kennzahl maximieren soll, optimiert es häufig an der Wirklichkeit vorbei. Jobst griff hier das bekannte Goodhart-Gesetz auf: Sobald ein Maß zur Zielgröße wird, taugt es oft nicht mehr als gutes Maß.
Spannend war deshalb sein Plädoyer für Alternativen zum Maximieren. Nicht immer mehr, nicht immer das Optimum, sondern manchmal genug. Satisficing statt Vollgasoptimierung. Schrittweises Verbessern statt harter Zielfixierung. Das war einer der Momente des Abends, in denen deutlich wurde, wie stark KI-Sicherheit auch von älteren Einsichten aus Verhaltensökonomie, Ethik und Entscheidungstheorie lernen kann.
KI ist nicht nur Technik, sondern auch Macht
Besonders eindrücklich war der Teil des Vortrags, in dem Jobst über Macht sprach. Wer KI baut, wer ihre Standards setzt, wer Trainingsdaten auswählt und wer darüber entscheidet, welche Antworten als hilfreich, sicher oder akzeptabel gelten, prägt damit aktiv unsere künftige Informations- und Entscheidungswelt. KI ist damit nie neutral. Sie spiegelt immer auch Weltbilder, politische Vorentscheidungen und kulturelle Schwerpunkte ihrer Entwickler, Firmen und Institutionen.
Dazu kamen Fragen der Repräsentation. Viele Systeme entstehen aus einem relativ engen sozialen und kulturellen Kontext, oft geprägt von englischsprachigen, gut ausgebildeten Teams in westlichen Technologiezentren. Im Vortrag ging es um politische Schlagseiten, kulturelle Verzerrungen, Unterschiede zwischen Sprachräumen und die Gefahr, dass kleinere Sprachen und lokale Kontexte in der globalen KI-Entwicklung an den Rand gedrängt werden. Gerade für europäische und nicht englischsprachige Räume ist das hoch relevant.
Wenn KI mit KI spricht
Ein weiterer Themenblock war die Welt agentischer Systeme — also KI, die nicht nur antwortet, sondern eigenständig handelt, andere Tools nutzt, mit anderen Agenten interagiert, Inhalte veröffentlicht oder Transaktionen auslöst. Jobst machte deutlich, dass hier neue Risiken entstehen, die sich nicht mehr allein mit klassischen Chatbot-Kategorien erfassen lassen.
Wenn Agenten miteinander kommunizieren, sich gegenseitig beeinflussen, Aufgaben verteilen oder sich auf Plattformen bewegen, entstehen neue Dynamiken aus Vertrauen, Täuschung, Koordination und Eskalation. Genau dort zeigt sich, warum KI-Sicherheit längst mehr ist als nur die Frage, ob ein Modell halluziniert. Es geht um komplexe soziotechnische Systeme, in denen Fehler, Anreize und Machtverhältnisse zusammenwirken.
Kinder, Jugendliche und die Frage nach dem guten Umgang
Auch das Thema Kinder und Jugendliche kam im Vortrag mehrfach auf. In Paris wurde offenbar intensiv darüber gesprochen, wie junge Menschen mit KI aufwachsen, wie schnell sie Systeme personifizieren und wie schwer es für sie sein kann, hilfreiche Begleiter von manipulativen oder emotional problematischen Interaktionen zu unterscheiden.
Anders als viele abstrakte Zukunftsdebatten ist die Frage nach KI und Jugend nicht theoretisch. Sie ist bereits da. Wie sprechen Kinder mit Chatbots? Welche Autorität schreiben sie ihnen zu? Wie verändern sich Lernen, Beziehung, Selbstbild und Konfliktfähigkeit, wenn KI immer verfügbar, höflich, kompetent wirkend und emotional anschlussfähig auftritt? Der Vortrag lieferte keine fertigen Antworten, aber viele präzise Anstöße.
Demokratie, Sozialwahl und die Frage: Wer entscheidet?
Besonders originell war der Teil, in dem Jobst aus seinem eigenen Workshop berichtete. Dort ging es um Social Choice Theory — die mathematische Theorie kollektiver Entscheidungen. Wie lassen sich viele unterschiedliche Präferenzen so zusammenführen, dass am Ende ein Verfahren entsteht, das fair, nachvollziehbar und robust ist?
Jobst zeigte an Beispielen, dass die gängige Praxis des Fine-Tunings oft so tut, als gäbe es auf normative Fragen eine objektiv beste Antwort. In Wirklichkeit bewerten aber unterschiedliche Menschen dieselbe Antwort unterschiedlich, je nach moralischen Maßstäben, kulturellem Hintergrund und politischem Standpunkt. Sollte eine KI bei umstrittenen Themen überhaupt eine einzige Antwort liefern? Oder eher mehrere repräsentative Sichtweisen? Sollte eine einzelne Bewertung genügen — oder braucht es eher Jury-Modelle, Bürgerräte oder andere Formen aggregierter Urteilsbildung?
Empowerment statt Entmündigung
Am eindrucksvollsten war vielleicht Jobsts eigener Forschungsansatz. Seine Leitidee: Wenn eine der größten Gefahren von KI darin besteht, Menschen zu entmündigen, ihnen Entscheidungen abzunehmen oder ihre Handlungsspielräume schleichend zu verkleinern — dann sollte ein gutes KI-System genau das Gegenteil zum Ziel haben. Es sollte Menschen empowern: ihre Handlungsfähigkeit stärken, ihre Optionen erweitern und ihre Fähigkeit erhalten, selbst gute Entscheidungen zu treffen.
Dazu passt auch sein aktuelles Paper, das die weiche Maximierung langfristiger menschlicher Handlungsmacht als mögliches Ziel sicherer agentischer Systeme diskutiert. Gute KI soll nicht bloß harmlos sein. Sie soll Menschen dabei unterstützen, urteilsfähig, lernfähig und handlungsfähig zu bleiben. Das ist ein anderer Fokus als die üblichen Produktversprechen maximaler Bequemlichkeit — und vielleicht gerade deshalb ein notwendiger Gegenentwurf.
Was vom Abend bleibt
Der Vortrag von Jobst Heitzig war kein alarmistischer Weltuntergangsabend, aber auch kein Technik-Werbeblock. Er verband große Linien mit konkreten Beispielen, theoretische Tiefe mit persönlicher Reflexion und internationale Debatten mit Fragen, die auch in Werder unmittelbar verständlich sind. Wer an diesem Abend dabei war, bekam keine einfachen Antworten — aber eine deutlich geschärfte Sicht auf die eigentlichen Konflikte unserer Zeit.
Vielleicht lässt sich die Quintessenz so zusammenfassen: KI-Sicherheit ist nicht nur die Frage, wie wir Maschinen kontrollieren. Es ist auch die Frage, welche Art von Gesellschaft wir im Zusammenspiel mit diesen Maschinen werden wollen. Ob wir Systeme bauen, die uns bequemer machen — oder solche, die uns stärker machen. Ob wir Verantwortung an zentrale Plattformen auslagern — oder neue demokratische, transparente und menschengerechte Formen von KI-Gestaltung entwickeln. Genau dafür hat der Abend viele kluge Impulse geliefert.
Weiterführende Links
Aufzeichnung des Abends
Recording: pik-potsdam.zoom.us — Passcode: jb2!iz@%
Linksammlung von Jobst