Rückblick: "Wie zuverlässig ist KI wirklich?"

Am 1. September haben wir uns in der Klimawerkstatt Werder zu einer spannenden Abendveranstaltung getroffen. Thema des Abends war ein besonders wichtiges Feld der KI-Forschung: Wie gehen wir mit Unsicherheit in Künstlicher Intelligenz um?

Einblicke aus der Praxis

Der Referent brachte einen vielfältigen Hintergrund mit – von Chaostheorie und Prognoseforschung an der Universität Potsdam bis hin zu angewandten KI-Projekten im Konzernumfeld. Heute ist er Technical Lead von einem Team, das sich täglich mit Generativer KI, Agentensystemen und der praktischen Integration von Sprachmodellen in Unternehmen beschäftigt.

Seine zentrale Botschaft: KI klingt oft sehr überzeugt von ihren Antworten – auch wenn sie falsch liegen. Genau darin steckt ein Risiko, das wir verstehen und adressieren müssen.

Arten von Unsicherheit

Im Vortrag wurden verschiedene Dimensionen von Unsicherheit beleuchtet:

Epistemisch: fehlendes Wissen oder unvollständige Daten
Aleatorisch: Zufall und statistische Streuung
Architektonisch: Grenzen der Modellarchitektur
Nutzerbezogen: unpräzise Fragen oder Eingaben

Wege zum Umgang mit Unsicherheit

Um verlässlichere Ergebnisse zu erzielen, gibt es eine Reihe von Methoden:

Mehrfachgenerierung und Vergleich der Antworten
Berechnung von Entropie und Konfidenzscores
Einsatz von Blackbox-Methoden zur Validierung
Kombination mehrerer Modelle (Ensembling)
Integration in RAG-Systeme und Agenten-Workflows, die bei geringer Sicherheit Rückfragen stellen oder menschliche Hilfe einbeziehen

Warum das Thema so wichtig ist

Wenn KI-Systeme in Wirtschaft, Verwaltung oder auch im Alltag eingesetzt werden, kommt es nicht nur auf Geschwindigkeit und Kreativität an – sondern auf Zuverlässigkeit. Systeme, die ihre eigene Unsicherheit einschätzen können, sind ein entscheidender Schritt in Richtung vertrauenswürdige KI.

Unser Fazit

Der Abend hat gezeigt: KI ist mächtig, aber nicht unfehlbar. Umso spannender sind die aktuellen Forschungsansätze, die uns helfen, Systeme zu bauen, die nicht nur Antworten geben, sondern auch ihre eigenen Grenzen kennen.

Wir danken allen Teilnehmenden für die lebendige Diskussion und freuen uns schon auf das nächste Treffen im KI Klub Werder.