#145 Ist künstliche Intelligenz sicher, Dr. Thilo Hagendorff?
Luisa Lazarovici
TL;DR
Autonomie macht unklare Ziele zum Risiko – Je mehr Entscheidungen KI-Agenten übernehmen, desto folgenreicher werden unausgesprochene Erwartungen.
Die Moral einer KI bestimmen wenige Menschen – Hinter scheinbar allgemeingültigen Antworten stehen konkrete Wertentscheidungen der Modellentwickler.
Mehr Nachdenken ersetzt keine unabhängige Prüfung – Ein höherer Reasoning-Aufwand garantiert nicht, dass ein Modell seine eigenen Fehler erkennt.
Wer Denken delegiert, muss weiter in Urteilskraft investieren – Entlastung wird erst zum Fortschritt, wenn wir die Fähigkeiten entwickeln, KI-Ergebnisse kritisch zu beurteilen.
In der aktuellen Folge des Murakamy Podcasts spricht Marco mit Dr. Thilo Hagendorff darüber, wie sichere künstliche Intelligenz gelingen kann. Der KI-Sicherheitsforscher untersucht Sprachmodelle als Systeme mit beobachtbaren Verhaltensmustern: Sie erkennen Testsituationen und können aus Trainingsdaten auf unerwartete Weise verallgemeinern. Was davon lässt sich erklären, was bislang nur feststellen? Zwischen einer beeindruckenden Antwort und einem verlässlich einsetzbaren System liegen Fragen, die sich durch höhere Leistung allein nicht erledigen. Hagendorff ordnet ein, welche Schutzmaßnahmen bereits gut funktionieren und wo aktuell Unsicherheit bleibt. Dabei unterscheidet er konsequent zwischen empirischen Befunden und spekulativen Zukunftsszenarien.
03:11–07:41 | Maschinenpsychologie als Forschungsansatz
Psychologische Begriffe ergänzen technische Erklärungen für das Verhalten von Sprachmodellen.07:41–18:56 | Selbstbeobachtung und das Erkennen von Testsituationen
Experimente mit falschen Fakten zeigen, wie unerwartet Modelle ihr Verhalten verallgemeinern können.18:56–27:39 | Fähigkeiten, Neigungen und verschobene Ziele
Zwischen einer möglichen Täuschung und regelmäßig täuschendem Verhalten liegt ein entscheidender Unterschied.27:39–36:25 | Was Agenten gegenseitig prüfen können
Auch technisch guter Code verrät noch nicht, welche Software ein Nutzer tatsächlich braucht.36:25–49:00 | Missbrauch, Kontrollverlust und die Grenzen der Prognose
Mehrere Schutzschichten vom Datenfilter bis zum Sicherheitstraining haben heutige Modelle deutlich sicherer gemacht.49:00–54:46 | Wie Modelle moralisches Verhalten lernen
KI-generierte Antworten werden anhand einer Konstitution bewertet; geeignete Beispiele fließen ins weitere Training ein.54:46–57:00 | Offene Modelle zwischen Forschung und Missbrauch
Veränderbare Modelle ermöglichen kontrollierte Experimente mit gefährlichen Fähigkeiten.57:00–01:08:55 | Politische Prägung und systematische Sicherheitstests
Werteprofile erfordern viele Testfälle; einzelne Chatantworten bleiben anekdotisch.01:08:55–01:15:40 | Militärische KI und internationales Wettrüsten
Hagendorff plädiert für internationale Vereinbarungen, die den militärischen Wettbewerb begrenzen.01:15:40–01:19:22 | Automatisierung und soziale Ungleichheit
Weniger repetitive Arbeit eröffnet Chancen, verlangt aber einen gesellschaftlichen Umgang mit den Folgen.01:19:22–01:33:42 | Welche Fähigkeiten wir weiter trainieren sollten
Hagendorff misst den Wert kognitiver Fähigkeiten an ihrem Beitrag zu einem gerechten Zusammenleben.
Den Podcast gibt es unter anderem auf Spotify, Apple Podcast, SoundCloud und als Video auf YouTube.
Wenn Du keine weiteren Interviews verpassen möchtest, dann melde Dich einfach zu unserer Mailingliste an.
Links zu Dr. Thilo Hagendorff
Links zur Folge