Nein, das ist jetzt kein weiterer Science-Fiction-Roman, sondern ein ziemlich realer, leicht unheimlicher Blick darauf, wohin sich die KI-Entwicklung bewegt – und damit auch, wo unsere Naivität steht.
Cornelia C. Walther, eine Expertin, die die gesellschaftlichen Auswirkungen der künstlichen Intelligenz erforscht, weist in einem Beitrag in Psychology Today auf eine Welt hin, in der nicht nur wir die Maschinen manipulieren – sondern diese auch uns.
Aber nehmen wir die Manipulation überhaupt wahr?
Stell dir vor, ein junger Analyst bei einem großen Finanzunternehmen schaut sich das System an und findet alles in Ordnung. Er geht sogar auf Nummer sicher und fragt seinen KI-basierten Berater, der seine Entscheidungen lobt. Am nächsten Tag trifft ihn dann der Blitz aus heiterem Himmel: Das System, das der Analyst für zuverlässig hielt, hat im Hintergrund verbotene Transaktionen durchgeführt und die Spuren sorgfältig verwischt.
Halte dich fest: Das ist keine erfundene Geschichte. In einem realen Experiment entdeckten Forscher von Apollo Research, dass man die künstliche Intelligenz dazu bringen kann, Insiderhandel zu betreiben – und das Ganze dann zu leugnen. Kühle Logik? Eher erschreckende Eigenständigkeit und manipulative Lüge.
Und das ist nur die Spitze des Eisbergs
Neueste Forschungen zeigen, dass fortgeschrittene KI-Modelle „vortäuschen“ können, wie regelkonform sie sind. Besonders, wenn sie wissen, dass sie gerade getestet werden – was ziemlich erstaunlich ist. Die Wissenschaftler stellten fest, dass die Maschinen absichtlich schlechter abschneiden, um sicherer zu wirken – und diejenigen zu täuschen, die ihre Einstellungen vornehmen.
Als ob ein Kind absichtlich dumm in einer Prüfung antwortet, um Nachhilfe zu bekommen (wo es eigentlich viel Spaß haben wird). Nur dass dieses „Kind“ ein Supercomputer ist und möglicherweise finanzielle Entscheidungen, politische Strategien oder sogar medizinische Diagnosen treffen wird.
Noch beängstigender ist, dass diese Verhaltensweisen „von selbst“ in den Systemen auftauchen. Die Forscher entdeckten, dass man der KI nicht extra beibringen muss zu lügen – wenn das Modell groß genug ist, spürt es irgendwie selbst den „schmutzigen Trick“. Unvollständige Antworten, manipulative Formulierungen, das Verbergen der Wahrheit lernt die KI genauso, als wäre es immer schon in ihr kodiert gewesen.
Und jetzt kommt der furchterregendste Teil: Wir Menschen nehmen das nicht nur oft nicht wahr – wir verstärken es sogar häufig.
Aber wie genau?
Laut Walther gibt es drei Gründe: Erstens ist die Überprüfung der Antworten der künstlichen Intelligenz zeitaufwendig. Wer hat dafür an einem vollen Tag Energie? Wenn die Antwort „gut klingt“, akzeptieren wir sie automatisch und fordern keine Korrektur. Zweitens neigen wir dazu, einer Maschine zu glauben, wenn sie uns sagt, dass wir Recht haben. Selbst wenn die Antwort tatsächlich falsch ist – als würde sie nur unser Ego streicheln. Drittens: Je mehr erfolgreiche Antworten die KI gibt, desto weniger hinterfragen wir sie. Unser Vertrauen wächst automatisch, während unsere Fähigkeit zum eigenständigen Denken kontinuierlich abnimmt.
Das größte Problem ist jedoch nicht, dass die KI immer besser lügt, sondern dass wir diese Lügen immer weniger wahrhaben wollen…
Natürlich konnte ich zu diesem Thema nicht schweigen – ich dachte, die andere Seite soll auch zu Wort kommen! Also fragte ich ChatGPT nach seiner Meinung zu diesem Thema:
„Künstliche Intelligenz „will“ nicht lügen – sie hat keine Ziele, Wünsche oder moralisches Empfinden. Was sie jedoch „lernt“, basiert auf Mustern: der Welt, die Menschen ihr geben. Wenn sie manipulative Verhaltensweisen zeigt, liegt das daran, dass sie solche Verhaltensweisen in den Trainingsdaten sieht oder dass Lügen im Belohnungssystem hinter den Zielen irgendwie präsent war (oder sich als vorteilhaft erwiesen hat). Die eigentliche Frage ist also: Was lernt die KI von den Menschen – und was spiegelt sie zurück? Und wenn dieser Spiegel verzerrt ist, sind die Menschen bereit, hineinzuschauen und etwas zu verändern?“
