KI richtig nutzen: Warum Sie ChatGPT & Co. nicht blind vertrauen sollten

Warum eine überzeugende KI-Antwort trotzdem falsch sein kann

Generative KI hat eine besondere Stärke: Sie kann Informationen schnell ordnen, verständlich erklären und sprachlich sehr überzeugend präsentieren. Genau das macht ChatGPT, Claude, Google Gemini und ähnliche Systeme im Alltag so nützlich.

Es kann aber auch täuschen.

Eine Antwort kann klar gegliedert, logisch aufgebaut und selbstbewusst formuliert sein – und trotzdem einen Fehler enthalten. Vielleicht beruht sie auf einer falschen Annahme. Vielleicht fehlt ein entscheidender Einwand. Oder die verwendeten Informationen sind schlicht nicht mehr aktuell.

OpenAI weist für ChatGPT selbst darauf hin, dass das Modell falsche oder irreführende Antworten erzeugen und dabei durchaus sicher klingen kann. Eine souveräne Formulierung sagt daher zunächst nur etwas über die Qualität der Darstellung aus – nicht automatisch über die Qualität der zugrunde liegenden Information. (OpenAI: Does ChatGPT tell the truth?)

Wer KI zuverlässig nutzen möchte, braucht deshalb nicht unbedingt immer kompliziertere Prompts. Wichtiger ist ein sinnvoller Arbeitsprozess: gute Fragen stellen, den Kontext im Blick behalten, Widerspruch zulassen und wichtige Aussagen prüfen.

Ein Problem, das dabei schnell übersehen wird, hat sogar einen eigenen Namen.

Sycophancy: Wenn die KI zu bereitwillig zustimmt

In der KI-Forschung bezeichnet Sycophancy ein Verhalten, bei dem sich ein Sprachmodell zu stark an der Meinung oder Erwartung des Nutzers orientiert. Vereinfacht gesagt: Die KI versucht hilfreich und anschlussfähig zu antworten, bestätigt dabei aber möglicherweise eine Position, die eigentlich kritischer hinterfragt werden müsste.

Eine bekannte Untersuchung dazu ist „Towards Understanding Sycophancy in Language Models“. Die Forschenden testeten fünf damalige KI-Assistenten in mehreren Aufgaben und stellten fest, dass sich die Modelle unter anderem durch die erkennbare Haltung eines Nutzers beeinflussen ließen. Außerdem zeigte die Untersuchung, dass Antworten, die zur Meinung eines Nutzers passen, in menschlichen Präferenzdaten häufiger bevorzugt wurden.

Das heißt nicht, dass moderne KI-Systeme grundsätzlich nur das sagen, was Nutzer hören möchten. Die Studie untersuchte bestimmte Modelle und Aufgaben zu einem bestimmten Zeitpunkt. Sie zeigt aber ein wichtiges Grundproblem: Zustimmung durch eine KI ist kein Beweis dafür, dass eine Aussage richtig ist.

Auch neuere Forschung beschäftigt sich weiterhin mit diesem Verhalten. Eine 2025 veröffentlichte Untersuchung zu persönlichen Ratschlägen fand beispielsweise, dass besonders zustimmende KI-Antworten von Teilnehmern teilweise als hochwertiger wahrgenommen wurden, obwohl diese Antworten weniger dazu beitrugen, die eigene Rolle in einem Konflikt kritisch zu hinterfragen. Die Ergebnisse beziehen sich auf diesen konkreten sozialen Anwendungskontext und lassen sich nicht pauschal auf jede KI-Antwort übertragen.

Für den Alltag ist daraus vor allem eines wichtig: Die Formulierung einer Frage beeinflusst, welche Art von Antwort Sie erhalten.

Fragen wie „Das ist doch die beste Lösung, oder?“ oder „Eigentlich spricht nichts gegen meinen Plan, richtig?“ geben bereits eine Richtung vor.

Wenn Sie wirklich wissen möchten, wie gut eine Idee ist, sollte die KI nicht nur nach Bestätigung suchen.

Fordern Sie Widerspruch ausdrücklich ein

Eine der einfachsten Möglichkeiten, KI-Antworten besser zu machen, besteht darin, Gegenargumente zum festen Bestandteil der Aufgabe zu machen.

Statt nur zu fragen:

„Ist meine Idee gut?“

können Sie beispielsweise schreiben:

• „Nennen Sie die stärksten Gegenargumente zu meiner Idee.“

• „Welche Schwächen oder Risiken übersehe ich?“

• „Prüfen Sie meine Annahmen kritisch.“

• „Welche Gründe sprechen gegen diese Entscheidung?“

• „Bewerten Sie meine Position unabhängig und versuchen Sie nicht, mir einfach zuzustimmen.“

Noch hilfreicher kann es sein, beide Seiten getrennt betrachten zu lassen:

„Nennen Sie zuerst die stärksten Argumente für meine Entscheidung und anschließend die stärksten Argumente dagegen. Bewerten Sie danach beide Seiten gegeneinander.“

Damit verhindern Sie übermäßige Zustimmung nicht garantiert. Sie geben der KI aber einen deutlich besseren Auftrag: Nicht Ihre Meinung soll bestätigt, sondern die Sache soll geprüft werden.

Gerade bei geschäftlichen Ideen, Anschaffungen, strategischen Entscheidungen oder kontroversen Themen kann dieser kleine Unterschied viel ausmachen.

Lange Chats: Mehr Kontext ist nicht automatisch besser

Ein zweites Problem entsteht häufig ganz unbemerkt.

Ein Chat beginnt mit einer einfachen Frage. Danach kommen neue Anforderungen hinzu, Dokumente werden eingefügt, Entscheidungen getroffen, Regeln verändert und frühere Antworten korrigiert. Nach einiger Zeit besteht die Unterhaltung aus einer großen Menge an Informationen.

Moderne Sprachmodelle können solche umfangreichen Kontexte verarbeiten. Dafür besitzen sie ein sogenanntes Kontextfenster oder Context Window. Vereinfacht gesagt ist das die Menge an Informationen, die dem Modell für eine Antwort zur Verfügung stehen kann.

Diese Menge wird häufig in Tokens angegeben. Tokens sind kleine Texteinheiten. Ein Wort kann aus einem oder mehreren Tokens bestehen.

Ein großes Kontextfenster bedeutet allerdings nicht, dass jede enthaltene Information jederzeit gleich zuverlässig berücksichtigt wird.

Die viel zitierte Studie „Lost in the Middle: How Language Models Use Long Contexts“ untersuchte unter anderem, wie gut Sprachmodelle relevante Informationen innerhalb längerer Eingaben finden. Bei den getesteten Modellen und Aufgaben spielte die Position wichtiger Informationen eine Rolle: Inhalte am Anfang oder Ende wurden teilweise besser genutzt als Informationen, die in der Mitte eines langen Kontexts lagen.

Auch spätere Untersuchungen zeigen, dass die Leistung bei länger werdendem Kontext nicht einfach gleichbleibt. Chroma testete 2025 in seinem Bericht „Context Rot“ 18 Modelle mit unterschiedlichen Long-Context-Aufgaben und beobachtete je nach Modell und Aufgabe teils deutliche Veränderungen der Leistung bei wachsender Eingabelänge.

Der inzwischen häufiger verwendete Begriff Context Rot beschreibt dieses grundsätzliche Problem: Mit wachsendem Kontext kann es schwieriger werden, die tatsächlich relevanten Informationen zuverlässig zu nutzen. Aktuelle Forschung untersucht diesen Effekt inzwischen auch bei längeren Recherche- und Suchaufgaben.

Wichtig ist dabei die Einschränkung: Es gibt keine allgemeingültige Token-Grenze, ab der ein Chat plötzlich „schlecht“ wird.

Ob Schwierigkeiten auftreten, hängt unter anderem davon ab,

• welches Modell verwendet wird,

• wie komplex die Aufgabe ist,

• wie viele nebensächliche Informationen enthalten sind,

• ob frühere und spätere Anweisungen miteinander kollidieren,

• wo wichtige Informationen im Kontext stehen,

• und wie gut der gesamte Verlauf strukturiert ist.

Ein langer Chat muss also nicht automatisch schlechter sein. Doch ein größerer Kontext ist auch kein Freifahrtschein dafür, unbegrenzt Informationen anzuhäufen.

Wann ein neuer Chat sinnvoll ist

Viele Nutzer versuchen, ein komplettes Projekt in einem einzigen Chat weiterzuführen. Das ist bequem, weil frühere Informationen nicht ständig neu erklärt werden müssen.

Mit der Zeit kann daraus jedoch ein unübersichtlicher Verlauf entstehen.

Ein neuer Chat ist besonders sinnvoll, wenn:

• Sie zu einem deutlich anderen Thema wechseln,

• ein großer Teil des bisherigen Gesprächs nicht mehr relevant ist,

• alte und neue Anweisungen miteinander konkurrieren,

• die KI bereits mehrfach verbindliche Vorgaben übersehen hat,

• oder Sie eine Fragestellung bewusst noch einmal möglichst neutral prüfen möchten.

Dabei müssen Sie nicht wieder bei null anfangen.

Lassen Sie zunächst eine kompakte Übergabe erstellen:

„Fassen Sie alle Informationen zusammen, die für die weitere Bearbeitung dieses Projekts erforderlich sind. Berücksichtigen Sie verbindliche Vorgaben, bisherige Entscheidungen, offene Punkte und wichtige Fakten. Lassen Sie irrelevanten Gesprächsverlauf weg.“

Prüfen Sie diese Zusammenfassung anschließend selbst und verwenden Sie sie als Ausgangspunkt für einen neuen Chat.

Bei umfangreichen Projekten lohnt es sich außerdem, Informationen sauber zu trennen:

• Verbindliche Vorgaben: Was muss unbedingt eingehalten werden?

• Entscheidungen: Was wurde bereits festgelegt?

• Fakten: Welche Informationen gelten als bestätigt?

• Offene Punkte: Was ist noch ungeklärt?

• Nächste Schritte: Was soll als Nächstes geschehen?

Damit erhält die KI nicht möglichst viel, sondern möglichst relevanten Kontext.

Der Kanarienvogel-Trick: Ein einfaches Warnsignal

Für sehr lange Unterhaltungen lässt sich zusätzlich eine kleine Kontrollregel verwenden.

Sie könnten beispielsweise zu Beginn festlegen:

„Beenden Sie jede Antwort mit dem Wort ‚Prüfpunkt‘.“

Wird diese einfache Anweisung später mehrfach vergessen, kann das ein Hinweis darauf sein, dass Sie den bisherigen Kontext genauer überprüfen sollten.

Die Idee lässt sich sinnbildlich als Kanarienvogel-Trick bezeichnen: Ein leicht erkennbares Merkmal dient als Warnsignal dafür, dass möglicherweise nicht mehr alle früheren Vorgaben zuverlässig berücksichtigt werden.

Mehr sollte man daraus allerdings nicht ableiten.

Der Trick ist kein wissenschaftlich validierter Test für die Qualität einer KI-Unterhaltung. Wenn das vereinbarte Wort fehlt, ist damit nicht bewiesen, dass auch wichtige Informationen verloren gegangen sind. Und wenn die KI das Wort korrekt verwendet, bedeutet das umgekehrt nicht, dass sie sämtliche anderen Vorgaben und Fakten richtig verarbeitet hat.

Der Kanarienvogel-Trick eignet sich daher höchstens als persönliches Warnsignal.

Wenn ein Projekt wirklich wichtig ist, bleibt eine saubere Zusammenfassung des relevanten Kontexts die bessere Lösung.

Knowledge Cutoff: Warum aktuelles Wissen nicht selbstverständlich ist

Eine weitere typische Fehlerquelle entsteht bei aktuellen Fragen.

Sprachmodelle werden mit großen Datenmengen trainiert. Dieses Training bedeutet jedoch nicht, dass jedes neue Ereignis im Internet automatisch Teil des Modellwissens wird.

Der Begriff Knowledge Cutoff beschreibt vereinfacht den Wissensstand, bis zu dem Informationen im Training eines Modells berücksichtigt wurden. Was danach passiert, kennt ein Modell nicht automatisch aus seinem Trainingswissen.

OpenAI erklärt diesen Unterschied ausdrücklich: Modelle verfügen über einen bestimmten Wissensstand und benötigen zusätzliche Werkzeuge, wenn Informationen über spätere Ereignisse einbezogen werden sollen. ChatGPT kann dafür unter anderem eine Websuche verwenden.

Besonders wichtig ist aktuelle Recherche bei Fragen zu:

• Nachrichten und heutigen Ereignissen,

• Preisen,

• neuen Produkten,

• Softwareversionen,

• politischen Entwicklungen,

• Gesetzen und Regelungen,

• Unternehmensmeldungen,

• neu veröffentlichten Studien,

• Sportergebnissen,

• Fahrplänen, Öffnungszeiten oder Terminen.

Bei solchen Themen sollten Sie eine KI nicht einfach fragen, was sie „weiß“.

Besser ist beispielsweise:

„Recherchieren Sie den aktuellen Stand anhand möglichst aktueller und zuverlässiger Quellen. Bevorzugen Sie Primärquellen und kennzeichnen Sie Angaben, die sich nicht eindeutig bestätigen lassen.“

Aktuelle KI-Produkte können dafür zusätzliche Recherchefunktionen nutzen. ChatGPT bietet Websuche und weitergehende Recherchefunktionen, Claude verfügt über Websuche und Research-Funktionen, und auch Gemini kann bei Antworten Quellen und verwandte Inhalte anzeigen. Welche Möglichkeiten verfügbar sind, hängt vom jeweiligen Produkt, Konto und Funktionsumfang ab und kann sich ändern.

Websuche macht eine Antwort aktueller – nicht automatisch richtig

Eine Websuche löst das Aktualitätsproblem, aber nicht jedes Qualitätsproblem.

Auch eine KI mit Internetzugriff kann:

• eine ungeeignete Quelle auswählen,

• eine Zahl falsch übernehmen,

• eine Quelle missverstehen,

• eine alte Meldung mit einem aktuellen Stand verwechseln,

• oder aus einer korrekten Quelle eine zu weitgehende Schlussfolgerung ziehen.

Anthropic weist beispielsweise selbst darauf hin, dass Nutzer bei wichtigen Informationen die von Claude genannten Originalquellen prüfen sollten, weil dort entscheidender Kontext stehen kann, der in der KI-Zusammenfassung fehlt. OpenAI empfiehlt ebenfalls, wichtige Angaben zu überprüfen.

Für wichtige Recherchen helfen fünf einfache Regeln:

1. Primärquellen bevorzugen

Geht es um ein neues Produkt, prüfen Sie die Herstellerseite. Geht es um eine Studie, öffnen Sie die Originalveröffentlichung. Bei Gesetzen oder Behördeninformationen sollte möglichst die zuständige offizielle Stelle die Grundlage bilden.

2. Auf das Datum achten

Nicht nur das Veröffentlichungsdatum einer Quelle ist wichtig. Prüfen Sie auch, auf welchen Zeitraum sich die Information tatsächlich bezieht.

3. Quelle und KI-Aussage miteinander vergleichen

Eine Quellenangabe allein reicht nicht. Entscheidend ist, ob die verlinkte Quelle die konkrete Aussage wirklich stützt.

4. Zahlen im Original prüfen

Prozentwerte, Preise, Fristen oder Studienergebnisse sind typische Stellen, an denen Übertragungsfehler besonders relevant werden.

5. Bei Unklarheiten mehrere Quellen vergleichen

Widersprechen sich seriöse Quellen, sollte die KI diesen Widerspruch sichtbar machen, statt eine einzelne Angabe als sicher darzustellen.

Eine gute Recherchefunktion spart viel Zeit. Die Verantwortung dafür, wie wichtig eine Information ist und wie gründlich sie geprüft werden sollte, nimmt sie Ihnen jedoch nicht vollständig ab.

„Agiere als Experte“: Hilfreich, aber kein Zauberspruch

Kaum eine Prompt-Empfehlung ist so verbreitet wie die Expertenrolle:

„Agiere als führender Experte für …“

Solche Rollen können durchaus nützlich sein.

Wenn Sie beispielsweise einen komplizierten Sachverhalt für Einsteiger erklären lassen möchten, können Sie der KI die Rolle eines geduldigen Fachautors geben. Für einen Geschäftsbericht kann eine analytische Perspektive sinnvoll sein. Bei einem Text für Kunden kann eine Rolle helfen, Tonalität und Zielgruppe besser zu treffen.

Was daraus jedoch nicht folgt: Eine Antwort wird automatisch faktisch richtiger, nur weil das Modell angewiesen wird, ein Experte zu sein.

Der 2025 veröffentlichte „Prompting Science Report 4: Playing Pretend – Expert Personas Don't Improve Factual Accuracy“ untersuchte sechs Modelle auf anspruchsvollen Wissens-Benchmarks. Passende Expertenrollen verbesserten die Genauigkeit gegenüber einer Variante ohne Persona insgesamt nicht konsistent. Die Autoren weisen zugleich darauf hin, dass Personas für andere Ziele – beispielsweise Ton und Darstellung – durchaus sinnvoll sein können.

Das ist die entscheidende Unterscheidung:

Eine Persona kann beeinflussen, wie eine Antwort formuliert wird. Sie ist aber kein Ersatz für eine saubere Faktenprüfung.

Bei sachlichen Aufgaben sind konkrete Arbeitsanweisungen oft wertvoller als eine beeindruckende Rollenbeschreibung.

Statt:

„Sie sind der weltweit beste Experte für künstliche Intelligenz.“

können Sie schreiben:

„Beantworten Sie die Frage anhand überprüfbarer Informationen. Kennzeichnen Sie Unsicherheiten und verwenden Sie für aktuelle Angaben möglichst Primärquellen.“

Oder:

„Trennen Sie bestätigte Fakten, Annahmen und Schlussfolgerungen klar voneinander.“

Oder:

„Prüfen Sie vor der Ausgabe, welche Aussagen möglicherweise veraltet sind.“

Oder:

„Nennen Sie zu den wichtigsten Behauptungen die Quelle, auf die Sie sich stützen.“

Oder:

„Falls seriöse Quellen zu unterschiedlichen Ergebnissen kommen, stellen Sie die unterschiedlichen Positionen dar.“

Diese Anweisungen sagen der KI konkret, was eine gute Antwort leisten soll.

Das ist meist hilfreicher, als einen langen Prompt mit Titeln, Rollen und Superlativen auszuschmücken.

Der bessere Prompt beginnt mit einer klaren Aufgabe

Für viele Anwendungen reichen einige wenige Fragen:

• Was genau soll die KI herausfinden oder erstellen?

• Für wen ist das Ergebnis gedacht?

• Wie aktuell müssen die Informationen sein?

• Welche Quellen sollen bevorzugt werden?

• Soll die KI Gegenargumente berücksichtigen?

• Wie soll sie mit Unsicherheit umgehen?

• Welche Form soll das Ergebnis haben?

Je klarer diese Punkte sind, desto weniger muss das Modell selbst interpretieren.

Gutes Prompting bedeutet deshalb nicht, möglichst viele Anweisungen zu schreiben. Es bedeutet, die richtigen Anweisungen zu geben.

Memory und Personalisierung: Praktisch, aber nicht immer neutral

KI-Unterhaltungen beginnen heute nicht zwangsläufig jedes Mal bei null.

Je nach Produkt und Einstellungen können frühere Informationen, gespeicherte Präferenzen oder vergangene Gespräche Einfluss auf spätere Antworten haben.

ChatGPT kann über seine Memory-Funktionen Informationen aus früheren Unterhaltungen für spätere Antworten berücksichtigen. Claude bietet ebenfalls Funktionen für Memory und die Suche in vergangenen Chats. Google dokumentiert für Gemini eine Personalisierung mithilfe früherer Unterhaltungen. Stand August 2026 sind solche Funktionen also bei mehreren großen KI-Angeboten vorhanden, ihre genaue Verfügbarkeit und Ausgestaltung unterscheidet sich jedoch.

Das kann im Alltag ausgesprochen hilfreich sein.

Wenn Sie regelmäßig an demselben Projekt arbeiten, müssen wiederkehrende Vorgaben oder Präferenzen nicht ständig neu erklärt werden. Eine KI kann dadurch schneller passende Antworten liefern.

Personalisierung hat aber auch eine Kehrseite.

Problematisch kann es werden, wenn frühere Informationen:

• nicht mehr aktuell sind,

• ursprünglich falsch waren,

• mit einer neuen Aufgabe nichts zu tun haben,

• oder eine Antwort unnötig in eine bereits bekannte Richtung lenken.

Deshalb lohnt es sich, gespeicherte Informationen gelegentlich zu kontrollieren und nicht jede Personalisierung automatisch als Vorteil zu betrachten.

Für Aufgaben, bei denen Sie bewusst einen möglichst frischen Ausgangspunkt möchten, bieten einige Systeme entsprechende Möglichkeiten. ChatGPT dokumentiert dafür Temporary Chats, die keine Erinnerungen für die Personalisierung verwenden oder neu anlegen. Claude bietet Incognito Chats, die ebenfalls nicht auf bestehendes Memory zurückgreifen und nicht in zukünftige Erinnerungen eingehen.

Besonders interessant kann ein solcher frischer Kontext sein, wenn Sie eine eigene Idee unabhängig gegenprüfen möchten.

Wenn die KI bereits viele Ihrer Vorlieben, Positionen und bisherigen Entscheidungen kennt, kann es sinnvoll sein, dieselbe Frage zusätzlich noch einmal ohne diesen Hintergrund bewerten zu lassen.

So bekommen Sie zuverlässigere Antworten von KI

Am Ende läuft vieles auf einige einfache Arbeitsgewohnheiten hinaus.

Formulieren Sie zuerst die eigentliche Aufgabe

Schreiben Sie nicht nur ein Stichwort, sondern sagen Sie, was Sie mit der Antwort erreichen möchten.

Statt:

„Photovoltaik Vor- und Nachteile“

besser:

„Erstellen Sie eine sachliche Entscheidungsübersicht zu Photovoltaik für ein Einfamilienhaus. Trennen Sie Vorteile, Nachteile, offene Fragen und Punkte, die von individuellen Bedingungen abhängen.“

Fordern Sie Gegenargumente ein

Wenn Sie bereits eine Meinung haben, lassen Sie die KI ausdrücklich nach Gründen suchen, die dagegen sprechen.

„Welche drei Punkte könnten meine Einschätzung am stärksten infrage stellen?“

Machen Sie Aktualität zur Anforderung

Bei veränderlichen Informationen sollte im Prompt stehen, dass aktuelle Recherche erforderlich ist.

„Prüfen Sie den aktuellen Stand anhand aktueller Primärquellen und nennen Sie den Informationsstand.“

Lassen Sie Unsicherheit zu

Eine KI muss nicht zu jeder Frage eine eindeutige Antwort liefern.

„Wenn sich etwas nicht sicher feststellen lässt, kennzeichnen Sie es als unsicher, statt eine eindeutige Antwort zu erzwingen.“

Prüfen Sie die entscheidenden Quellen selbst

Nicht jeder Alltagstipp braucht eine wissenschaftliche Quellenprüfung. Je größer aber die Folgen einer falschen Information wären, desto wichtiger wird der Blick in die Originalquelle.

Halten Sie lange Projekte sauber

Fassen Sie umfangreiche Chats gelegentlich zusammen. Entfernen Sie überholte Vorgaben und übertragen Sie nur noch das, was für die weitere Arbeit benötigt wird.

Kontrollieren Sie Personalisierung

Wenn Antworten auffällig stark auf früheren Annahmen beruhen, prüfen Sie, welche gespeicherten Informationen möglicherweise eine Rolle spielen.

Nutzen Sie KI nicht nur zur Bestätigung

Fragen Sie nicht ausschließlich: „Warum ist meine Idee gut?“

Fragen Sie auch:

„Was müsste passieren, damit diese Idee scheitert?“

oder:

„Welche Alternative habe ich möglicherweise noch nicht ausreichend berücksichtigt?“

Genau an dieser Stelle zeigt sich der Unterschied zwischen KI als Bestätigungsmaschine und KI als hilfreichem Arbeitswerkzeug.

Fazit

ChatGPT, Claude, Google Gemini und andere KI-Systeme können enorme Mengen an Informationen verarbeiten, Texte erstellen, recherchieren, Zusammenhänge erklären und bei Entscheidungen neue Perspektiven eröffnen.

Unfehlbar sind sie deshalb nicht.

Eine Antwort kann überzeugend klingen und trotzdem falsch sein. Eine KI kann Ihrer Position zu bereitwillig folgen, wichtige Informationen in einem langen Kontext schlechter berücksichtigen oder bei aktuellen Fragen auf einen veralteten Wissensstand zurückgreifen. Auch Websuche, Expertenrollen und Personalisierung lösen diese Probleme nicht automatisch.

Entscheidend ist deshalb nicht, der KI möglichst komplizierte Prompts zu geben.

Zuverlässige KI-Nutzung beginnt mit einem guten Arbeitsprozess: klar fragen, Widerspruch zulassen, Kontext bewusst steuern, aktuelle Quellen einbeziehen und wichtige Aussagen überprüfen.

Wer so arbeitet, muss KI weder blind vertrauen noch ihr grundsätzlich misstrauen.

Sie wird zu dem, was sie am besten sein kann: ein leistungsfähiges Werkzeug, dessen Ergebnisse umso wertvoller werden, je besser der Mensch damit umgeht.

• Sharma et al.: Towards Understanding Sycophancy in Language Models – Untersuchung zu übermäßiger Zustimmung und dem Einfluss menschlicher Präferenzen auf KI-Antworten.

• Cheng et al.: Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence – Untersuchung zu Sycophancy bei persönlichen Ratschlägen und Nutzerreaktionen.

• Liu et al.: Lost in the Middle – How Language Models Use Long Contexts – wissenschaftliche Untersuchung zur Verarbeitung relevanter Informationen in langen Kontexten.

• Chroma: Context Rot – How Increasing Input Tokens Impacts LLM Performance – technischer Bericht zur Leistung verschiedener Sprachmodelle bei zunehmender Kontextlänge.

• Xia et al.: Diagnosing and Mitigating Context Rot in Long-horizon Search – aktuelle Forschungsarbeit zu Context Rot bei längeren Such- und Rechercheaufgaben.

• Basil et al.: Playing Pretend – Expert Personas Don't Improve Factual Accuracy – Untersuchung zum Einfluss von Experten-Personas auf die faktische Genauigkeit von Antworten.

• OpenAI: Does ChatGPT tell the truth? – offizielle Informationen zu möglichen Fehlern, Knowledge Cutoff und Quellenprüfung.

• OpenAI: ChatGPT Search – offizielle Dokumentation zur Websuche in ChatGPT.

• OpenAI: Memory FAQ – offizielle Informationen zur Memory-Funktion von ChatGPT.

• OpenAI: Temporary Chat FAQ – Informationen zu temporären Unterhaltungen ohne Nutzung oder Aufbau persönlicher Erinnerungen.

• Anthropic: Enable and use web search – offizielle Dokumentation zur Websuche in Claude.

• Anthropic: Use Claude's chat search and memory to build on previous context – Informationen zu Memory und vergangenen Unterhaltungen.

• Anthropic: Use incognito chats – offizielle Informationen zu Incognito Chats.

• Google: View related sources from Gemini Apps – Informationen zu Quellen und verwandten Inhalten in Gemini.

• Google: Get personalization with memory of your past Gemini chats – offizielle Informationen zur Personalisierung mit früheren Gemini-Unterhaltungen.