Googles KI-Zusammenfassungen liegen in zehn Prozent der Fälle falsch

Googles KI-generierte Suchantworten liefern bei etwa jeder zehnten Anfrage fehlerhafte Informationen – eine Quote, die angesichts von Milliarden täglicher Suchanfragen zu einem massiven Desinformationsproblem werden kann.

Googles KI-Zusammenfassungen liegen in zehn Prozent der Fälle falsch

Analysen deuten darauf hin, dass die AI Overviews in der Google-Suche bei etwa einer von zehn Anfragen fehlerhafte Informationen liefern. Angesichts von Milliarden täglicher Suchanfragen weltweit ergibt sich daraus eine erhebliche Anzahl potenziell irreführender Antworten – mit spürbaren Konsequenzen für Unternehmen, die auf diese Funktion vertrauen oder von ihr betroffen sind.

Was die Analyse zeigt

Untersuchungen der US-amerikanischen Technologiepublikation Ars Technica zufolge weisen Googles AI Overviews – jene KI-generierten Zusammenfassungen, die seit 2024 prominent über den organischen Suchergebnissen erscheinen – eine Fehlerquote von rund zehn Prozent auf. Die Fehler reichen von sachlich falschen Aussagen über veraltete Informationen bis hin zu Antworten, die zwar plausibel klingen, sich aber bei näherer Prüfung als inkorrekt erweisen.

Google selbst äußert sich zurückhaltend zu konkreten Genauigkeitskennzahlen. Das Unternehmen betont, die Funktion kontinuierlich zu verbessern und auf Nutzerfeedback zu reagieren. Unabhängige Tests legen jedoch nahe, dass die Fehlerquote besonders bei spezifischen Fachfragen, medizinischen Themen und aktuellen Ereignissen höher ausfällt.

Das Skalenproblem

„Buchstäblich Millionen falscher Aussagen pro Stunde” – so beschreibt Ars Technica das Ausmaß der fehlerhaften AI Overviews bei Googles täglichem Anfragevolumen.

Der entscheidende Faktor ist die schiere Reichweite: Google verarbeitet täglich mehrere Milliarden Suchanfragen. AI Overviews erscheinen mittlerweile bei einem erheblichen Anteil dieser Anfragen. Selbst eine vergleichsweise geringe Fehlerquote von zehn Prozent führt bei dieser Skalierung zu Millionen fehlerhafter Antworten täglich.

Die Frage, ob 90 Prozent Treffsicherheit für ein Suchwerkzeug akzeptabel sind, ist dabei keineswegs trivial. Bei klassischen Suchergebnissen tragen Nutzer die Verantwortung, Quellen selbst zu bewerten. AI Overviews hingegen präsentieren eine einzelne, autoritativ formulierte Antwort – was das Risiko erhöht, dass Fehler ungeprüft übernommen werden.

Relevanz für Unternehmen

Für Unternehmen ergeben sich daraus zwei konkrete Problemfelder:

1. Interne Informationsrisiken
Mitarbeiter nutzen KI-gestützte Suchfunktionen zunehmend für schnelle Recherchen – etwa zu rechtlichen Anforderungen, Produktinformationen oder Wettbewerbsanalysen. Fehlerhafte AI Overviews können dabei stille Informationsrisiken erzeugen, die sich kaum nachverfolgen lassen.

2. Fehlerhafte Außendarstellung
Werden Informationen über ein Unternehmen, seine Produkte oder Preise in AI Overviews falsch zusammengefasst, kann das zu Fehlinformationen bei potenziellen Kunden führen – ohne dass das Unternehmen dies unmittelbar bemerkt oder korrigieren kann.

Einordnung für den deutschen Markt

Für deutschsprachige Unternehmen gilt: AI Overviews sind in Deutschland zwar weniger verbreitet als in den USA, werden aber schrittweise ausgerollt.

Wer KI-generierte Suchergebnisse als zuverlässige Primärquelle behandelt, akzeptiert implizit eine nicht unerhebliche Fehlertoleranz.

Der Einsatz von Large Language Models in internen wie externen Informationsprozessen sollte grundsätzlich mit einem klaren Verifikationsschritt verbunden sein – insbesondere bei geschäftskritischen Entscheidungen. Unternehmen, die intern Richtlinien für den Umgang mit KI-Tools entwickeln, sollten diesen Aspekt ausdrücklich adressieren.

Quelle: Ars Technica – Analysis finds Google AI Overviews is wrong 10 percent of the time