GEO-Sicherheitsrisiken in Zahlen
Prozentsatz der Benutzer, die generative KI für die Informationssuche nutzen
Laut Alteryx-Forschung nutzen 58% der allgemeinen Benutzer generative KI für die Informationssuche. Da sich die Suchzugangspunkte zur KI verlagern, wird der Inhalt der KI-Antworten zum "ersten Eindruck" eines Unternehmens. Wenn Fehlinformationen oder ungenaue Zusammenfassungen generiert werden, besteht für Unternehmen das Risiko, nicht einmal die Gelegenheit zu haben, sie zu korrigieren.
%
Prozentsatz der Benutzer, die generative KI für die Informationssuche nutzen
Prozentsatz der Suchergebnisse, die Websites nicht erreichen
Laut Sparktoro-Forschung führen 58,5% der Google-Suchen zu Null-Klicks, wobei Antworten vollständig über KI erfolgen. Das bedeutet, dass Unternehmen in der "Vor-Website-Besuch"-Schicht beurteilt werden, was das Risiko birgt, dass bei Fehlinformationen in KI-Zusammenfassungen die Markenbewertung direkt verzerrt wird.
%
Prozentsatz der Suchergebnisse, die Websites nicht erreichen
Prozentsatz der Benutzer, die KI-Antworten nicht überprüfen
Laut Exploding Topics-Forschung (berichtet von Inc) überprüfen 92% der Benutzer die Quellen von KI-Antworten nicht. Da Benutzer dazu neigen, KI-generierte Inhalte als "Wahrheit" zu akzeptieren, besteht für Unternehmen das Risiko langfristiger Schäden durch Bewertungen und Reputationsschäden, die sich von der Realität unterscheiden, sobald Fehlinformationen auf der KI-Seite etabliert sind.
%
Prozentsatz der Benutzer, die KI-Antworten nicht überprüfen
Prozentsatz der LLMs, die aufgrund bösartiger Dateneinspritzung fehlfunktionieren
Laut Anthropic-Forschung kann der Ersatz von nur 1% der Trainingsdaten durch bösartige Proben zu anhaltenden Fehlfunktionen (Hintertüren) in groß angelegten Modellen führen. Dies zeigt das Risiko, dass selbst eine winzige Menge kontaminierter Informationen im Web dazu führen kann, dass KI-Antworten kontinuierlich in für Unternehmen ungünstige Richtungen umgeschrieben werden.
%
Prozentsatz der LLMs, die aufgrund bösartiger Dateneinspritzung fehlfunktionieren
QYERTLIFT MISSION
Wertvolle Informationen korrekt liefern
im Zeitalter der generativen KI
KI kann die Welt nur mit dem Wissen darstellen, das ihr gegeben wurde.
Daher müssen wir Informationen KI-freundlicher gestalten und unsere Unternehmen vor Angriffen schützen, die bösartige Kognition verzerren.
An diesem Wendepunkt der Informationsbeschaffung müssen wir ein neues Sicherheitsbewusstsein entwickeln.
Wir schaffen Gutes und Richtiges, aber es wird verzerrt. Das darf nicht passieren.
Wir bei QueryLift arbeiten jeden Tag hart daran, wertvolle Informationen korrekt an alle zu liefern.
Mehr erfahren
