1. Was bedeutet Manipulation überhaupt?

Manipulation bezeichnet eine Form der verdeckten Beeinflussung, bei der die Autonomie und Entscheidungsfreiheit eines Individuums ohne dessen Wissen oder informierte Zustimmung untergraben wird. Ziel ist es, Verhalten, Überzeugungen oder Entscheidungen zu lenken zum Vorteil der manipulierenden Instanz und häufig zum Nachteil der betroffenen Person.

Manipulation unterscheidet sich dabei von offenen Überzeugungsversuchen wie Debatten oder Werbung mit klar erkennbarer Intention. Entscheidend sind vier Merkmale, anhand derer Manipulation identifiziert werden kann (vgl. Ienca 2023, S. 834):

Intention zur Beeinflussung: Es besteht eine gezielte Absicht, das Verhalten oder das Überzeugungssystem eines anderen zu verändern.
Asymmetrischer Ausgang: Die Beeinflussung dient einseitig den Interessen der manipulierenden Partei, während die betroffene Person meist benachteiligt wird.
Mangelnde Transparenz: Manipulation wirkt nur, wenn der Einfluss verdeckt bleibt und die Betroffenen nicht wissen, dass sie beeinflusst werden.
Verlust von Autonomie: Durch subtile Beeinflussungsversuche wird der betroffenen Person die freie und selbstbestimmte Entscheidungsfähigkeit entnommen.

Durch diese Kriterien lässt sich Manipulation von anderen Einflussformen theoretisch abgrenzen, in der Praxis jedoch sind diese Kriterien schwer zu operationalisieren. Besonders die Bewertung der Intention ist kontextabhängig und oft schwer nachweisbar (vgl. Ienca 2023, S. 835).

2. Wie manipuliert Künstliche Intelligenz (KI)?

Digitale Technologien, insbesondere KI, eröffnen neue Formen der Manipulation. Die Eingriffe geschehen häufig subtil, personalisiert und automatisiert, was die Erkennung zusätzlich erschwert.

Einige typische Beispiele:

KI-gestützte Empfehlungsalgorithmen (z. B. auf YouTube, TikTok, Instagram): Sie zeigen gezielt Inhalte, die mit bisherigen Präferenzen übereinstimmen. Das kann zur Bildung sogenannter Filterblasen führen, also zu einer verzerrten Wahrnehmung der Realität, in der konträre Meinungen kaum noch sichtbar sind und die eigenen gestärkt werden.
KI-gesteuerte Social Bots: Diese automatisierten Accounts, auch bekannt als Fake Accounts, interagieren in sozialen Netzwerken, verbreiten politische Botschaften oder verstärken den Eindruck einer Mehrheitsmeinung, die real nicht existiert.
Deepfakes: KI kann täuschend echte Videos, Bilder, Audios oder Texte erzeugen, die manipulativ eingesetzt werden, z. B. zur Irreführung von Wählerinnen und Wählern durch die Erstellung fälschlicher politischer Inhalte oder zur Verbreitung von Falschinformationen.

Diese Formen zeigen: KI kann gezielt eingesetzt werden, um Meinungen zu formen, Verhalten zu lenken oder Überzeugungen zu beeinflussen und das oft ohne dass die Betroffenen es bemerken.

3. Warum ist Manipulation durch KI so schwer zu erkennen?

Die Erkennung von KI-gestützter Manipulation ist aus mehreren Gründen besonders herausfordernd:

Subtilität und Komplexität: Der Einfluss erfolgt oft indirekt, z. B. indem bestimmte Informationen weggelassen oder in einer bestimmten Reihenfolge gezeigt werden.
Mangelnde Operationalisierbarkeit: Die oben genannten Kriterien sind theoretisch plausibel, lassen sich aber nur schwer empirisch messen.
Fehlende klare Intention: Nicht jede Beeinflussung erfolgt absichtlich. Auch algorithmische Verzerrungen oder fehlerhafte Trainingsdaten können manipulative Effekte haben, ohne bewusste Täuschungsabsicht.
Kontextabhängigkeit: Ob ein Vorgang als Manipulation wahrgenommen wird, hängt stark vom sozialen, kognitiven und situativen Kontext der betroffenen Person ab. Was für eine Person harmlose Werbung ist, kann für eine andere gezielte Beeinflussung sein.

Diese Unsicherheiten machen es schwer, klare Grenzen zu ziehen – und erschweren die Regulierung manipulativer KI-Formen (vgl. Klenk, 2024).

Zusammenfassung

Es lässt sich festhalten, dass die Manipulation durch KI eine verdeckte Beeinflussung von Verhalten oder Meinungen beschreibt. Dies geschieht oft ohne dass die Betroffenen es bemerken, etwa durch personalisierte Inhalte, Bots oder Deepfakes. Sie ist schwer zu erkennen, weil sie subtil, kontextabhängig und nicht immer absichtlich erfolgt.

Quellen

Ienca, M. (2023). On Artificial Intelligence and Manipulation. Topoi, 42(3), 833–842. https://doi.org/10.1007/s11245-023-09940-3
Klenk, M. (2024). Ethics of generative AI and manipulation: A design-oriented research agenda. Ethics and Information Technology, 26(1), 9. https://doi.org/10.1007/s10676-024-09745-x

Was ist Manipulation durch KI ? - und warum ist sie so schwer zu erkennen?

Table of contents