GPT & Co (4/6) — Propaganda auf Knopfdruck: DeepFakes und Demokratie

Mit generativer KI lassen sich nicht nur Texte und Bilder auf Knopfdruck zu tausenden produzieren, auch Profilinhalte und Accounts können von Assistenten wie AutoGPT & Co automatisch erstellt werden. Wir sind im Zeitalter der vollautomatisierten Propaganda angekommen. Wie gefährlich sind diese Manipulationen, was bedeutet das für uns persönlich, vor allem aber für den öffentlichen Diskurs, für die Demokratie und wie können wir uns und unsere Gesellschaft vor Manipulation schützen?

Wie retten wir uns vor vollautomatisierter Propaganda?

Mit generativer KI lassen sich nicht nur Texte und Bilder auf Knopfdruck zu tausenden produzieren, auch Profilinhalte und Accounts können von Assistenten wie AutoGPT & Co automatisch erstellt werden. Wir sind im Zeitalter der vollautomatisierten Propaganda angekommen. Wie gefährlich sind diese Manipulationen, was bedeutet das für uns persönlich, vor allem aber für den öffentlichen Diskurs, für die Demokratie und wie können wir uns und unsere Gesellschaft vor Manipulation schützen?

Links und Literatur
President Death Match bei Minecraft

Trotz aller Sicherheitsmaßnahmen auch ChatGPT lässt sich für die Produktion von Falschinformation einsetzen.

Spear fishing Betrug durch gefakete Anrufe.

Längerer Artikel zur technischen Funktionsweise von DeepFakes

Microsofts Vall-E soll ein drei Sekunden Audio reichen, um eine Stimme zu immitieren.

Die Mediengeschichte ist eine Geschichte der Fälschungen, wie dieses Forschungsprojekt oder dieser frühe Film zeigen.

Schon [Hassrede im Netz](https://www.sueddeutsche.de/politik/hassrede-boehmermann-polizei-zdf-magazin-royale-1.5593282
) wird von den Ordnungsbehörden kaum verfolgt, wie kollte das dann mit Fake News und Deep Fakes klappen?

Credits

Trefft mich auf Mastodon oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3