IT After Work: Trusted Information vs. Fakes

KI-gestützte Fälschungswerkzeuge (z.B. Deepfakes, OpenAI usw.) ermöglichen neuerdings massenhafte automatisierte Erstellung von Fakes, sowohl in der Wirtschaft als auch im gesellschaftlichen und politischen Diskurs. Es ist davon auszugehen, dass diese Werkzeuge von böswilligen Akteuren auch kurzfristig eingesetzt werden. Die zu erwartenden Folgen sind gravierend für Wirtschaft (Gefälschte Reputation), Demokratie (Vertrauensschwund) und Justiz (Beweismittelfälschung).
Gängige automatisierte Gegenmaßnahmen können das Wettrüsten gegen immer besser werdende Fälschungswerkzeuge nicht gewinnen. Manuelle Gegenmaßnahmen sind teuer und nicht skalierbar. Außerdem können wir davon ausgehen, dass eine Person nur bei einem kleinen Teil der täglichen konsumierten Informationen den Wahrheitsgehalt selbst beurteilen kann. Für alle übrigen Informationen muss sie anderen Personen oder Institutionen vertrauen. Aus diesem Grund betrachten wir gerechtfertigtes Vertrauen als den zentralen Hebel im Umgang mit (Des-) Informationen. Eine wichtige Voraussetzung für Vertrauen im Kontext technisch-vermittelter Kommunikation ist, es nachweislich mit echten Menschen zu tun zu haben und nicht mit einem digitalen potemkinschen Dorf aus KI-gestützten Bots. Der Vortrag zeigt, wie trotz der massiven Angriffe durch Fälschungswerkzeuge und Bots eine Vertrauenscommunity im Netz aufgebaut werden kann.

Referentin: Jessica Fritz
Jessica Fritz arbeitet seit 2018 als Managerin digitale Technologien und Services beim VDE. Als Ingenieurin der Computerwissenschaften betreut sie die Themen Mensch-Maschinen- Interaktion, Trusted Information sowie Cybersecurity.
Zuvor war sie bereits seit 2013 als Projektmanagerin und Normungsreferentin bei VDE|DKE tätig.