other minds – lecture series #1 (with guest speaker Guido Arnold)
@ Filzengraben 8 – 10, [ ]ground zero, Kunsthochschule für Medien Köln + Online
zur Onlineteilnahme bitte Mail an: ground-zero [at] khm [dot] de Betreff: other minds #1
22.06.2023 | 11:00 – 16:00h (Pause von 13-14h)
Propagandabots und Fakemaschinen á la ChatGPT in ihrer Wechselwirkung mit sozialen Medien
Programm:
11.00 Uhr – 12.00 Uhr
Guido Arnold
Fragmentierung durch Virtualisierung des öffentlichen Raums
12.00 Uhr – 13.00 Uhr
Benita Martis
Propagandabots
13.00 Uhr – 14.00 Uhr
(Pause)
14.00 Uhr – 15.00 Uhr
Christian Heck
Chatbots – Fake by design
15.00 Uhr – 16.00 Uhr
Diskussionsrunde
11:00h: Fragmentierung durch Virtualisierung des öffentlichen Raums (Guido Arnold)
Mit der Ausbreitung sozialer Medien hat die Vernetzung der Bevölkerung in den meisten Gesellschaften in den letzten zehn Jahren enorm zugenommen. Im gleichen Zeitraum ist eine zunehmende Fragmentierung der Gesellschaft in kleinere isolierte Gruppen zu beobachten. Der Vortrag untersucht welche Rolle soziale Netzwerke bei diesem Zerfall spielen. Algorithmische Vorgaben sozialer Medien beeinflussen über ihre jeweilige, spezifische Metrik der Aufmerksamkeitsökonomie die soziale Struktur ihrer Nutzer*innen:
Wer ist wie sichtbar?
Die zentralen Stellschrauben (in einem hochdimensionalen Parameterraum) finden sich in einer komplexen, und zeitlich veränderlichen Steuerung der individuellen Nachrichtenreihenfolge, dem sogenannten Ranking:
Welche Nachrichten werden mir zuvorderst angezeigt?
Dies ermöglicht eine feingliedrig justierbare Reichweitensteuerung von 1) privaten Mitteilungen, 2) politischer und 3) ökonomischer Werbung. Erst diese algorithmische Reichweitensteuerung ermöglicht echte Viralität und bildet die Basis für eine massive, automatisierte Einflussnahme auf den öffentlichen Raum – z.B. über skriptgesteuerte Chatbots.
Guido Arnold (Physiker), arbeitet am Duisburger Institut für Sprach- und Sozialforschung zum Thema Digitalisierte Biopolitik.
Er hat an den Universitäten Wuppertal und Nantes theoretische Physik studiert und in der Quantentheorie promoviert. Danach beschäftigte er sich am Zentralinstitut für angewandte Mathemetik des Forschungszentrums Jülich mit der Simulation von Quantencomputern auf Höchstleistungsrechnern.
Seit seiner Beschäftigung mit algorithmischer Modellierung physikalischer Systeme setzte er sich mit der Übertragung solcher Computersimulationen auf soziale Systeme auseinander. Guido Arnold bewertet die im Zuge des Digitalismus neu aufkeimende Hoffnung vieler Technokrat*innen auf eine umfassende Kybernetik des Sozialen kritisch. Die Kombination selbstlernender Algorithmen aus dem Bereich der „künstlichen Intelligenz“ (KI) mit „BigData“-Methoden zur Analyse großer Datenbanken, ermöglicht bedrohliche Fortschritte auf dem Weg in eine programmierte Gesellschaft.
12:00h: Propagandabots (Benita Martis)
Die Informationsflut, welche mit sozialen Netzwerken einhergeht, stellt Nutzer*innen vor die Gefahr echte und falsche Informationen nicht voneinander unterscheiden zu können. Durch den Algorithmus geförderte Inhalte einzelner Gruppierungen und Influencer*innen, können eine große Reichweite generieren, welche die Glaubhaftigkeit ihrer selbst sowie mögliche (gezielte und ungezielte) Missinformationen unterstützt.
Durch die Kommerzialisierung großer Sprachmodelle ist der gezielte Missbrauch dieser zugänglicher denn je. KI-Textgeneratoren sind in der Lage, ähnlich wie Influencer*innen, in der digitalen Öffentlichkeit zu agieren.
Auf den ersten Blick sind derartige Inhalte kaum von Menschen verfasster Propaganda zu unterscheiden. Erst bei genauerer Überprüfung werden unterschiedlich starke Spuren künstlicher „Intelligenz“ in Form von syntaktischen und semantischen Fehlern erkennbar. Der Vortrag lotet experimentell mediale Spiele aus Falschinformationen und Verschwörungsmythen aus, welches Nutzer*innen aus einer gesellschaftlichen Notwendigkeit heraus, vor eine kritische Betrachtung ihres eigenen Umgangs mit Informationen in sozialen Netzwerken stellt.
Benita Martis (Kommunikationsdesignerin), studiert derzeit in Diplom II an der Kunsthochschule für Medien Köln (KHM) mit Schwerpunkt exMedia (Experimentelle Informatik).
14:00h: Chatbots – Fake by design (Christian Heck)
Von Joseph Weizenbaums ELIZA bis zu OpenAI’s ChatGPT: ohne Fake würde kein Chatbot funktionieren, so die These dieses Vortrags. Dieser Fake ist kein Fehler, sondern die grundlegende Idee hinter diesen Anwendungen. Ein Fake, der um so besser funktioniert, je mehr wir den technischen kognitiven Systemen Intentionalität zuschreiben, d.h. glauben, in natürlicher Sprache mit einer Person zu kommunizieren. Doch diese natürlichsprachlichen Wörter und Begriffe die wir in Interaktion mit Chatbots schreiben, sie sind nicht nur Wörter als Operanden, sprich Zeichen die vom Bot manipuliert werden, sondern auch Operatoren, jene Zeichen die manipulieren. Zeichen, die uns Nutzer*innen manipulieren, auch Zeichen, die in sozialen Netzwerken Monitoring-, Filter-, Moderations und Ranking Algorithmen manipulieren. So sind auch soziale Netzwerke nicht einzig passive Träger von Zeichen, sondern aktive Erzeuger gut funktionierender Fakes.
Christian Heck, Künstlerisch- wissenschaftlicher Mitarbeiter & Doktorand an der Kunsthochschule für Medien Köln mit Schwerpunkt “Ästhetik und neue Technologien”.
