do nOt FOrGET AnaRCHist

Syntaktische Sprachexperimente im künstlich neuronalen Wortraum

Christian Heck (2023), „do nOt FOrGET AnaRCHist. Syntaktische Sprachexperimente im künstlich neuronalen Wortraum“, in: KI-Realitäten, Hrsg. Richard Groß/Rita Jordan (Bielefeld: transcript Verlag). S. 235-272. https://doi.org/10.14361/9783839466605-011

Download: as PDF (in german language)

Published in:

KI-Realitäten
Modelle, Praktiken und Topologien maschinellen Lernens

Transcript Verlag, Bielefeld

Edited by: Richard Groß & Rita Jordan

Many poets and visual artists worked with and after Gertrude Stein with practices that come very close to the performative element of the code: the concrete poetry of the Stuttgart School, the Dada poems, Oulipo, the lettrist detournement that alienates logics within communication processes, conceptual art, net literature, digital poetry, conceptual and code literature, and “literariness in media art.”

Nevertheless, literary or artistic-activist tactics and hacking as the appropriation of instruments of domination through programming are still two very different writing techniques, different forms of language critique and also of resistance.

This paper focuses on two experiments that attempt to create from them a subversive interface between aesthetic practice, technological and social critique.
They purposefully employ combinatorics of poetry and (adversarial) hacking to reinterpret artificial neural word embeddings in natural language processing (NLP) models.
The experiments are intended to open up a possibility space for reclaiming societal interpretive sovereignty over such AI language models, which for over a decade now have been embedded in the black boxes of private market and security technology applications, such as recommending systems, ranking algorithms, predictive policing tools, and counterterrorism- and forecasting systems. One of these systems is presented in the paper, followed by a demonstration of how meaning vectors of neural word embeddings can be hacked. The same is attempted in the second experiment, but in this case rule-based and poetic.
This is because poetry is probably the most challenging of these word embedding spaces so far. It has a high density of ambiguity and, crucially, it always plays by its own rules, at both semantic and syntactic
level.

Viele Dichter*innen und bildende Künstler*innen arbeiteten mit und nach Gertrude Stein mit Praktiken, die dem performativen Element des Codes sehr nahe kommen: die Konkrete Poesie der Stuttgarter Schule, die Dada-Gedichte, Oulipo, das lettristische detournement, das Logiken innerhalb von Kommunikationsprozessen verfremdet, die Konzeptkunst, die Netzliteratur, die digitale Poesie, die konzeptuelle und die Code-Literatur sowie die »Literarizität in der Medienkunst«.
Dennoch sind literarische bzw. künstlerisch-aktivistische Taktiken und Hacking als Aneignung von Herrschaftsinstrumentarien durch Programmierung auch heute noch zwei sich stark unterscheidende Schreibtechniken, unterschiedliche Formen der Sprachkritik und auch des Widerstands.

Im Zentrum des Beitrags stehen zwei Experimente, die versuchen, aus ihnen heraus eine subversive Schnittstelle zwischen ästhetischer Praxis, Technologie- und Gesellschaftskritik herzustellen. Sie setzen gezielt Kombinatoriken aus Poesie und (Adversarial) Hacking ein, um künstliche neuronale Worteinbettungen in Modellen zur natürlichen Sprachverarbeitung (Natural Language Processing [NLP]) umzudeuten.
Die Experimente sollen einen Möglichkeitsraum zur Rückeroberung gesellschaftlicher Deutungshoheit über solch KI-Sprachmodelle eröffnen, die seit nunmehr über einem Jahrzehnt in die Black Boxes privatmarktwirtschaftlicher und sicherheitstechnologischer Anwendungen eingebettet werden, etwa in Empfehlungssysteme, Ranking-Algorithmen, Predictive Policing Tools und Systeme zur Terrorismus- und Aufstandsbekämpfung. Eines dieser Systeme wird im Beitrag vorgestellt, um im Anschluss daran zu demonstrieren, wie Bedeutungsvektoren neuronaler Worteinbettungen (word embeddings) gehackt werden können. Dasselbe wird auch im zweiten Experiment versucht, in diesem Fall aber regelbasiert und poetisch.
Denn Poesie stellt bislang die wohl größte Herausforderung für diese Worteinbettungsräume dar. Sie besitzt eine hohe Dichte an Mehrdeutigkeit und – was entscheidend ist – sie spielt stets nach ihren eigenen Regeln, auf semantischer wie auch auf syntaktischerEbene.