Unveiled AI: down the rabbit hole of symbols, ethics and aesthetics

Basic Seminar "Code"
Thursdays weekly 11 am – 1 pm
Filzengraben 8 - 10, 0.2 [ ] ground zero, Academy of Media Arts Cologne

The seminar covers the basics of practical cultural work with generative AI, and participants are not required to have previous programming knowledge. By learning the universal programming language Python, we will experimentally explore practical aspects and break down current AI tools for film, animation, image, sound, and text generation into their individual components. This approach not only helps us develop our own aesthetics and ways of expression with AI tools but also better understand their semantics so that we can question them in an aesthetic—research-oriented way.

However, as we learn to develop our own aesthetics in dealing with AI, a responsibility is placed on our shoulders that we are just learning to deal with as a society. The seminar therefore focuses not only on the practical-experimental exploration of generative AI, but also on the societal, social, ecological and cultural consequences of our increasing use of AI in art and cultural work: With every prompt for text generation by ChatGPT, you could also charge your smartphone 60 times − The training datasets and AI-generated artworks expand and violate our copyrights and personal rights − Discriminatory tendencies that seem to be inherent in generative AIs are also inscribed in artistic works − The same software packages that are considered creative tools in our context are actively used in Ukraine and Gaza to perform military operations. So it is not only our own visual/language that is currently being changed through the use of AI, but also our social role as cultural workers in the world.

Das Seminar vermittelt die Grundlagen der praktischen Kunst- und Kulturarbeit mit generativer KI. Hierfür werden keine Vorkenntnisse in Programmierung vorausgesetzt. Wir eignen uns gemeinsam grundlegende aber notwendige Konzepte der universellen Programmiersprache Python an, um experimentell die aktuellen KI-Tools zur Film-, Animations-, Bild-, Ton- und Texterzeugung in ihre einzelnen Komponenten zu zerlegen. Diese Herangehensweise hilft uns nicht nur dabei eigene Ästhetiken und Ausdrucksweisen mit KI-Tools zu entwickeln, sondern auch ihre Semantiken besser zu verstehen und sie ästhetisch-forschend hinterfragen zu lernen. Während wir jedoch eigene Ästhetiken im Umgang mit KI entwickeln, legt sich auch eine Verantwortung auf unsere Schultern, mit der wir gesellschaftlich gerade erst lernen umzugehen.

So steht also nicht nur die praktisch-experimentelle Auslotung generativer KI im Zentrum des Seminars, sondern auch die gesellschaftlichen, sozialen, ökologischen und kulturellen Folgen unseres zunehmenden Einsatzes von KI in der Kunst- und Kulturarbeit: Mit jedem Prompt durch den man Texte von ChatGPT generieren lässt, könnte man auch sein Smartphone 60-mal aufladen − Die Trainings-Datensätze und KI-generierten Werke erweitern nicht nur, sie verletzen auch unsere Urheber- und Persönlichkeitsrechte − Diskriminierende Tendenzen, die generativen KI’s inhärent zu liegen scheinen, schreiben sich auch in die künstlerischen Werke mit ein − Dieselben Software-Pakete, die in unserem Kontext als Creative-Tools gelten, werden in der Ukraine und in Gaza derzeit aktiv zur Durchführung militärischer Operationspraxen eingesetzt. So verändert sich derzeit nicht nur unsere eigene Bild-Sprache durch KI, sondern auch unsere gesellschaftliche Rolle als Kulturarbeiter*innen in der Welt.

In cooperation with the Duisburg Institute for Linguistics and Social Research (DISS), the jfc Media centre
and the Computer Professionals for Peace and Societal Responsibility (FIfF)

Github Repository

Semesterplan:

Week 45

07.11 [Thursday] – 11-13h

Programming Lessons

Lecture: Der kommende KI-Winter w/ Guido Arnold

– What was and what is AI nowadays? …and what it is not?

Große Sprachmodelle wie ChatGPT haben Millionen von Menschen beeindruckt und dazu bewegt mit ihnen Texte, Bilder und Videos zu erzeugen. Und das obwohl die Ergebnisse vielfach nur oberflächlich überzeugen. Mittlerweile ‘droht’ der Hype um diese Form von Künstlicher Intelligenz (KI) trotz stänig überarbeiteter Modelle abzukühlen. Die Branche kann den selbst geweckten Erwartungen, dass hier etwas erwächst, dass schon bald ‘intelligenter’ als wir sein wird, (bisher) nicht gerecht werden. Wir blicken hinter die Kulissen und ergründen warum ‘maschinelles Lernen’ auf die Rolle eines statistischen Papageis beschränkt bleibt und differenziertes Denken weiterhin unser Job sein wird.

Dazu schauen wir uns Erkenntnisse der Psychologie zu menschlichem Denken an und unterscheiden verschiedene Lernbenen nach Gregory Bateson. Mit diesen Betrachtungen können wir einsortieren warum die Fähigkeiten von ChatGPT und Co weit entfernt sind von menschlicher Intelligenz und dennoch den gesamten Sektor der ‘Wissensarbeit’ folgenreich umkrempeln.

Week 46

13.11 [Wednesday] – 11-12h

The Golden Age of Surveillance – ” Reflections on Society, Technocracy and our Humanity w/ Thomas Drake

Online event, organized by “Netze“

14.11 [Thursday] – 11-13h

Programming Lessons:

Lecture: Free Libre Open Source Software (FLOSS+Art) Culture & the AI Community

from Commons, the early hacker culture, media guerillas until AI hackers today!
Programming with GNU/Linux & UNIX Systems

14.11 [Thursday] – 18:30-20h

Lecture & Discussion: “Umgang mit Mis- und Desinformation in ‘sozialen’ Medien” w/ Guido Arnold

Excursion to DISS, Duisburg

Die derzeitige Stärke autoritärer und rechtspopulistischer Strömungen weltweit fällt zusammen mit einer wachsenden Verunsicherung durch multiple Krisen (Klimazerstörung, Krieg, unaufgearbeitete Pandemie, …) und einem massiven Bedeutungszuwachs ‚sozialer‘ Medien innerhalb der letzten fünf Jahre.

Die ‘sozialen’ Medien sorgen dabei für eine nachweislich erhöhte ‘Soziale Temperatur’ politischer Debatten: Mis- und Desinformation, Verschwörungslegenden, Diskriminierung, Gewaltaufrufe, die Löschung von Konten kritischer Nutzer:innen (…) gehören zum Alltag auf der politisch einflussreichsten Plattform X (ehemals Twitter).

In einem Input wollen wir die Zusammenhänge von Krisenverunsicherung und algorithmisch begünstigter Debattenpolarisierung beschreiben, um uns dann gemeinsam der politisch heiklen Frage nach der Notwendigkeit, der Legitimation und der Methode von “Zensur” auf diesen Plattformen zu widmen.

Thematisch passende (aber nicht erforderliche) Vorablektüre: Bullshitting 2024 – Demokratiezersetzende Normalisierung des Postfaktischen https://www.diss-duisburg.de/2024/10/bullshitting-2024/

15.11 [Friday] – 17h15

Lecture: Kunst und KI Strategien des ästhetischen Experimentierens w/ Georg Trogemann

Online-Streaming from 41. Forum Kommunikationskultur 2024, Rostock

KI öffnet einerseits neue Experimentierfelder für die freie Kunst, gleichzeitig transformiert sie die etablierten Arbeitsprozesse und Produktionsbedingungen in der Kreativwirtschaft. Die Fragen, die sich damit für künstlerisches Agieren stellen, erscheinen wie eine Miniatur der gesamtgesellschaftlichen Situation. Wie können wir ein Verständnis für die auf abstrakten neuronalen Netzen basierenden KI-Systeme entwickeln, lassen sie sich überhaupt verstehen? Wie können wir vor allem selbst handlungsfähig werden und den experimentellen Zugang zu KI ermöglichen? Kann KI dabei womöglich selbst eine tragende Rolle spielen? Welche Formen kann die experimentell-ästhetische Auseinandersetzung mit KI annehmen? Der Vortrag gibt einen Einblick in die aktuellen Herausforderungen des Umgangs mit KI in der künstlerischen Praxis.

Week 47

21.11 [Thursday] – 11-13h

Programming Lessons: KHM – AI Machine Usage and Generative AI

functionality and workflow of LLM’s and image models
introduction in the basic workflows and maintenance of the KHM remote computer for AI tasks

21.11 [Thursday] – 19h

Lecutre: Will we ever understand AI? w/ Georg Trogemann

@ Bauhaus Universität Weimar (more info see »here«)

To mitigate the risks posed by AI, we need to understand and trust the results generated by machine learning algorithms. Transparency, controllability and robustness are some of the requirements that are therefore imposed on AI. But is this even possible or have we reached a tipping point where certain types of AI are no longer comprehensible to humans? Do we finally have to accept their unknowability? The talk attempts to point out some crucial explanatory gaps and to clarify why it is so difficult to understand how AI works.

22.11 [Friday] – 18-19h30

Hearing & Discussion: ‘Targeted Killing’ or the promise of striking the right one

Online Hearing (more info you’ll find »here«)

Im Online-Hearing werden wir gemeinsam mit den Expert*innen Jürgen Altmann, Tatiana Bazzichelli, Jobst Paul, Rainer Rehak, Elke Schwarz und Jutta Weber folgende Fragen der Verantwortung, der historischen Kontinuität und der Auswirkungen von solchem Gebrauch von KI-Systemen gemeinsam erörtern:

  • Selbst wenn der Schutz der Zivilbevölkerung seitens der kriegführenden Parteien beabsichtigt wäre, wäre er überhaupt realistisch?
  • Lässt sich eine klare Trennung von menschlichem und maschinellem Handeln und Entscheiden aufrechterhalten?
  • Wird der Mensch zu einer symbolischen Repräsentation, die benutzt, ersetzt oder zerstört werden kann? Und wenn ja, wie läuft diese Dehumanisierung ab?
  • Was sagt die Forschung zu menschlicher Kontrolle, Verantwortung und Ethik in den derzeitigen bewaffneten Konflikten?
  • Wie können Entscheidungen, die auf KI-gestützten Systemen basieren, validiert und so transparent gemacht werden, dass die Weltöffentlichkeit sie nachverfolgen kann?
  • Handlungsoptionen: Was können Wissenschaftler*innen tun? Wie können sich Zivilgesellschaft und Aktivist*innen engagieren?

Week 48

28.11 [Thursday] – 11-13h

Programming Lessons:

Lecture: AI Warfare > Large Language Models of War

29.11 [Friday] – 10-13h

Excursion: Robin – a super assistent w/ Benita Martis

Excursion to jfc Media centre, Köln

29.11 – 1.12

Excursion: INVESTIGATING THE KILL CLOUD – Information Warfare, Autonomous Weapons & AI

Conference in Berlin

Week 49

03.12 [Tuesday] – 12-20h

one-day online conference

Dronomation
Post-Civil Drones and Artificial ‚Intelligence‘ in War Zones

Zoom Link and more info here: https://generativemedia.net/event/dronomation/

04.12 [Wednesday] – 18h

Panel: »Schreiben und Lesen im Zeitalter von KI« @ Frankfurter Debatte über die Sprache, Kassel w/ Christian

…unfortunately there will be no streaming

05.12 [Thursday] – 11-13h

Excursion: We track KI – Making / Teaching / Concepts / Workshops w/ Conny Crumbach & Florian Mortsiefer

Excursion to jfc Media centre, Köln

Programme:

  • The jfc Medienzentrum will give a short presentation of its work and show its studios and labs: the Studio (Conny Crumbach) and the FabLab (Florian Mortsiefer will go into detail about the FabLab infrastructure – 3D printing/plotting/soldering …)
  • Getting to know each other – students and participants talk about their work and whether they have given workshops before
  • Brief discussion/ exchange on why or whether it makes sense for art students to design workshops
  • Input from the jfc team: How to workshop – short presentation on what is important to us (jfc) when designing workshops (pedagogy / safety / target group)
  • Coffee break
  • Conclusion: Collecting concrete ideas for workshops – with reference to your own work and/or interest in topics that are teached at jfc. Call for ideas for a methodology lab.

Week 50

12.12 [Thursday] – 11-13h

lecture: history and basic functionality of (Deep) Neural Nets

Programming Lessons:

Week 51

19.12 [Thursday] – 11-13h

Programming Lessons: »CLOUDS ARE NOT AN OPTION« w/ Kjell Wistoff & Conrad Weise

Running Large Language Models (LLM) on your own machine / server

Description: The Seminar Session by Kjell and Conrad will contextualise recent AI systems according to their scale and within their vast infrastructure in that current developments in large language models manifest two main characteristics: as big as possible — and as open as necessary. In this workshop we will take a closer look at the implications of the corporate min-maxing of both features by questioning the apparent ‘openness’ and fixation on large scale parameter values of these systems. The current critical AI discourse and prevailing local-first approaches will guide us along the way and form an intersection that will serve as a necessary critical toolset to approach the responsible and sustainable integration of AI technologies in user applications. Together we aim to provide a basic understanding of the internal mechanisms of large language models, their underlying training structure, datasets and tools, while offering concrete practical insights into how to run small scale models, offline and locally using alternative open source approaches. The outcome of this workshop will be a collective screencast, which shares our gathered insights and yields an alternative way to practise the ambiguous technological stack.

Week 2 (2025)

09.01 [Thursday] – 11-13h

tbd

Week 3

16.01 [Thursday] – 11-13h

Lecture: Chip shortage, acceleration and Taiwan’s Dilemma & Destructive AI transformation w/ Guido & Ting

Das Ringen um die technologische Vorherrschaft ‘künstlicher Intelligenz’ geht trotz Ernüchterung unvermittelt weiter. Es ist ideologisch, ökonomisch und militärisch insbesondere in der sich zuspitzenden USA-China-Krise um eine neue multipolare Weltordnung zu bedeutsam. Die Produktion von Höchstleistungschips für das aufwändige KI-Training sowie der Betrieb dieser Modelle in neuen Rechenzentren schlucken hunderte von Milliarden und sind verantwortlich für eine exzessive Verschwendung von Strom, Wasser, Metallen und seltenen Erden. Die Ökobilanz der Tech-Riesen verschlechtert sich durch den Ausbau von KI-Anwendungen drastisch – die vor wenigen Jahren selbstgesteckten Ziele von Google, Microsoft und Co, schon bald ‘klimaneutral’ zu operieren, werden nun um Jahrzehnte nach hinten geschoben!

Wir diskutieren die multiplen Krisen-Auswirkungen der KI und fragen, an welchen Punkten es sich lohnen könnte, der zerstörerischen Tech-Transformation nicht mehr nur zuzuschauen, sondern politisch einzugreifen.

16.01 [Thursday] – 19:00

Hyperkrieg und Öffentlichkeit w/ Christian

Excursion to SSK socialist cafe, Köln

Derzeitige hybride Kriegsführungspraxen schließen zivile, öffentliche, unsere Informations- und auch unsere medialen Räume mit ein. Sie verwischen gezielt die rechtlichen und moralischen Grenzen zwischen Krieg und Frieden. Desinformations- und Propaganda-Kampagnen, die gezielte Einmischung in Wahlen und in politische Prozesse, KI-gestützte Targeting-Prozesse zum Aufspüren des „unknown known“ (D. Rumsfeld), u.s.w. Viele Elemente entwickelten sich aus Sicherheits-, Militär- und Big Data Logiken dieses Jahrtausends gleichermaßen heraus. Militärische Einheiten, Landeskriminalämter und Geheimdienste überwachen kontinuierlich unsere technologisierten Lebensräume, um „Gefährder“ zu errechnen oder potentielle Gegner und Terroristen unter uns algorithmisch zu erfassen. „Der Feind lebt im Inneren“, so Trump im Oktober. So auch Rumsfeld vor rund 20 Jahren. Es wundert nicht, dass das Konzept der Multi Domain Task Force (MDTF), in dessen Rahmen die Stationierung von US-Mittelstreckenraketen in Wiesbaden geplant ist, eigentlich einem Konzept zur nationalen Sicherheit der US entspringt.

Der kurze Vortrag geht auf eine ganz spezielle Art von technisch erzeugter Dehumanisierung im Hyperkrieg ein und argumentiert, dass ein Schutz der Zivilbevölkerung nicht mehr gewährleistet werden kann. Täglich werden Zivilist*innen getötet. Überlebenden wird ein menschenwürdiges Leben unmöglich gemacht. Wer trägt die Verantwortung?

Week 4

23.01 [Thursday] – 11-13h

tbd

Week 5

30.01 [Thursday] – 11-13h

Excursion to jfc Media centre w/ Conny Crumbach & Frank Schlegel (guest)

Frank Schlegel von digitaldurstig.de spricht über seine Arbeit als Vermittler und Pädagoge, stellt einige seiner Workshopkonzepte vor und wie er sie entwickelt. Außerdem soll es um Austausch gehen: Wie sind eure Perspektiven auf KI-Technologien und ihre Nutzung vor allem in der Bildung ? Was findet ihr wichtig (bei der Vermittlung), was findet ihr schwierig (bei der Nutzung, Vermittlung, KI in der Bildung) – wie geht ihr mit KI-Technologie um?