How to program a racist AI
Compact seminar
30.05. – 03.06.2022
Filzengraben 8 – 10, 0.2 [ ] ground zero, Academy of Media Arts Cologne
Five years ago, the Google Research Team together with some Google Brain authors published the Transformer Architectures approach under the headline “Attention Is All You Need”. And since then, these Large Language Models (LLM) have also attracted attention. For the past 2 years, they have been at the center of social debates about discriminatory tendencies in AI language models. Even if racism is not explicitly or intentionally inscribed in these machine learning methods, they generate expressions in use that are difficult to predict, ranging from subtle everyday discrimination to agitation on the web, and thus also contribute to acts of racist violence on the streets.
Introduction to Programming Artificially Intelligent Racists is based on the Python programming language. “How to program a racist AI” is a continuation of the seminar “Human Machine Readable – Introduction to Programming” from the winter semester. However, participation in the WS is not a prerequisite. The seminar is open to anyone with previous programming experience (in any language). We will take a closer look at three areas of programming: 1. the Transformer model architecture, 2. the training data, and 3. the pre-processing of the respective data sets. The goal of the seminar is that at the end each student understands the basics of various biases in AI language models and is able to code their own communication guerrilla hate speech bot.
We ask for registration at ground-zero@khm.de
Github Repository
Vor fünf Jahren veröffentlichte das Google Research Team zusammen mit einigen Google Brain Autoren unter der Überschrift “Attention Is All You Need“ den Ansatz der Transformer Architekturen. Und Aufmerksamkeit haben seitdem auch diese Large Language Models (LLM) auf sich gezogen. Seit circa 2 Jahren stehen sie im Zentrum der gesellschaftlichen Debatten über diskriminierende Tendenzen in KI- Sprachmodellen. Auch wenn diesen Machine-Learning-Verfahren Rassismen nicht explizit oder vorsätzlich eingeschrieben werden, generieren sie im Gebrauch schwer vorhersehbare Äußerungen, die von subtiler Alltagsdiskriminierung über Hetze im Netz reichen und tragen damit auch zu rassistischen Gewalttaten auf der Straße bei.
Die Einführung in die Programmierung künstlich intelligenter Rassisten basiert auf der Programmiersprache Python. “How to program a racist AI” ist eine Fortsetzung des Seminars “Human Machine Readable – Einführung in die Programmierung” aus dem Wintersemester. Die Teilnahme im WS ist jedoch keine Voraussetzung. Das Seminar ist offen für alle, die schon Programmiererfahrung (egal in welcher Sprache) mitbringen. Wir werden drei Bereiche der Programmierung näher betrachten: 1. die Transformer-Modellarchitektur, 2. die Trainingsdaten und 3. das Pre-processing der jeweiligen Datensätze. Ziel des Seminars ist, dass am Ende jede*r Studierende die Grundlagen diverser Biases in KI-Sprachmodellen versteht und dazu in der Lage ist, einen eigenen Kommunikationsguerilla-Hate-Speech-Bot zu coden.
Anmeldung unter: ground-zero@khm.de