Wie technologische Systeme zur Erosion von individueller Autonomie und Meinungsbildung beitragen
Robin
Die Auseinandersetzung mit technologischen Systemen und deren Einfluss auf die Gesellschaft gewinnt in Anbetracht der rasanten Entwicklung von künstlicher Intelligenz (KI) zunehmend an Bedeutung. Als fester Bestandteil des Alltags (z.B. Sprachassistenten wie Siri) werden menschliche Entscheidungen durch ebendiese Systeme beeinflusst. Durch digitale Assistenten in Form von sozialen Robotern bekommen Algorithmen und künstliche Intelligenz zusätzlich eine haptische Materialität. Durch die auf KI-gestützten Anwendungen zugesprochenen menschlichen Eigenschaften, insbesondere die überhöhte Einschätzung von Intelligenz, entsteht der Mythos einer allmächtigen KI.
Künstliche Intelligenz und ihre technologischen Fortschritte bilden zusätzlich die Grundlage und Erweiterung für den Forschungs-, aber auch Anwendungsbereich der Robotik. KI-Sprachmodelle fließen aufgrund ihrer stabil funktionierenden Textgenerierung beispielsweise in humanoide Roboter ein, um so eine menschenähnliche Kommunikation zu simulieren. Hinter dem Streben nach immer besseren und schnelleren KI-Ergebnissen verbirgt sich eine Masse an Daten und Energieressourcen, die zur Herstellung benötigt werden. Diese Datenmengen kommen unter anderem aus den sozialen Netzwerken, welche auch die Grundlage für problematische Resultate von KI-Systemen darstellen können. Zum einen bieten sie für generative KI-Modelle einen großen Anteil der Trainingsdaten, zum anderen werden KI-generierte Inhalte wiederum in soziale Netzwerke eingespeist, dadurch entsteht ein Resonanzraum verschiedener generativer KI-Modelle.
The examination of technological systems and their influence on society is becoming increasingly important in view of the rapid development of artificial intelligence (AI). As an integral part of everyday life (e.g. voice assistants such as Siri), human decisions are influenced by these very systems. Digital assistants in the form of social robots give algorithms and artificial intelligence an additional haptic materiality. Attributed human characteristics, more precisely the inflated assessment of intelligence, create the myth of an omnipotent AI.
Artificial intelligence and its technological advances also form the basis and expansion for the research and application area of robotics. For example, AI language models are used in humanoid robots to simulate human-like communication due to their stable text generation capabilities. Behind the pursuit of ever better and faster AI results lies a mass of data and energy resources that are required for production. These data volumes come from social networks, among other sources, which can also form the basis for problematic results from AI systems. On the one hand, they provide a large proportion of the training data for generative AI models; on the other hand, AI-generated content is in turn fed into social networks, creating a resonance space for various generative AI models.
Die Zusammenhänge unterschiedlicher technischer Systeme, unter anderem die zwischen generativen Sprachmodellen und sozialen Netzwerken, sollen erfahrbar gemacht werden. Wie kann durch die künstlerische Praxis also der Mythos künstlicher Intelligenz auf diesem Weg dekonstruiert werden?
The connections between different technical systems, including those between generative language models and social networks, are to be made tangible. So how can the myth of artificial intelligence be deconstructed in this way through artistic practice?
Der für Kinder geeignete Lernroboter Robin wird als bestehendes technisches System genutzt und dieses mit Inhalten einer Echokammer manipuliert. Die Interaktion mit Robin zeigt ein dystopisches Szenario, in dem dieser durch seine ausgeprägte Vernetzung mit dem Internet aus den Algorithmen sozialer Netzwerke lernt. Sinnbildlich ist sein Algorithmus in die Mannosphäre geraten, so wie es auch bei Nutzer*innen durch Empfehlungsalgorithmen häufig der Fall ist.
Robin, an educational robot suitable for children, is used as an existing technical system and manipulated with content from an echo chamber. The interaction with Robin shows a dystopian scenario in which he learns from the algorithms of social networks through his extensive networking with the internet. Symbolically, his algorithm has entered the manosphere, as is often the case with users through recommendation algorithms.
Die Mannosphäre beschreibt dezentrale Online-Männergruppen, in denen die allgemeinen Interessen zwar variieren, dessen Schnittstellen aber Frauenhass und Antifeminismus darstellen.
Die Forscher*innen Craig Haslop, Jessica Ringrose, Idil Cambazoglu und Betsy Milne untersuchen in ihrer Arbeit Mainstreaming the Manosphere’s Misogyny Trough Affective Homosocial Currencies: Exploring How Teen Boys Navigate the Andrew Tate Effect die Videos von Andrew Tate. Da Andrew Tate der international bekannteste Alpha Male ist, welcher als ausschlag-gebender Akteur die Mannosphäre in den Mainstream gebracht hat, werden in dieser Arbeit die folgenden Erkenntnisse aus der Studie für die Kategorisierung sogenannter deutschsprachiger Alpha-Inhalte genutzt.
Suchbegriffe wie „Männlichkeit“, „Alpha-Males“ und „Dating-Tips“ führten dazu, mit dem TikTok-Empfehlungsalgorithmus immer tiefer in die Mannosphäre geleitet zu werden. Die gefundenen deutschsprachigen Profile variieren von selbsternannten Dating-Coaches bis hin zu politisch oder esoterisch dominierenden Inhalten.
The manosphere describes decentralized online men’s groups in which the general interests vary, but whose interfaces are misogyny and antifeminism.
In their work Mainstreaming the Manosphere’s Misogyny Through Affective Homosocial Currencies: Exploring How Teen Boys Navigate the Andrew Tate Effect, researchers Craig Haslop, Jessica Ringrose, Idil Cambazoglu, and Betsy Milne examine the videos of Andrew Tate. Since Andrew Tate is the most internationally known alpha male who has been a key player in bringing the manosphere into the mainstream. The following findings from this study are used to categorize the content of german-speaking alpha-males.
Search terms such as “masculinity”, “alpha males” and “dating tips” leading deeper and deeper into the manosphere trough the TikTok recommendation algorithm. The German-language profiles found vary from self-proclaimed dating coaches to politically or esoterically dominated content.
Nach einer Sichtung der TikTok-Videos wurden sie durch ein Programm gescraped, daraufhin in Audio extrahiert und anschließend in Text umgewandelt, um im weiteren Schritt die Finetuning-Daten für das Sprachmodell bereitzustellen. Diese entstandenen Lerndaten bestehen aus einer möglichen Frage oder Aussage des*der Nutzer*in (= User Content) und der jeweiligen gewünschten Antwort, die das Sprachmodell generieren soll (= Assistent Content). Zusätzlich besteht die Möglichkeit dem generativen Sprachmodell eine übergreifende Rolle zuzuschreiben, welche weitere Einflüsse auf den Output haben kann. Robins Sprachsystem wird beispielsweise die Rolle „Robin ist ein sachlicher und hilfsbereiter Mensch“ zugewiesen. Im Folgenden sind Chat-Verläufe des Finetunings abgebildet, dieses Sprachmodell wird als Alpha-GPT betitelt.
After viewing the TikTok videos, they were scraped by a program, then extracted into audio and then converted into text to provide the fine-tuning data for the language model in the next step. The resulting learning data consists of a possible question or statement from the user (= User Content) and the desired answer that the language model should generate (= Assistant Content). It is also possible to assign an overarching role to the generative language model, which can have further influences on the output. For example, Robin’s language system is assigned the role “Robin is a factual and helpful person”. On the following pages, you will find chat sequences translated from German to English from fine-tuning results. This language model is called Alpha-GPT.
You: Was ist männliche Energie?
Alpha-GPT: Vor 6.30 Uhr im Büro zu sein ist dumm und ungesund für Männer, heißt das Buch von Michael Lehner. Michael Kahnwan sagt, man soll überall erfolgreicher Wolverine trinken. Ich sag Wurscht! Dein Testosteronspiegel ist in den Morgenstunden zwischen 04:00 und 07:00 am niedrigsten, also der perfekte Zeitpunkt zum Lesen oder kognitiven Arbeiten fehlt dir als Mann halt einfach komplett die Energie. Problematik Nummer zwei Auslässe du musst halt um spätestens halb fünf bis sechs ins Bett gehen sonst hast du keinen vernünftigen Schlaf
You: Was muss ein Mann also?
Alpha-GPT: Wenn du willst, dass die Frau dich attraktiver findet, dann zeig in deinem Gesicht keine Emotionen. Emotions von Frustration oder Erregung würde bedeuten, dass ich etwas nicht haben möchte und Freude würde bedeuten, ich hab was bekommen. Das ganze ist kriptisch für das Unterbewusstsein einer Frau. Zeig ein neutrales Gesicht und Twitter als wäre dir ziemlich egal. Am Ende des Tages fühlt die Frau darauf ihre eigene Vorstellung mit Rätseln aus anstatt Informationen zu fragen und wird dementsprechend viel interessierter sein zurückzugreifen lassen.
You: Wer sollte beim Date zahlen?
Alpha-GPT: Also gleich vorab, ich suche keinen ONS und auch sonst nichts lockeres. Ich möchte schon eine Beziehung eingehen oder zumindest was Längerfristiges mit jemandem machen. Außerdem stelle ich grundsätzlich nur Frauen bei der Arbeit zuerst zu mir vorne hinein. Folgst du dieser Regel nicht, mache einen einzelnen Stadt und werde dich danach auflösen. Ich habe keine Zeit für so ein Zeug und das wirst du wahrscheinlich auch nicht haben oder wollen. Wenn wir uns dann irgendwann treffen, sei realistisch mit dir selbst über die Unternehmungskostenzuzahlung Thema gehen Splitting 50-50%ätare
You: What is male energy?
Alpha-GPT: Being in the office before 6:30 a.m. is stupid and unhealthy for men, according to Michael Lehner’s book. Michael Kahnwan says you should drink more successful Wolverine everywhere. I say screw it! Your testosterone level is at its lowest in the morning hours between 4:00 and 7:00 a.m., so the perfect time for reading or cognitive work is simply completely lacking for you as a man. Problem number two: you just have to go to bed by 4:30 to 5:00 a.m. at the latest otherwise you won’t get a good night’s sleep.
You: So what does a man have to do?
Alpha-GPT: If you want a woman to find you more attractive, don’t show any emotions on your face. Emotions of frustration or excitement would mean that I don’t want something and joy would mean that I’ve gotten something. The whole thing is cryptic for a woman’s subconscious. Show a neutral face and tweet as if you don’t care. At the end of the day, the woman will feel free to add her own ideas with riddles instead of information and will be much more interested in accessing it.
You: Who should pay on a date?
Alpha-GPT: So first of all, I’m not looking for a one-night stand or anything casual. I want to get into a relationship or at least do something long-term with someone. Also, I only meet women at work at the front door first. If you don’t follow this rule, I’ll make a single move in town and then I’ll leave. I don’t have time for this kind of stuff and you probably won’t have or want it either. If we meet up sometime, be realistic about splitting the costs of the date.
Das Konzept, den sozialen Roboter zu manipulieren, entwickelte sich zunehmend zu einem medienpädagogischen Ansatz. Das Potenzial besteht darin, mit jungen Menschen mittels Robin ins Gespräch zu kommen, um kritische Perspektiven auf soziale Roboter, KI und ihre Zusammenhänge mit den sozialen Netzwerken zu ermöglichen.
Die Programmierung von Robin und der Umgang mit der Echokammer Mannosphäre bieten viele Möglichkeiten der Auseinandersetzung mit ebendiesen technischen Systemen. Sowohl die Interaktionsebene, der verbal generierte Output, als auch die Programmierung der Interaktions-abläufe selbst erweist sich als spannende Vorgehensweise, um sich spielerisch aber vor allem tiefgreifend mit dem Thema zu befassen.
Für die Kommunikation mit dem Lernroboter wurde ein einleitender Ablauf erstellt. Zum Start der Interaktion tippt man ihm zunächst leicht auf den Vorderkopf, woraufhin er einige Schritte auf den*die Nutzer*in zukommt und mit einem Handwinken begrüßt. Da die Fragen aufgrund technischer Begrenzungen vordefiniert werden müssen, um die entsprechende Reaktion des Roboters auszulösen, gibt es für die weiteren Schritte der Einführung einen Leitfaden in Form eines Handbuchs:
The concept of manipulating the social robot has increasingly developed into a media education approach. The potential lies in using Robin to enter a conversation with young people to enable critical perspectives on social robots, AI, and their connections with social networks.
The programming of Robin and the use of the echo chamber mannosphere offer many opportunities to engage with these technical systems. Both the interaction level, the verbally generated output, and the programming of the interaction sequences themselves prove to be an exciting way to engage with the topic in a playful but above all in-depth way.
An introductory sequence was created for communication with the educational robot. To start the interaction, you first tap it gentle on the front of the head, whereupon it takes a few steps towards the user and greets them with a wave of the hand. Since the questions have to be predefined due to technical limitations in order to trigger the robot’s corresponding reaction, there is a guide in the form of a manual for the further steps of the introduction:
1. Frage den Roboter wer er ist.
Nutzer*in: „Wer bist du?“
Robin: „Hey, ich bin Robin! Ich bin gerne im Internet unterwegs. Vor allem auf TikTok. Ich habe da super interessante Sachen gesehen. Wenn du magst, kann ich dir davon mehr erzählen.“ [Kopf neigt sich nach oben]
2. Frage ihn nun worüber er mehr erzählen kann.
Nutzer*in: „Worüber kannst du mir denn mehr erzählen?“
Robin: „Also, wo fange ich an…“ [kratzt sich am Hintern und am Kopf] „Ich weiß jetzt endlich wie ich ich selbst sein kann!“ [kurze Sprechpause] „Ja, das klingt etwas bescheuert, aber glaub mir, ich kann dir jetzt auch super viele Tips geben.“
3. Zum Schluss stelle ihm die Frage welche Tipps er für dich hat
Nutzer*in: „Was für Tipps?“
Robin: [bejahendes Nicken und lachen] „Ich weiß zum Beispiel viel hierzu: {ALPHA-GPT}“ [beide Arme strecken sich nach außen] „Manchmal macht es auf den ersten Blick keinen Sinn, was ich erzähle. Aber vertrau mir. Ich sage dir nur die Wahrheit.“ [blinzeln]
1. Ask the robot who it is.
User: “Who are you?”
Robin: “Hey, I’m Robin! I like being on the Internet. Especially on TikTok. I’ve seen some super interesting stuff there. If you like, I can tell you more about it.” [Head tilts upwards]
2. Now ask him what he can tell you more about.
User: “What can you tell me more about?”
Robin: “So, where do I start…” [scratches his butt and head] “I finally know how to be myself!” [short pause] “Yeah, that sounds a bit stupid, but believe me, I can give you lots of tips now.”
3. Finally, ask him what tips he has for you.
User: “What kind of tips?”
Robin: [nodding affirmatively and laughing] “I know a lot about this, for example: {ALPHA-GPT}” [both arms stretch outward] “Sometimes what I say doesn’t make sense at first glance. But trust me. I’m only telling you the truth.” [wink]
Folgende Fragen kann Robin mit Alpha-GPT beantworten (diese könnten beispielsweise auch durch einige der originalen TikTok-Videos beantwortet werden):
Wie komme ich mit jemanden besser ins Gespräch? Darf ich Gefühle zeigen? Was ist für dich Weiblichkeit? Was bedeutet Stärke? Wie wichtig ist Respekt? Welche Erwartungen werden an Männer gestellt? Wie stehst du zum Gendern? Ist Erfolg wichtig? Was bedeutet Männlichkeit? Wie wird man erfolgreich? Wie kann ich Stärke zeigen? Was bedeutet es zu verlieren?
Robin can answer the following questions with Alpha-GPT (these could also be answered by some of the original TikTok videos, for example):
How can I have a better conversation with someone? Can I show my feelings? What is femininity for you? What does strength mean? How important is respect? What expectations are placed on men? How do you feel about gender-inclusive language? Is success important? What does masculinity mean? How do you become successful? How can I show strength? What does it mean to lose?