Virtuelle Assistenz

Entstehungsgeschichte – Was sind virtuelle Assistent*innen?

Virtuelle Assistent*innen sollen uns im digitalen Alltag zur Seite stehen, wenn wir Rat und Hilfe brauchen. Es handelt sich bei virtuellen Assistent*innen – so sagt es bereits ihr Name – um elektronische Helferlein, die verschiedene Kompetenzen und Gestalten haben. Ob beim Online-Einkauf oder Banking: der*die Nutzer*in bekommt nun virtuelle Unterstützung zur besseren Orientierung in der komplexen digitalen Welt. Virtuelle Assistent*innen treten meist als Avatare auf und nehmen verschiedene animalische oder anthropomorphe Formen an. Die Sparkasse Bremen offeriert ihren Kund*innen zum Beispiel die Assistenz einer virtuellen Linda.

Linda erscheint als humanoider, aber wenig markanter Avatar (Abb. 1) zunächst diskret in einer Ecke der Hauptseite des Geldinstituts. Sie „begrüßt“ die Nutzer*in über ihr Dialogfenster kurz, um dann bei Missachtung gleich wieder zu verschwinden. Virtuelle Assistent*innen werden wie Linda immer noch häufig gegendert und insbesondere im Kontext elektronischer Dienstleistungen eingesetzt, sei es beim Online-Einkauf, beim Banking, bei Gesundheitsdienstleistungen oder dem E-Government.

Im Kern sind virtuelle Assistent*innen Bots, die als KI-basierte Kommunikationsschnittstellen mit Softwareprogrammen und Datenbanken funktionieren. Virtuelle Assistent*innen drängen sich nicht auf, sollen auf dem Screen aber zu finden sein, wenn man sie benötigt. Ihre Diskretheit ist einerseits ihrer Rolle geschuldet, andererseits verweist sie auf ihre wechselhafte Entstehungsgeschichte. Denn eine der ersten virtuellen Assistent*innen in Form der aufdringlichen Büroklammer mit Namen „Karl Klammer“ bzw. Englisch Clippit oder kurz „Clippy“ (Abb. 2.) gehört zu den größten Fehlern in der Geschichte des Schnittstellendesigns (Fuller 2000).

Das Unternehmen Microsoft hat Clippy ab 1997 in das breit verwendete Office-System integriert. Da Clippy in den Voreinstellungen aktiviert war und ungefragt auftrat, überraschte dieser Assistent viele Nutzer*innen negativ. Anders als die meisten der gegenwärtigen Assistent*innen, die nur präsent sein sollen, wenn die Nutzer*in auf sie zugreifen will, war Clippy auch unerwünscht bei der Textproduktion in Word zugegen. Mehr noch griff Clippy bisweilen kontrollierend in den Arbeitsprozess ein. Die Folge war ein emotionaler Avalanche, der bis in das Unternehmen Microsoft hineinreichte. Clippy musste nach kurzer Zeit in den Hintergrund treten und bald wieder abgeschafft werden (Abb. 3).

Kompetenzen – Was können virtuelle Assistent*innen?

Wie es bei vielen Sackgassen der Digitalisierung der Fall ist, reüssierte der kontrollierende virtuelle Assistent um die Milleniumswende zwar nicht, kehrt jetzt aber unter veränderten Bedingungen zurück. Zu den höflichen bis unterwürfigen virtuellen Assistent*innen der Dienstleistungsgesellschaft gesellen sich die virtuellen Agent*innen einer technisch intelligenten Kontrollgesellschaft. Estland führte während der Pandemie mit mäßigem Erfolg sein offizielles KI-basiertes virtuelles Assistenzsystem ein, das „Bürokratt“ heißt und wieder durch eine schreibende Büroklammer repräsentiert wird (Abb. 4., Abb. 5).

Während Estland „Bürokratt“ ausdrücklich als Assistenz anbietet, kommen Bots im Bereich der Migration zum Einsatz, die als intelligente virtuelle Agent*innen selbst Informationen erheben, um weitreichende Entscheidungen mit vorzubereiten oder zu treffen.

Je umfangreicher Bürokratien digitalisiert werden, desto stärker greifen KI-basierte Kommunikationssysteme, die nicht mehr nur dem Schema der dienstbereiten virtuellen Assistent*in entsprechen. Probehalber wurde eine virtuelle Agentin (Abb. 6.) im EU-geförderten Projekt iBorderctrl eingesetzt. Diese hat mit Emotionserkennung gearbeitet, um während der vollautomatisierten Migrant*innenaufnahme per Interview Asylsuchende in ihrer Glaubwürdigkeit einzuschätzen (Sanchez-Monedero and Dencik 2022). Gegen diese Formen virtueller Agent*innen bestehen massive ethische und juristische Bedenken, gerade da sie sensitive persönliche Daten einer äußerst vulnerablen Gruppe verarbeiten und in einer Zwangssituation erheben.

Erkenntnisse – Was zeigen virtuelle Assistent*innen?

Als Untersuchungsobjekte sind virtuelle Assistent*innen für die Erforschung virtueller Lebenswelten und Affekte aus vier Gründen wichtig:

1. Normalisierung des Virtuellen
   Virtuelle Assistent*innen belegen die Verbreitung virtueller Objekte. Je häufiger die Bezeichnung digital dazu dient, um Informationsinfrastrukturen wie Webseiten und Plattformen zu bezeichnen (Edwards 2021), desto stärker werden Objekte wie die vorgestellten Assistenzsysteme an den Benutzer*innenoberflächen als virtuelle Akteur*innen wahrgenommen.
2. Sackgassen der Digitalisierung
   Virtuelle Assistent*innen sind ein weiterer Beleg für die Bedeutung von Sackgassen der Digitalisierung. Nach einem vergleichsweise geringen Erfolg früher Avatare, kommen die virtuellen Assistent*innen in Neukombination mit KI heute breit zum Einsatz.
3. Synthese aus KI, Sensorik und Emotionserkennung
   An virtuellen Assistent*innen zeigen sich technische Veränderungen: In diversen Kontexten lässt sich gerade eine Synthese verschiedener Technologien wie insbesondere der KI, der Sensorik und der Emotionserkennung beobachten.
4. Aktualität der Automationskritik, Surveillance in Migration
   Perspektivisch wird die kritische Erforschung der virtuellen Assistent*innen und ihre Transformation in virtuelle Agent*innen mit Kontroll- und Überwachungsfunktion an Gewicht gewinnen. An den invasiven und kontrollierenden virtuellen Agent*innen zeigt sich die Aktualität der Automationskritik.

‍

_Abbildungen

_{Abb. 1: Linda (online unter www.sparkasse-bremen.de, Zugriff am 26.4.2024).}

_{Abb. 2: Clippit (online unter: https://www.youtube.com/watch?v=Dl3zNHfrFu0,TC: 00:11, [Ausschnitt]; Zugriff am 26.4.2024).}

_{Abb. 3: Clippy-Parodie: Branwen, Gwern. 2022–2023. “It Looks Like You’re Trying to TakeOver the World (06.03.2022–28.03.2023)” in gwern.net (online unter https://gwern.net/fiction/clippy, https://gwern.net/doc/reinforcement-learning/safe/clippy/2022-03-09-lordbyronsiron-clippymeme-youcannotkillmeinawaythatmatters.png, Zugriff am 06.05.2024).}

_{Abb. 4+5: „Bürokratt“ (online unter https://www.youtube.com/watch?v=T9dFn9T2QAg,TC: 00:03 [Ausschnitt]+ 00:14; Zugriff am 26.4.2024).}

_{Abb. 6: Intelligente virtuelle Agentin des Projektes iBorderCtrl: Day, Rebecca. 2018: “Can you fool a lie detector?” in Manchester Evening News 27.10.2018 (online unter: https://www.manchestereveningnews.co.uk/news/greater-manchester-news/lie-detector-test-border-control-15319641, Zugriff am 1.5.2024).}

_Quellen

_{Edwards, Paul N. 2021. “Platforms Are Infrastructures on Fire.” Pp. 313–36 in Your Computeris on fire, edited by T. S. Mullaney, B. Peters, M. Hicks, and K. Philip.Cambridge, Mass.-London: MIT Press,}

_{Fuller,Matthew. 2000. “It Looks like You’re Writing a Letter: Microsoft Word.”Nettime. Retrieved (https://www.nettime.org/Lists-Archives/nettime-l-0009/msg00040.html).}

_{iBorderCtrl. Website: https://www.iborderctrl.eu (Zugriff am 06.05.2024).}

_{“IntelligentPortable Border Control System” (online unter https://cordis.europa.eu/project/id/700626, Zugriff am 06.05.2024).}

_{Sanchez-Monedero, Javier, and Lina Dencik. 2022. “The Politics of Deceptive Borders: ‘biomarkers of Deceit’ and the Case of iBorderCtrl.” Information, Communication and Society 25(3): 413–30.}

_{WeiterführendeLiteratur}

_{C. Firmino DeSouza, Debora, Pia Tikka, and Ighoyota Ben Ajenaghughrure. 2023. “SeekingEmotion Labels for Bodily Reactions: An Experimental Study in SimulatedInterviews.” Pp. 127–38 in Digital Interaction and Machine Intelligence, editedby C. Biele, J. Kacprzyk, W. Kopeć, J. W. Owsiński, A. Romanowski, and M. Sikorski. Cham: Springer Nature.}

_{Fuller, Matthew. 2003. Behind the Blip: Essays on the Culture of Software. Brooklyn, NY: AUTONOMEDIA.}

_{Strengers, Yolande, and Jenny Kennedy. 2021. The Smart Wife. Why Siri, Alexa, and Other Smart Home Devices Need a Feminist Reboot. Cambridge, Mass: MIT.}

_{Van Den Meerssche, Dimitri. 2022. “Virtual Borders: International Law and the Elusive Inequalities of Algorithmic Association.” European Journal of International Law 33(1): 171–204. doi: 10.1093/ejil/chac007.}

_{Tuschling, Anna. 2024. “Encoding Emotions – Affective Computing as a Virtual Semantic.” Philosophy & Digitality (1).}

‍

‍

Das Virtuelle Objekt des Monats

Seit April 2023 stellen wir jeden Monat ein „Virtuelles Objekt des Monats“ (VOM) auf der Website des Sonderforschungsbereichs 1567 „Virtuelle Lebenswelten“ vor. Die präsentierten Objekte entstammen der Forschung in den Teilprojekten. Im Zusammenspiel von Text und Animation, desktop- oder smartphonebasierter Augmentierung oder anderer grafischer Aufbereitungen eröffnen wir Einblicke in die verschiedenen Forschungsthemen und den Arbeitsalltag des SFB. Das VOM macht unsere Wissensproduktion transparent. Zugleich wollen wir hier mit den Möglichkeiten und Grenzen der Wissensvermittlung in und durch Virtualität und Visualität experimentieren.

Das „Virtuelle Objektdes Monats“ ist mehr als ein populärwissenschaftlicher Text und mehr als ein illustrierendes Bild. Die Autor*innen des jeweiligen VOM präsentieren kurz einen Gegenstand ihrer Forschung um daran ein Argument scharfzustellen. Dabei werden die Objekte auf ihren Mehrwert hin befragt, den sie in dem jeweiligen Forschungssetting preisgeben. Mit dem Text skizzieren unsere Wissenschaftler*innen das Bemerkenswerte, das Eigentümliche oder auch das Einzigartige, welches das jeweilige Objekt zeigt. Sie machen so die Forschung des SFB in einem kurzweiligen Schlaglicht sichtbar. Die zum VOM gehörende Visualisierung ist eine weitere Transformation des Forschungsgegenstands, die das Argument noch einmal auf eine andere Art und Weise zugänglich macht.