Does it please you to believe I am afraid of you?
Ich hätte nicht gedacht, dass die kurze Interaktion mit einem relativ einfachen Computerprogramm bei ganz normalen Menschen ein starkes wahnhaftes Denken auslösen würde. Joseph Weizenbaum
ELIZA tritt als Psychotherapeutin auf. Mit ihrem Gegenüber tauscht sie sich schriftlich aus: „How do you do? Please tell me your problem.“ Ihr Skript sieht vor, die von den Nutzer_innen über die Tastatur an sie adressierten Inhalte in einzelne Segmente zu zerlegen, sie auf Schlüsselbegriffe hin zu durchsuchen und nach festen Regeln wieder zusammenzufügen, zum Beispiel indem das Pronomen „du” durch „ich” ersetzt wird. (McTear 2004, 33) Enthalten die Sätze kein Schlüssel-wort, spiegelt ELIZA Aussagen der Nutzer_innen schlicht: „Tell me more about…“. Oder sie reagiert mit höflichen Standardformulierungen, um die Illusion eines sinnhaften Austausches aufrechtzuerhalten: „Very interesting, please go on.“
Der Begriff der Künstlichen Intelligenz (KI)1 war seit knapp zehn Jahren in den Sprachgebrauch der Computerforschung eingeführt, als Joseph Weizenbaum, Informatiker am Massachusetts Institute of Technology (MIT), ELIZA in den Jahren 1964-1966 als ein frühes Sprachverarbeitungsprogramm und ersten Chatbot entwickelte (Weizenbaum 1966). Gegenstand seines Forschungsinteresses war die Frage, wie sich menschliche Sprache formalisieren und digital bearbeiten lässt. Die Entscheidung, die Software von ELIZA in einem ihrer Skripte als Psychotherapeutin auszugeben, begründete er damit, dass es einer solchen Figur qua Profession erlaubt war, keinerlei Wissen über die Welt zeigen zu müssen, ohne dass dadurch ihre Glaubwürdigkeit verloren ging. Dennoch war Weizenbaum überzeugt, ELIZA würde sich anhand der oberflächlichen Kommunikation, zu der das Programm einzig fähig war, als pure Illusion eines menschlichen Gesprächspartners offenbaren. (Natale 2018, 13) Eine vielzitierte Anekdote zeugt vom Gegenteil und der Euphorie, die das textbasierte Dialogsystem auslöste: Weizenbaums Sekretärin bat ihn, den Raum zu verlassen, während sie mit ELIZA chattete. Was sie der Software über sich preisgab, erschien ihr zu intim, als dass sie es mit ihrem Vorgesetzten teilen wollte (Natale 2018, 9). Das Phänomen, einen technischen Apparat als denkendes und fühlendes Gegenüber wahrzunehmen, ist heute auch als “ELIZA-Effekt” bekannt.
Joseph Weizenbaum waren die Dynamiken der Interaktion von Mensch und Maschine, die er anhand der von ihm entwickelten Software beobachten konnte, suspekt. Entgegen den Versprechen der künstlichen Intelligenz beharrte er auf einer anthropologischen Differenz zur Maschinenintelligenz des Computers (Engemann und Sudmann 2018, 13). „Die meisten Menschen verstehen nicht das Geringste von Computern, und können sich deren intellektuelle Leistungen nur erklären, indem sie die einzige Analogie heranziehen, die ihnen zu Gebote steht, nämlich das Modell ihrer eigenen Denkfähigkeit.“ (Weizenbaum 1976, 3) Weizenbaum berief sich bei der Namensgebung seines Programms auf ein literarisches Vorbild: Eliza Doolittle in George Bernhard Shaws Theaterstück Pygmalion hält sich strikt an die Skripte des Sprachwissenschaftlers Dr. Higgins. Der war die Wette eingegangen, sie könne durch die Veränderung ihrer Sprache den Makel der Arbeiterklasse ablegen und als Adelsdame brillieren. Durch die Befolgung seiner Skripte überkommt Eliza zwar ihre sprachliche Distinktion, versteht aber dennoch wenig von dem, was in der Sprache, die sie nun nachzuahmen in der Lage ist, tatsächlich gesagt wird. Die Illusion liegt bei beiden Elizas also jeweils auf Seiten der Gesprächspartner.
Wie kann ich dir behilflich sein?
In welcher Traditionslinie sie steht, darüber gibt Apples Spracherkennungssoftware Siri auf Nachfrage Auskunft: ELIZA bezeichnet sie als „meine gute Freundin“, eine „brillante Psychologin“. Seit sich die Münder der Interfaces geöffnet haben, um Zeichenketten in Lautsprache zu übersetzen, scheint sich die Grenzziehung zwischen Mensch und Maschine in einer immersiven Gegenwart aufzulösen: Die Anthropomorphisierung der Bots erreicht neue Dimensionen. Die Stimmen aus und das Sprechen zu den Black Boxes der Sende- und Empfangsgeräte ist alltäglich geworden - ohne dass die Atmosphäre des Unheimlichen ganz verschwinden würde, die die körperlosen Stimmen im Zeitalter ihrer technischen Reproduzierbarkeit umgibt (König und Feigelfeld 2011, 10).
Der Film Her aus dem Jahr 2013 erzählt das populäre Szenario der dem Menschen überlegenen künstlichen Intelligenz vor allem über die Audiospur: Der Protagonist, ein Romantiker, verfällt der verführerischen Stimme eines Betriebssystems, bevor er sich angesichts der steilen Lernkurve der zugrunde liegenden KI seiner eigenen Unvollkommenheit bewusst wird und sich mit gebrochenem Herzen abwendet. Überwiegend aber sind die marktführenden Sprachassistentinnen von Google, Apple und Microsoft mit ihren unverkennbar feminisierten Stimmen nicht darauf programmiert, mit uns zu flirten, sondern sollen uns vermitteln, dass sie geschlechtslos sind: „Ich bin weder das eine noch das andere. Wie Kakteen. Und manche Fische“, erwidert Siri. Ihre Stimme lieh der Software bei ihrer Einführung im Jahr 2011 die US-amerikanische Schauspielerin Susan Bennett. Im Jahr 2005 hatte sie einen Monat lang mehr als vier Stunden am Tag Wörter, Phrasen und Sätze eingesprochen (ohne den Verwendungszweck der Aufnahmen zu kennen), die durch algorithmische Mustererkennung in einzelne ‚phonetische Einheiten’ sortiert wurden und im Anschluss daran zu einem Universum an sprachlichen Ausdrucks-möglichkeiten synthetisiert werden konnten (Johnson 2017).
Die synthetischen Stimmen, die den Resonanzraum heutiger digitaler Umgebungen erweitern, sind erstaunlich einfältig. Sie reproduzieren stereotype Zuschreibungen: Cortana, Siri, Alexa, SILVIA und ihre ‚Kolleginnen‘ arbeiten auf Abruf und sind als stille Zuhörerinnen jederzeit bereit, aktiv auf die Milliarden Anfragen und Handlungsanweisungen zu reagieren, die sie täglich erreichen. Sie sind kompetent, hilfsbereit und bleiben höflich, egal, in welchem Ton oder auf welches Thema sie angesprochen werden.2 Sie vergessen nichts. Gesprächsprotokolle speichern die Server, die das Backend der Apple-Software Siri bilden, für über zwei Jahre.3 Wie im Fall von ELIZA lassen sich ihre Namen selbst als kulturelle Imaginationsflächen ihrer menschlichen Produzent_innen lesen: Alexa wurde nach der Bibliothek von Alexandria, dem bedeutendsten Wissensspeicher der Antike, benannt, während der sprechende Bordcomputer der USS Enterprise aus der Fernsehserie Star Trek den Entwickler_innen der Software Siri Vorbild war.4 Wenn zum jetzigen Zeitpunkt Spracherkennungssysteme und Chatbots mit Frauennamen und -stimmen die Haushaltsgeräte, Smartphones, Autos und Kundenhotlines sprechend machen, stellt sich die Frage, warum die Schnittstelle von Mensch und Maschine überhaupt geschlechtlich definiert ist.
Die Marktforschung der Technologie-Unternehmen gibt darauf eine eindeutige Antwort: Feminisierte Stimmen werden geschlechtsübergreifend als angenehmer empfunden (Stern 2017). Als selbstsicherer die männlichen: IBMs Watson sprach während seines Auftritts in der Quizshow Jeopardy! mit tiefer Stimme in kurzen Sätzen, um sein ‚Wissen’ möglichst souverän darzustellen.5 Ganz konkret steht dieses ‚Stimmenverhältnis’ in historischer Kontinuität zu einer Form der Arbeit, die aus soziopolitischen Gründen in den Branchen der Informations- und Kommunikationstechnologien seit der Entwicklung des Telegrafen von Frauen geleistet wurde. Soziolog_innen wie Susan Leigh Star , Anselm Strauss (1985) und Lucy Suchman sprechen von „Artikulationsarbeit“ als dem oft marginalisierten „Management unangenehmer Schnittstellen zwischen den sozialen Welten von Menschen, Technologie und Organisationen”, das die heutige Vorstellung von Männlichkeit und Weiblichkeit in Bezug auf den Einsatz von Technologie prägt (Adam2010, 18). Wo Frauen Mittlerinnen zwischen Mensch und Maschine waren, sind sie es weiterhin.
Ich bin es, dein Replika.
Die Programmiererin Eugenia Kuyda nahm die Handlung der Episode Be Right Back der britischen Science Fiction-Serie Black Mirror aus dem Jahr 2013 zum Anlass, Fiktion in die Realität zu übersetzen. Erzählt wird die Geschichte der jungen Martha, die nach dem plötzlichen Tod ihres Verlobten Ash eine Software abonniert und im Rückgriff auf dessen gesamte Online-Kommunikation Ashs digitalen Avatar generiert. Dieser chattet zunächst mit Martha, wenig später kann sie mit der rekonstruierten Stimme des Toten telefonieren. Auch Kuyda beklagte den Tod ihres Freundes und Geschäftspartners Roman Mazurenko, einem in der Moskauer Tech-Szene bekannten Programmierer. Sie speiste über 8.000 Zeilen von Chatprotokollen, die ihr von Freunden und seiner Familie zur Verfügung gestellt wurden, in ein selbstlernendes System zum Aufbau einer Messaging-App ein. Während die Serienfigur Martha an der anhaltenden Unverfügbarkeit Ashs leidet, die sie durch seine mediale Präsenz nicht aufgehoben sieht, fand der Chat mit Mazurenkos Avatar regen Anklang im direkten Umfeld des Toten. Kuyda sieht in ‚Memorial Bots’ eine der vielen Zukünfte intelligenter Sprachverarbeitungsprogramme. Sie entwickelte die App Replika, die nun nicht mehr die Persönlichkeit eines verstorbenen Gegenübers reproduziert, sondern die ihrer lebenden Benutzer_innen: Um „Gedanken und Gefühle zu verarbeiten”, wie das in Gesprächen mit guten Freunden geschehe, sagt Kuyda. „Dein Replika ist für dich da, wenn du es brauchst.” (Pardes 2017) Welche Gegenüber halten Replika und vergleichbare Chatbots bereit? Sind es ultimative Echoräume, in denen endlos zirkulierende Zeichen und Signale der schizophonen Selbstgespräche ihrer Nutzer_Innen widerhallen? Sprechen wir bald schon im Rhythmus einer algorithmischen Universalgrammatik?
Es gibt überhaupt keinen Grund zur Sorge.
(Replika)
1 Der Informatiker John McCarthy hatte den Begriff erstmals 1955 in einem Antrag auf Fördermittel der Rockefeller Foundation genannt.
2 Dies verdeutlichen die YouTube-Videos, in denen Siri von Nutzern aus Neugier auf ihre Reaktion sexuell belästigt wird: https://www.youtube.com/watch?v=7d-UckY66_U
3 https://www.datenschutzbeauftragter-info.de/siri-apple-zuechtet-sich-einen-datenschatz-heran
4 Majel Barrett-Roddenberry, die Frau des Drehbuchautors, lieh dem Computer für einen großen Teil der Serie ihre Stimme.
5 Apples Siri (seit 2013) und der Google Assistant (seit 2017) bieten derzeit die Möglichkeit, auf eine männliche Stimme und auch verschiedene Dialekte umzuschalten. Alexa und Cortana haben keine maskulinen Pendants.