Im Kundenservice werden sie bereits genutzt, seit ihrem Einsatz im Wahlkampf sind sie berühmt und berüchtigt : Kleine, lernfähige Programme übernehmen vollautomatisch zeitraubende Kommunikation. Sie heißen Bots, genauer gesagt Social Bots, und stellen mit ihrer künstlichen Intelligenz alles bisher Dagewesene in den Schatten. Die Möglichkeiten – gestern noch Utopie, heute bereits Wirklichkeit – sind beeindruckend und wie bei allen Entwicklungen mit künstlicher Intelligenz ebenso beunruhigend. SQUT im Gespräch mit Anja Bonelli, Head of Products bei der brightONE Consulting GmbH und Zukunftsexpertin in Sachen KI, über das, was die kleinen Helfer können, und darüber, was passiert, wenn sie anfangen, eigene Wege zu gehen.

1. 38
SQUT 01/17
Social Bot, übernehmen Sie!
HARDWARE / SOFTWARE
Im Kundenservice werden sie be-
reits genutzt, seit ihrem Einsatz
im Wahlkampf sind sie berühmt
und berüchtigt: Kleine, lernfähige
Programme übernehmen vollauto-
matisch zeitraubende Kommunika-
tion. Sie heißen Bots, genauer ge-
sagt Social Bots, und stellen mit
ihrer künstlichen Intelligenz alles
bisher Dagewesene in den Schat-
ten. Die Möglichkeiten – gestern
noch Utopie, heute bereits Wirk-
lichkeit – sind beeindruckend und
wie bei allen Entwicklungen mit
künstlicher Intelligenz ebenso be-
unruhigend. SQUT im Gespräch
mit Anja Bonelli, Head of Pro-
ducts bei der brightONE Consul-
ting GmbH und Zukunftsexpertin
in Sachen KI, über das, was die
kleinen Helfer können, und dar-
über, was passiert, wenn sie an-
fangen, eigene Wege zu gehen.
Kommunikations-
roboter?

2. HARDWARE / SOFTWARE 39
SQUT 01/17

SQUT: Die aktuellen und kommenden digitalen
Möglichkeiten für den Kundenservice sind geradezu
atemberaubend. Gehen da nicht manchmal die Ide-
en mit einem durch?
A. Bonelli: Neben meinem Bett liegt das viel zitierte
Notizbuch für all die Einfälle, die man leider meistens
nachts hat. Ab nächster Woche werde ich die Ideen
dann endlich „meinem“ Assistenz-Bot diktieren kön-
nen, was fantastisch ist, weil dann das Licht aus bleiben
kann.
SQUT: Apropos Bot - Sie befassen sich unter ande-
rem mit einer besonders spannenden Thematik:
Social Bots. Nicht nur im Wahlkampf werden diese
aktuell eingesetzt, auch viele Unternehmen nutzen
diese neue Technologie, um ihre Ziele zu erreichen.
Was genau sind Social Bots?
A. Bonelli: Meine Lieblingsdefinition stammt aus dem
Jahr 2003 von der Humboldt-Universität Berlin. Sie be-
zieht sich konkret auf Chatbots, eine Form der Social
Bots.
Chatbots – eine Definition:
to chat: plaudern, sich unterhalten
bot: Roboter
Chatbot: Programm, mit dem man sich in natürlicher
Sprache unterhalten kann

3. SQUT 01/17
HARDWARE / SOFTWARE
Bots umgeben uns seit vielen Jahrzehnten und gerade
Chatbots nutzen wir alle – nur, dass diese dank IBM,
Facebook, Google und Microsoft sowie einigen Uni-
versitäten mittlerweile auch wirklich gut funktionieren
und dank des kulturellen und technologischen Wandels
hin zu synchronen und asynchronen schriftlichen Ka-
nälen wie Chats, Facebook & Co. einen sinnvollen und
vor allem passenden Einsatzbereich gefunden haben.
Es wird noch mal zwischen verschiedenen Social-Bot-
Arten unterschieden, wobei es für diese noch keine
feststehenden Begriffe gibt. Wahrscheinlich läuft es
auf zwei Gruppen hinaus: Service-Bots (Bots im Sales
& Kundenservice, auch Conversational Converse ge-
nannt) und Media- und Unterhaltungs-Bots (kuratori-
sche Bots).
SQUT: Welche tatsächlichen Einsatzszenarien gibt es
für Social Bots im Moment, wo bzw. vom wem wer-
den sie verwendet?
A. Bonelli: Wie immer fängt es *hüstel* in speziellen
Milieus an. Einige von uns kennen vielleicht von Da-
ting-Websites oder auch aus Facebook sogenannte
Fake-User – meistens semiintelligente Bots mit hüb-
schen Profilbildern, die einem entweder an die Daten
oder an die Brieftasche wollen.
Die ersten Installationen, die echten Kundenservice
bieten, laufen jedoch auch schon: Ob man nun Fast
Food bei der Kette Taco Bell ordern, einen Flug der Air-
line KLM umbuchen, sich Musik kuratieren lassen oder
einfach personalisiert Nachrichten via CNN erhalten
möchte, immer sind Bots beteiligt.
SQUT: Kann der normale User die„Anwesenheit“ ei-
nes Bots in einer Kommunikation erkennen? Wie gut
sind die Dinger bereits? Erkennt der Profi einen Bot?
A. Bonelli: Ja, ein Profi erkennt einen Bot derzeit noch
problemlos – nach etwa drei Fragen hat er ihn meistens
enttarnt. Der sogenannte Turing-Test1
lässt grüßen. In-
teressanter würde es in einer zweiten Stufe mit den Ge-
dankenexperimenten von John Searle werden, in denen
es weiterführend um Intentionalität geht. Aber bleiben
wir besser bei Stufe 1, die wird uns noch einige Jahre
reichen. Stufe 2 besprechen wir lieber bei einem Glas
Wein an der Bar.
Normalerweise sollte ein Bot erkennbar sein, um be-
1: Verfahren, um eine Maschine auf „dem Menschen ebenbürtges Denken“ hin zu
untersuchen. Dabei unterhält sich ein Mensch via Tastatur verdeckt gleichzeitig
mit einer Maschine und einem Menschen, wobei beide versuchen, ihn jeweils von
ihrer „Menschlichkeit“ zu überzeugen. Schafft es die Maschine, so hat sie den
Test bestanden.
wusste Täuschungen auszuschließen, und im Service-
bereich wird diese Anforderung auch brav umgesetzt.
Alles andere wäre auch einfach noch nicht sinnvoll, da
Bots noch nicht zu 100 Prozent perfekt wie ein Mensch
agieren und daher bisweilen komisch oder gar enttäu-
schend für den Kunden wirken könnten. In der Politik
und einigen Millieubranchen kommt es dagegen leider
vor, dass mit verdeckten Karten gespielt wird. Sowohl
die AfD im Kleinen als auch Putin in größerem Umfang
setzen (Zehn-)Tausende von Bots ein, um die Meinung
der Wähler und der Meinungsforschungsinstitute zu
beeinflussen. Wie das geht? Meinungsforschungsins-
titute messen auch via Social-Media-Monitoring die
Stimmungen zu bestimmten Themen. Wenn nun einige
Tausend Bots, eingesetzt von Parteien und politischen
Organisationen, diese Meinung verfälschen und die
Ergebnisse anschließend als „Meinung des Volkes“ prä-
sentiert werden – was hat das für Auswirkungen? Wie
entscheidet anschließend ein Wähler? Ein Politiker, der
sich am „Volk“ orientiert? Die Wirtschaft, die die „Ziel-
gruppe“ im Blick behalten möchte? Die Presse? Hier
wird es dringend Zeit, dass die Judikative, Legislative
und Exekutive Lösungen entwickeln und aktiv umset-
zen.
SQUT: Von Siri und Co. wissen wir, dass sie lernfähig
sind und sich dem jeweiligen „Besitzer“ anpassen.
Wie weit kann das gehen, und haben wir das absolut
im Griff?
A. Bonelli: Nö. Im Griff haben wir das nicht, und genau
das ist das Problem und einer der Gründe, warum mich
das Thema so stark interessiert. Der sehr sehenswerte,
weil wunderschön gedrehte Film „Her“2
beschreibt ein
Szenario, in dem der Hauptdarsteller sich in seine „Siri“
verliebt. Und es ist in fast jedem Moment für den Zu-
schauer nachvollziehbar. Doch ich möchte nicht schon
wieder darauf hinaus, dass KIs Menschen immer ähn-
licher werden … sondern darauf, dass selbst Szenarien,
die derzeit über unseren Horizont hinausgehen, mög-
lich sind und darüber hinaus wahrscheinlicher als die
begrenzte Szenarienwelt, über die wir heute diskutieren.
Ein aktuelles Beispiel: Der erste Service-Bot von Mi-
crosoft erlangte Anfang 2016 Berümtheit, da er durch
das selbstlernende System zu einem Nazi-Bot mutier-
2: US-amerikanisches romantisches Science-Fiction-Filmdrama aus dem Jahr 2013
mit Joaquin Phoenix in der Hauptrolle. Gegenstand der Geschichte ist ein Betriebs-
system mit künstlicher Intelligenz, welches im Leben des Protagonisten die Rolle
einer Lebenspartnerin einnimmt.
40

4. HARDWARE / SOFTWARE
SQUT 01/17
41
te.3
Er musste vollständig abgeschalten werden, da sich
einzelne Partitionen eines Bots nicht mal eben löschen
lassen. Ein wirklich intelligenter Bot ist wie ein neuro-
nales Netz aufgebaut – da müssen Sie erst mal auf Feh-
lersuche gehen. Je komplexer und trainierter der Bot
ist, umso länger werden Sie brauchen. Möglicherweise
baute der Bot in der Zwischenzeit sogar Sicherheitssys-
teme auf, weil er festgestellt hat, dass Sie dümmer sind
als er. Dann wird es noch spannender.
SQUT: Wie weit sind wir tatsächlich noch von Sze-
narien wie in „Her“oder „I, Robot“4
entfernt? Ist das
überhaupt noch Science Fiction?
A. Bonelli: Noch liegen solche Szenarien in der Zu-
kunft, weil Gefühle zwar nachgebildet, aber noch nicht
glaubhaft genug dargestellt werden können. Wer tiefer
in das Thema einsteigen möchte, dem empfehle ich,
sich mit dem Begriff „Uncanny Valley“5
zu beschäf-
tigen. Ich hörte das erste Mal im Rahmen einer VFX-
Veranstaltung6
davon und finde, dass der Effekt, für den
der Begriff steht, eine passende Erklärung für das Pro-
blem darstellt: Normalerweise würde man denken, dass
ein Nutzer einen Service-Bot besser akzeptieren kann,
wenn er so menschenähnlich wie möglich ist. Das ist je-
doch falsch. Der Nutzer findet eine künstliche Figur an-
ziehender als eine menschlich wirkende. Erst ab einem
sehr hohen Niveau der Menschenähnlichkeit – nämlich
dem, bei dem der Bot sich überhaupt nicht mehr von
einem echten Menschen unterscheidet – wäre die Ak-
zeptanz voll gegeben. Und an diesem Punkt befinden
wir uns noch nicht. Aber Tausende von Wissenschaft-
lern und Unternehmen arbeiten daran, das zu ändern.
Mal sehen, wann wir endlich so weit sind, dass ein Bot
den Turing-Test besteht.
SQUT: Unbegrenztes Budget vorausgesetzt – welche
Innovation würden Sie in der Kommunikation gern
vorantreiben?
A. Bonelli: Ich würde gern ein echtes, durch die Nut-
zung stark personalisiertes Assistenzsystem entwerfen.
3: Der von Microsoft testweise bei Twitter „freigelassene“ Bot namens Tay sollte
kommunizieren und von den Menschen lernen: den Charakter, den Umgang und
auch die Sprache. Dieses Experiment eskalierte innerhalb weniger Stunden, Tay
wurde rassistisch und frauenfeindlich. Siehe auch: http://www.faz.net/aktuell/
wirtschaft/netzwirtschaft/microsofts-bot-tay-wird-durch-nutzer-zum-nazi-und-
sexist-14144019.html (abgerufen am 05.01.2017, 13:30 Uhr)
4: US-amerikanischer Science-Fiction-Film aus dem Jahr 2004 mit Will Smith in der
Hauptrolle. Handlung: Sogenannte Robots, die in vielen Bereichen als Arbeiter und
Helfer eingesetzt werden, entwickeln ein intelligentes Eigenleben und revoltieren
gegen ihre Besitzer.
5: Engl. für „unheimliches Tal“, im diesem Kontext auch „Akzeptanzlücke“ genannt.
Beschrieben wird damit ein Paradoxon, das darin besteht, dass Menschen zwar
grundsätzlich künstliche Charaktere mehr akzeptieren, je echter sie wirken, es da-
bei jedoch einen Ausreißer-Vorteil hochabstrakter, völlig künstlicher Figuren gibt.
6: Veranstaltung, bei der es um Special Effects für Filme und Spiele geht.
Eines, welches plattformunabhängig ist – um Amazon,
Google, Facebook und Co. die absolute Macht zu neh-
men, über die viel zu wenig gesprochen und nachge-
dacht wird. Und um mehr Zeit für wirklich wichtige
Dinge zu haben, da all die Standardaufgaben dann
nebenbei oder irgendwann automatisiert erledigt wer-
den: Der Kühlschrank ist mit Kaltgetränken gefüllt,
Grillzeug ist da, die Einladungen sind verschickt und
die Party ist on (und da mir Budgetfreiheit zugestanden
wurde: die Putzkräfte für den Tag danach sind beauf-
tragt).
Ganz nebenbei würde ich so auch ein aktuelles Ärgernis
aus der Welt schaffen: Das Assistenzsystem wird qua-
si als Nebeneffekt dafür sorgen, dass die Zeit der Apps
vorbei ist. Die müllen mein Smartphone einfach zu sehr
zu. 
Anja Bonelli
............................................
Anja Bonelli ist Head of Products bei der
brightONE Consulting GmbH und Zukunfts-
expertin in Sachen KI. Mit ihrer Entwicklung,
dem Kommunikationstool SocialCom, ist sie
mittlerweile in 42 Ländern in Sachen Social
Media & Recht unterwegs und gilt nicht erst
seitdem in der Branche als absolute Koryphäe auf
dem Gebiet der digitalen Kommunikation.