Beispielprojekt: Minimaler Turing Test

Menschen können betrügerische Bots überlisten und selbst mit minimalen Mitteln Kommunikation herstellen. 

Interaktionen zwischen Menschen und Bots sind online zunehmend geläufiger, und damit ist die Fähigkeit des Menschen, zu erkennen, mit wem er interagiert, dringend notwendig. Der Turing-Test ist ein klassisches Gedankenexperiment, bei dem die Fähigkeit von Menschen getestet wird, einen betrügerischen Bot von einem echten Menschen zu unterscheiden, indem sie Textnachrichten austauschen (Turing 1950). Im Rahmen des Minimal-Turing-Test-Projekts schlagen wir eine Version des Turing-Tests vor, die ohne natürliche Sprache auskommt. Da die Teilnehmenden gezwungen sind, neue Wege zu gehen, um ihre menschliche Identität auch gegenüber Bots zu signalisieren, die menschliches Verhalten lediglich kopieren, können wir die Grundlagen menschlicher Kommunikation untersuchen. Wir untersuchen insbesondere die relative Rolle von neu entstehenden Konventionen (d. h. die Wiederholung dessen, was sich bereits zuvor als erfolgreich erwiesen hat) und reziproker Interaktion (d. h. die Interdependenz von Verhaltensweisen) bei der Bestimmung erfolgreicher Kommunikation in einer minimalen Umgebung. 

Die Teilnehmenden an unserer Studie können nur kommunizieren, indem sie eine abstrakte Form in einem 2D-Raum bewegen (Abbildung 1). Wir bitten sie, einzuschätzen, ob sie mit einem menschlichen Partner oder einem Bot-Imitator interagiert haben. Die Hypothese ist, dass der Zugang zur Interaktionsgeschichte eines Paares einen Bot-Imitator trügerischer werden lässt und die Bildung neuer Konventionen zwischen den menschlichen Teilnehmer*innen unterbricht: Das Kopieren ihrer vorangegangenen Interaktionen verhindert, dass Menschen erfolgreich kommunizieren, indem sie wiederholen, was bereits zuvor funktioniert hat. Durch den Vergleich von Bots, die das Verhalten der gleichen oder einer anderen Dyade imitieren, stellen wir fest, dass Betrüger schwerer zu erkennen sind, wenn sie die eigenen Partner kopieren (Abbildung 1), was zu weniger konventionellen Interaktionen führt. Wir zeigen auch, dass Reziprozität für den kommunikativen Erfolg von Vorteil ist, wenn der Bot-Imitator Konventionalität verhindert.

Wir kommen zu dem Ergebnis, dass betrügerische Bots der Entdeckung entgehen und die Bildung stabiler Konventionen unterbrechen können, indem sie vorausgegangene Interaktionen imitieren, und dass sowohl Reziprozität als auch Konventionalität unter den richtigen Umständen adaptive kommunikative Strategien sein können. Unsere Ergebnisse bieten neue Einblicke in die Entstehung von Kommunikation und legen nahe, dass Bots, die persönliche Informationen auswerten, z. B. in den sozialen Medien, leichter von Menschen zu unterscheiden sein können. Doch selbst in diesem Fall dürfte die wechselseitige Interaktion ein wirksamer Mechanismus zur Erkennung von betrügerischen Bots bleiben.

 

Publikationen

Müller, T.F., Brinkmann, L., Winters, J. and Pescetelli, N. (2023), Machine Impostors Can Avoid Human Detection and Interrupt the Formation of Stable Conventions by Imitating Past Interactions: A Minimal Turing Test. Cognitive Science, 47: e13288. https://doi.org/10.1111/cogs.13288

 

Referenzen

Turing, A. (1950). Computing machinery and intelligence. Mind, 59, 433–460.