Relevanzzumessung und kognitive Verzerrungen

Bei der Jahrestagung der Gesellschaft für Wissenschafts- und Technikforschung an der TU Berlin habe ich über den Einfluss kognitiver Verzerrungen auf die Relevanzzumessung bei digitalen sozialen Netzwerken gesprochen. Indem die Benutzeroberflächen jener Netzwerke insbesondere für eine impulsive Form der Mediennutzung optimiert sind, manifestieren sich im Nutzungsverhalten eine Reihe kognitiver Verzerrungen. Zu diesen gehörten beispielsweise der Bestätigungs- sowie der Verfügbarkeitsfehler, der Authority Bias, Third-Person-, Backfire-, Halo-, oder Mitläufer-Effekte und dergleichen mehr. Indem nun prädiktive Systeme in Form von Personalisierungsalgorithmen zum Einsatz kommen, werden in der Vergangenheit gezeigte kognitive Verzerrungen technisch „erlernt“ und verstetigt. Das Maschinenlernen führt so zu einer technischen Aushärtung und „Unsichtbarmachung“ kognitiver Fehlleistungen. In letzter Konsequenz hat dies zur Entstehung einer Reihe an gesellschaftspolitischen Großproblemen geführt, welche von der starken Verbreitung von Fake-News sowie emotional aufgeladenem, extremem Content über die politische Radikalisierung bis hin zur weitreichenden Vernichtung jeglicher streitkulturell gezügelten Diskursführung reichen.