Recently, I had the opportunity to talk about AI ethics as a guest on the Cyber Valley Podcast. If you are interested, you can listen to it here. Other recent media appearances can also be found here.
Recent papers
Recently, three new papers have been published. Together with Kristof Meding, I conducted an empirical study on industry partners in AI research. The study is based on an analysis of nearly 11,000 publications from the most important AI conferences. The paper was published in “AI & Society” and can be read here.
A further paper appeared in “Minds and Machines” in which I argue for providing AI systems only those “environmental stimuli” for training that result in ethically desirable machine behavior. The idea is to overcome the Big Data principle of n=all in order to use new dimensions of data quality to better segregate which datafied behaviors are allowed to become training stimuli for machine learning applications in the first place. The paper can be viewed here.
Another paper I co-authored with my colleague Paula Helm critically addresses AI-based policing software. While predictive policing systems are often studied in this area, we explicitly looked at software used for criminal prosecution. An overview of these and other publications can be found here.
Changes
I decided to change the website. I’ll be switching to English from here on in order to make it more accessible for international visitors.
Weltrekord
Seit Januar war es in Planung, hunderte Stunden hartes Training folgten, und es hat geklappt. Dank zahlreicher Helfer und der Unterstützung von Freunden und Familie konnte ich mir den Traum erfüllen, einen Weltrekord im Radsport zu erlangen. Neben den Distanz- gibt es Höhenmeterrekorde für 12 und 24 Stunden. Ersteren konnte ich nun verbessern – auf 11859 Meter. Das entsprach genau 100 Auf- und Abfahrten an der steilen Schönbuchsteige bei Tübingen, die ich mir für das Projekt ausgesucht hatte. Mehr ging nicht. Es war der härteste Tag, den ich je auf dem Rad hatte. Hier ein Artikel zur Rekordfahrt im SWR Sport, hier ein weiterer Artikel aus dem Tagblatt.
… und hier der Beitrag
Danke an Pirmin Styrnol, der den Beitrag produziert und mich über die vollen 12 Stunden der Rekordfahrt begleitet hat.
Reaktionen
Mein neues Buch “Was sich am Fleisch entscheidet” ist nun seit einiger Zeit erhältlich. Hier einige Reaktionen darauf: In der Schweizer “Blick” erschien ein zweiseitiges Portrait. Ein längere Rezension erschien in der NZZ. Ich selbst durfte einen Gastbeitrag im Mannheimer Morgen verfassen, der sich allerdings hinter einer Paywall befindet. Ein Interview erschien in der österreichischen Kleine Zeitung, ein weiteres Interview in der Zeitung am Samstag, ein weiteres Interview im Quotenmeter, darüber hinaus ein zweiteiliger Blogartikel mit Interview (Teil 1, Teil 2), ebenso wie diverse kleine Rezensionen oder Erwähnungen. Weitere Berichte wurden leider nur in Printausgaben publiziert. Im Radio gab es ebenfalls Interviews.
Ein längerer Podcast befindet sich ebenfalls hinter einer Paywall, hier die Kurzversion:
KI Triage
Zusammen mit Dirk Helbing, Thomas Beschorner, Bruno Frey, Andreas Diekmann, Peter Seele, Sarah Spiekermann, Jeroen van den Hoven und Andrej Zwitter habe ich einen Artikel mitverfasst, der sich aus einer kritischen Perspektive KI-gestützten Bewertungssystemen für die Behandlungsdringlichkeit etwa von Corona-Patienten – kurz KI-Triage – widmet. Der Artikel kann hier nachgelesen werden. Ein entsprechender Forschungsaufsatz findet sich ferner hier.
Neues Buch
Mein neues Buch “Was sich am Fleisch entscheidet” ist erschienen. Es befasst sich mit dem anhaltenden Krisenmodus, in dem sich die Gesellschaft befindet, und zeigt, wie dieser mit einem bislang kaum beachteten Aspekt zusammenhängt, nämlich der gewaltförmigen Beziehung zu Tieren. Anhand von knapp 650 wissenschaftlichen Fachaufsätzen belege ich, welche weitreichenden Implikationen die psychologischen Mechanismen besitzen, die zur anhaltenden Akzeptanz und Unterstützung von industriell organisierter Gewalt gegenüber Tieren führen. Sie reichen von sämtlichen Formen sozialer Diskriminierung über massive Umwelt- und Klimazerstörung bis hin zur aktuellen Coronakrise und vielem mehr. Fakt ist, dass eine von Frieden, gegenseitigem Respekt und Nachhaltigkeit geprägte Gesellschaft ohne die Beendigung der globalen Tierindustrie nicht denkbar ist. Das Buch kann hier (oder bei diversen anderen Händlern) gekauft werden.
Scobel
Zuletzt durfte ich an einem Einspieler (ab 32:33) in der Wissenschaftssendung “scobel” mitwirken. Das Thema der Sendung: Rassismus.
Aktuelle Presse
Zuletzt wurde in diversen Zeitungen eine (stark verkürzte) dpa-Meldung veröffentlicht, in der ich vor KI-gestützter Gesichtsanalyse warne – etwa hier, hier oder hier. Da dies wie Science Fiction klingt und ich mich dabei unter anderem auf eine Forschungsarbeit beziehe, deren Veröffentlichung erst wenige Tage zurück liegt, verlinke ich anbei entsprechende Hintergrundinformationen. Der Aufsatz zur Gesichtserkennung im Hinblick auf die politische Neigung kann hier nachgelesen werden, der Aufsatz zur probabilistischen Detektion der sexuellen Orientierung hier oder, als Replikationsstudie, hier. Weitere Paper gibt es etwa hier oder, als abschreckendes Beispiel für methodisch unzureichende und damit irreleitende Forschung, hier. Aus den Aufsätzen sollte allerdings nicht der Eindruck entstehen, es könnten beliebige Merkmale aus Gesichtern “herausgelesen” werden. Tatsächlich ist es etwa umstritten, wie zuverlässig vergleichsweise einfache Anwendungen wie etwa die Emotionserkennung überhaupt funktionieren, wie in diesem einschlägigen Aufsatz nachgelesen werden kann. Es ist also durchaus kompliziert…
Radiobeiträge
Zuletzt sind einige Radiobeiträge entstanden, an denen ich mitwirken durfte und die ich an dieser Stelle teile. Im SWR2 erschien eine Serie zum Thema “Maschinenmoral”:
Zudem ein kurzes Interview mit dem SWR1:
Und der WDR5 berichtet über “Leitplanken für KI”:
… und hier der Beitrag zur Tour
Danke an alle, die mich unterstützt haben, und insbesondere an Pirmin Styrnol, der den Beitrag produziert hat!
Jeder Meter steht für zehn Tiere
Ich habe mich mit veganer Spinatlasagne gedopt und bin mal wieder Fahrrad gefahren. 500 Kilometer am Stück durch Baden-Württemberg, 17 Stunden Dampf aufs Pedal, ohne Pause. Dabei war der Anlass ein ernster. Jeder Meter der Tour soll für zehn geschlachtete Tiere stehen. Über fünf Millionen Tiere (Vögel nicht mit einberechnet) werden nämlich alleine in Baden-Württemberg pro Jahr industriell für die Fleischproduktion getötet. Wie das realistischerweise aussieht, sieht man, wenn man versteckte Kameras in Schlachthöfen an die Decke klebt. Tierschutzorganisationen bringen inzwischen fast monatlich Bilder an die Öffentlichkeit, zuletzt etwa diese oder diese oder diese. Aber das, was auf den Bildern zu sehen ist, kann verhindert werden. Und dass eine Ernährung ohne Tierprodukte nicht nur Leben rettet, sondern auch für sportliche Höchstleistung prädestiniert, wollte ich mit der Runde durch Baden-Württemberg zeigen. Der SWR hat die Aktion begleitet. Den Beitrag dazu poste ich separat. Einen kleinen Zeitungsartikel gibt es hier.
No Access statt Open Access
Ein neuer Aufsatz von mir ist erschienen. Er kann unter diesem Link eingesehen werden. Der Aufsatz ist eine Antwort auf aktuelle Forderungen zu veränderten Publikationsnormen in der Forschung zu Anwendungen des maschinellen Lernens, welche ein erhöhtes Dual-Use-Potential besitzen. Im Aufsatz argumentiere ich, dass Publikationsrestriktionen, wie sie bereits in der IT-Sicherheits- oder der Biotechnologieforschung verankert sind, sich ebenfalls im Bereich des maschinellen Lernens etablieren und anstelle einer generellen Mentalität des Open Access treten müssen. Zweck dieser Restriktionen wäre es, Missbrauchsszenarien beispielsweise bei der KI-gestützten Audio-, Video- oder Texterzeugung, bei Persönlichkeitsanalysen, Verhaltensbeeinflussungen, der automatisierten Detektion von Sicherheitslücken oder anderen Dual-Use-Anwendungen einzudämmen. Im Aufsatz nenne ich Beispiele für bereichsspezifische Forschungsarbeiten, die aufgrund ihres Gefahrenpotentials nicht oder nur teilweise veröffentlicht wurden. Zudem diskutiere ich Strategien der Governance jenes “verbotenen Wissens” aus der Forschung.
Radiobeitrag
Neulich wurde ich zur Frage interviewt, welches Wissen man eigentlich sinnvollerweise aus einem KI-System gewinnen kann und welches nicht. In der nun ausgestrahlten Sendung im Deutschlandfunk sind leider nur noch kleine Fragmente des Interviews enthalten. Insbesondere geht es darin um Systeme des maschinellen Lernens, die dazu eingesetzt werden, um vermeintlich kriminelle Neigungen anhand von Gesichtszügen zu erkennen. Die Seite zu Sendung kann hier eingesehen oder der Beitrag nachfolgend angehört werden.
Industriepartner in der KI-Forschung
In Tübingen insbesondere wird aufgrund des Cyber Valleys seit vielen Monaten lebhaft über die Rolle von Industriepartnern in der KI-Forschung diskutiert. Doch eine systematische, allgemeine Untersuchung des Feldes fehlt – bis jetzt. Zusammen mit Kristof Meding habe ich ein Paper geschrieben, das das Verhältnis zwischen Industrie- und öffentlicher KI-Forschung untersucht, anhand einer Auswertung von knapp 11.000 Papern Interessenkonflikte beleuchtet und weitere Bereiche wie etwa die Frage nach den Treibern wissenschaftlichen Fortschritts analysiert. Der Aufsatz, der einige wirklich interessante Erkenntnisse enthält, kann hier eingesehen werden. Eine Kurzpräsentation der Ergebnisse gibt es ferner hier.
Corona-Pausen
Für Leistungssportler bedeutet die aktuelle Situation, dass Training zum Selbstzweck wird. Für den September sind immerhin ein paar Radrennen angekündigt. Um sich in seiner Motivation von selbigen nicht allzu abhängig zu machen, kann man sich selbst Herausforderungen setzen. Und was wäre da besser geeignet, als Ultralangdistanzen? Den Auftakt für dieses Jahr bildete für mich eine Tour in den Schwarzwald, die bewährte Tour an den Bodensee und eine Tour entlang der Donau.
Science Slam
Im ausverkauften Stuttgarter Theaterhaus fand jüngst die diesjährige Ausgabe des Science Slams statt, zu dem neben anderen tollen Slammern auch ich eingeladen wurde. Es war mein erster Auftritt dieser Art – und es war ein ziemlicher Spaß! Nicht nur wegen des großartigen, riesigen Publikums von knapp tausend Menschen, sondern auch, weil ich es irgendwie geschafft habe, den Slam zu gewinnen…
Stellenausschreibung
Vorbehaltlich der endgültigen Förderzusage werde ich ab 01.04.2020 ein Forschungsprojekt leiten, zu dem man sich noch bis zum 17. Februar 2020 bewerben kann. Du passt zum Profil der Stelle, bist motiviert für eine wissenschaftliche Karriere und hast Lust auf eine Zusammenarbeit mit mir? Dann schick mir deine Bewerbungsunterlagen! Weitere Details können unter diesem Link hier eingesehen werden.
Zur Höfats
Die Höfats-Überschreitung gehört, zumal in der Variante mit dem Reitgrat, vermutlich zu den eindrucksvollsten und schönsten Touren, die man – entsprechende Erfahrung vorausgesetzt – in den Allgäuer Alpen erleben kann.
