No Access statt Open Access

Ein neuer Aufsatz von mir ist erschienen. Er kann unter diesem Link eingesehen werden. Der Aufsatz ist eine Antwort auf aktuelle Forderungen zu veränderten Publikationsnormen in der Forschung zu Anwendungen des maschinellen Lernens, welche ein erhöhtes Dual-Use-Potential besitzen. Im Aufsatz argumentiere ich, dass Publikationsrestriktionen, wie sie bereits in der IT-Sicherheits- oder der Biotechnologieforschung verankert sind, sich ebenfalls im Bereich des maschinellen Lernens etablieren und anstelle einer generellen Mentalität des Open Access treten müssen. Zweck dieser Restriktionen wäre es, Missbrauchsszenarien beispielsweise bei der KI-gestützten Audio-, Video- oder Texterzeugung, bei Persönlichkeitsanalysen, Verhaltensbeeinflussungen, der automatisierten Detektion von Sicherheitslücken oder anderen Dual-Use-Anwendungen einzudämmen. Im Aufsatz nenne ich Beispiele für bereichsspezifische Forschungsarbeiten, die aufgrund ihres Gefahrenpotentials nicht oder nur teilweise veröffentlicht wurden. Zudem diskutiere ich Strategien der Governance jenes “verbotenen Wissens” aus der Forschung.

Radiobeitrag

Neulich wurde ich zur Frage interviewt, welches Wissen man eigentlich sinnvollerweise aus einem KI-System gewinnen kann und welches nicht. In der nun ausgestrahlten Sendung im Deutschlandfunk sind leider nur noch kleine Fragmente des Interviews enthalten. Insbesondere geht es darin um Systeme des maschinellen Lernens, die dazu eingesetzt werden, um vermeintlich kriminelle Neigungen anhand von Gesichtszügen zu erkennen. Die Seite zu Sendung kann hier eingesehen oder der Beitrag nachfolgend angehört werden.

Industriepartner in der KI-Forschung

In Tübingen insbesondere wird aufgrund des Cyber Valleys seit vielen Monaten lebhaft über die Rolle von Industriepartnern in der KI-Forschung diskutiert. Doch eine systematische, allgemeine Untersuchung des Feldes fehlt – bis jetzt. Zusammen mit Kristof Meding habe ich ein Paper geschrieben, das das Verhältnis zwischen Industrie- und öffentlicher KI-Forschung untersucht, anhand einer Auswertung von knapp 11.000 Papern Interessenkonflikte beleuchtet und weitere Bereiche wie etwa die Frage nach den Treibern wissenschaftlichen Fortschritts analysiert. Der Aufsatz, der einige wirklich interessante Erkenntnisse enthält, kann hier eingesehen werden. Eine Kurzpräsentation der Ergebnisse gibt es ferner hier.

Corona-Pausen

Für Leistungssportler bedeutet die aktuelle Situation, dass Training zum Selbstzweck wird. Für den September sind immerhin ein paar Radrennen angekündigt. Um sich in seiner Motivation von selbigen nicht allzu abhängig zu machen, kann man sich selbst Herausforderungen setzen. Und was wäre da besser geeignet, als Ultralangdistanzen? Den Auftakt für dieses Jahr bildete für mich eine Tour in den Schwarzwald, die bewährte Tour an den Bodensee und eine Tour entlang der Donau.


Science Slam

Im ausverkauften Stuttgarter Theaterhaus fand jüngst die diesjährige Ausgabe des Science Slams statt, zu dem neben anderen tollen Slammern auch ich eingeladen wurde. Es war mein erster Auftritt dieser Art – und es war ein ziemlicher Spaß! Nicht nur wegen des großartigen, riesigen Publikums von knapp tausend Menschen, sondern auch, weil ich es irgendwie geschafft habe, den Slam zu gewinnen…


Stellenausschreibung

Vorbehaltlich der endgültigen Förderzusage werde ich ab 01.04.2020 ein Forschungsprojekt leiten, zu dem man sich noch bis zum 17. Februar 2020 bewerben kann. Du passt zum Profil der Stelle, bist motiviert für eine wissenschaftliche Karriere und hast Lust auf eine Zusammenarbeit mit mir? Dann schick mir deine Bewerbungsunterlagen! Weitere Details können unter diesem Link hier eingesehen werden.

Nurturing AI – Utilizing developmental psychology for beneficial AI

In a recent seminal paper on machine behavior, Rahwan et al. (2019) stress that ML applications “cannot be fully understood without the integrated study of algorithms and the social environments in which algorithms operate.” This essay aims to tentatively address this demand by using theories and insights from developmental psychology (as well as related scientific disciplines such as pedagogics or sociology) to assess environmental influences, which shape AI applications.

Continue reading “Nurturing AI – Utilizing developmental psychology for beneficial AI”

Vom Rückgrat der künstlichen Intelligenz

Es gibt Fälle, da instrumentalisieren große IT-Unternehmen Milliarden von Computernutzern, um für sich Arbeit zu leisten. Die Arbeit besteht dabei zumeist aus sogenannten „micro tasks“. Die Abarbeitung derselben erfolgt ohne Entlohnung und häufig ohne Wissen der Betroffenen. Ein Beispiel, an welchem sich dies veranschaulichen lässt, ist der Dienst reCAPTCHA von Google. Zum Einsatz kommen reCAPTCHA etwa dann, wenn man sich bei Onlinediensten anmelden oder Onlineformulare ausfüllen will. Hierbei stoßt man früher oder später auf eine Eingabemaske, in welcher verzerrte Buchstaben erkannt, Straßen- oder Hausschilder korrekt identifiziert oder andere Abbildungen indexiert werden müssen. Die reCAPTCHA dienen der Abwehr von Bots, da die gestellten Miniaufgaben in der Regel nicht automatisiert von Computern gelöst werden können. Dies ist zumindest der vorgeschobene Grund. Faktisch jedoch dienen reCAPTCHA primär dazu, Computern dabei zu helfen, nicht eindeutig erkennbare Buchstaben, Hausnummern oder Straßennahmen aus dem Google Books Projekt sowie Google Street View digital zu erfassen. Somit wirken zahllose Mediennutzer, indem sie reCAPTCHA lösen, an der Verbesserung von Text- und Bilderkennungssoftware mit. Und dies zumeist, ohne es zu wissen.

Continue reading “Vom Rückgrat der künstlichen Intelligenz”

Zur Höfats

Die Höfats-Überschreitung gehört, zumal in der Variante mit dem Reitgrat, vermutlich zu den eindrucksvollsten und schönsten Touren, die man – entsprechende Erfahrung vorausgesetzt – in den Allgäuer Alpen erleben kann.


Everesting

Wie angekündigt nochmals ein Post zum Everesting. Zwischenzeitlich ist ein kleiner Bericht im SWR Fernsehen erschienen, den ich unten eingebettet habe. Auch im Radio (SWR1/3/4, DASDING) wurde berichtet, allerdings haben die Sender keine Mediatheken, in der die Beiträge gespeichert sind. Einen Artikel in der Regionalpresse gibt es ebenfalls, dieser ist allerdings hinter der Paywall.

Everesting für den guten Zweck

Die Idee, die dem “Everesting” zugrunde liegt, ist simpel: “[…] cycle up and down a hill until you’ve tallied 8,848m of ascent – the height of Mount Everest. The reality is a relentless endurance battle that’ll push you to your physical and mental limits.” (redbull.com) Das musste ich natürlich ausprobieren. Gleichzeitig wollte ich die Unternehmung verknüpfen mit der Botschaft, dass eine vegane Ernährung nicht nur für die Erbringung sportlicher Höchstleistungen ideal ist. Mit ihr lässt sich zugleich immenses Tierleid verhindern, darüber hinaus ist sie eine der wichtigsten Umwelt- und Klimaschutzmaßnahmen. Ich freue mich, dass das Everesting so erfolgreich gelungen ist sowie über die mediale Begleitung, die ich währenddessen hatte. Danke auch an alle, die mich an der Strecke unterstützt haben! Links zu den Berichten poste ich später bzw. sobald sie erschienen sind.


Puh…

Warum nicht einmal 500 Radkilometer am Stück fahren? Morgens um 4 Uhr ging es los, die ersten 150 Kilometer nüchtern, mit Lampen und warmer Kleidung einmal das Neckartal Richtung Rottweil hoch und runter. Mit leichter Kleidung wieder ins Neckartal, dieselbe Strecke rauf und runter, mit einem Abstecher durchs Nagoldtal nach Pforzheim und zurück. 420 Kilometer hatte ich beisammen, bevor es wieder dunkel wurde. Die letzten 80 Kilometer dann erneut mit warmer Kleidung und Lampen durchs Neckartal in Richtung Nürtingen. In den späten Abendstunden, als die Straßen schon wie leergefegt waren, waren die 500 Kilometer dann endlich beisammen, nach über 18 Stunden.


Ans Limit

Nachdem sich vergangenen Sonntag endlich ein regenfreier Tag ohne akute Hitze ergab, konnte ich mal wieder länger Fahrrad fahren. 400 Kilometer sind meiner Meinung nach das Limit, was sich unter normalen Bedingungen ohne Lampen und warme Kleidung für die Nacht- oder frühen Morgenstunden machen lässt.


Neuer Aufsatz

Zuletzt erschien im Journal “Ethics and Information Technology” mein neues Paper “From privacy to anti-discrimination in times of machine learning”. Das Paper liegt mir besonders am Herzen, da es versucht, zu zeigen, warum die Idee der informationellen Privatheit angesichts von Technologien wie dem maschinellen Lernen nahezu obsolet ist – ein Gedanke, der in der Privacy-Forschung häufig nicht zugelassen wird – und wir andere Formen des Identitätsschutzes gesellschaftlich etablieren müssen. Der Artikel kann hier (mit Uni-VPN) oder hier (ohne Uni-VPN) nachgelesen werden.

Erster Saisonsieg

Endlich hat es geklappt. Auf der Kurzstrecke des Heckengäu Bike Marathons konnte ich auf den ersten Platz in der Gesamtwertung fahren und meinen Sieg vom Vorjahr wiederholen. Nachdem ich nach etwa der Hälfte der Distanz durch einen Angriff am Anstieg etwas Abstand zu meinen Verfolgern gewinnen konnte, musste ich mich auf der matschigen Strecke ordentlich quälen, um den Vorsprung ins Ziel zu bringen. Danke an die Veranstalter für das tolle Rennen!

AI Governance

An der Universität in Hongkong wurde jüngst eine Konferenz zur Ethik und Governance von KI-Systemen veranstaltet, zu der ich eingeladen wurde. Im Sinne der Bewahrung einer guten Klimabilanz habe ich den Vortrag allerdings per Skype gehalten. Es war dennoch schön, virtuell bei der Konferenz dabei zu sein. Ein Ergebnis derselben ist zudem ein Übersichtspaper über verschiedene AI Governance Initiativen, an dem ich mitgewirkt habe. Der Text ist als Preprint verfügbar oder kann über folgenden Link eingesehen werden.

Neuer Aufsatz – What AI (currently) can’t do

In AI & Society erschien jüngst mein neuer Aufsatz über aktuelle Limitationen und Herausforderungen bei der Entwicklung und Anwendung künstlicher Intelligenz. Der Aufsatz beschreibt in einer Übersicht fünfzehn verschiedene Bereiche, in denen methodologische, gesellschaftliche oder technologische “shortcomings” aktueller KI-Technologie situiert sind. Eingesehen werden kann das Paper unter diesem Link.

Übersichtsartikel zur Ethik der künstlichen Intelligenz

Angesichts der Vielzahl an Richtlinien zur Ethik der künstlichen Intelligenz beziehungsweise des maschinellen Lernens habe ich einen Übersichtsartikel geschrieben, in dem ich die Richtlinien miteinander vergleiche, Gemeinsamkeiten herausarbeite, aber auch Leerstellen benenne und reflektiere, welcher Typus von Ethiktheorie jeweils verfolgt wird. Letztlich beschreibe ich auch, inwiefern die Richtlinien in der Praxis umgesetzt werden können. Das Paper ist bei Minds and Machines erschienen. Es kann unter diesem Link eingesehen werden und ist von der Technology Review zu den “most thought-provoking papers” der dritten Märzwoche gerechnet worden. Anbei zudem das “Herzstück” des Papers, die tabellarische Übersicht über die Ethik-Richtlinien und ihre einzelnen Aspekte.


Paper zu Privacy

In der neuen Ausgabe des “Journal of Information Ethics” ist mein Aufsatz “Privacy Literacy and Its Problems” erschienen. Darin kritisiere ich das Konzept der Privatheitskompetenz aus verschiedenen Perspektiven. In Kurzform habe ich meine Überlegungen dazu ich in diesem Blog-Post festgehalten.

Privacy Literacy und seine Probleme

Angesichts stetig steigender Risiken für den Schutz der informationellen Privatheit im Kontext vernetzter informationstechnischer Systeme werden immer häufiger Forderungen nach Privacy Literacy laut. Privacy Literacy meint, dass Nutzerinnen und Nutzer digitaler Medien eine gewisse Bandbreite an Kompetenzen der Mediennutzung erlernen und besitzen sollen. Die Ausbildung von Mediennutzungsfähigkeiten, welche das Schutzverhalten hinsichtlich der eigenen Privatheit betreffen, kann als eine Antwort auf das Problem des „privacy paradox“ gesehen werden. Das „privacy paradox“ besagt, dass es eine Diskrepanz gibt zwischen den Bekundungen über die Wichtigkeit des Schutzes der eigenen Privatheit und dem konkreten Mediennutzungsverhalten, im Rahmen dessen kaum auf den Privatheitsschutz geachtet wird. Dieser Kluft zwischen Überzeugung und Handeln kann durch Privatheitskompetenzen begegnet werden. Nutzerinnen und Nutzer digitaler Medien werden qua Bildung gewissermaßen „ermächtigt“, digitale Medien beziehungsweise digitale Plattformen und Services so zu nutzen, dass die eigene Privatheit geschützt wird. Continue reading “Privacy Literacy und seine Probleme”