Neuer Ansatz in der KI-Ethik

Einer der Hauptkritikpunkte an der KI-Ethik zielt auf die mangelhafte Umsetzung ihrer eigenen Prinzipien in der Praxis. Zwar hat die Kritik einen „practical turn“ in der Forschung ausgelöst, im Zuge dessen der Schulterschluss zwischen Theorie und Technikentwicklung enger gezogen wurde. Doch viele gravierende Mängel bleiben. In meinem neuen Paper versuche ich, diese zu beheben, indem ich einen völlig neuen Ansatz in der KI-Ethik propagiere, der von Prinzipien hin zu technikspezifischen Tugenden beziehungsweise Charakterdispositionen übergeht. Das Paper kann als Preprint wie üblich auf arXiv eingesehen werden.

Beneficial AI

Ich habe einen Aufsatz geschrieben, wie man einem KI-System nur diejenigen „Umweltreize“ zum Training geben kann, die zu einem ethisch wünschenswerten Maschinenverhalten führen. Die Idee ist, vom Big-Data-Grundsatz n = all wegzukommen, um durch neue Dimensionen von Datenqualität stärker zu selegieren, welches datafizierte Verhalten überhaupt zu Trainingsstimuli für Anwendungen des maschinellen Lernens zugelassen wird. Der Aufsatz kann als Preprint hier eingesehen werden.

Jeder Meter steht für zehn Tiere

Ich habe mich mit veganer Spinatlasagne gedopt und bin mal wieder Fahrrad gefahren. 500 Kilometer am Stück durch Baden-Württemberg, 17 Stunden Dampf aufs Pedal, ohne Pause. Dabei war der Anlass ein ernster. Jeder Meter der Tour soll für zehn geschlachtete Tiere stehen. Über fünf Millionen Tiere (Vögel nicht mit einberechnet) werden nämlich alleine in Baden-Württemberg pro Jahr industriell für die Fleischproduktion getötet. Wie das realistischerweise aussieht, sieht man, wenn man versteckte Kameras in Schlachthöfen an die Decke klebt. Tierschutzorganisationen bringen inzwischen fast monatlich Bilder an die Öffentlichkeit, zuletzt etwa diese oder diese oder diese. Aber das, was auf den Bildern zu sehen ist, kann verhindert werden. Und dass eine Ernährung ohne Tierprodukte nicht nur Leben rettet, sondern auch für sportliche Höchstleistung prädestiniert, wollte ich mit der Runde durch Baden-Württemberg zeigen. Der SWR hat die Aktion begleitet. Den Beitrag dazu poste ich separat. Einen kleinen Zeitungsartikel gibt es hier.


No Access statt Open Access

Ein neuer Aufsatz von mir ist erschienen. Er kann unter diesem Link eingesehen werden. Der Aufsatz ist eine Antwort auf aktuelle Forderungen zu veränderten Publikationsnormen in der Forschung zu Anwendungen des maschinellen Lernens, welche ein erhöhtes Dual-Use-Potential besitzen. Im Aufsatz argumentiere ich, dass Publikationsrestriktionen, wie sie bereits in der IT-Sicherheits- oder der Biotechnologieforschung verankert sind, sich ebenfalls im Bereich des maschinellen Lernens etablieren und anstelle einer generellen Mentalität des Open Access treten müssen. Zweck dieser Restriktionen wäre es, Missbrauchsszenarien beispielsweise bei der KI-gestützten Audio-, Video- oder Texterzeugung, bei Persönlichkeitsanalysen, Verhaltensbeeinflussungen, der automatisierten Detektion von Sicherheitslücken oder anderen Dual-Use-Anwendungen einzudämmen. Im Aufsatz nenne ich Beispiele für bereichsspezifische Forschungsarbeiten, die aufgrund ihres Gefahrenpotentials nicht oder nur teilweise veröffentlicht wurden. Zudem diskutiere ich Strategien der Governance jenes „verbotenen Wissens“ aus der Forschung.

Radiobeitrag

Neulich wurde ich zur Frage interviewt, welches Wissen man eigentlich sinnvollerweise aus einem KI-System gewinnen kann und welches nicht. In der nun ausgestrahlten Sendung im Deutschlandfunk sind leider nur noch kleine Fragmente des Interviews enthalten. Insbesondere geht es darin um Systeme des maschinellen Lernens, die dazu eingesetzt werden, um vermeintlich kriminelle Neigungen anhand von Gesichtszügen zu erkennen. Die Seite zu Sendung kann hier eingesehen oder der Beitrag nachfolgend angehört werden.

Industriepartner in der KI-Forschung

In Tübingen insbesondere wird aufgrund des Cyber Valleys seit vielen Monaten lebhaft über die Rolle von Industriepartnern in der KI-Forschung diskutiert. Doch eine systematische, allgemeine Untersuchung des Feldes fehlt – bis jetzt. Zusammen mit Kristof Meding habe ich ein Paper geschrieben, das das Verhältnis zwischen Industrie- und öffentlicher KI-Forschung untersucht, anhand einer Auswertung von knapp 11.000 Papern Interessenkonflikte beleuchtet und weitere Bereiche wie etwa die Frage nach den Treibern wissenschaftlichen Fortschritts analysiert. Der Aufsatz, der einige wirklich interessante Erkenntnisse enthält, kann als Preprint hier eingesehen werden. Eine Kurzpräsentation der Ergebnisse gibt es ferner hier.

Corona-Pausen

Für Leistungssportler bedeutet die aktuelle Situation, dass Training zum Selbstzweck wird. Für den September sind immerhin ein paar Radrennen angekündigt. Um sich in seiner Motivation von selbigen nicht allzu abhängig zu machen, kann man sich selbst Herausforderungen setzen. Und was wäre da besser geeignet, als Ultralangdistanzen? Den Auftakt für dieses Jahr bildete für mich eine Tour in den Schwarzwald, die bewährte Tour an den Bodensee und eine Tour entlang der Donau.


Neues

Warum es auf meiner Webseite zuletzt etwas ruhig geworden ist, dürfte nicht viel Erklärung brauchen. Der durch die Corona-Krise bedingte Wegfall von öffentlichen Veranstaltungen beeinflusst auch meine Tätigkeiten. Was gibt es dennoch Neues? Mehrere Aufsätze sind in der Mache, ich habe an einem Report über die praktische Umsetzung von KI-Ethik mitgewirkt sowie an einem weiteren Report über KI Governance und ein Artikel über wissenschaftsethische Überlegungen zur KI-Forschung erschien auf golem.de.

Science Slam

Im ausverkauften Stuttgarter Theaterhaus fand jüngst die diesjährige Ausgabe des Science Slams statt, zu dem neben anderen tollen Slammern auch ich eingeladen wurde. Es war mein erster Auftritt dieser Art – und es war ein ziemlicher Spaß! Nicht nur wegen des großartigen, riesigen Publikums von knapp tausend Menschen, sondern auch, weil ich es irgendwie geschafft habe, den Slam zu gewinnen…


Neuer Aufsatz

In „Minds and Machines“ ist jüngst mein Aufsatz „The Ethics of AI Ethics“ erschienen, in welchem ich eine Zusammenfassung und normative Analyse von Richtlinien zur KI-Ethik sowie eine generelle Kritik des damit verbundenen Diskurses durchgeführt habe. Der Aufsatz kann unter folgendem Link nachgelesen werden.

Stellenausschreibung

Vorbehaltlich der endgültigen Förderzusage werde ich ab 01.04.2020 ein Forschungsprojekt leiten, zu dem man sich noch bis zum 17. Februar 2020 bewerben kann. Du passt zum Profil der Stelle, bist motiviert für eine wissenschaftliche Karriere und hast Lust auf eine Zusammenarbeit mit mir? Dann schick mir deine Bewerbungsunterlagen! Weitere Details können unter diesem Link hier eingesehen werden.

Nurturing AI – Utilizing developmental psychology for beneficial AI

In a recent seminal paper on machine behavior, Rahwan et al. (2019) stress that ML applications “cannot be fully understood without the integrated study of algorithms and the social environments in which algorithms operate.” This essay aims to tentatively address this demand by using theories and insights from developmental psychology (as well as related scientific disciplines such as pedagogics or sociology) to assess environmental influences, which shape AI applications.

„Nurturing AI – Utilizing developmental psychology for beneficial AI“ weiterlesen

Veranstaltungen 2019

Zum Ende des Jahres blicke ich auf knapp vierzig beruflich und außerberuflich besuchte Veranstaltungen zurück, auf denen ich zu verschiedenen Themen vortragen und diskutieren durfte. Ich bedanke mich für die zahlreichen Einladungen, die ich erhalten habe, unter anderem zu den Webdays, zu Amazon, zur Berlin Science Week, zum CERN, an die Universität Hong Kong, zu den Französischen Filmtagen, zur IHK, aber auch zu Schulen, FSJ-Gruppen, politischen Initiativen und vielen mehr.


Aufsatz zur Post-Privacy

Im Rahmen meiner Arbeiten zum Thema Privatheit ist jüngst ein weiterer Aufsatz in dem von Hauke Behrendt und Kollegen herausgegebenen Sammelband „Privatsphäre 4.0“ erschienen, welcher hier mit entsprechendem Uni-VPN eingesehen werden kann.


Ende der Rennsaison

Es war nicht die beste Saison, dennoch konnte ich konstant und ohne schlimmere Stürze oder Verletzungen gute Ergebnisse einfahren. Zum Saisonabschluss standen die MTB-Challenge Illmensee und die ALB GOLD Trophy auf dem Programm, bei denen ich den 6. Gesamt- bzw. den 5. Platz der Altersklasse erlangte. Danke an mein Team und insbesondere an Michael für die Unterstützung und Begleitung durch die Saison!


Klickarbeit

In diesem Jahr hatte ich bereits einiges Pech bei der Zusammenarbeit mit Medien. Ein Beispiel: Das Magazin „Technology Review“ sagte mir vor vielen Monaten, als das Thema noch kaum präsent war, zu, einen Text über prekäre Labelarbeit im Kontext der Entwicklung von KI-Systemen zu veröffentlichen. Als der Text dann im Juli endlich erscheinen sollte, wird das Thema plötzlich an eine Journalistin abgegeben, die einen neuen Artikel schreibt. In diesem sind zwar noch Interviewschnipsel von mir erhalten, mehr aber nicht. Der Artikel kann hier (kostenpflichtig) nachgelesen werden. Meinen ursprünglichen Text gibt’s in meinem Blog.

Vom Rückgrat der künstlichen Intelligenz

Es gibt Fälle, da instrumentalisieren große IT-Unternehmen Milliarden von Computernutzern, um für sich Arbeit zu leisten. Die Arbeit besteht dabei zumeist aus sogenannten „micro tasks“. Die Abarbeitung derselben erfolgt ohne Entlohnung und häufig ohne Wissen der Betroffenen. Ein Beispiel, an welchem sich dies veranschaulichen lässt, ist der Dienst reCAPTCHA von Google. Zum Einsatz kommen reCAPTCHA etwa dann, wenn man sich bei Onlinediensten anmelden oder Onlineformulare ausfüllen will. Hierbei stoßt man früher oder später auf eine Eingabemaske, in welcher verzerrte Buchstaben erkannt, Straßen- oder Hausschilder korrekt identifiziert oder andere Abbildungen indexiert werden müssen. Die reCAPTCHA dienen der Abwehr von Bots, da die gestellten Miniaufgaben in der Regel nicht automatisiert von Computern gelöst werden können. Dies ist zumindest der vorgeschobene Grund. Faktisch jedoch dienen reCAPTCHA primär dazu, Computern dabei zu helfen, nicht eindeutig erkennbare Buchstaben, Hausnummern oder Straßennahmen aus dem Google Books Projekt sowie Google Street View digital zu erfassen. Somit wirken zahllose Mediennutzer, indem sie reCAPTCHA lösen, an der Verbesserung von Text- und Bilderkennungssoftware mit. Und dies zumeist, ohne es zu wissen.

„Vom Rückgrat der künstlichen Intelligenz“ weiterlesen

Wieder zur Höfats

Da meine bisherigen Höfats-Artikel aus irgendeinem Grund sehr gute Aufrufzahlen haben, folgt hier ein weiterer, in dem ich von meiner letzten Überschreitung mit der Variante über den Reitgrat berichten kann. Bei der Überschreitung vom West- zum Ostgipfel wird der Reitgrat zumeist unterhalb umgangen, man kann aber mit entsprechendem Nervenkostüm auch direkt über ihn hinwegklettern. Dazu folgt man in der Scharte zwischen West- und Mittelgipfel entweder den leichten Trittspuren direkt am Grat – oder man klettert, von Richtung Gufel kommend, über die extrem steile südseitige Grasrippe von unten an den Grat heran. Auf dem Reitgrat kann man sich, wie auf dem Foto gezeigt, tatsächlich nur sitzend fortbewegen, während rechts und links die Bergflanken steil abfallen. Hier sollte man eine stabile Hose besitzen. Nach dem Reitgrat folgt ein weiterer ausgesetzter Kletteraufschwung im dritten Grad, bei dem man sich einige Zeit lassen muss, um die wenigen möglichen Tritte und Griffe im Fels zu finden. Alles in allem gehört die Höfats-Überschreitung, zumal in der Variante mit dem Reitgrat, vermutlich zu den eindrucksvollsten und schönsten Touren, die man – entsprechende Erfahrung vorausgesetzt – in den Allgäuer Alpen erleben kann.


Neuer Aufsatz

Zuletzt erschien in einem Sammelband ein neuer Aufsatz, in dem ich beschreibe, wie Veränderungen im Design von Benutzeroberflächen einschlägiger Social Media Plattformen aussehen könnten, um eine Reihe an negativen Medienwirkungen – sei dies die starke Verbreitung von Fake-News, die Erzeugung von suchtartiger Mediennutzung oder Kommunikationsstress – vermeiden oder reduzieren zu können. Der Aufsatz kann mit entsprechendem Uni-VPN hier oder via Sci-Hub hier nachgelesen werden.