The Dangers of Open AI: Toward Ethical Data Sharing Through Purpose Limitation

Künstliche Intelligenz wird zunehmend auf offene Daten trainiert und als offene Modelle weiter verbreitet. Häufig dient dies gemeinwohlorientierten Zwecken wie der medizinischen Diagnostik. Doch was passiert, wenn offen verfügbare Modelle für andere, ethisch fragwürdige Anwendungen wiederverwendet werden? Unser Projekt geht der Frage nach, wie wir kollektive Risiken durch die sogenannte sekundäre Zweckentfremdung von offenen KI-Modellen und anonymisierten Datensätzen verhindern können. Dazu verbindet das Projekt die Prinzipien des Open Source- und Open Data-Gedankens mit verantwortungsvoller Zweckbindung. Wir entwickeln dafür eine neue Lizenzform – eine „purpose-limited open data/AI”-Lizenz – die es erlaubt, Daten und Modelle offen zu teilen, jedoch unter klar definierter, verantwortungsvoller Eingrenzung des Anwendungszwecks. In enger Zusammenarbeit mit NGOs und Expert:innen aus Rechtswissenschaft und Ethik streben wir eine kulturelle Bewegung hin zu “zweckbegrenzter Offenheit” an. Workshops, und der Austausch mit Stakeholdern sichern eine praxisnahe Umsetzung. Das Projekt bringt ethische Reflexion, juristische Analyse und zivilgesellschaftliches Engagement zusammen, um das Prinzip der Offenheit neu zu denken – nicht gegen, sondern für das Gemeinwohl.

VIVO