Blackbox Palantir: Gegen massenhaftes Data Mining nach Karlsruhe
Bayerns Polizei überwacht massenweise Menschen, die sich noch nie einer Straftat verdächtig gemacht haben. Für dieses Data Mining benutzt sie eine Software von Palantir – ohne Transparenz, Kontrollmechanismus und Schutz vor Diskriminierung. Die GFF zieht dagegen vor das Bundesverfassungsgericht.
Warum verstößt Data Mining gegen Grundrechte?
Diese weitreichende Auswertung von Daten verletzt unter anderem das Grundrecht auf informationelle Selbstbestimmung und das Fernmeldegeheimnis. Das Ziel der Verfassungsbeschwerde sind klare Grenzen für die Behörden beim Einsatz von Data Mining-Software.
Die Software analysiert Daten von Bürger*innen heimlich. Sie bekommen nichts davon mit, genauso wenig wie von möglicherweise folgenden Überwachungsmaßnahmen. Nach aktuellem Recht darf die Polizei die Software nicht nur bei besonders schweren Straftaten benutzen, sondern auch bevor eine Gefahr überhaupt besteht. Klare gesetzliche Grenzen für den Einsatz von Analysesoftware gibt es nicht. Auch ein Schutz vor Fehlern der Software ist nicht gewährleistet – häufig haben die Algorithmen diskriminierende Auswirkungen.
Was sagt das Bundesverfassungsgericht zu Data Mining durch eine KI?
Nach Verfassungsbeschwerden durch die GFF zog das Bundesverfassungsgericht in einem Grundsatzurteil 2023 enge Grenzen für automatisierte Datenanalysen durch die Polizei ein. Damit hielt das Gericht massenhafte Datenauswertung bei der Polizei in Hessen und Hamburg auf und setzte wichtige Standards zu Data Mining. Diese Standards hat der bayerische Gesetzgeber nicht eingehalten.
Zu den insgesamt acht Beschwerdeführer*innen gehören eine Strafverteidigerin, Aktivist*innen und Personen der Fanhilfe des Fußballvereins SpVgg Fürth. Johannes König, Musiker und Mit-Organisator der NoBayPAG-Demonstrationen betont: „Als wäre das Bayerische Polizeiaufgabengesetz noch nicht autoritär genug geprägt, setzt die Staatsregierung nun auch noch auf die Überwachungssoftware des rechten Verschwörungsideologen Peter Thiel. Karlsruhe muss die neueste Entwicklung stoppen.“
Eine weitere Verfassungsbeschwerde der GFF ist anhängig gegen das Polizeigesetz in Nordrhein-Westfalen, wo die Behörden ebenfalls Gotham von Palantir einsetzen. Das Tech-Unternehmen Palantir des Trump-nahen US-Investors Peter Thiel steht dafür in der Kritik, seine Software unter anderem für den Einsatz in Kriegsgebieten und für Geheimdienste zu produzieren.
Seit wann überwacht die Polizei in Bayern mit Palantir-Software?
Die Gesellschaft für Freiheitsrechte erhebt die Verfassungsbeschwerde zu Bayern gemeinsam mit dem Chaos Computer Club. Bayerns Polizei setzte die Überwachungssoftware mindestens ein Jahr ohne Gesetzesgrundlage ein. Nur auf die Beschwerde von Datenschutzbeauftragten hin wurde überhaupt ein Rechtsrahmen gesetzt.
Die Palantir-Rasterfahndung erfasst eine enorme Menge von Menschen. Zuvor getrennte Daten werden miteinander verknüpft, die für sehr unterschiedliche Zwecke vorgesehen waren. Schon allein deshalb darf die automatisierte Massenanalyse nicht zum Polizeialltag werden. Aber die zusammengeführten Daten landen auch noch in einer absichtlich undurchschaubaren Software des US-Konzerns Palantir, von der sich die Polizei auf Jahre abhängig macht. Das sind klare Ausschlusskriterien für diese Daten aus dem Innenleben der Polizei.
Die Verfassungsbeschwerde ist ein wichtiger Baustein in den Bemühungen der GFF, zu weit gehende Überwachungsbefugnisse der Sicherheitsbehörden in rechtsstaatliche Grenzen zu verweisen. Für zunehmend digitale polizeiliche Ermittlungen sind klare Maßstäbe, transparentes staatliches Handeln und ausreichende Kontrollmechanismen wichtiger denn je.
