Die meiste Zeit liegt sich US-Präsident Donald Trump mit den großen Tech-Konzernen des Landes in den Haaren. So warf er kürzlich Google vor, bei der Anzeige der Suchergebnisse konservative Meinungen zu benachteiligen. Empirisch beweisen lässt sich dieser Vorwurf allerdings nicht. Nach den Amokläufen in Dayton und El Paso rief der Präsident die Betreiber von sozialen Netzwerken nun aber zur Zusammenarbeit auf. Gemeinsam mit dem Justizministerium solle man „Tools entwickeln, die Amokläufer erkennen, bevor sie zuschlagen“. Detaillierte Angaben zu dieser Idee folgten nicht. Offensichtlich schwebt dem Präsidenten aber eine Art Algorithmus vor, der die Aktivitäten in sozialen Netzwerken auswertet und so potentielle Täter identifiziert. Die Antwort der Konzerne steht noch aus. Doch schon jetzt lässt sich sagen, dass der Vorschlag zwei große Probleme mit sich bringt:


Foto: Donald Tump, Gage Skidmore, Flickr, CC BY-SA 2.0

1. Die Technologie ist bei weitem noch nicht gut genug

Grundsätzlich ist die Idee nicht ganz neu. So wird ein ähnlicher Ansatz bereits verfolgt, um Nutzer mit Suizid-Gedanken zu identifizieren. Im Idealfall kann diesen dann frühzeitig Hilfe angeboten werden. Allerdings arbeiten die Algorithmen auch dabei noch keineswegs perfekt. Die Zahl der falschen Treffer ist sehr hoch. Bei der Suizid-Prävention ist dies nicht so schlimm: Besser es wurde einmal zu viel Hilfe angeboten als einmal zu wenig. Ein Algorithmus zur Identifizierung von Amok-Läufern müsste aber viel genauer arbeiten. Schon bei einer Fehlermarge von nur einem Prozent könnte die Zahl der Verdächtigen sonst bei mehr als einer Millionen liegen.

Dies würde die Kapazitäten der Sicherheitsbehörden bei weitem übersteigen. Hinzu kommt, dass Algorithmen keineswegs so neutral sind, wie sie scheinen. So wird in der US-Justiz bereits seit einiger Zeit Software genutzt, um bei Verurteilten die Wahrscheinlichkeit einer erneuten Straftat zu beurteilen. Genauere Analysen haben allerdings ergeben, dass die Algorithmen Menschen mit schwarzer Hautfarbe signifikant diskriminieren. Ähnliches wäre auch bei der Suche nach potentiellen Amokläufern zu befürchten. Auch hier würden dann Kapazitäten der Sicherheitskräfte gebunden, die an anderer Stelle besser eingesetzt werden könnten.


2. Viele ethische Fragen sind noch ungeklärt

Bisher beruht unser Rechtssystem weitgehend darauf, dass man nur für tatsächlich verübte Verbrechen verurteilt werden kann – und nicht etwa weil man ein böser Mensch an sich ist. Daher stellt sich die Frage: Was passiert, wenn der Algorithmus bei einem bestimmten Nutzer Alarm schlägt? Einfach verhaften und wegsperren würde die Grundrechte massiv verletzen und ist daher keine Option. Eine dauerhafte Überwachung wäre ebenfalls kritisch zu sehen und dürfte auch eher schwierig zu realisieren sein. Am wahrscheinlichsten wäre daher, dass die verdächtigen Namen in einer Datenbank gesammelt werden. Dadurch alleine wird aber noch kein Terroranschlag verhindert.

Hinzu kommt eine weitere Problematik: Die Verdächtigen haben keine Chance ihre Unschuld zu beweisen. Denn die Anschuldigung basiert ja nicht auf harten Fakten, sondern rein auf der Einschätzung eines Algorithmus. Auch dies ist mit dem heutigen Werte- und Rechtssystem nur schwer zu vereinbaren. Diese Einschränkungen gelten aber nur für Software, die Amokläufer anhand bestimmter Muster erkennen soll, bevor sie ihre Tat ankündigen. Postet hingegen jemand auf Facebook, dass er gleich eine entsprechende Tat begehen wird, können die Sicherheitskräfte auch heute schon im Vorfeld eingreifen. Hier könnte es tatsächlich sinnvoll sein, intelligente Algorithmen zu nutzen, um verdächtige Posts zu entdecken und dann einem Menschen zur Prüfung vorzulegen.

Fazit: Es gibt deutlich bessere Ideen

Die Idee von Trump ist also nicht völlig aus der Luft gegriffen. Aktuell ist die dafür notwendige Technik aber schlicht noch zu unausgereift. Eine Nutzung wäre also nicht praktikabel. Sollte sich dies eines Tages ändern, kommen schwierige ethische, rechtliche und moralische Fragen auf Politik und Justiz zu. Die Wahrscheinlichkeit eines Amoklaufes lässt sich aber auch heute schon durch andere Maßnahmen deutlich senken. So ist statistisch erwiesen, dass die Zahl der entsprechenden Taten mit der Zahl der sich im Umlauf befindlichen Waffen korreliert. Oder anders ausgedrückt: Eine striktere Waffenpolitik würde die Sicherheit der Bevölkerung massiv erhöhen, ohne übermäßig stark in die Grundrechte einzugreifen. Aktuell scheint es dafür in der US-Politik aber keine Mehrheit zu geben.

Via: Vox

Teile den Artikel oder unterstütze uns mit einer Spende.
PayPal SpendeAmazon Spendenshopping

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.