Diese Komponente der Ausschreibung macht zwar nur einen kleinen Teil aus, aber Experten weisen zu Recht darauf hin, dass ihr breiter Anwendungsbereich und ihre vagen Bedingungen im Hinblick auf die Privatsphäre ebenso besorgniserregend sind.

Dies ist der letzte einer vierteiligen Reihe. Die anderen Geschichten können Sie hier lesen.

Du liest es zuerst hier: Wenn Sie in Lucknow von Hunderten von Gesichtserkennungskameras als „verdächtiges Wesen“ oder jemand, der einer „verdächtigen Aktivität“ nachgeht, identifiziert werden, besteht die Möglichkeit, dass andere mit Ihnen „verbunden“ in ähnlicher Weise mithilfe von Datenbanken identifiziert werden.

Als Teil des Lucknow Safe City Project möchte die Regierung von Uttar Pradesh ein Datenanalyse-Framework einrichten, das versucht, Beziehungen zwischen „Entitäten“ zu identifizieren, indem verschiedene Datenbanken genutzt werden, die der Regierung zur Verfügung stehen.

Diese Rahmenlösung für die Datenanalyse würde laut einer von der UP-Regierung veröffentlichten Ausschreibung zur Auswahl eines Systemintegrators für das Safe City-Projekt bei der Entwicklung eines „Kriminalitätsplattform” das –

  • dürfen Daten extrahieren aus den operativen Datenbanken und „Watchlists“ der Polizei, aber auch aus „Adhoc- und Strukturquellen“.
  • dürfen jemanden identifizieren durch die Zusammenführung verschiedener Informationsquellen
  • Ist leistungsfähig Linkanalyse und Netzwerkanalyse Beziehungen zwischen und zwischen Entitäten zu verknüpfen.“

Warum es wichtig ist: Die verschiedenen Besonderheiten für die Einrichtung des Datenrahmens sind besorgniserregend, da in der Ausschreibung nicht erwähnt wird, welche Datensätze für die Erstellung dieser Beziehungen verwendet werden und wer konkret Ziel der vom Rahmen durchgeführten Analysen wäre. Dies lässt im Wesentlichen viel Raum für einen möglichen Missbrauch im Sinne einer Verletzung der Privatsphäre einer Person.

Mit konkreten Fragen in dieser Hinsicht wandte sich MediaNama per E-Mail an den Innenminister der Regierung von Uttar Pradesh, der laut Innenministerium der Union Website, ist der Knotenbeauftragte für das Safe City-Projekt in Lucknow. Am 16. August kontaktierten wir auch per E-Mail und Telefon Neera Rawat, die zusätzliche Generaldirektorin der Polizei in der Sektion Women Power Line 1090 der UP-Polizei, die das Projekt in der Polizeiabteilung anführt. Später wurde uns von ihren Mitarbeitern gesagt, dass sie nicht mit uns sprechen wird. [We have attached our queries regarding this at the end of the report]

Dieses vorgeschlagene Datenanalyse-Framework ist Teil eines größeren Überwachungssystems, das die Einrichtung eines Kommando- und Kontrollzentrums beinhaltet, in dem die Überwachung aus der ganzen Stadt durch gesichtserkennungsfähige CCTV-Kameras, KI-basierte Videoanalyse usw. erfolgt. Dieser Befehl und Kontrollzentrum gilt als Epizentrum der Überwachungsmaßnahmen der UP-Polizei in Lucknow im Rahmen des Safe City-Projekts.

Daten extrahieren, Links und Netzwerke identifizieren, analysieren: Ein tiefer Einblick in das Framework

Um die Anforderungen an eine sichere Stadt zu erfüllen, wird ein Rahmen vorgeschlagen, der Funktionen zum Verwalten und Speichern von Daten, Informationen und zu überwachenden Analyse-Engines enthält verdächtige Einheiten und Aktivitäten (Hervorhebung hinzugefügt) und eine webbasierte Untersuchungsoberfläche zur Auswertung von Warnungen, zusammen mit einer Visualisierungs- und Berichtslösung, die den Gesamtbetrieb überwacht und Einblicke bietet – Data Analytics-Segment der Ausschreibung des Lucknow Safe City-Projekts

Es ist wichtig anzumerken, dass die UP-Polizei nicht feststellt, dass der Rahmen Verbrechen überwacht, sondern dass er „verdächtige Einheiten und Aktivitäten“ aufdeckt, was den Umfang der Überwachung erweitert. Shweta Mohandas, Policy Officer am Center for Internet and Society, wies darauf hin, dass unklar sei, welche „strukturierten Quellen“ der Datenrahmen analysieren würde.

„In Bezug auf die Privatsphäre würde dieser Mangel an Klarheit und Transparenz bedeuten, dass die Menschen möglicherweise nicht einmal wissen, dass sie im Hinblick auf eine wahrgenommene Beziehung zu einer anderen Person untersucht werden. Darüber hinaus könnte dies zu einem Profiling auf der Grundlage von Informationen führen, die aus der Datenanalyse abgeleitet werden. Es kann auch vorkommen, dass Personen, die vom System möglicherweise fälschlicherweise profiliert wurden, weiterhin erfasst werden und in den Aufzeichnungen der Strafverfolgungsbehörden bleiben, selbst nachdem die Beteiligung der Person an der „verdächtigen Aktivität“ geklärt wurde“, sagte Mohandas.

Abgesehen von den oben genannten Punkten wird die mit diesem Datenrahmen zu entwickelnde Crime Intelligence-Plattform auch –

  • Haben eine “ganzheitliches Erkennungs-Framework“, das hervorheben kann “über Aktivitäten, die bei einem Ereignis auftreten” und so weiter.
  • Führen Sie Such-, Erkennungs-, Workflow-, Arbeitsbereichs- und Einblickfunktionen durch, „um freie, fokussierte und geregelte Untersuchungsaktivitäten zu ermöglichen“.

Rishi Anand, Partner bei DSK Legal, weist zwar darauf hin, dass der Einsatz von Algorithmen und Analysetechniken noch nicht nachgewiesen wurde, um Verbrechen zu verhindern, vorherzusagen oder aufzuklären, sagte jedoch, dass in Bezug auf Datenschutzfragen usw. mehrere Herausforderungen bevorstehen werden.

Herausforderungen liegen nicht nur in Bezug auf die verzerrten Daten, die in die Algorithmen eingespeist werden können, und die Replikation der zugrunde liegenden Probleme des Strafrechtssystems (wie die Ausrichtung auf bestimmte religiöse Gemeinschaften, ethnische Herkunft usw.) über die Auswirkungen einer solchen Technologie auf die Privatsphäre und die bürgerlichen Freiheiten des Einzelnen. Im indischen Kontext ist das Problem verwirrend mit der Tatsache, dass es im Gegensatz zur EU in Indien keine umfassenden Gesetze zur Regelung von künstlicher Intelligenz und Datenschutz gibt — Rishi Anand, DSK Legal


Lieber Leser,

Die Arbeit von MediaNama zur Behandlung der wichtigsten politischen Themen, die die Zukunft des indischen Internets gestalten, wird durch die Unterstützung seiner Abonnenten ermöglicht. Wenn Entwicklungen in der Technologiepolitik für Sie oder Ihre Organisation von entscheidender Bedeutung sind, empfehlen wir Ihnen dringend, MediaNama zu abonnieren, um unseren Journalismus zu unterstützen.

Bitte hier abonnieren.


Ein Blick auf „verdächtige Aktivitäten“ und „Entitäten“

In der ersten Geschichte dieser Serie hatten wir hervorgehoben, wie auf künstlicher Intelligenz basierende CCTV-Kameras in Lucknow etwa 40 verdächtige Aktivitäten erkennen, die die UP-Regierung aufgelistet hatte. Diese Szenarien sind jedoch oft vage und in einigen Fällen nicht sinnvoll. Nur wenige von ihnen sind –

  • Identifizieren von Rauchergruppen an öffentlichen Orten, z. B. in Bereichen mit hohem Frauenaufkommen
  • Die Kamera behält Verkehrsverstöße im Auge, die manchmal zu Straftaten wie Entführungen führen*
  • Erkennen Sie Männer, die sich in der Nähe von öffentlichen Damentoiletten bewegen*
  • Erkennung des Verhaltens von Jungen und Männern außerhalb von Bekleidungsgeschäften für Frauen*.

Sie finden die anderen Szenarien aufgelistet Hier.

Darüber hinaus plant die UP-Regierung, Drohnen als Konnektivitätsgerät für die letzte Meile für die Polizei von Lucknow einzusetzen. Die in der Ausschreibung für den Einsatz von Drohnen genannten Gründe gehen über die Bekämpfung von Verbrechen gegen Frauen hinaus – der genannte Grund für die Einführung des Projekts Lucknow Safe City. Die UP-Regierung sagte, dass die Drohnen verwendet werden –

  • „Um den Befehlsbereich der Überwachung zu vergrößern, indem höhere Gründe, Terrassen, Dächer..“
  • „Als aktive Abschreckung für skrupellose Elemente in herausfordernden Law-and-Order-Situationen wie Kundgebungen, Rasta Roko und ähnlichen Mob-/Crowd-geführten Aktivitäten zu fungieren“

Die weiteren Gründe für den Einsatz von Drohnen finden Sie hier.

Wenn das Lucknow Safe City Project ausschließlich zur Bekämpfung von Verbrechen gegen Frauen eingesetzt wird, ist es schwer zu verstehen, welche Art von „skrupellosen Elementen“ die UP-Regierung aufspüren will und warum „Kundgebungen und Rasta Roko“, die Formen von Proteste sollen mit Hilfe von Drohnen überwacht werden.

Diese mit Gesichtserkennung gekoppelten Überwachungssysteme erzeugen Alarme basierend auf den erkannten Daten und ein Incident-Management-Operator bei Integrierter Smart Control Room (ISCR) des Lucknow Safe City Project müssen die Ausschreibungen validieren, indem sie das mit der Ausschreibung verbundene Bild und Video überprüfen, sagte der Bieter. Erst dann kann die Angelegenheit ggf. eskaliert werden.

Die ISCR wird sich auch in bestehende Überwachungsprojekte in Lucknow integrieren, wie das Smart City Project, das Drishti Project und Jio-Kameras — ein separates CCTV-System mit Jio-Kameras gemäß einer von der Regierung von Uttar Pradesh veröffentlichten Ausschreibung zur Auswahl eines Systemintegrators für den Safe City Protect. Lesen Sie hier mehr über ISCR und seine Integration mit Jio-Kameras.

Daten sollten in Indien sein: UP-Regierung

Für das Safe City Project und alle beteiligten Datenbanken hat die Regierung von Uttar Pradesh ein End-to-End-Sicherheitsmodell vorgeschlagen.

Die Daten sind kritisch und daher sollten die Daten hochgradig gesichert sein und müssen sich in Indien befinden. Für die Pflege der Daten sind Verschlüsselungsfunktionen im Speicher erforderlich. Der Systemintegrator muss die erforderliche Unterstützung bereitstellen – die Ausschreibung

Dies sind die anderen in der Ausschreibung vorgeschlagenen Sicherheitsmaßnahmen —

  • Der Bieter sollte die Feldgeräte und deren Software vor Hackern schützen.
  • Ein Antivirensystem auf Gateway-Ebene sollte sich gut gegen Viren- und Wurmangriffe schützen
  • Für die sichere Kommunikation zwischen Anwendungen und Endbenutzern sollten virtuelle private Netzwerke verwendet werden
  • Systemprotokolle sollten ordnungsgemäß gespeichert und für zukünftige Analysen archiviert werden

Abgesehen davon sollten tägliche Videos, die mit CCTVs aufgenommen wurden, mindestens 120 Tage lang gesichert werden. In den ersten 30 Tagen wird es in ein „Hot Tier Archive“ verschoben, von wo aus die Videos auf Anfrage sofort abrufbar sind, heißt es in der Ausschreibung. Nach 30 Tagen werden die Daten in den Archivspeicher verschoben, der auf Anfrage abgerufen werden kann.

Datenwiederherstellung: Unter Berücksichtigung von Zwischenfällen, die zu Datenverlust führen können, hat die Ausschreibung vorgeschlagen, alle Daten in einem Rechenzentrum zu speichern und eine Kopie davon in einem Disaster Recovery Center (DRC) zu speichern.

„Der Systemintegrator wäre erforderlich, um das Cloud-Disaster Recovery Center in einer Cloud-Umgebung einzurichten. Im Falle einer Katastrophe oder eines Ausfalls des Rechenzentrums sollen 5 % des Videofeeds automatisch auf das DRC umgeschaltet werden und es übernimmt die Funktion des Rechenzentrums“, heißt es in der Ausschreibung. Darüber hinaus wird die Demokratische Republik Kongo auch über IT-gestützte IT-Computerinfrastruktur, Speicher-, Netzwerk- und Sicherheitskomponenten verfügen, fügte die Ausschreibung hinzu.

Ist das ähnlich zu Telanganas Samagra Vedika?

Eine Lektüre des Vorschlags der UP-Regierung für das Datenanalyse-Framework zeigt, dass es teilweise Ähnlichkeiten mit der Samagra Vedika-Plattform der Regierung von Telangana aufweist, die 360-Grad-Profile für jeden Bürger bereitstellt. Es wurde 2017 gegründet und ermöglicht es dem Staat, die Bürgerdaten von etwa 25 Abteilungen zu überprüfen oder zu überprüfen, ohne Aadhaar zu verwenden, so LiveMint.

Laut einem anderen Bericht von Huffington Post, bot die Regierung von Telangana der Unionsregierung diese Technologie im Jahr 2018 an, Wochen nachdem der Oberste Gerichtshof die Verwendung von Aadhaar für Anwendungen, die die Privatsphäre der Bürger verletzen, erheblich eingeschränkt hatte.

Die Nutzung der Datenbank wurde Berichten zufolge auch in einer Studie aus dem Jahr 2020 kritisiert, die von der . veröffentlicht wurde Mozilla-Stiftung. Der ehemalige Mozilla-Stipendiat Divij Joshi hatte die Notwendigkeit einer kritischeren Befragung hinter dem Funktionieren von Datenbanken betont.

Was wir die UP-Regierung gefragt haben

In dem Datenanalyse Im Segment der Ausschreibung geht es um die Entwicklung eines Frameworks, das “strukturiertes Informationsparsing und -extraktion, das es dem System ermöglicht, Schlüsselinformationen aus strukturierten Quellen zu lesen und zu extrahieren” und “Linkanalyse und Netzwerkanalyse zur Verknüpfung von Beziehungen zwischen und zwischen Entitäten” durchführen kann.

  • Was sind in dieser Hinsicht die „Quellen“, die verwendet werden, um Informationen zu extrahieren?
  • Welche Art von Datenbanken werden verwendet, um Beziehungen zwischen Entitäten zuzuordnen?
  • Was sind die Parameter bei der Wahl eines Themas, dessen Netzwerk oder Verbindungen hergestellt werden sollen?
  • Ist es möglich, dass durch den Verknüpfungs- und Vernetzungsanalyseprozess Details von Personen auftauchen, die möglicherweise nichts mit einer Straftat zu tun haben, gegen die die UP-Polizei ermittelt?

Lesen Sie auch:

Haben Sie etwas hinzuzufügen? Abonnieren Sie MediaNama hier und posten Sie Ihren Kommentar.