Να διερευνηθεί πώς η αξιοποίηση τεχνητής νοημοσύνης (ΑΙ) στα συστήματα επιτήρησης που εφαρμόζονται από κυβερνητικούς φορείς επηρεάζει την ιδιωτικότητα, τα ανθρώπινα δικαιώματα και την κοινωνική εμπιστοσύνη, με σκοπό την ανάπτυξη προτάσεων για ισορροπημένη χρήση που συνδυάζει δημόσια ασφάλεια και προστασία ατομικών ελευθεριών.

Η έρευνα εστιάζει στην αυξανόμενη χρήση τεχνολογιών επιτήρησης με υποστήριξη ΑΙ (π.χ. αναγνώριση προσώπου, ανάλυση προτύπων συμπεριφοράς, αυτόματη ανίχνευση απειλών) από κρατικούς οργανισμούς. Αντικείμενο είναι:

1. Χαρτογράφηση των πρακτικών χρήσης τέτοιων τεχνολογιών σε κυβερνητικές λειτουργίες (ασφάλεια, δημόσια διοίκηση, διαχείριση κρίσεων).

2. Ανάλυση ωφελειών, όπως ενίσχυση της ασφάλειας, αποτελεσματικότερη διαχείριση πόρων και πρόληψη εγκληματικότητας.

3. Εντοπισμός κινδύνων και εμποδίων, που σχετίζονται με παραβίαση προσωπικών δεδομένων, διακρίσεις μέσω αλγορίθμων (algorithmic bias), διαφάνεια και λογοδοσία.

4. Ανάλυση νομοθετικού και ηθικού πλαισίου στην Ευρωπαϊκή Ένωση και διεθνώς, με έμφαση στη συμμόρφωση με τον GDPR και τις κατευθύνσεις για υπεύθυνη χρήση ΑΙ.

5. Προτάσεις πολιτικής και τεχνολογικών λύσεων, που θα επιτρέπουν τη χρήση της ΑΙ με τρόπο που σέβεται την ιδιωτικότητα και ενισχύει την εμπιστοσύνη των πολιτών.

Η μελέτη φιλοδοξεί να συμβάλει τόσο σε ακαδημαϊκό επίπεδο (παραγωγή γνώσης γύρω από τον συνδυασμό ΑΙ, επιτήρησης και δικαιωμάτων) όσο και σε πρακτικό επίπεδο, προσφέροντας οδηγίες για κυβερνήσεις και οργανισμούς που αναπτύσσουν ή υλοποιούν τέτοιες τεχνολογίες.

- EGOV I & II

- Interoperability

- Case study analysis

Fontes, C., Hohma, E., Corrigan, C. C., & Lütge, C. (2022). AI-powered public surveillance systems: why we (might) need them and how we want them. Technology in Society, 71, 102137.

Kumar, A., & Kaur, R. (2024, February). Right to Privacy in the Era of AI-Powered Surveillance Technologies. In International Conference on Emerging Research in Computing, Information, Communication, Artificial Intelligence and Machine Learning (pp. 245-252). Singapore: Springer Nature Singapore.

Singh, T. (2023, October). AI-Driven Surveillance Technologies and Human Rights: Balancing Security and Privacy. In International Conference on Smart Systems: Innovations in Computing (pp. 703-717). Singapore: Springer Nature Singapore.