Τεχνητή νοημοσύνη στην αστυνόμευση: απαιτούνται διασφαλίσεις κατά της μαζικής παρακολούθησης

Σε ένα σχέδιο έκθεσης που εγκρίθηκε με 36 ψήφους υπέρ, 24 και 6 αποχές, οι ευρωβουλευτές υπογραμμίζουν την ανάγκη για δημοκρατικές εγγυήσεις και λογοδοσία για τη χρήση της Τεχνητής Νοημοσύνης (AI) στην επιβολή του νόμου.

Μέτρα κατά των διακρίσεων

Οι ευρωβουλευτές ανησυχούν ότι η χρήση συστημάτων τεχνητής νοημοσύνης στην αστυνόμευση θα μπορούσε ενδεχομένως να οδηγήσει σε μαζική παρακολούθηση, παραβιάζοντας βασικές αρχές της ΕΕ της αναλογικότητας και της αναγκαιότητας. Η επιτροπή προειδοποιεί ότι διαφορετικά οι νόμιμες εφαρμογές τεχνητής νοημοσύνης θα μπορούσαν να επαναπροσανατολιστούν για μαζική παρακολούθηση.

Το σχέδιο ψηφίσματος υπογραμμίζει τη δυνατότητα μεροληψίας και διακρίσεων στους αλγόριθμους στους οποίους βασίζονται τα συστήματα AI και μηχανικής μάθησης. Καθώς τα αποτελέσματα ενός συστήματος εξαρτώνται από τις εισόδους του (όπως τα δεδομένα εκπαίδευσης), είναι σημαντικό να ληφθεί υπόψη η μεροληψία του αλγορίθμου. Επί του παρόντος, τα συστήματα ταυτοποίησης που βασίζονται σε τεχνητή νοημοσύνη είναι ανακριβή και μπορούν να εντοπίσουν εσφαλμένα εθνικές ομάδες μειονοτήτων, άτομα ΛΟΑΤΙ, ηλικιωμένους και γυναίκες, μεταξύ άλλων ομάδων. Επιπλέον, οι προβλέψεις που υποστηρίζονται από την τεχνητή νοημοσύνη μπορούν να ενισχύσουν τις υπάρχουσες διακρίσεις, μια ανησυχία στο πλαίσιο της επιβολής του νόμου και του δικαστικού συστήματος.

Χρήση αναγνώρισης προσώπου και άλλων βιομετρικών δεδομένων από την αστυνομία και το δικαστικό σώμα

Απευθυνόμενος σε συγκεκριμένες τεχνικές που διαθέτει η αστυνομία και το δικαστικό σώμα, η επιτροπή σημειώνει ότι το AI δεν πρέπει να χρησιμοποιείται για την πρόβλεψη συμπεριφοράς βάσει προηγούμενων ενεργειών ή χαρακτηριστικών ομάδων. Όσον αφορά την αναγνώριση προσώπου, οι ευρωβουλευτές σημειώνουν ότι διαφορετικά συστήματα έχουν διαφορετικές επιπτώσεις. Απαιτούν μια μόνιμη απαγόρευση της χρήσης βιομετρικών λεπτομερειών όπως βάδισμα, δακτυλικά αποτυπώματα, DNA ή φωνή για την αναγνώριση ατόμων σε δημόσιους χώρους.

Η επιτροπή θέλει να απαγορεύσει στην επιβολή του νόμου τη χρήση ιδιωτικών βάσεων δεδομένων αναγνώρισης προσώπου, όπως η ήδη χρησιμοποιημένη Clearview AI Οι ευρωβουλευτές ζητούν επίσης απαγόρευση εκχώρησης βαθμολογίας σε πολίτες βάσει της τεχνητής νοημοσύνης, τονίζοντας ότι θα παραβίαζε τις αρχές της βασικής ανθρώπινης αξιοπρέπειας. Τέλος, η αναγνώριση προσώπου δεν πρέπει να χρησιμοποιείται για ταυτοποίηση έως ότου τέτοια συστήματα συμμορφώνονται με τα θεμελιώδη δικαιώματα, δηλώνουν οι ευρωβουλευτές

Η χρήση βιομετρικών δεδομένων για απομακρυσμένη αναγνώριση προκαλεί ιδιαίτερη ανησυχία στους ευρωβουλευτές. Για παράδειγμα, οι αυτοματοποιημένες πύλες ελέγχου των συνόρων που βασίζονται στην αναγνώριση και το έργο iBorderCtrl (ένα «έξυπνο σύστημα ανίχνευσης ψέματος» για την είσοδο ταξιδιωτών στην ΕΕ) είναι προβληματικά και πρέπει να διακοπεί, λένε οι ευρωβουλευτές, οι οποίοι παροτρύνουν την Επιτροπή να κινήσει διαδικασίες επί παραβάσει κατά μέλους δηλώνει εάν είναι απαραίτητο.

Ο εισηγητής Petar Vitanov (S&D, BG) δήλωσε: «Η χρήση της τεχνητής νοημοσύνης αυξάνεται ραγδαία και πράγματα που θεωρούσαμε πιθανά μόνο σε βιβλία και ταινίες επιστημονικής φαντασίας - προβλέψιμη αστυνόμευση, μαζική παρακολούθηση με χρήση βιομετρικών δεδομένων - είναι πραγματικότητα σε ορισμένες χώρες. Είμαι ικανοποιημένος που η πλειοψηφία της Επιτροπής Πολιτικών Ελευθεριών αναγνωρίζει τον εγγενή κίνδυνο τέτοιων πρακτικών για τη δημοκρατία μας. Η τεχνική πρόοδος δεν πρέπει ποτέ να επιβαρύνει τα θεμελιώδη δικαιώματα των ανθρώπων. "

Η μη νομοθετική έκθεση θα αποτελέσει αντικείμενο συζήτησης και ψηφοφορίας κατά τη σύνοδο ολομέλειας του Σεπτεμβρίου (13-16 Σεπτεμβρίου).