Ένας αλγόριθμος που ελέγχει την παιδική παραμέληση εγείρει ανησυχίες
Μέσα σε ένα σπήλαιο πέτρινο φρούριο στο κέντρο του Πίτσμπουργκ, ο δικηγόρος Ρόμπιν Φρανκ υπερασπίζεται τους γονείς σε ένα από τα χαμηλότερα σημεία τους - όταν κινδυνεύουν να χάσουν τα παιδιά τους.
Η δουλειά δεν είναι ποτέ εύκολη, αλλά στο παρελθόν ήξερε τι αντιμετώπιζε όταν αντιμετώπιζε τις υπηρεσίες προστασίας παιδιών στο οικογενειακό δικαστήριο. Τώρα, ανησυχεί ότι παλεύει με κάτι που δεν μπορεί να δει: έναν αδιαφανή αλγόριθμο του οποίου οι στατιστικοί υπολογισμοί βοηθούν τους κοινωνικούς λειτουργούς να αποφασίσουν ποιες οικογένειες πρέπει να διερευνηθούν αρχικά.
«Πολλοί άνθρωποι δεν γνωρίζουν ότι χρησιμοποιείται καν», είπε ο Frank. «Οι οικογένειες θα πρέπει να έχουν το δικαίωμα να έχουν όλες τις πληροφορίες στο αρχείο τους».
Από το Λος Άντζελες στο Κολοράντο και σε όλο το Όρεγκον, καθώς οι υπηρεσίες παιδικής μέριμνας χρησιμοποιούν ή εξετάζουν εργαλεία παρόμοια με αυτά στην κομητεία Allegheny της Πενσυλβάνια, μια ανασκόπηση του Associated Press έχει εντοπίσει μια σειρά από ανησυχίες σχετικά με την τεχνολογία, συμπεριλαμβανομένων ερωτημάτων σχετικά με την αξιοπιστία της και τις δυνατότητές της να σκληραίνουν τις φυλετικές ανισότητες στο σύστημα πρόνοιας των παιδιών. Σχετικά ζητήματα έχουν ήδη τορπιλίσει τα σχέδια ορισμένων δικαιοδοσιών για χρήση προγνωστικών μοντέλων, όπως το εργαλείο που κυκλοφόρησε σημαντικά από την πολιτεία του Ιλινόις.
