TED – jak algorytmy profilują nasze dzieci

Fraudbuster
Fraudbuster Pogromca Korupcji i Nadużyć
kontakt

Antropolożka, Veronica Barassi przedstawiła na konferencji TED wyniki swojego badania na temat tego, jaką wiedzę o naszych dzieciach dostają algorytmy i co z tego może wynikać. Jej zdaniem najwyższy czas, żebyśmy domagali się większej kontroli nad naszymi danymi.
– Jestem antropolożką i matką dwóch małych dziewczynek, Zaczęłam się interesować tym problemem w 2015 roku, kiedy to nagle uświadomiłam sobie, jak ogromna jest, prawie niewyobrażalna, ilość danych produkowanych i gromadzonych na temat dzieci. Dlatego zaczęłam projekt badawczy, który nazwałam Child Date Citizen, żeby dowiedzieć się czegoś więcej – mówiła Veronica Barassi ze sceny TED. Problem nie tkwi w tym, że rodzice wrzucają zdjęcia dzieci do internetu. Problem jest systemowy.
– Pierwszy raz w historii śledzimy dane osobowe dzieci jeszcze przed ich narodzinami – mówiła badaczka. Przyszli rodzice szukają, bowiem w internecie porad w sprawie zajścia w ciążę. Potem czytają w serwisach porad na temat samopoczucia w czasie ciąży, wrzucają do serwisów społecznościowych zdjęcie z USG. Kiedy dziecko się narodzi monitorują jego aktywność za pomocą różnych technologii.
– W 2019 roku British Medical Journal opublikował badanie, które pokazało, że spośród 24 mobilnych aplikacji zdrowotnych 19 udostępniało informacje innym firmom. Te z kolei udostępniały je 216 innym organizacjom. Wśród tych 216 organizacji były tylko trzy, które należały do sektora opieki zdrowotnej – mówiła Barassi. Były wśród nich miedzy innymi agencje reklamowe i kredytowe.
Aktywność dzieci śledzą też inne aplikacje jak na przykład platformy edukacyjne, portale w gabinetach lekarskich, zabawki podłączone do internetu. Pytani przez badaczkę rodzice nie widzieli nic złego w zbieraniu tych danych przez firmy. Zwraca ona jednak uwagę, że na podstawie tych danych jesteśmy profilowani przez algorytmy. Potem te profile są używane przez banki przy decyzjach o przyznaniu kredytu a rekruterzy i pracodawcy przy sprawdzeniu czy ktoś się nadaje do pracy. Policja i sądy używają ich do prognozowaniu prawdopodobieństwa ponownego popełnienia zbrodni – zwraca uwagę badaczka.
Veronica Barassi stawia tezę, że profilowanie przez algorytmy, chociaż przydatne w wielu dziedzinach nie sprawdza się w przypadku człowieka. Dane nie są odbiciem tego, co myślimy i robimy, często mówimy jedno a robimy drugie. Prognozy algorytmiczne nie biorą pod uwagę ludzkiej nieprzewidywalności. Dodatkowo algorytmy są stronnicze, bo są stworzone przez ludzi i w konkretnym kontekście kulturowym. Maszyny uczą się na stronniczych algorytmach a często i stronniczych bazach danych.
Dane zbierane dzisiaj na temat dzieci mogą zaprzepaścić ich plany w przyszłości – takim ostrzeżeniem podsumowała swoje wystąpienie Veronica Barassi, apelując jednocześnie o podjęcie wzmożonych działań zanim będzie za późno.

Powiązane wpisy


Napisz komentarz

XHTML: Możesz użyć tagów: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>