Nie martwcie się! Algorytm wszystko już zaplanował

15.02.2022

Ten tekst przeczytasz w 4 min

Naborem do szkół, ewaluacją postępów w pracy, a nawet przyznawaniem dotacji ministerialnych coraz częściej zajmuje się tajemniczy – algorytm. To pachnące przyszłością i krzemem określenie jest dla nas gwarantem najwyższej bezstronności. Teraz politycy, przepytywani na okoliczność niesprawiedliwej dystrybucji środków, mogą odpowiedzieć: to nie my, to algorytm. Mamy nowego bożka! Algorytm poleca nam filmy, podpowiada hotele, sugeruje kolejną książkę, wybiera nam studia, i coraz częściej… żony i mężów. Według algorytmu szacowana jest data naszego przyjścia na świat, umiejętności szkolne, zdolność kredytowa, przydatność kandydata do pracy, postępy pracowników w pracy, prognozowany czas życia emeryturze, a są już i aplikacje, które mają ambicje podać nam czas i przyczynę zgonu.

Wszyscy traktujemy algorytm jak niezależny byt, który zstąpił z nieba wyposażony w najwyższą mądrość, kryształową uczciwość i nieomylną zdolność odróżniania dobrego od złego. My homo sapiensy utraciliśmy te cechy albo przez ludzkie słabości albo w skutek zwykłego zagubienia w nadmiarze danych i meandrach komplikującej się rzeczywistości. Tymczasem każdy algorytm jest przecież tak mądry jak jego dane wejściowe, a te aplikują mu przecież wciąż zawodni i stronniczy ludzie. Kiedy na początku pandemii mądre głowy z ministerstwa kultury postanowiły poratować stratnych artystów, zlecili algorytmowi oszacowanie najbardziej stratnych przez zestawienie zarobków twórców w roku bez pandemii z ich zarobkami w roku z pandemią. Kto był na największym minusie dostawał największą dotrację. W przypadku ewaluacji składacza długopisów porównuje się pewnie ilość złożonych długopisów w ciągu godziny, a w przypadku nauczyciela odsetek laureatów konkursów, którzy wyszli spod jego ręki. Wszyscy lubimy proste rozwiązania, problem tylko w tym, że mało które sprawdzają się w życiu. Co gorsza wyplute przez algorytm dane wyjściowe stają się danymi wejściowymi w kolejnym cyklu pracy, wskutek czego algorytm sam siebie uwiarygadnia, napędza, powiela i sankcjonuje własne błędy. A potem nie mamy wyboru, musimy się dopasować do logiki algorytmu, albo wypadamy z gry. Jak to działa w praktyce?

Jeśli bezkrytycznie założymy, że nauczyciele produkujący laureatów są lepsi od tych, którzy pomagają najsłabszym uczniom wydźwignąć się trójki, to nauczyciele w trosce o dobrą ewaluację będą zaniedbywać trudnych i czasochłonnych uczniów i koncentrować swoje wysiłki na szlifowaniu nielicznych pereł. Jeśli bezkrytycznie założymy, że probierzem jakości nauczyciela jest średnia nauczania, to pani od matematyki prędko dojdzie do wniosku, by przymknąć czujne oko na teście i pomóc wszystkim zbliżyć się do szóstki.

Podobnie jest z dzieciakami. Swego czasu założono, że dzieci reprezentujące szkołę w zespołach pozaszkolnych zasługują z automatu na najwyższą ocenę z muzyki. I wkrótce głuchy jak pień Wojtuś dopasował się do założeń algorytmu i zamiast zapisać się na dodatkowe zajęcia z rytmiki, przyniósł karteczkę, że jest członkiem scholi parafialnej. I ma celującą. Duża część naszego życia już się do takich algorytmicznych modeli przystosowała. Kiedyś chciałem za darmo pomóc w angielskim pewnej dziewczynce, ale jej matka powiedziała, że ja mogę ją co najwyżej nauczyć mówić i pisać po angielsku, ale algorytmowa weryfikacja angielskiego odbywa się przez test, który można zdać nie znając zbyt dobrze angielskiego, a nawet nie zdać znając go dość dobrze. O meandrach nowoczesnego testowania przekonał się kiedyś sam Henryk Sawka, który namalował plakat swojej córce i algorytm oceny szkolnej oszacował to na czwórkę z minusem, maturalna rozprawka Bartka Żulczyka nie wybroniłaby się pewnie nawet na dwóję. A z drugiej strony słynny Radek Kotarski autor książki „Włam się do mózgu” zdał szwedzki po pół roku nauki. Czy włamał się do mózgu? Niekoniecznie. Z pewnością włamał się do algorytmu.

I wielu bierze z niego przykład. Nawet politykom agendę priorytetowych spraw podpowiada algorytm w postaci badań opinii publicznej. Nieustanne obróbka danych sondażowych o wiele bardziej pomaga w reelekcję niż zdawanie się na tak przestarzałe pomysły polityczne jak poczucie odpowiedzialności za ojczyznę. Współczesny polityk wzorem głuchego jak pień Wojtusia nie uczy się śpiewać, tylko patrzy za co dają szóstkę.

Całe szczęście, czas w porę przyłapujemy algorytmy są ewidentnej błędzie. Tak jak wtedy, gdy maszyna w ministerstwie kultury wyliczyła, że najbardziej potrzebującym artystą RP jest twórca przeboju „Majteczek w kropeczki”. Gorzej jest gdy algorytm nie jest jaskrawo głupi, tylko średnio głupie, wówczas łatwo stracić czujność, jak żaba w kotle z wodą, której temperatura zwiększa się niezauważalnie ledwie o jeden stopień. Zanim się obejrzymy, możemy się ugotować.

Do takiego niezauważalnego ugotowania doszło w Ameryce. Kiedyś jakaś redakcja wpadła na niewinny pomysł, by zrobić listę najlepszych amerykańskich uczelni. Pomysł, jak to się mówi, zażarł i ranking stał się coroczną tradycją. Nikt nie zauważył, że zaczęło się podgrzewanie żaby. Niewinny ranking zaczął wpływać na wybory życiowe młodych Amerykanów. Uczelnie najpierw po omacku, a potem coraz bardziej świadomie zaczęły się dopasowywać do algorytmu, co z początku doprowadziło do wielu pozytywnych zmian, ale z czasem słabsze instytucje zaczęły hakować system i robiły różne dziwne sztuczki, żeby oszukać algorytm. Na przykład zauważano, że algorytm wyżej punktuje drugi podjazd dla wózków inwalidzkich niż zatrudnienie wysokiej klasy specjalisty, albo że bardziej się opłaca zadbać o zieleń na kampusie niż o rozbudowę laboratorium chemicznego.

Wkrótce sprytne prowincjonalne uniwersyteciki zaczęły prześcigać osławione uczelnie z tak zwanej Ligi Bluszczowej. Twórcy algorytmów zaczęli w popłochu łatać hakowany systemy. Przerabiali dane wejściowe i kategorie oceny na tyle sposobów, żeby dane wyjściowe wyglądały w końcu sensowniej. Ale tak to już jest, że poprawianie błędu błędem prowadzi do największych błędów. Szarlatani od hakowania algorytmów zwani dla niepoznaki firmami konsultingowymi na bieżąco analizowali zmiany w metodologii rankingów i za ciężkie dolary wspierali swoich klientów. I tak niewinny pomysł, który miał pomóc młodym Amerykanom w dobrze szkoły wytworzył więcej patologii niż pożytku. Mamy więc nowe, topowe uczelnie, w których uczniowie mają boisko do golfa, ale nie mają wybitnych profesorów, mamy głuchego jak pień Wojtusia z szóstką z muzyki, który nie potrafi śpiewać, mamy nauczyciela, który robi świetną robotę, ale algorytm mianuje go do zwolnienia, mamy córkę mojej koleżanki, która ma piątkę z angielskiego, ale nie potrafi zakomunikować tego po angielsku, mamy też kupę innych zjawisk, które już zdążyły zepsuć nasz świat, bo nie wyskoczyliśmy w porę z kotła z wrzątkiem. Wielki roztwór z zettabajtów naszych danych będzie już chyba zawsze bulgotał w cyfrowych kotłach różnych algorytmów i wytrącał z siebie coraz osobliwsze kryształy.

Autor: Krzysztof Szubzda, Radio Akadera, autor cyklu felietonów „Ściśle rzecz ujmując”

Zobacz także: Petros Psyllos: Czym jest sztuczna inteligencja?