SPRAWDŹ, ZANIM ZAUFASZ

Zawsze tak było. Dziś, być może, zdarza się to częściej.

Ludzie mówią przekonani, że wiedzą, co mówią. Mówią z pewnością tych, którzy już wydali wyrok, którzy wierzą, że ich punkt widzenia wcale nie jest punktem widzenia, lecz całym krajobrazem. A potem spotykają kogoś gotowego wyjaśnić, oddzielić jedno od drugiego, rzucić światło tam, gdzie jeszcze chwilę wcześniej była tylko opinia.

I czasem zatrzymują się i słuchają.

Nie wszyscy.

Od 1980 roku wszystko naprawdę przyspieszyło. Może ze strachu, że zostaniemy w tyle za Wszechświatem i jego mieszkańcami, przeszliśmy od dźwięku bębnów i sygnałów dymnych do rozmów na ulicy, w pracy, w pociągach, wszędzie – z nieznajomymi.

Nieznajomi, owszem, ale już poinformowani.

Albo przynajmniej przekonani, że tacy są.

A przecież matka, odkąd byłem dzieckiem, zawsze przestrzegała mnie, żebym nie rozmawiał z nieznajomymi.

Jak miałbym jej dziś wytłumaczyć, że świat wymaga dokładnie czegoś odwrotnego?

Stamtąd, gdzie jest teraz, nie może oczywiście korzystać z technologii. Ale nie dajcie się zwieść: taka Kalabryjka jak ona nie jest w więzieniu. Wróciła do domu Ojca, by pełnić inne obowiązki i odgrywać inne role.

Być może narodzi się na nowo jako kobieta gdzieś w mojej rodzinie i będzie mnie obserwować tak jak wtedy, gdy byłem chłopcem, próbując mnie poskromić samym tylko spojrzeniem.

Ale byłem i pozostaję nie do poskromienia.

Nikogo nie pytam o pozwolenie.

Wie o tym także współczesna technologia. Kiedy spotkałem się i zderzyłem z SI i algorytmami, sprawiłem, że wybuchły. Nie dlatego, że wypowiedziałem wojnę maszynom, ale dlatego, że ani maszyny, ani ich właściciele nie byli w stanie mnie ujarzmić.

W tym miejscu jednak trzeba zadać pytanie: kim naprawdę są te dwie postaci, algorytm i sztuczna inteligencja?

Ciągle wymieniamy je z imienia, jak bliskich krewnych. Wzywamy je, gdy coś ułatwia nam życie, i obwiniamy, gdy coś wymyka się spod kontroli. A jednak często je mylimy, jakby były tym samym w dwóch różnych strojach.

Tak nie jest.

Algorytm to procedura. Ciąg instrukcji. Ktoś mu mówi: jeśli stanie się to, zrób tamto. Jeśli droga jest zamknięta, zmień trasę. Jeśli liczba jest parzysta, podziel ją na pół. Jeśli brakuje składnika, zatrzymaj się albo zastąp go zgodnie z regułą, którą otrzymałeś.

Algorytm nie dyskutuje. Nie interpretuje. Nie obraża się.

Przede wszystkim nie zmyśla.

Wykonuje.

To gramatyka.

Sztuczna inteligencja natomiast to próba zbudowania systemów zdolnych do radzenia sobie z zadaniami, które jeszcze wczoraj powierzaliśmy wyłącznie ludziom: rozpoznawanie twarzy, interpretowanie tekstu, tłumaczenie zdania, znajdowanie powiązań w danych, formułowanie odpowiedzi, przewidywanie zachowań.

To nie jest ludzki umysł przeniesiony do komputera i nie jest to świadomość.

To zestaw technik zaprojektowanych po to, by w przybliżeniu wykonywać zadania poznawcze.

Pozostając w świecie pisania: algorytm to gramatyka – uporządkowana, konieczna, nieugięta. SI to pisarz, który przeczytał ogromną bibliotekę i teraz próbuje ułożyć nową stronę.

Potrafi zaskoczyć. Może wydawać się błyskotliwa. Może nawet znaleźć zdanie, które nas poruszy.

Ale potrafi też mylić się z absolutną pewnością. Może przekręcić szczegół, zmyślić źródło, poskładać przekonujące słowa, nie posiadając prawdy.

I na tym polega różnica, która ma znaczenie.

Tradycyjny algorytm potrzebuje kogoś, kto pokaże mu drogę. Jeśli sytuacja się zmienia, a nikt go nie nauczył, co robić, pozostaje więźniem swoich instrukcji.

SI, przynajmniej ta jej część, która opiera się na uczeniu maszynowym, otrzymuje przykłady i szuka prawidłowości w danych.

Nie podajesz jej każdej odpowiedzi.

Pokazujesz jej przypadki, informacje, próby. System sam szuka wzorców i buduje prawdopodobną odpowiedź. Uczenie maszynowe opiera się na systemach, które dostosowują się na podstawie danych, by z czasem poprawiać swoje działanie.

Nie znaczy to, że SI wie wszystko.

Znaczy tylko, że potrafi rozpoznawać wzorce z taką szybkością i z taką pamięcią, jakich nie ma żaden człowiek. Ale rozpoznać wzorzec to nie to samo, co zrozumieć świat.

System może przetłumaczyć metaforę na trzydzieści trzy języki, a jednocześnie polec przy prostym, źle zadanym pytaniu, przy niepełnym kontekście albo przy elegancko napisanym kłamstwie.

Algorytm jest sztywny.

SI jest bardziej elastyczna, ale to nie czyni jej wolną.

Algorytm potrafi obliczyć najkrótszą drogę do celu. SI potrafi przyjrzeć się fotografii i powiedzieć nam, co zdaje się na niej znajdować, wysłuchać pytania i zbudować odpowiedź, przeanalizować tysiące stron i przygotować streszczenie.

Ale za jednym i drugim zawsze stoi ludzka ręka: ten, kto napisał reguły, wybrał dane, wyznaczył cel, zdecydował, co ma być nagradzane, a co odrzucane.

Tak więc SI i algorytmy nie są przeciwieństwami.

Sztuczna inteligencja żyje algorytmami, ale nie każdy algorytm jest sztuczną inteligencją. Współczesna SI często korzysta z algorytmów uczenia maszynowego: narzędzi, które dostosowują swoje wewnętrzne parametry na podstawie dostępnych danych, by generować przewidywania, klasyfikacje lub odpowiedzi.

To matematyka w wielkim tempie, a nie magia.

To konstrukcja statystyczna, a nie objawienie.

I tak wracamy do ludzi, którzy mówią przekonani, że wiedzą.

Nie każdy, kto mówi, wie, co mówi.

Dotyczy to człowieka przy barze, roztargnionego profesora, polityka w telewizji, tego, kto pisze w mediach społecznościowych, a nawet maszyny zdolnej odpowiedzieć w kilka sekund.

W każdym systemie wisi małe ostrzeżenie, wyrażone różnymi słowami, ale o tym samym sensie:

Uwaga: mogę popełniać błędy. Zawsze weryfikuj to, co mówię. Sprawdź, zanim zaufasz.

To zdanie, które moja matka by zaaprobowała.

Powtarzała mi je, w innych formach, jeszcze zanim miałem dziewczynę. Oczywiście nie wiedziała, że przeprowadziłem już szeroko zakrojone testy wydajności i niezawodności, także z innymi, przy zerowych kosztach.

Ale to, jak każde dobre badanie, przeprowadzono w terenie.