Hakowalni ludzie i cyfrowi dyktatorzy: Q&A z Yuvalem Noah Harari

Foto: Okładka książki Yuval Noah Harari: 21 lekcji na 21 wiek /screen Youtube.

Nowe technologie to największe wyzwania stojące przed ludzkością – mówi  autor bestsellera Sapiens i Homo Deus.

 

Hackable humans and digital dictators: Q&A with Yuval Noah Harari

Yuval Noah Harari znalazł się w międzynarodowym centrum literackiej uwagi  w 2014 roku po angielskim tłumaczeniu jego książki Sapiens.

Książka, która obejmuje historię ludzkości od odkrycia ognia po współczesną robotykę, stała się fenomen wydawniczym literatury faktu, fetowanym przez ówczesnego prezydenta USA Baracka Obamę i założyciela Facebooka Marka Zuckerberga, i sprzedała się w ponad ośmiu milionach  na całym świecie.

W swojej następnej książce, Homo Deus, izraelski historyk i autor badał, w jaki sposób rozwój dużych zbiorów danych, sztucznej inteligencji (AI) i biotechnologii może radykalnie zmienić i podzielić ludzkie społeczeństwo, być może całkowicie kończąc na tym [ludzki] gatunek.

Te same tematy pojawiają się ponownie w jego ostatniej pracy, 21 lekcji na 21 wiek, która jest zbiorem esejów, dyskusji i odpowiedzi do czytelników i serią obserwacji wszystkiego, od medytacji po zmiany klimatyczne.

W rozmowie z Harrym Fawcettem z Al Jazeery w Tel Awiwie w programie Talk to Al Jazeera, Harari mówił o technologii, imigracji i polityce .

***

Al Jazeera: Twoim zdaniem, jakie są główne wyzwania i zagrożenia, przed którymi stoimy teraz i w przyszłości?

Yuval Noah Harari: Istnieją trzy wielkie wyzwania stojące przed ludzkością w XXI wieku: wojna nuklearna, zmiany klimatyczne i zakłócenia technologii, zwłaszcza rozwój sztucznej inteligencji i bioinżynierii. To zmieni świat bardziej niż cokolwiek innego.

Mamy nadzieję, że uda nam się zapobiec wojnie nuklearnej i zmianom klimatycznym. Ale na pewno nastąpią zakłócenia technologiczne. Nadal mamy wybór, jaki wpływ na świat będą miały sztuczna inteligencja i bioinżynieria, ale zmienią świat, może bardziej niż wszystko, co wydarzyło się wcześniej.

To są główne wyzwania. Wszystko inne rozprasza.

Al Jazeera: Jak myślisz, co się stanie z big datą, bioinżynierią i sztuczną inteligencją? Jaki będzie wpływ na nas wszystkich?

Harari: Pewne rzeczy na pewno się wydarzą. Na przykład komputery i roboty zastępujące coraz więcej ludzi. Ale jakie będą tego konsekwencje? Czy stworzy to skrajnie nierówne społeczeństwo, w którym elita będzie kontrolować całą gospodarkę i czerpać wszystkie zyski, podczas gdy większość ludzi stanie się częścią jakiejś bezużytecznej klasy? To nie jest nieuniknione, to zależy od nas.

Podobnie połączenie sztucznej inteligencji i biotechnologii oznacza, że jesteśmy bardzo blisko punktu, w którym można hakować ludzi.

Dużo się mówi o hakowaniu komputerów, e-maili i kont bankowych. Ale wkraczamy w erę hakowania ludzi. Powiedziałbym, że najważniejszym faktem, który każdy, kto żyje dzisiaj, musi wiedzieć o XXI wieku, jest to, że stajemy się zwierzętami, które można zhakować.

Al Jazeera: Jak można hakować?

Harari: Zaczyna się od tego, że korporacje i rządy gromadzą ogromne ilości danych o tym, dokąd idziemy, czego szukamy w Internecie i co kupujemy. Ale to wszystko są powierzchowne informacje o naszym zachowaniu na świecie. Wielki przełom nadejdzie, gdy zaczniesz monitorować i badać to, co dzieje się w twoim ciele i mózgu. Wtedy naprawdę można hakować ludzi i jesteśmy bardzo blisko tego.

Już teraz wiele osób korzysta z Fitbit fitness trackers, które stale mierzą ich tętno i ciśnienie krwi. Krzyżujesz to z tym, co kupujesz i czego szukasz w Internecie, lub z tym, co czytasz lub oglądasz w telewizji. Oglądasz film, a jednocześnie Netflix wie, co dzieje się z Twoim tętnem lub mózgiem.

Nadal mamy wybór, jaki wpływ na świat będą miały sztuczna inteligencja i bioinżynieria, ale zmienią świat, może bardziej niż wszystko, co wydarzyło się wcześniej.

Yuval Noah Harari

Kiedy połączysz coraz większe nasze zrozumienie biologii, zwłaszcza nauki o mózgu, z ogromną mocą obliczeniową uczonych maszyn i sztuczną inteligencją daje nam to, co otrzymujesz z tej kombinacji, to zdolność do hakowania ludzi, co oznacza przewidywanie ich wyborów, rozumienie ich uczuć, manipulowanie nimi, a także zastępowanie ich. Jeśli możesz coś zhakować, możesz to również zastąpić.

Al Jazeera: Istnieje wiele obaw związanych z odgrywaniem większej roli przez sztuczną inteligencję  w przyszłości. Nie wydajesz się być tym zmartwiony. Dlaczego?

Harari: Wielkim niebezpieczeństwem jest rynek pracy, a sztuczna inteligencja posłuży do wzmocnienia pozycji niewielkiej liczby ludzi i stworzenia cyfrowej dyktatury.

Myślę, że jest wysoce nieprawdopodobne, aby w bliskiej, a nawet średniej przyszłości sztuczna inteligencja zyskała świadomość i zaczęła mieć własne uczucia i pragnienia oraz zaczęła zabijać ludzi. To jest science fiction. Naprawdę lubię science fiction, ale myślę, że najgorszą usługą, jaką wykonała w ciągu ostatnich kilku lat, jest odwrócenie uwagi ludzi od prawdziwych niebezpieczeństw związanych z AI  (artificial intelligence, AI – przyp.tłum.) ) i skupienie na nierealistycznych scenariuszach.

Nic nie wskazuje na to, że sztuczna inteligencja i komputery są na drodze do stania się świadomymi.

Nie jestem przeciwny przyznawaniu większej władzy sztucznej inteligencji, ale pytanie brzmi, kto jest mistrzem sztucznej inteligencji? Czy służy małej elicie czy dużym korporacjom? Czy służy rządom dyktatorskim? Czy to mnie służy? Możesz użyć sztucznej inteligencji, aby stworzyć totalny nadzór reżimowego  rządu, kontrolując populację. I możesz wykorzystać sztuczną inteligencję, aby obywatele przeprowadzili ankietę rządową i upewnili się, że nie ma korupcji. Ta sama technologia może działać w obie strony.

Al Jazeera: Powiedziałeś, że twoja najnowsza książka jest o „teraz”. Polityka jest teraz bardziej mętna niż kiedykolwiek i zasugerowałeś, że Brexit może zburzyć zarówno Wielką Brytanię, jak i Unię Europejską. Jak się ma od tego momentu?

Harari: Kiedy ludzie tracą wiarę w zdolność do współpracy ze sobą i z innymi krajami, stają się bardziej egocentryczni. Wtedy każdy stawia na pierwszym miejscu swoje interesy i coraz trudniej jest współpracować.

Nie sądzę, by z Brexitem było coś z natury złego. Widzieliśmy, że Wielka Brytania chce być niezależna od UE, tak naprawdę problemem jest czas. Wszystkie globalne problemy – sztuczna inteligencja, zmiany klimatyczne, wojna nuklearna – nie mają rozwiązań krajowych.

Nie można zapobiegać zmianom klimatu na poziomie krajowym. Możesz zredukować własne emisje gazów cieplarnianych do zera, ale jeśli inne kraje nie zrobią tego samego, to nie pomoże. Podobnie nie można regulować sztucznej inteligencji na poziomie krajowym.

Najważniejszym faktem, który każdy, kto dzisiaj żyje , musi wiedzieć o XXI wieku, jest to, że stajemy się zwierzętami, które można zhakować… Jeśli możesz coś zhakować, możesz to zastąpić

Yuval Noah Harari

Al Jazeera: Brexit był w dużej mierze inspirowany obawami przed większą imigracją. Czy idee, o których mówiłeś, takie jak kulturyzm, nie dają licencji ludziom, którzy są rasistami i którzy obawiają się, że ludzie niepodobni do nich wejdą do ich strefy, jak to obecnie dzieje się w UE?

Harari: Oczywiście istnieje niebezpieczeństwo. Różnice między rasizmem a kulturyzmem polegają na tym, że rasizm jest argumentem biologicznym. Mówisz „ci ludzie, mają coś jest w ich krwi, coś jest w ich genach, coś jest w ich biologii, w pewien sposób nieuchronnie w ich konstrukcji, i co sprawia, że tego nie można zmienić, to jest w ich biologii”.

W kulturyzmie nie chodzi o biologię. Mówi się „coś jest w ich kulturze. Ich kultura mniej szanuje kobiety, ich kultura jest bardziej autorytarna, ich kultura jest…  cokolwiek”.

Rzecz  w tym,  że czasami argumenty dotyczące kultury nie zawsze są poprawne. Tymczasem nie ma podstaw naukowych, by sądzić, że między ludźmi istnieją istotne różnice biologiczne. Musimy pamiętać, że zmieniają się kultury i ludzie. Nawet jeśli urodziłeś się w określonej kulturze, nie oznacza to, że przez resztę życia nie możesz zmienić swojego światopoglądu, moralności lub zachowania.

W ciągu życia człowieka cała kultura może się w ogromny sposób zmienić. Jeśli pomyśleć o Niemczech w ciągu ostatnich 100 lat, przeszły one tak wiele zmian kulturowych. Kultura Niemiec w czasach Hitlera i Merkel jest zupełnie inna i przynajmniej niektórzy ludzie są tacy sami.

Al Jazeera: Niektórzy z twoich ostrzejszych recenzentów powiedzieli, że jesteś dobry w diagnozowaniu trendów i problemów, ale jesteś mniej otwarty, jeśli chodzi o proponowanie rozwiązań i odpowiedzi.

Harari: To prawda, znacznie trudniej jest znaleźć rozwiązania, ale też bardzo trudno jest wskazać problemy i pytania. Widzę, że moją główną pracą w chwili obecnej jest po prostu wyjaśnianie poprzez skoncentrowanie ludzi na najważniejszych problemach. Potem pojawia się problem. Więc jakie są rozwiązania? W wielu przypadkach wiemy, jakie są rozwiązania. Po prostu trudno je wdrożyć, zwłaszcza bez globalnej współpracy.

W przypadku zmian klimatycznych wiemy, jakie są rozwiązania. To już nie jest wielka tajemnica. Wiemy, jakie technologie musimy rozwijać i potrafimy to zrobić. Wiemy, jakie regulacje środowiskowe musimy egzekwować i potrafimy to zrobić. Ale problem polega na tym, że nie ma woli politycznej.

W przypadku sztucznej inteligencji i bioinżynierii sprawa jest znacznie bardziej skomplikowana, ponieważ nikt nie wie, dokąd to zmierza, i nikt nie wie, jakie możliwości otwierają się przed nami. Nawet tutaj jest wiele rzeczy, które możemy zrobić. Problemem jest brak woli politycznej, a tym bardziej brak uwagi. Jeśli ludzie skupiają się na tych kwestiach, nie sądzę, aby rozwiązania były tak trudne.

____

Tłum. M.Jasińska

Source: Al Jazeera – 24 Aug 2018

2 odpowiedzi na “Hakowalni ludzie i cyfrowi dyktatorzy: Q&A z Yuvalem Noah Harari”

  1. Oczywiście to prawda, przy jednym założeniu: że nauka bazuje na twardych danych i badaniach, a nie jest elementem manipulacji ze strony tych, którzy ją finansują.
    A dowodów na to, że mamy najczęściej do czynienia z nieuką, a nie nauka, jest wiele. Pisał o tym Hayek, pisał Bocheński. Szczególnie w zakresie nauk humanistycznych i przyrodniczych mamy dziś potęgę NIEUKI. Mało kto pamięta, że w latach 70-tych ONZ wraz ze śmietanką światowej „nauki” – NIEUKI walczył z globalnym oziębieniem i nadciągającą epoką lodowcową.
    Tak jak z pandemią: wystarczy zmienić definicję pojęcia i cały świat postrzega rzeczywistość inaczej.
    Czy autor tych książek, nie ma tej świadomości?
    *NIEUKA – od lat popularyzuję to pojęcie; a zajmuję się tym coraz szersze grono pseudonaukowów, stworzonych po to, by ogłupiać, a nie by nieść przysłowiowy kaganek

    Polubienie

Skomentuj

Proszę zalogować się jedną z tych metod aby dodawać swoje komentarze:

Logo WordPress.com

Komentujesz korzystając z konta WordPress.com. Wyloguj /  Zmień )

Zdjęcie na Google

Komentujesz korzystając z konta Google. Wyloguj /  Zmień )

Zdjęcie z Twittera

Komentujesz korzystając z konta Twitter. Wyloguj /  Zmień )

Zdjęcie na Facebooku

Komentujesz korzystając z konta Facebook. Wyloguj /  Zmień )

Połączenie z %s

Ta witryna wykorzystuje usługę Akismet aby zredukować ilość spamu. Dowiedz się w jaki sposób dane w twoich komentarzach są przetwarzane.