Wprowadzenie
Kulturę rozumiem jako ogół wyrobów materialnych i niematerialnych będących efektem cielesnej lub intelektualnej pracy ludzkiej. W skład kultury niematerialnej wchodzi wiedza, wierzenia, sztuka, moralność, prawo, obyczaje oraz zdolności, umiejętności i nawyki nabywane przez ludzi.
Kultura zjawiła się na pewnym etapie ewolucji natury (fizjo-, geo-, bio- i kosmosfery) równocześnie z zaistnieniem gatunku Homo, odkąd zaczął on używać ognia, malować ściany jaskiń oraz komunikować się za pomocą języka mówionego i tworzyć narzędzia, urządzenia, sposoby wytwarzania (technologie), artefakty i syntetyki.
Rozwój kultury dokonuje się pod wpływem wielu czynników, a w szczególności środowiska przyrodniczego (klimatu, krajobrazu, dostępności surowców naturalnych itp.) i społecznego (dziedzictwa historycznego, tradycji, stylu życia, religii, filozofii, ideologii, polityki, ekonomii, edukacji, ustroju społecznego, systemu wartości etycznych, mody, norm społecznych, migracji, globalizacji itd.).
Wiele z tych czynników działa wspólnie i jednocześnie, wskutek czego ma się do czynienia ze zjawiskiem synergicznego wzmocnienia ich oddziaływań na kulturę.
Wpływ postępu technicznego na kulturę
Kultura rozwija się w dużym stopniu w zależności od innowacji technicznych. Przede wszystkim w dziedzinach technologii, miniaturyzacji, źródeł energii oraz komunikacji.
Przez wiele wieków postęp techniki przebiegał powolnie. Wielkie wynalazki zdarzały się rzadko. Dzieliły je od siebie setki lub dziesiątki lat. Maszyny proste (dźwignie, wielokrążki, kołowroty, równie pochyłe itp. wynaleziono i stosowano już w starożytności. Ale pracę rąk ludzkich przejęły w pełni dopiero w XVIII wieku w wyniku pierwszej rewolucji przemysłowej.
Potem stosowano bardziej skomplikowane maszyny napędzane niesomatycznymi źródłami energii: ciepłem, elektrycznością i atomem. Od XIX wieku coraz częściej zdarzały się wynalazki rewolucjonizujące technikę. Najważniejszymi były: maszyna parowa (wynaleziona w 1763 r., ale powszechnie stosowana na początku XIX wieku), telegraf (1837), lampa naftowa (1853), żarówka elektryczna (1879), silnik spalinowy (1878), samolot (1903), radio (1895), telewizja (1920), komputer (1946) i internet (1960).
Największy przyrost innowacji technicznych datuje się od połowy XX wieku, w czasach coraz intensywniejszej ingerencji ludzi w ekosystem i procesy przyrodnicze zachodzące na Ziemi. tj. w epoce antropocenu. Wynalazki XX wieku jednoznacznie dowiodły, jak bardzo rozwinięta jest nasza cywilizacja. Jednak dopiero XXI wiek wprowadził nas w zupełnie nową erę wynalazków, które omalże natychmiast rewolucjonizują wszystkie subdziedziny kultury i - co oczywiste - szokują tradycjonalistów. Jest nim wynalazek sztucznej inteligencji (SI).
Dziennikarz naukowy, Artur Białek, zaprezentował dwadzieścia takich wynalazków:
Inteligentny plaster (2018), który dzięki zainstalowanym czujnikom i przekaźnikom monitoruje proces gojenia się ran i w razie potrzeby aplikuje odpowiednią dawkę leku.
Sztuczna trzustka (2011), która dokonała przełomu w leczeniu cukrzycy typu 1, jest systemem składającym się z pompki insulinowej i sensora stale monitorującego glikemię.
Sztuczne wspomnienia. W 2013 roku badacze z Massachusetts Institute of Technology skutecznie zaszczepili w mózgu myszy wspomnienia wydarzeń, które nigdy się nie zdarzyły. Te badania mają pomóc zrozumieć, jak w ludzkim mózgu powstają tzw. fałszywe wspomnienia.
Egzoszkielet, czyli urządzenie wspomagające siłę mięśni żołnierzy w celu zwiększenia ich zdolności bojowej. Obecnie, zastępuje on niesprawne mięśnie, pomaga w rehabilitacji osób cierpiących na choroby neurologiczne i umożliwia chodzenie osobom sparaliżowanym.
Bioniczna soczewka kontaktowa (2015). Soczewka wewnątrzgałkowa, która trwale koryguje wady wzroku. W niedalekiej przyszłości okulary i szkła kontaktowe staną się przeżytkiem.
Kapsułka endoskopowa (2001), która pozwala zdalnie oglądać przewód pokarmowy, niedostępny dla badania endoskopowego.
Plaster antykoncepcyjny, znacznie wygodniejszy i zdrowszy od tabletek antykoncepcyjnych.
Segway (2001) to dwuśladowe urządzenie transportu osobistego zasilane silnikiem elektrycznym, służące do szybkiego i ekologicznego przemieszczania się w miastach.
Telefon z ekranem pojemnościowym (2006)
Media społecznościowe: witryna MySpace (2000), serwis You Tube (2005), serwisy Facebook (2006) i Twitter (obecnie Space X).
Domowa drukarka 3D do samodzielnego montażu (2006)
VoD (streaming materiałów video, 2007), który wyeliminował kasety VHS.
Płyta Blu-ray (2004), następca DVD, która w wariancie jednowarstwowym ma pojemność 25 GB.
Samochody półautonomiczne i w pełni autonomiczne (2015), które potrafią same kontrolować podróż (utrzymywać zadany dystans od pojazdów poprzedzających, zmieniać pas ruchu i przez pewien czas utrzymywać kierunek jazdy). Dzięki nim wkrótce kierowca stanie się pasażerem.
System Android (2015). System Android jest najpopularniejszym mobilnym systemem operacyjnym. Pod jego kontrolą pracują niezliczone smartfony i tablety, a także inteligentne telewizory i inne urządzenia tworzące smart home.
Asystent głosowy (2011). Asystenci głosowi, czyli interfejsy użytkownika bazujące na naturalnej mowie, towarzyszą nam dziś na każdym kroku. Wystarczy jedno proste polecenie, by wirtualny pomocnik zapisał je w kalendarzu, włączył ulubiony album, przyciemnił lub zgasił światło, albo obsłużył klimatyzator.
Grafen (2004). Jest to najcieńszy, najlżejszy i najmocniejszy materiał, jaki dotychczas znamy. Może wkrótce zastąpić krzem. Nadaje się do produkcji elastycznych wyświetlaczy, ogniw fotowoltaicznych i wysokowydajnych akumulatorów. Lista jego możliwych zastosowań jest długa. Pierwszy teoretyczny opis tego materiału powstał w 1947 roku, ale oddzielenie grafenu od grafitu nastąpiło dopiero w 2004 roku.
Pierwszy seryjny samochód wodorowy (2014) zeroemisyjny, zasilany energią elektryczną uzyskiwaną z wodoru.
Dron pasażerski (2022) jest podobny do małego helikoptera, ma osiem wirników umieszczonych na czterech ramionach. Pasażer w niewielkiej kabinie nie ma żadnego udziału w sterowaniu nim; naciska tylko guzik „start” lub „ląduj”. Służy on do transportu osobistego.
Asymetryczne systemy liczbowe (2014) to nowoczesna metoda kodowania, która oferuje bardzo wysoką efektywność kompresji danych.(1)
Dzięki tym wyrazkom to, co dawniej znajdowało się w obszarze hipotetyczności (science fiction), obecnie coraz szybciej staje się elementem obszaru faktualności (sensual and science reality).
Kogo cieszą i niepokoją najnowsze osiągnięcia techniki?
Wynalazki techniczne cieszą najbardziej samych wynalazców, co jest całkiem zrozumiałe. Ale zachwyca się też nimi większość ludzi co najmniej z dwóch powodów.
Po pierwsze dlatego, że udowadniają potęgę umysłu ludzkiego i że potrafimy w coraz szerszym zakresie panować nad naturą - przeciwstawiać się jej skutecznie i kształtować ją według swoich potrzeb.
Po drugie, dzięki nim lawinowo wzrasta liczba zastosowań korzystnych dla z człowieka, ponieważ coraz bardziej uwalniają go one od wysiłku cielesnego i intelektualnego.
Jedno i drugie jest nagłaśniane przez mass media po to, by mobilizować ludzi do coraz większego wysiłku na rzecz postępu technicznego i rozwoju gospodarczego.
A prawda jest taka, że każdy wynalazek, nawet najwspanialszy, kryje w sobie również skutki szkodliwe dla ludzi, które często celowo ukrywa się z różnych względów.(2)
Dopiero teraz, kiedy ludzie masowo chorują na alergie i inne choroby cywilizacyjne, ujawnia się szkodliwość wielu wynalazków technicznych dla zdrowia i życia ludzi, głównie chemicznie preparowanej żywności, tkanin z włókien syntetycznych oraz opakowań plastikowych. A przecież nie tak dawno temu zachwycaliśmy się nimi. Teraz zaczęto je traktować jak przekleństwo i wroga number one ludzkości.
Postęp techniczny zawsze przyczyniał się do destrukcji i destabilizacji środowiska oraz do zakłócania równowagi w przyrodzie, ale nigdy w takim tempie i do takiego stopnia, żeby wzbudzić uzasadniony niepokój o przyszłość ludzkości. Przyspieszenie rozwoju technicznego w dwudziestym wieku jest wprost niewiarygodne. A przecież to dopiero początkowa faza szokujących wynalazków w obecnym ćwierćwieczu i trudno przewidzieć, jakie będą następne i jakie kryją w sobie potencjalne zagrożenia.
Wspomaganie kultury przez sztuczną inteligencję
Postęp w dziedzinie kultury dokonywał się proporcjonalnie do postępu technicznego. Najpierw przede wszystkim kultury materialnej, a później również duchowej. Od niedawna największy wpływ na kulturę wywiera cud techniki współczesnej - sztuczna inteligencja. Chociaż nikt chyba tego nie mierzył, to na podstawie obserwacji faktów można przypuszczać, że jej rozwój przyczynia się bardziej do skutków szkodliwych niż pożytecznych dla naszego gatunku. Zachwyceni jej możliwościami odnosimy się na razie euforycznie do postępu SI. Ale to szybko się zmieni, gdy zacznie nam ona bardziej doskwierać, aniżeli sprawiać przyjemność.
Jednym z prekursorów SI był Pierre de Latil, który w 1958 r. opublikował książkę Sztuczne myślenie.(3) Napisał w niej, że za pomocą automatów można skonstruować model sprzężeń zwrotnych miedzy neuronami mózgowymi. Można go uznać za wczesną formę sieci neuronowych wykorzystywanych obecnie w SI. Nazwisko jego jest mało znane w historii sztucznej inteligencji.
Powszechnie uważa się, że pionierami SI byli tacy naukowcy jak Alan Turing, John McCarthy czy Marvin Minsky, którzy wprowadzili kluczowe koncepcje i modele w latach pięćdziesiątych i sześćdziesiątych XX wieku. Jest też wiele innych osób, które wniosły swój wkład, niezależnie od tego, czy ich prace były czytane i znane na szeroką skalę. Podejrzewam, że Pierre’a de Latil zignorowano, bo nie był naukowcem, tylko dziennikarzem naukowym. Wyrażenie „sztuczne myślenie" zastąpiono „sztuczną inteligencją", która stała się częściej używanym terminem wraz z rozwojem tej dziedziny.
W historii techniki nie tylko naukowcy byli wynalazcami. Jednak wkład różnych osób spoza środowiska naukowców często bywa pomijany lub niedoceniany. Także dziennikarze naukowi, pisarze popularnonaukowi i inni twórcy mogą wprowadzać istotne koncepcje i pomysły, które wywierają znaczący wpływ na rozwój dziedzin naukowych, takich, jak na przykład SI. Głównie dzięki mass mediom ogółowi dobrze znane są wynalazki korzystne dla ludzkości i rozwoju współczesnej cywilizacji. Nie trzeba ich wyliczać. Dlatego koncentruję się tutaj na mniej znanych, niekorzystnych, gdyż są one szczególnie niebezpieczne dla teraźniejszego gatunku Homo sapiens i ewentualnie dla przyszłego Post-homo.(4)
Zagrożenia wynikające z dalszego postępu SI
Zdaniem ekspertów, w ciągu najbliższych lat postępy w obszarze badań nad SI zmienią radykalnie współczesne życie ludzi w kilku ważnych dziedzinach, takich jak zdrowie, nauka, finanse, transport i wojskowość. Pociągną one za sobą również zmiany w pozostałych dziedzinach. Równocześnie ostrzegają oni przed potencjalnymi zagrożeniami w sferze społecznej, ekonomicznej i etycznej. Stanęliśmy więc u progu kolejnej rewolucji społecznej spowodowanej przez postęp techniki, a mianowicie „rewolucji sztucznej inteligencji” (RSI).
Rewolucje burzą stary lad społeczny i wprowadzają nowy, z którym ludzie wiążą oczekiwania na lepsze życie, ale którego też obawiają się go, gdyż mało o nim wiedzą. A z reguły oczekiwania spełniają się w czasie odwrotnie proporcjonalnym do przewidywanego czasu ich realizacji. Rewolucje wymagają też ofiar. W przypadku RSI ofiarą będzie prawdopodobnie cała ludzkość.
Oto kilka najważniejszych z tych zagrożeń:
Utrata miejsc pracy. Rozwój SI przyczynia się znacznie do automatyzacji wielu prac, co może skutkować wzrostem bezrobocia w niektórych sektorach gospodarki.(5)
Wzrost nierówności społecznych. Jeśli korzyści ekonomiczne płynące z automatyzacji są nierównomiernie dystrybuowane, to niechybnie doprowadzą one do mnożenia się i pogłębienia nierówności społecznych.
Zamach na prywatność. Zaawansowane technologie SI są wykorzystywane do śledzenia, analizowania i manipulowania danymi (również wrażliwymi) osób i organizacji, co w znacznym stopniu ogranicza prywatność.
Broń autonomiczna. Rozwój autonomicznych systemów broni, w których korzysta się ze sztucznej inteligencji, grozi eskalacją konfliktów zbrojnych oraz zwiększeniem ryzyka przypadkowych lub niekontrolowanych działań związanych z użyciem takiej broni.
Zagrożenia dla bezpieczeństwa cybernetycznego. SI może być wykorzystywana do tworzenia bardziej wyrafinowanych ataków cybernetycznych, które są zagrożeniem dla systemów informatycznych, infrastruktury krytycznej i danych osobowych.
Przejęcie funkcji kontrolnych przez SI. Sztuczna inteligencja może stać się na tyle zaawansowana, że wymknie się spod ludzkiej kontroli; wtedy systemy SI będą podejmować autonomiczne decyzje bez uświadomienia sobie ich konsekwencji.
Manipulacja informacjami. Algorytmy SI są wykorzystywane do manipulacji informacjami w celu wpływania na opinię publiczną, wywoływania zamieszek społecznych lub destabilizacji procesów demokratycznych.
Uzależnienie od SI. Ludzie postrzegają SI przez pryzmat technosolucjonizmu, tj. przekonania, że za pomocą techniki da się rozwiązywać wszystkie problemy, podczas gdy naprawdę jest ona jedynie narzędziem do ich rozwiązywania. Dlatego nadmiernie zdają się na SI w różnych dziedzinach życia, takich jak opieka zdrowotna, transport czy zarządzanie finansami. To prowadzi do wzrostu uzależnienia od urządzeń technicznych wspomaganych przez SI, które są podatne na awarie lub ataki. Zaś codzienne obcowanie z SI uzależnia człowieka od niej, jak narkotyk.
Dehumanizacja. Postęp sztucznej inteligencji pozbawia człowieka jego najważniejszych cech gatunkowych (społecznych i kulturowych): racjonalności, zdrowego rozsądku, wolności, pracy, prywatności, inkluzji, odpowiedzialności, integracji oraz zdolności do tworzenia złożonych systemów społecznych, więzi, relacji i hierarchii.
Zysk siłą napędową SI
Coraz więcej firm eksperymentuje z włączaniem systemów SI do swojej działalności biznesowej w celu zwiększenia wydajności, poszerzenia zasięgu i gamy produktów oraz usług, a więc po to, by powiększać zysk. Nie obchodzi ich to, że szersza i potężniejsza SI, stwarza wiele zagrożeń - od mało znaczących do egzystencjalnych. Dlatego należy zachować dużą ostrożność w stosunku do jej postępu.
Wskazuje się na następujące nowe zagrożenia na obecnym etapie rozwoju SI.(6)
Deepfakes i dezinformacje. Technologia SI umożliwia tworzenie bardzo realistycznych, acz fałszywych obrazów, trudnych do odróżnienia od oryginału. Deepfake (głęboka podróbka) to przekonujący sztuczny obraz, film lub fotomontaż wygenerowany komputerowo. Takie podróbki stosuje się między innymi w nagraniach filmowych, stwarzając możliwości manipulacji poprzez np. niemożliwą do odróżnienia przez widza zamianę twarzy aktorów występujących w filmie. Może to prowadzić do skompromitowania aktora poprzez pokazanie go na przykład w filmie pornograficznym. Jednym z zagrożeń fałszywymi informacjami jest możliwość publikowania różnych dezinformacji i złośliwych treści.
Stronniczość i dyskryminacja. Modele SI uczą się na podstawie danych, które kryją w sobie uprzedzenia i stronniczość. Reprodukują je podczas podejmowania swoich decyzji opartych na algorytmach. Jeśli te algorytmy zbudowano na takich danych, to powodują one dyskryminację ludzi podczas rekrutacji do pracy, oceny zdolności kredytowej, postępowania sądowego itp.
Chwiejność finansowa. SI może wywrócić do góry nogami sektor finansowy. Coraz więcej firm inwestycyjnych korzysta z SI przy analizie i wyborze papierów wartościowych, które chcą kupić lub sprzedać. Wiele osób korzysta również z systemów SI w rzeczywistym procesie kupna i sprzedaży aktywów. Algorytmy handlu za pomocą SI nie uwzględniają jednak wpływu kontekstu społecznego. Łatwo wyobrazić sobie sytuację, w której narzędzia inwestycyjne SI mające na celu maksymalizację zysków dokonują dużej liczby zakupów i sprzedaży w krótkim czasie, wywołując panikę wśród ludzkich uczestników rynku.
Moment krytyczny SI, nazywany też jej osobliwością (artificial intelligence singularity). Jest to hipotetyczny, choć coraz bardziej możliwy etap rozwoju SI, w którym przewyższy ona inteligencję ludzką pod każdym względem. Być może jest to największe zagrożenie dla ludzkości ze strony SI, ponieważ ludzie nie będą już w stanie kontrolować jej, wskutek czego SI zdominuje sposób tworzenia (lub niszczenia) społeczeństw.
Dzisiaj nikt nie wie dokładnie, co może się wówczas wydarzyć. A potencjalne konsekwencje mogą okazać się drastycznymi. Niektórzy eksperci sądzą, że może to doprowadzić nawet do wyginięcia gatunku ludzkiego. Gdy SI przewyższy ludzką inteligencję, może opracować pomysły, o których żadnemu człowiekowi nigdy wcześniej się nie śniło.
Ta nadludzka SI nadal będzie się samodoskonalić, tak jak dzisiejsza. Wskutek tego przepaść między SI a ludźmi powiększałaby się coraz szybciej.
Z jednej strony, mogłoby to przynieść ogromne korzyści, jak na przykład znalezienie przez SI sposobów eliminacji wielu chorób, ubóstwa i zmian klimatycznych, których ludzie nie potrafią wymyślić.
Z drugiej strony, SI mogłaby odkryć, że ludzie nie są jej potrzebni do realizacji jej celów i wymyśliłaby sposoby zniszczenia ludzkości lub zabijania ludzi na masową skalę. Jedni eksperci w dziedzinie futuryzmu technicznego, jak Ray Kurzweil, uważają, że ten moment krytyczny nastąpi prawdopodobnie w nadchodzących dziesięcioleciach. Inni zaś spodziewają się go już za kilka lat(7)
Ku czemu zmierza dalsze wspomaganie kultury przez sztuczną inteligencję w jej walce z naturą?
W obawie przed nadejściem momentu krytycznego SI ludzie próbują już nakładać różne cugle na postęp SI w postaci ograniczeń prawnych, etycznych, religijnych i filozoficznych po to, by go skanalizować, czyli pozwolić mu przebiegać w granicach z góry wytyczonego koryta i według określonych norm. To może się udać zanim postęp SI nie doprowadzi do momentu krytycznego, dopóki inteligencja ludzka będzie mieć przewagę nad SI, a człowiek będzie zdolny przewidywać dalszy jej rozwój. Jednak przewidywanie staje się coraz mniej pewne w miarę tego, jak szybko dokonują się zmiany SI i wzrasta multifurkacja jej rozwoju.
W warunkach gospodarki rynkowej, kiedy wszystko ulega komodyfikacji, dokonuje się powoli stopniowa alienacja SI. Jednak od momentu krytycznego, nabierze ona coraz większego tempa. Proces alienacji zakończy się, gdy człowiek nie będzie już potrzebny do dalszego postępu SI i jej samodoskonalenia się, ani nie będzie jej w tym przeszkadzać. Wówczas, w ostatniej fazie alienacji SI, może dojść do zniszczenia jej twórcy - człowieka. Jest to dość prawdopodobny scenariusz, albowiem co technika może zrobić, to z pewnością kiedyś zrobi.
Dalsze wspomaganie kultury przez SI w walce z naturą może prowadzić do dobrych lub złych konsekwencji dla ludzkości. Ale po przekroczeniu momentu krytycznego to nie będzie już zależeć od ludzi, tylko od SI. Nie wiadomo, czy SI, uwolniona od ludzi, będzie chciała im pomóc, czy ich zniszczyć. Nikt nie wie, ani nie potrafi przewidzieć, jak ona się zachowa i co się z nami stanie. Na ten temat można tylko snuć rozmaite spekulacje na bazie mniej lub bardziej wybujałej wyobraźni.
Być może, nasz strach przed dalszym postępem SI jest przesadny. Może zagłada ludzkości w wyniku postępu SI niekontrolowanego przez ludzi jest kolejnym straszydłem wymyślonym przez manipulantów społecznych na zamówienie oligarchów sprawujących rządy nad światem.(8) Niewykluczone, że dominacja SI nad ludzką inteligencją i jej autonomia będzie tylko epizodem w zmaganiach kultury z naturą i że na pewien czas spowoduje wzrost asymetrii i zakłócenie równowagi między nimi. Potem mechanizmy homeostazy znów ją przywrócą i wszystko potoczy się tak, jak zwykle.
Wiesław Sztumski
9.03.2024
Przypisy:
(1) Artur Białek, Smartfony, social media, drukarki 3D. Które wynalazki XXI wieku zmieniły nasze życie na lepsze?, National-Geographic.pl, 11.03.2023
(2) Wiesław Sztumski, Postęp medycyny - cieszyć się, czy smucić?,, Sprawy Nauki, 5, 2014; Wiesław Sztumski, Some Effect Of The Unbalanced Development Of Human Intelligence: From Trans-Monkeys To Trans-Humans, Eunomia, 1, 2021; Wiesław Sztumski, Rozwój techniki przysparza więcej zła niż dobra, Tygodnik Spraw Obywatelskich, Nr 84, 14.08.2021.
(3) Wiesław Sztumski, Anatomia zwierząt syntetycznych, Wszechświat, wyd. Polskie Towarzystwo Przyrodników im. Kopernika, Nr 11/1961 (art. nawiązujący do idei P. de Latila).
(4) Nazwą "Post-homo" posługuję się w odniesieniu do przyszłych ewolucyjnych form człowieka, który przekroczył aktualny etap rozwoju społecznego i technologicznego.
(5) W 2018 r. przypuszczano, że w latach 2020-2025 SI zlikwiduje 85 mln miejsc pracy, ale także, że stworzy 97 mln nowych miejsc pracy do 2025 r. (Katja Grace et al., When Will AI Exceed Human Performance?, Journal of Artificial Intelligence Research Nr 62, 2018)
(6)Nathan Reiff, What Are the Dangers of AI?, Explainers, Jun 8, 2023
(7)Warren Brown, A.I. Dirctives, Technology Hits, Nov. 11, 2023.
(8)Wiesław Sztumski, W mackach strachów , Sprawy Nauki, Nr 2, 2024