Prognozowanie (el)

Autor: Marek Chlebuś

Opublikowano: 28 wrzesień 2013

Odsłon: 3785

Mamy nowy system i po staremu kryzys. Bez nowych pomysłów, co dalej. Kiedy upadał poprzedni system, istniały konkretne alternatywy: polityczne, formułowane przez mocarstwo zza oceanu, i filozoficzne, głoszone przez myślicieli z więzień, kawiarń oraz instytutów. Teraz realnych alternatyw nie widać. Ten system okazuje się nadzwyczaj skuteczny w ich tłumieniu. Jakaś jednak możliwość zmiany istnieje. Może nawet konieczność. Nie trzeba jej wymyślać, bo już jest, nie trzeba też narzucać, bo szerzy się sama. Przynosi ją Sieć.

Internet rozwija się od około 30 lat. Już objął trzecią część ludzkości. Stale czuwa w nim od 200 do 500 mln osób. Codzienny wymiar tej ich obecności to jakiś miliard ośmiogodzinnych osobo-dniówek. To więcej, niż absorbuje którakolwiek gospodarka narodowa. To także więcej, niż angażuje którykolwiek sektor globalnej gospodarki. Za kolejne 30 lat Sieć zapewne wchłonie całą ludzkość. Wtedy podane liczby powinny się potroić, a Sieć stanie się większa od całej materialnej gospodarki. Zapewne też narzuci swoje reguły życia i pracy – jako główne środowisko dla ich obu. Jakie to będą reguły?

Sieć jest odmienna od Ziemi. Tutaj mamy świat materii, którą rządzą prawa fizyki. Tam jest świat idei; rządzi nimi raczej logika. Inni też są ludzie na Ziemi i w Sieci. Choćby nawet byli to ci sami ludzie, nie są tacy sami. Inne są ich role, aktywności, postawy i więzi. Zupełnie inna też jest tam gospodarka. Odmienna powinna być zatem myśl ekonomiczna oraz ustrojowa. Jakże naiwnie brzmią skargi niektórych, że w Sieci nie działa takie jak na Ziemi prawo własności. Nie działają tam przecież jeszcze bardziej podstawowe prawa, choćby grawitacji.

W Sieci nie ma pór dnia ani roku, nie ma stref czasowych, nie świeci tam Księżyc ani Słońce. Nie ma pustyń, gór i oceanów. Przestrzeni też nie ma. Tym bardziej geometrii. Ludzie nie mają tam, a przynajmniej mieć nie muszą, rasy, płci, wieku, miejsca zamieszkania, zamożności, pozycji społecznej. Nie ma więc w Sieci takiego jak tu społeczeństwa, takich narodów czy państw. Nie ma też materii, nie ma więc dóbr rzadkich, zwanych na Ziemi ekonomicznymi. Nie działa zatem w Sieci większość praw ekonomii, do których się tutaj przyzwyczailiśmy. Własność, dług, rynek, pieniądz – to pojęcia wymagające w Sieci silnej redefinicji, a może w ogóle tam zbędne.

Gospodarka Sieci nie doczekała się jeszcze uznanego opisu ekonomicznego. Nazywano ją już wikinomią, ekonomią wrażeń, ekonomią uwagi, ekonomią usieciowioną, ekonomią idei, commonizmem i cyber-komunizmem. Rozrzut epistemologiczny jest, jak widać, jeszcze spory. Z kolei, rządy i koncerny dość bezrefleksyjnie traktują Sieć jako po prostu część ziemskiego przemysłu rozrywkowego, anarchiczną i wymagającą zdyscyplinowania.

Encyklopedia Britannica określa ekonomię jako naukę, zajmującą się produkcją, dystrybucją i konsumpcją bogactwa.
Co zatem należy uznać za bogactwo Sieci? Nie ziemię, nie pieniądz, nawet nie po smithowsku rozumianą pracę, bo dobra się reprodukują bez niej. Zatem co? Czym Sieć wabi te miliardy internautów? Ano, bogactwem wirtualnym: utworami, treściami, przekazami, które wzbogacają ludzi, informując ich, edukując, bawiąc.

A jak się to bogactwo produkuje? A tak, że kreatywny internauta, układa pewną porcję bitów w jakiś wzór, który okazuje się wartościowy dla innych.
A jak to się dystrybuuje? A samoistnie, bo sama Sieć jest dystrybucją, i kiedy tylko ktoś wyraża życzenie zapoznania się z jakimś utworem, Sieć stwarza specjalnie dla niego egzemplarz: magiczny stoliczek nakrywa się sam.
A konsumpcja? A konsumpcja jest po prostu otwarciem się internauty na treści, oddaniem im swojego czasu, pozwoleniem, by przenikały przez zmysły, absorbowały jaźń, formowały wiedzę i emocje.

Wszystkie te procesy są z punktu widzenia znanej ekonomii paradoksalne. Produkcja nie wymaga żadnego tworzywa. Jest dla niej potrzebna tylko kreatywność. Produkcja nie skaluje się też liczbą egzemplarzy, jest takim samym aktem kreacji, niezależnie od tego, czy w jej wyniku powstaje tylko prototyp, czy miliony kopii. Dystrybucja zaś stwarza dobra, nie przemieszcza ich, ale pomnaża na użytek konsumpcji, która z kolei w ogóle nie zużywa dóbr. W Sieci można zjeść ciastko i ciągle je mieć. Dobra wirtualne można konsumować wielokrotnie i może to też robić równocześnie wielu ludzi. Nic tu się nie zgadza ze starą, dobrą ekonomią, prawda?

Sieć jest silną alternatywą dla dotychczasowych sposobów życia, odmienną, szokującą i oczywiście budzącą sprzeciw tych, którzy władają materialnym światem. Feudałom też się kiedyś nie podobał przemysł, a wcześniej koczownikom rolnictwo. Moim zdaniem, od Sieci nie ma odwrotu, a próby ograniczenia sieciowych swobód będą nieskuteczne.

To mało prawdopodobne, choć trzeba rozważać i taki bieg dziejów, że władzom ziemskim uda się przerwać ten karnawał wolności, który będzie kiedyś wspominany jako globalny kulturowy NEP. Krótko mówiąc: Sieć zostanie uziemiona.

Znacznie bardziej jest prawdopodobne, że Sieć i Ziemia będą koegzystować, nie zawsze pokojowo, ale raczej handlując niż walcząc. Możliwe, że na jakiś czas trzeba będzie ustanowić granice celne dookoła Sieci i zapewne jakieś władze, które by ich pilnowały.

Najbardziej według mnie prawdopodobna, choć odleglejsza, jest taka perspektywa, że Sieć w końcu narzuci Ziemi swoją wizję człowieka i ludzkości, kształtując na nowo nauki, prawa, instytucje oraz model dziejów.
Raczej nie będzie to wymagało rewolucji, a jeśli, to prędzej typu amerykańskiego, z rozsypywaniem herbaty, niż typu francuskiego, ze ścinaniem głów. Zanim jednak w Sieci ujawni się nowy Jefferson, byłby potrzebny, jeszcze tu, na starej Ziemi, jakiś Locke czy chociaż Smith.

Wiele zależy od tego, jak zrozumiemy Sieć i jak ją potraktujemy. Jeżeli źle określimy jej specyfikę, niewłaściwie będziemy ją opisywać i regulować, możemy zdławić rodzącą się tam cywilizacyjną alternatywę lub przeciwnie – boleśnie się z nią zderzyć. Możemy też ją mniej lub bardziej fortunnie ukształtować, bo przecież Sieć nadal gwałtownie ewoluuje – właśnie pod wpływem naszych idei.

Marek Chlebuś

Artykuł stanowi streszczenie wykładu, wygłoszonego przez autora 20 lutego 2013 r., w ramach posiedzenia Komitetu Prognoz PAN zatytułowanego „Czy świat należy urządzić inaczej?” i dotyczy wpływu Internetu na ustrój społeczny i gospodarczy w perspektywie kilkudziesięciu lat.

Autor: Anna Leszkowska

Opublikowano: 27 październik 2019

Odsłon: 2189

Wypowiedź prof. Roberta Gałązki z Instytutu Fizyki PAN

- Panie Profesorze, jak fizyk widzi rozwój sztucznej inteligencji (AI) i związane z tym zagrożenia? W czym sztuczna inteligencja jest przydatna naukom ścisłym, zwłaszcza fizyce?

- Patrzę na sztuczną inteligencję jako obserwator, bo nie uczestniczę w tych badaniach, niemniej kiedy słyszę te wszystkie strachy alarmujące, że może ona zniszczyć ludzi, to wydają mi się one przesadzone. Ja bym się tego tak nie obawiał, bo choć widzę zagrożenia, jakie mogą być efektem rozwoju AI, to jednak jak każda nowa idea, nowy wynalazek, działanie – ma ona i plusy, i minusy.
Plusy są takie, że mnóstwo procesów roboty potrafią wykonać szybciej i lepiej niż człowiek, który w tym obszarze działań staje się stopniowo zbędny. To się już dzieje i nie jest niczym szczególnym, ale to nie ma nic wspólnego ze sztuczną inteligencją – to jest zwykła automatyka.

W ogóle uważam, że nazwa „sztuczna inteligencja” jest nadużywana, bo co to jest inteligencja? Jest to umiejętność rozumowania (z łac. intelligentia – rozum, zdolność uczenia się) i wyciągania wniosków, używania wiedzy, przede wszystkim myślenia. Więc czy taka sztuczna inteligencja będzie myślała? Nie jestem tego pewien.

Sztuczna inteligencja to zresztą stara sprawa – znana jest od 50-60 lat. Początkowo były wielkie nadzieje, że te procesy będą przebiegać bardzo szybko, później jednak okazało się, że to nie jest takie proste. Pokazuje to paradoks Moraveca, który mówi o tym, że skomplikowane dla człowieka procesy myślowe typu dowodzenia twierdzeń, gry w szachy, komputery potrafią rozwiązywać, jest to dla nich stosunkowo łatwe. Natomiast procesy bardzo proste dla człowieka jak system percepcji czy uczenia się są wręcz niemożliwe do zbudowania, wymagają wielkiej mocy obliczeniowej, jakiej jeszcze nie mamy.

W badaniach dotyczących sztucznej inteligencji są dwie drogi. Jedna to algorytmiczna, tzn. buduje się programy komputerowe na podstawie teorii zbiorów rozmytych, logiki rozmytej, kiedy wnioskowanie przeprowadza się z niepełnej liczby danych. I ta droga dla nas wydaje się normalna, choć i ona nie zasługuje na określenie sztucznej inteligencji, bo nie ma nic wspólnego z rozumowaniem. Tu dochodzi do symulacji różnych zachowań, nawet bardzo złożonych, ale to nie jest jeszcze rozumienie, to zaledwie nauczenie maszyny odpowiedniego działania, aby kompilowała wszystkie elementy i wyciągała wnioski na podstawie zaplanowanych procedur.

Druga droga to budowa sieci neuronowych, tj. symulacji działania ludzkiego mózgu. Patrząc od strony fizyki, upakowanie elementów elektronicznych w jednym chipie jest obecnie na poziomie miliarda. Taki chip to dość płaska kostka o wymiarach 5x5 cm, natomiast w mózgu jest 100 razy więcej neuronów, 100 miliardów, czyli 100 takich kostek. Te 100 kostek miałoby objętość mniejszą niż objętość ludzkiego mózgu. To oznacza ,że już obecnie upakowanie elementów elektronicznych jest gęstsze niż neuronów w mózgu. Ale nic z tego nie wynika, bo nawet jeśli połączymy te 100 czy 1000 chipów nie odtworzymy pracy mózgu. Mózg bowiem pracuje na innych zasadach, np. nie zauważamy wszystkich czynności, które wykonujemy automatycznie, jak podnoszenie ręki, powieki, etc. Gdybyśmy chcieli zaprogramować rękę robota np. na chwytanie spadającej ze stołu szklanki, to przy dzisiejszych mocach obliczeniowych jest to zupełnie niemożliwe. Nim robot zrobiłby potrzebne do tego obliczenia, szklanka już by się rozbiła.

W sensie zagrożeń ja bym się tej pierwszej drogi, algorytmicznej, w ogóle nie bał, bo są to de facto deterministyczne sprawy, to jest matematyka. Natomiast sieci neuronowe są ryzykowne, choć już się je robi. Okazuje się bowiem, że do prostych działań naśladujących mózg jak np. ludzkie zachowania, wcale nie potrzeba tak dużo neuronów jak w rzeczywistym mózgu. I to w pewnym sensie jest już niepokojące, bo co one będą robiły – nawet ci, którzy nad nimi pracują nie bardzo potrafią powiedzieć.

Moim zdaniem, są też dwa problemy w zastosowaniach sztucznej inteligencji: pozytywne i negatywne. Jeden z nich to pozbawienie ludzi intymności, prywatności, brak ochrony danych osobowych – właściwie już z tym mamy do czynienia wskutek zaawansowanych technologii np. identyfikacji ludzi w tłumie. Algorytmy używane w mediach elektronicznych potrafią na podstawie zachowania ludzi w sieci wskazać ich preferencje w różnych dziedzinach, a tym samym – posłużyć władzy do wyłuskiwania tych, którzy mogą mieć np. zamiary terrorystyczne. To są groźne skutki zastosowania sztucznej inteligencji, ale są i pozytywne, np. wspomaganie diagnoz lekarskich, leczenia, opieki. Jest jeszcze jeden groźny element - bezkrytyczne zaufanie do wyników pracy komputera. Decyzja o wykorzystaniu wyników nie może należeć do komputera.

Są dwie rzeczy, przy których postawiłbym znaki zapytania. Jedna sprawa dotyczy ogromnej zdolności człowieka do kompilacji danych. To przypomina zabawę z klockami lego – potrafimy je na wiele sposobów łączyć i tworzyć zupełnie różne konstrukcje. I niesłychanie łatwo jest to robić, ale wykreować, stworzyć coś zupełnie nowego – to już jest trudniejsze.
Jako ludzie jesteśmy w tym bardzo słabi - nowe idee, naprawdę nowe, nie wynikające z kompilacji tego, co już wiemy, pojawiają się niezwykle rzadko. To są kamienie milowe ludzkiej cywilizacji.

W fizyce jest taka legenda o Newtonie, który leżąc pod drzewem zobaczył spadające jabłko, co skierowało jego myśli na stworzenie teorii grawitacji. Ludzie przez tysiące lat przed nim też obserwowali spadające jabłka, ale teorii grawitacji nie wymyślili. Chińczycy tysiące lat temu wymyślili kompas wskazujący północ, czyli wszyscy wiedzieli, że są jakieś siły, pola, działania, ale nie wykreowali żadnej teorii opisującej dlaczego tak się dzieje. To samo z teorią Kopernika – przecież przed nim Ptolemeusz miał te same dane, ale stał na nieruchomej Ziemi. Kopernik stanął na Słońcu i zobaczył inny obraz układu planetarnego, z wszystkimi konsekwencjami nie tylko astronomicznymi.

Powstaje więc pytanie, czy sztuczny inteligent potrafi zrobić taki ruch? Wymyślić coś naprawdę nowego? Jeśli pracuje na algorytmach, to zapewne potrafi lepiej zdiagnozować chorobę człowieka niż specjalista, a na pewno zajmie mu to mniej czasu niż człowiekowi. Ale to nie będzie przełomowa jakość w leczeniu.
A takich nierozwiązanych problemów czekających na swoich odkrywców jest mnóstwo: w matematyce, która nie mając weryfikacji eksperymentalnej jaką ma fizyka pozwala wyobrażać sobie wszystko, ale i fizyce, astrofizyce, czy kosmologii – choćby ciemna materia lub ciemna energia. To, co widzimy bowiem i to przez wszystkie urządzenia jakie mamy - to ok. 5% tego, co istnieje we Wszechświecie. Znaków zapytania jest więc bardzo dużo.

W fizyce nie widzę zagrożeń ze strony sztucznej inteligencji, a wyłącznie plusy. Jest ona dobrym narzędziem, a niebezpieczeństwo polega tylko na tym, że komputery mogą nas nieświadomie wprowadzić w błąd. To wynika z naszej nieograniczonej wiary w poprawność działania maszyny, zaufania do algorytmów i poprawności interpretacji wyników przez maszynę. Do weryfikacji wyników z maszyny potrzebna jest wiedza człowieka, bo algorytmy nie mają intuicji. To widać dobrze na przykładzie maszynowego tłumaczenia tekstów literackich, czy poezji, gdzie ważne są konteksty.

Ale jest też jeszcze jedna – poza kreacją nowych idei - rzecz ważna: świadomość własnego istnienia. Sądzę, że żadna maszyna nie będzie jej mieć. Nie będzie w stanie zastanawiać się nad sensem własnego istnienia we Wszechświecie, jaki jest sens jej życia i czy jest coś poza maszynami czy nie? Bo mając taką świadomość, maszyna mogłaby sama o sobie decydować, z jej świadomości mogłyby się rodzić uczucia, emocje, a wówczas mogłaby zagrozić człowiekowi. Może przecież dojść do wniosku, że jest mądrzejsza od człowieka, czegoś od niego chcieć i żądać spełnienia tych oczekiwań.
Gdyby do tego doszło, że maszyna miałaby nie tylko samoświadomość, ale i technologiczne możliwości samodzielnego działania, to byłoby groźne. Ale wtedy to już byłaby prawdziwa a nie sztuczna inteligencja. Myślę jednak, że to nie będzie możliwe.

 

Autor: Anna Leszkowska

Opublikowano: 25 wrzesień 2019

Odsłon: 2282

Jak matematyk widzi rozwój sztucznej inteligencji i związane z nią zagrożenia? Czy nauki ścisłe, dzięki którym rozwój AI stał się możliwy nie wypuściły dżina z butelki? Mówi o tym matematyk, prof. Tomasz Downarowicz z Politechniki Wrocławskiej.

- W tej dziedzinie nawet specjaliści są skrajnie podzieleni, bo to jest pogranicze science fiction i tego, co się naprawdę dzieje. Część z nich uważa, że już wkrótce stworzymy roboty posiadające świadomość i AI zacznie żyć własnym życiem, wymknie się spod kontroli jej twórców, a w dalszej perspektywie może stanowić zagrożenie dla ludzkości.

Elon Musk, znany inwestor i przedsiębiorca, widzi to zagrożenie i apeluje do ludzi o ostrożność. Jednocześnie jednak sam tworzy (finansuje) rozwój AI, acz z humanitarnym przesłaniem, aby robić to w sposób bezpieczny. W swoich hasłach zmierza do tego, aby uniemożliwić przejęcie kontroli nad AI politykom, bankierom i wszelkim siłom, które mogłyby użyć AI do zniewolenia i zmanipulowania całych społeczeństw dla własnych korzyści.
Ale Elon Musk też jest miliarderem, więc nie wiadomo, na ile mu można wierzyć. To może być gra polityczna i finansowa, potrzebne są mu przecież środki na jego projekty typu Tesla, Space X, i inne. Ale tu moja wypowiedź wykracza poza obszar matematyki, więc nie będę dalej w tym kierunku spekulować.

Inni specjaliści (zwłaszcza programiści, którzy na co dzień pracują ze sztucznymi sieciami neuronowymi) uważają, że jesteśmy jeszcze daleko od stworzenia tak wysoko rozwiniętej AI i widzą ją raczej jako narzędzie wspomagające i ułatwiające ludzką pracę.
Oczywiście rozwój jest niewątpliwy – jak się porówna możliwości komputerów sprzed kilkunastu czy nawet kilku lat z tym, co obecnie jest możliwe, to widać, że rozwój jest ogromny. Ale jest to głównie rozwój w dziedzinie hardware'u. Choć oczywiście oprogramowanie czy teoria algorytmów również się rozwija, to jednak jak się popatrzy na konstrukcję sztucznych sieci neuronowych (które są podstawą sztucznej inteligencji), to idea, sam pomysł, nie zmienił się od wielu lat, tylko sieci się rozrastają dzięki coraz lepszym możliwościom sprzętowym. Można symulować coraz większe sieci, z coraz większą liczbą neuronów i synaps, i w związku z tym one potrafią dużo szybciej i sprawniej się uczyć, a efekty tego postępu są niesamowite.

Oczywiście, wyzwaniem dla teoretyków jest stworzenie podstaw teoretycznych do tego, aby sieci te rozwijały się nie tylko od strony sprzętowej, ale również od strony algorytmicznej. I to też się dzieje, ale w znacznie wolniejszym tempie. To przemawia za tym, że stworzenie maszyny mającej świadomość, potrafiącej samodzielnie myśleć, a przede wszystkim mieć swoje zachcianki i ambicje, i je realizować, to wciąż domena science fiction. AI wciąż robi to, do czego zostaje zaprogramowana, choć jej odpowiedzi na zadawane pytanie nie są już ręcznie wprowadzane do systemu, lecz potrafi je ona generować.

Niepewna przyszłość nauczycieli

W związku z tym, na razie największym realnym zagrożeniem dla ludzi, które już daje się poważnie odczuć, to konkurowanie o rynek pracy i wypieranie pracowników z wielu stanowisk. Jest to zjawisko tak dobrze znane, że nie będę go nawet omawiać.
I tu, jako pracownik wyższej uczelni, zastanawiałem się nad tym, na ile sztuczna inteligencja zagraża na przykład nauczycielom akademickim. I dochodzę do wniosku, że zagrożenie jest całkiem poważne. Jeśli chodzi o prowadzenie zajęć dydaktycznych, to sami kręcimy na siebie bicz.

Moi koledzy z Wydziału Matematyki stworzyli na Politechnice Wrocławskiej system e-learning, w którym studenci mogą przyswajać sobie wiedzę z podstawowych kursów z matematyki, jak algebra czy analiza. To jest zamknięta wiedza, którą można ogarnąć w całości i wprowadzić do systemu, włączając w to tysiące zadań, generowanych na bieżąco, tak że to nie są w kółko te same zadania. Każdy student może sobie wygenerować zadanie, w którym dane będą się zmieniać losowo, następnie może wprowadzić swoje rozwiązanie, a system to oceni. Tak więc w pewnym momencie może się okazać, że te podstawowe kursy przestaną wymagać żywego nauczyciela i będzie można e-learningiem zastąpić nauczycieli akademickich do pewnego poziomu. Systemy e-learningowe potrafią też inteligentnie odpowiadać na większość standardowych pytań studentów.
Obecnie ten system jest na tyle duży, a pytań studentów na tyle mało, w dodatku one się powtarzają, że system może na zasadzie FAQ, dysponując dostatecznie dużą bazą danych, odpowiadać sensownie na te pytania. Jeśli student zada pytanie nietypowe, to na razie ten system zgłupieje. Jednak w miarę upływu czasu można tę bazę powiększać. Taki system można wzbogacić o sieć neuronową, która będzie się uczyć, czyli doskonalić swoje reakcje, i po pewnym czasie student będzie mógł z takim systemem rozmawiać prawie tak jak z żywym nauczycielem. Ale to jest możliwe dlatego, że mówimy tu o zamkniętym obszarze wiedzy.

Teoretycy mogą spać spokojnie

Natomiast praca matematyka ma też drugą stronę – działalność naukową. I w tej kwestii wydaje mi się, że zagrożenie konkurencją ze strony AI jest (przynajmniej w najbliższej perspektywie czasowej) znikome. Ja zajmuję się matematyką abstrakcyjną, gdzie rozważa się obiekty powiedzmy algebraiczno-geometryczne, które nie występują w rzeczywistości. Wymagają one kreatywności, myślenia abstrakcyjnego i nieszablonowego. Czy sztuczna inteligencja kiedykolwiek zastąpi matematyków-teoretyków? Czy będzie w stanie np. dowodzić twierdzeń? Czy będzie w stanie stawiać pytania i formułować intersujące otwarte problemy?

Obecnie najbardziej interesujące są pytania, które wybitni matematycy postawili dziesiątki, a nawet setki lat temu i których do dzisiaj nie rozwiązano. I tutaj sprawa się bardzo rozmywa, dlatego że moim zdaniem jesteśmy bardzo dalecy od tego, żeby stworzyć sztuczną inteligencję, która będzie w stanie kreatywnie myśleć w taki sposób, w jaki myśli matematyk, pracując nad otwartym problemem.

Kopiowanie mózgu … mrówki

A co my robimy jako konstruktorzy sztucznej inteligencji? Otóż próbujemy naśladować sieci neuronowe istniejące w naszym mózgu. To jest podstawowy obiekt, na którym wzorowane są sztuczne sieci neuronowe. Największe sieci, które obecnie jesteśmy w stanie wyprodukować, mają rozmiar setki tysięcy razy mniejszy od ludzkiego mózgu, porównywalny do rozmiaru systemu nerwowego mrówki. Mimo to potrafią robić niezwykłe rzeczy. Jak się posłucha wywiadu z robotem humanoidalnym Sofią, to robi to rzeczywiście niesamowite wrażenie. Ona potrafi nawet zażartować, odpowiadać na różne pytania dowcipnie i wymijająco. To nie jest maszyna, która klepie jakieś wyuczone formułki, ale coś rzeczywiście generuje.

Ale z drugiej strony wiemy, że te sieci neuronowe są tysiące razy mniejsze niż nasz mózg, zatem jak to jest możliwe, że ta maszyna zaczyna się tak zachowywać jak człowiek? Otóż jest to możliwe dlatego, że ta sieć jest wytrenowana do wykonania jednego zadania. W przypadku Sofii, ten robot ma za zadanie rozmawiać i symulować rozmowę z żywym człowiekiem, natomiast nie umie na przykład chodzić – on jeździ na kółkach. Potrafi pomachać ręką, ma jakieś umiejętności manualne, to jest sprzężenie kilku – kilkunastu robotów. Ale robot, który jest wyspecjalizowany do tego, żeby chodzić po schodach i robić fikołki, na obecnym poziomie wiedzy i możliwości konstruktorskich – nie będzie jednocześnie rozmawiać. Bo cała jego sieć neuronowa jest skoncentrowana na zachowaniu równowagi, rozpoznaniu terenu i poruszaniu się po nim.

Widać z tego, że obecne sieci neuronowe są budowane do jednego czy kilku zadań, natomiast żywa mrówka jednocześnie musi unikać wrogów, rozpoznawać pobratymców ze swojego mrowiska, musi umieć walczyć, jeśli zachodzi potrzeba, musi zbierać pożywienie, karmić larwy, musi stale kontaktować się ze swoją królową, aby mieć odpowiedni zapach, bo inaczej zaatakują ją mrówki z własnego mrowiska. Musi uczyć się rozpoznawać intruzów wyspecjalizowanych w oszukiwaniu mrówek.
Istnieje gatunek osy, która potrafi wytworzyć feromon danego mrowiska, przybrać ten zapach i wtedy nie atakowana może złożyć swoje jaja w larwach mrówek. Następnie taka larwa jest zjadana od środka, a zamiast mrówki wylęga się osa. Ale w procesie ewolucji mrówki się uczą i potrafią coraz skuteczniej się bronić.

Natomiast nasze roboty nie potrafią wykonywać tylu czynności naraz. Wykonują jedną czynność i jeśli się w niej wytrenują, stają się lepsze od człowieka. W dobie Internetu, taki robot może mieć całą wiedzę Wikipedii w „małym palcu”, w ułamku sekundy dostęp do tych wszystkich danych, a człowiek nie ma szans tak szybko przerabiać takiej ilości informacji. Ale to dlatego, że nasz mózg jest nastawiony na rozwiązywanie wielu zadań jednocześnie. My potrafimy rozpoznać twarz kogoś znajomego, a w tym samym czasie coś jeść i stwierdzić, że jest np. przypalone. Więc podświadomie wykonujemy jednocześnie dziesiątki zadań. A takie zadanie jak znalezienie odpowiedzi na skomplikowane pytanie z historii zajmie nam na pewno więcej czasu niż robotowi połączonemu z Internetem.

Błąd w myśleniu

Mam takie wrażenie – i to dotyka pewnie i specjalistów od prognozowania – że mamy taką skłonność do ekstrapolacji szybkości rozwoju pewnych procesów w nieskończoność. Nam się wydaje, że skoro obecnie rosną one liniowo, albo np. wykładniczo, to tak będzie zawsze. Pewne procesy ewolucyjne rzeczywiście mają etap wykładniczy. Więc przykładowo wyobrażamy sobie, że jeśli stworzymy maszynę, która będzie się sama doskonalić, to za chwilę ona wyprodukuje maszynę, która będzie się sama doskonalić w jeszcze doskonalszy sposób itd. I jeśli to zaczniemy ekstrapolować, czyli przedłużać tę krzywą, to dojdziemy do tzw. osobliwości sztucznej inteligencji, gdzie w krótkim czasie te maszyny będą tak inteligentne, że ludzie dla nich będą jak dzisiaj dla nas mrówki. W pewnym momencie nie tylko nie będziemy w stanie nadążyć za maszynami, ale nie będziemy nawet w stanie zrozumieć, jakie procesy tam zachodzą, na jakiej zasadzie przebiegają ich rozumowania.
Ale nie wiem, czy to tak właśnie jest, bo większość procesów zachodzących w rzeczywistości owszem, ma ten etap wzrostu wykładniczego, ale później następuje tak zwane nasycenie. Różne ograniczenia zaczynają zaginać tę krzywą i ona osiąga poziom nasycenia, i jej wzrost się zatrzymuje. Tak więc trudno jest przewidzieć, czy roboty nam zagrożą, jak to pokazują w filmach science fiction.

Chociaż z drugiej strony, ja lubię się bawić różnymi myślami i taka myśl, że sztuczna inteligencja może się wymknąć spod kontroli człowieka i zacznie stanowić dla nas zagrożenie, nie jest całkiem pozbawiona podstaw. Jednak na razie próbujemy kopiować działanie ludzkiego mózgu i jesteśmy na początku tej drogi. Prognostycy przewidują, że za około 15 lat sztuczne sieci neuronowe dorównają rozmiarem ludzkiemu mózgowi. Ja jednak uważam, że stworzenie istot inteligentniejszych od ludzi wymagać będzie skoku jakościowego, a nie tylko ilościowego, wynalezienia algorytmów działających na zasadach innych (lepszych) niż nasz mózg.

Dlatego wydaje mi się, że za mojego życia sztuczna inteligencja nie zagrozi jeszcze na przykład mojemu stanowisku pracy. Matematycy teoretyczni nie będą jeszcze musieli konkurować z maszynami. Ale nauczyciele akademiccy – tak. Podstawowe kursy z matematyki będą prowadzone przez komputer. Moim zdaniem jest to kwestia dziesięciu lat, może nawet mniej. Po co zatrudniać nauczyciela po studiach, któremu trzeba dać uposażenie i świadczenia, skoro to samo może robić system e-learningowy. W zasadzie to już się dzieje, choć na razie oceny wystawiane przez system nie są uznawane. Jest to traktowane jako system pomocniczy w dydaktyce. Ale niebawem okaże się, że system jest na tyle niezawodny, że będzie można przerzucić na niego odpowiedzialność za kształcenie na poziomie podstawowych kursów i żywych ludzi będzie można, nazwijmy to delikatnie, „odciążyć".

Śródtytuły i wyróżnienia pochodzą od Redakcji SN.

 

Autor: Marek Chlebuś

Opublikowano: 30 maj 2012

Odsłon: 4200

Nowy Wspaniały Świat

Widmo krąży po planecie – widmo Internetu. Drażni polityków, prawników, finansistów, biurokratów, policjantów, sklepikarzy, przeraża pisarzy, malarzy, fotografów, muzykantów. Wszystkie potęgi starego porządku połączyły się do nagonki przeciw temu widmu. O co chodzi tutaj jednym, drugim, trzecim i dziesiątym? Kto tu kogo i czym straszy? I kto komu co ma tutaj za złe? Czym w ogóle jest, u diaska, ta, z wielkiej litery pisana, Sieć?

Dla koncernu, reglamentującego w świecie materialnym dostęp do wiedzy oraz do kultury, Sieć to wielki bazar, na którym roją się miliardy ludzi - jedni śpiewają, inni ich słuchają, jedni piszą, a inni czytają, jedni robią zdjęcia, inni oglądają, jedni pytają, inni objaśniają i nikt temu koncernowi za to nie chce płacić. Na dobitkę, te darmowe pisma, śpiewy, filmy i encyklopedie odciągają ludzi od utworów płatnych, z których koncern zwykł czerpać korzyści na Ziemi. Krótko mówiąc, jedna wielka komuna oraz szara strefa.

Dla biurokraty Sieć to wielki slums, bez nazw ulic i numerów domów, bez pozwoleń i koncesji, bez opłat, podatków i kar. Oraz bez respektu dla urzędu i dla urzędnika, bez próśb, podań, formularzy... no, po prostu chaos, zupełny brak ładu i cywilizacji.

Dla policjanta Sieć to dzikie pola, po których nie wiadomo, kto i po co chodzi i nie wiadomo też, z kim tam się zadaje. I może spiskuje przeciw porządkowi albo ustrojowi, a może planuje coś nielegalnego lub kogoś namawia do czarów albo terroryzmu, do sodomii albo pedofilii, może udziela komuś jakichś nielicencjonowanych i zupełnie niepotrzebnych rad? Samo bezprawie, anarchia i dzicz.

A Sieć internauty to świat bezinteresownej twórczości, beztroskiej wolności, nowy, nieskończony, szczodry kontynent, bez historii i bez geografii, bez granic, bez rządów, podatków, policji, własności, bez prawa karnego, administracyjnego, bez prawa ciążenia, bez gnębiącego niedostatku oraz bez chorobliwego zbytku, bez dyskryminacji i bez przywilejów, bez ras, wyznań, młodości, starości, bez chorób i kalectw. Sieć daje mu więcej niż obiecywały wszelkie utopie, jednym słowem - raj.

Prawdziwemu władcy Ziemi, plutokracie, który zmonopolizował tutaj dostęp do dóbr rzadkich: zasobów, surowców, towarów, energii, pooprawiał swoje monopole w prawa i religie, i dobrze z tym sobie żyje, jemu Sieć bezpośrednio nie zagraża. To na razie jest dla niego daleki kontynent, obcy niczym Antarktyda, nieprzyjazny, pusty i jałowy.

Ale już sama idea świata bez praw, bez dóbr rzadkich, bez własności, musi być dla niego wstrętna, nawet groźna, zwłaszcza w perspektywie, gdyby ta cyber-anarchia i ten pierwotny komunizm Sieci miały się kiedyś rozprzestrzenić na świat ziemskiego kapitalizmu, niszcząc mentalne źródła mocy jego i podobnych jemu oligarchów. To jest po prostu duchowa zaraza, taka, jaką kiedyś był buddyzm, chrześcijaństwo czy komunizm.

Ekonomia Sieci

Każdy internauta płaci co miesiąc rachunki za dostęp do Sieci i chce po niej wędrować bez kolejnych opłat. Jeśli ktoś ma zamiar umieszczać tam treści płatne, może je sobie pozamykać i otwierać tylko przed wybranymi. Sieć pomieści i te jego tajemnice, jest wystarczająco pojemna, aby objąć naraz anarchiczny świat wolności oraz nieskrępowanej wymiany i równocześnie getta różnych prawniczych zastrzeżeń.

Mogą przecież istnieć domeny bez trójkątów, bez błękitu, bez muzyki gitarowej, bez golizny, bez Picassa, Homera, Mozarta, bez wszelkich utworów, które oznakował ZAiKS albo SONY, ale jako enklawy, ograniczone co do obszaru lub chociaż zakresu, bo Sieć globalnych ani generalnych zakazów nie przyjmie. Jeżeli jakiś śpiewak nie chce być szeroko słuchany, nie powinien wprowadzać swych nagrań do otwartej i powszechnie dostępnej sieci, podobnie fotograf, pisarz albo grafik. Mogą poukrywać swoje dzieła w sejfach, pozamykać je szyframi, zaopatrzyć w ceny. Równocześnie jednak muszą się pogodzić z tym, że nikomu w Sieci nie będą potrzebni.

Dlatego grupy, które zagwarantowały sobie w świecie materialnym różne monopole na dostęp do wiedzy i kultury, stale przedłużają oraz rozszerzają swoje uzurpacje, już je nawet odrywając od twórców oraz od utworów i po prostu opodatkowując potencjalne narzędzia zbrodni: telewizory, radia, kopiarki, pamięci, modemy, komputery, płyty, papier, toner... Kiedyś pewnie w końcu oczy oraz uszy!

Czy się da w ogóle ze sobą pogodzić potrzebę wolności mieszkańców Internetu z potrzebą wyzysku i dominacji instytucji Ziemi? Albo, patrząc z drugiej strony, czy da się pogodzić duchową anarchię Sieci z podtrzymującym ją porządkiem materialnym? Nie da się. Ziemski porządek oparty jest na monopolizacji rzadkich i niezbędnych ogółowi dóbr przez uprzywilejowaną mniejszość, a w Internecie dóbr rzadkich po prostu nie ma, bo wszystko można rozmnażać w nieskończoność, praktycznie za darmo, i nie ma powodu, ani nawet sposobu, by komukolwiek czegokolwiek odmawiać.

Własność, do której tu się przyzwyczajamy, tam staje się chorobliwą uzurpacją. W Sieci naprawdę już jest, samorzutnie i za darmo, wypełniony anarchistyczny ideał sprawiedliwości: od każdego według jego zdolności, każdemu według jego potrzeb, i to bez żadnych konfiskat czy łagrów. Niektóre prawa Ziemi stają są w Sieci po prostu absurdalne, podobnie zresztą, jak do Ziemi nie stosują się wszystkie prawa Sieci. Tam komunizm jest stanem naturalnym i powszechnie akceptowanym, tu był koszmarną antyutopią. Tutaj własność może służyć ludziom, tam jest przeciw ludziom. To są kompletnie różne światy, niekompatybilne co do swej istoty, reguł, gospodarek. Każdy z nich trzeba urządzać inaczej.

Prawa Sieci

Dla mieszkańca Ziemi, który nigdy nie żył w Internecie, może być niepojęte, że nie ma tam prawa karnego, prawa podatkowego, prawa autorskiego, ba, nie obowiązuje nawet prawo grawitacji. Ludzie mogą sobie latać, przybierać kształt ptaków, smoków, samolotów, mieć sto żywotów i sto postaci. Tożsamość człowieka rozmywa się w Sieci, jeden internauta może mieć wiele awatarów, ale też mogą istnieć awatary prowadzone przemiennie lub naraz przez zespoły ludzi. Funkcjonują nawet całkiem autonomiczne programy, niepowiązane z ludźmi, lecz coraz skuteczniej ludzi naśladujące i wyręczające ich.

Co mówi prawo Ziemi o przestępstwie popełnionym przez cząstkową osobowość? Kto ma być za nie karany? Która osobowość? Wszystkie? A czemu? A co mówi prawo Ziemi o przestępstwie popełnionym przez program? Jaka ma być za nie kara? Skasowanie? Której kopii? Wszystkich? Tylko istniejących czy też wszystkich przyszłych?

A co mówi prawo Ziemi o wzbogacaniu się jednego bez zubażania drugiego? Przecież to nie kradzież! Kopiowanie byłoby podobne do kradzieży tylko wtedy, gdyby je połączyć z kasowaniem oryginału! A co mówi prawo Ziemi o podróbkach, które są obiektywnie nierozróżnialne od oryginału? Czy to na pewno są podróbki? Czy ich wytwarzanie można nazywać fałszerstwem?

Co mówi prawo i nauka Ziemi o gospodarce opartej na szczodrości i swobodnej ekspresji oraz o społeczeństwie bez tajemnic i bez władz? Jak upora się ziemska ekonomia z gospodarką bez dóbr prywatnych, zaprzeczającą wszelkim regułom materialnego rynku? Jak upora się ziemska nauka finansów z zerowymi kosztami w mianowniku wyrażeń na efektywność? Przecież koszty kopiowania, czyli masowej produkcji, są w Internecie praktycznie zerowe. Czy kopiowanie można zatem wciąż uznawać za produkcję? Może to pojęcie powinno dotyczyć tylko tworzenia oryginału i tylko pierwsze zaistnienie dzieła tworzyłoby wartości? Trzeba by w Sieci całkiem na nowo przemyśleć różne nauki i prawa.

Zresztą, przecież i na Ziemi nie zawsze panowały rzekomo wieczne i święte prawa autorskie, albo prawa rynku. One istnieją w obecnym kształcie od około dwustu lat i nie ma żadnego powodu, aby musiały istnieć dłużej. Różne uprzywilejowane grupy przyzwyczaiły się do nich, ulokowały w nich swoje interesy i będą ich oczywiście bronić na Ziemi i próbować je rozszerzać na Sieć. Ale raczej nieskutecznie, bo Sieć ich nie przyjmie, a na Ziemi będą tracić wartość.

Podbój Sieci

O co naprawdę chodzi konkwistadorom, najeżdżającym dziś Internet? Mówią o walce z anonimowością i ochronie praw autorskich, ale raczej nie to jest problemem. Chodzi chyba nie tyle o anonimowość, co raczej o władzę, nie o prawa autorskie, lecz bardziej o wyzysk.

Problem anonimowości wygląda na pozorny, gdyż identyfikacja internauty jest zazwyczaj łatwa. Tu chodzi raczej o uwiązanie do tożsamości i takie zorganizowanie świata wirtualnego, aby zachowały w nim użyteczność narzędzia oraz metody władzy wypracowane w świecie realnym. Przypisanie awatara do osoby ma na celu tylko wygodę władzy, podobnie jak przywiązanie chłopa do ziemi, albo obowiązek meldunkowy.

Problem ochrony praw autorskich oraz interesów twórców jest obłudnie lub źle postawiony. W sieci, za której używanie każdy przecież płaci, która jest zorganizowanym katalogiem stron, mających konkretnych właścicieli, która sama rejestruje każdy odczyt każdej strony, w takiej sieci byłoby niezwykle łatwe rozdzielenie opłat internautów między właścicieli konsumowanej przez nich treści. To może zrobić dość prymitywny program, będący po prostu jedną z funkcji Sieci. Tylko co wtedy z organizacjami, które usadowiły się na własności intelektualnej pod pozorem ochrony praw nieznanych twórców? To one stanowią rzeczywisty problem. Ta konkwista jest podejmowana w obronie ich pasożytnictwa.

Sieć rośnie szybciej niż potrzeby internautów. Dlatego jest kontynentem nieskończonych przestrzeni i bogactw, na którym nie znajdują zastosowania dotychczasowe metody organizacji społeczeństw wokół dostępu do ograniczonych zasobów. Jakie są inne niż ekonomiczne sposoby panowania w Sieci? Przymusowe oczipowanie lub zaimplantowanie internautów byłoby metodą rodem z najgorszych totalitaryzmów i będzie zawsze budzić sprzeciw. Kiedyś pewnie zrobią to sobie sami, dla własnej wygody, ale to raczej nieprędko. Otaksowanie Internetu pod pozorem zwalczania dwutlenku węgla, krzemu czy entropii byłoby raczej trudne do przeprowadzenia, przynajmniej po stronie internautów, a większe opodatkowanie dostawców Internetu też musiałoby przecież być przerzucone na odbiorców.

Różne rozwiązania podatkowe byłyby w ogóle łatwiejsze do uzasadnienia, gdyby swobodny dostęp do infrastruktury sieciowej i bytowej stawał się gwarantowanym prawem człowieka, jak dziś (jeszcze) dostęp do powietrza. Internet jako dobro publiczne i podstawowa infrastruktura globu, dostępna dla wszystkich – taka będzie chyba nieunikniona przyszłość. Wtedy, niejako przy okazji, celowo lub za przyczyną niesprawności globalnych służb, Sieć pewnie zacznie podlegać różnym dysfunkcjom i napotykać rozmaite granice zasobów, ruchu lub dostępu. Wtedy może w Sieci zacząć działać ziemska ekonomia, a ziemskie prawa przestaną w niej być absurdalne. Ale to nie teraz.

Wojna światów

O co chodzi mieszkańcom Sieci? O niewiele. Internet nie potrzebuje ziemskiej nauki, zamkniętej w akademiach i uniwersytetach. Ma naukę własną, rozwijającą się szybciej niż ta ziemska usycha. Internet nie potrzebuje też ziemskiej kultury i sztuki, bo wytwarza własną, coraz bardziej wyrafinowaną, kiedy tamta coraz bardziej się degeneruje. Internet nie potrzebuje też rządów, bo nie ma w nim problemów, do których rozwiązania rządy były powołane na Ziemi. Internet potrzebuje tylko prądu dla komputerów i jedzenia dla internautów. Tyle będzie chciał importować ze świata realnego i raczej niewiele więcej.

Wielomiliardowa populacja Sieci wabi już jednak i kusi nie tylko zwykłych internautów. Z punktu widzenia koncernu, monopolizującego dostęp do wiedzy i kultury, Internet mógłby być rajem zerowych kosztów i nieskończonych stóp zwrotu z dystrybucji, gdyby tylko dało się ją reglamentować.

Z punktu widzenia urzędnika, Sieć mogłaby być rajem darmowego nadzoru, w którym nie trzeba zakładać podsłuchów, urządzać kontroli, prowadzić przesłuchań, bo podejrzani sami w czytelny i przejrzysty sposób dokumentują swoje czyny, kontakty, transakcje, sami też umieszczają te zapisy w sieci, gdzie stają się łatwo dostępne.

Z punktu widzenia policjanta, Internet mógłby być rajem łatwej inwigilacji, swobodnego, nieograniczonego dostępu do zapisów myśli, słów, zainteresowań i powiązań internautów. Nie trzeba by już stawiać szpicli po bramach i pocztach, i centralach telefonicznych, nie trzeba by pisać raportów, nie trzeba by ich nawet czytać, bo zrobią to cierpliwe, posłuszne programy, nie żądające wódki, awansów, pensji, emerytur, nie zakładające związków zawodowych.

Z punktu widzenia internauty, Sieć to po prostu lepszy świat i lepsze życie. Może odsłużyć codziennie parę godzin pracy w świecie materialnym, lecz nie tu się spełnia i tak poukłada swoje sprawy, aby spędzać więcej czasu w Sieci, w której spotyka innych podobnych sobie ludzi i buduje z nimi nową cywilizację. Jego Internet to nieskończoność bogactwa, wolności, ekspresji, spełnionych marzeń. Po prostu: raj, może nie na Ziemi, ale blisko Ziemi.

Czy da się pogodzić tyle wizji raju? A czemu by nie? Sieć pomieści wszystko. Tylko że tu wcale nie chodzi o miejsce, tu chodzi o władzę. Koncerny chcą reglamentować treści w całej Sieci, nie tylko na swoich stronach, urzędnik chce kontrolować całą Sieć, nie tylko domenę swojego urzędu, policjant chce władzy nad całą Siecią, nie tylko nad swoim rewirem. A internauta chce chociaż jakiegoś rezerwatu, wolnego od tych koncernów, tych biurokracji oraz tych policji.

Wokół Internetu narasta napięcie i niezgodność różnych wizji ładu. Tak sprzeczne aksjologie nie mogą długo koegzystować. Ktoś musi wymrzeć, poddać się lub odejść. Czy internautów czeka los północnoamerykańskich Indian, czy to raczej ci, którzy próbują Sieć kolonizować, zdegenerują się i sami wyeliminują, niczym europejscy feudałowie? Trudno dziś powiedzieć, tym bardziej, że to się raczej nie skończy na jednej rewolucji. A jeszcze się na dobre nie zaczęło.

Internauci wszystkich krajów, łączcie się!

„Widmo krąży po Europie – widmo komunizmu. Wszystkie potęgi starej Europy połączyły się do świętej nagonki przeciw temu widmu”. Tak pisali półtora wieku temu Karol Marks i Fryderyk Engels, zagrzewając do rewolucji proletariat ery przemysłowej pamiętnym wezwaniem, kończącym ich Manifest komunistyczny: „Proletariusze wszystkich krajów, łączcie się!”

Dziś po świecie krąży widmo Internetu i powoli budzi internautów, proletariat Sieci. Nie zamierzają oni na razie wzniecać rewolucji, bo swój komunizm już mają, będą go raczej bronić u siebie niż narzucać innym. Dopóki się da. Manifestu komunistycznego na razie nie sformułowali, ale swoją Deklarację Niepodległości Cyberprzestrzeni już ogłosili. Tak wyraził ją poeta John Perry Barlow (cytat za wiki.braniecki.net, kursywą oznaczone większe zmiany redakcyjne w stosunku do źródła):

„Rządy świata przemysłu, wy zużyci giganci z mięsa oraz stali, zwracam się do was z Cyberprzestrzeni, nowej ojczyzny umysłu. W imieniu przyszłości, apeluję do was, z przeszłości, abyście zostawili nas w spokoju. Nie jesteście tu mile widziani. Wasza władza nie sięga miejsc, w których się gromadzimy. /.../ Nie macie moralnego prawa, aby nami rządzić, ani też metod przymusu, których musielibyśmy się obawiać. /.../ Cyberprzestrzeń nie leży wewnątrz waszych granic.

/.../

Nie byliście zaangażowani w nasze zgromadzenia i nasze dyskusje ani nie przyczyniliście się do bogactwa naszych rynków. Nie znacie naszej kultury, naszej etyki ani niepisanych praw, które gwarantują naszej społeczności więcej porządku niż mogłyby go dawać wasze regulacje. /.../ Wasze pojęcia prawne /.../ nie mają zastosowania do naszego świata. Odnoszą się one do świata materii, a materii przecież tutaj nie ma.

/.../

Tworzymy cywilizację Umysłu w Cyberprzestrzeni. Oby była bardziej ludzka i sprawiedliwsza od waszej”.

Marek Chlebuś

Tekst jest dostępny na stronie Autora pod adresem: http://chlebus.eco.pl/CYBER/SwiatSieci.htm