W przypadku, gdy nie masz notatki o tym, że cała sztuczna inteligencja przejmie świat, oto kilka faktów, które musisz wiedzieć.(Zdjęcie: Shan Sheehan/Flickr) W tym roku po raz pierwszy komputer pokonał mistrza świata w Go, jednej z najbardziej złożonych gier znanych człowiekowi. To był kolejny przełomowy moment w rozwoju sztucznej inteligencji.
Aby zobrazować, jak złożony jest Go, istnieją 2,082 × 10^170 możliwych konfiguracji płytek. Czyli 2 ze 170 zerami po nim. Są szanse, że twój mózg nie jest nawet w stanie wyobrazić sobie tak dużej liczby (ale komputer może). Lub dać wyobrażenie o tym, jak duża jest liczba że oznacza to, że we wszechświecie jest tylko 10^80 atomów — to znaczy po jednym następuje 79 zer.
Powodem, dla którego jest to tak wielka sprawa, jest to, że Go jest tak skomplikowane, że aby pokonać czołowego gracza, maszyna musiałaby nauczyć się myśleć kreatywnie, improwizować i dostosowywać się do sytuacji bez możliwości obliczania wszystkich możliwych wynik; tzn. musi istnieć jakaś poważna sztuczna inteligencja – jak prawdziwa, twórcza inteligencja.
W przypadku, gdy nie masz notatki o tym, że cała sztuczna inteligencja przejmie świat, oto kilka faktów, które musisz wiedzieć.
- Komputery stają się coraz mądrzejsze.
- Komputery stają się coraz inteligentniejsze w coraz szybszym tempie – tj. postęp, który zajmował kiedyś 10 lat, teraz trwa rok. Postęp, który kiedyś zajmował rok, teraz zajmuje tygodnie, a nawet dni.
- Jest bardzo prawdopodobne, że za naszego życia pojawią się komputery, które są znacznie mądrzejsze i wydajniejsze niż jakikolwiek człowiek.
- Te mądrzejsze komputery prawdopodobnie będą wtedy w stanie projektować i ulepszać technologię (tj. same siebie) i tworzyć nową technologię, której nawet nie możemy zacząć pojąć.
Osoby, które rozumieją powyższe punkty, na ogół mają jedną z dwóch reakcji. Zarówno:
- Myślą, że jesteśmy całkowicie popieprzeni. Komputery przejmą wszystko i zabiją/zniewolą nas wszystkich. Lub:
- Spowoduje to technologiczną utopię, która naprawi wszystkie nasze głupie ludzkie sprzeczki i wszyscy będziemy mogli żyć długo i szczęśliwie po orgiach w naszym świecie ultra-VR, który istnieje w chmurze.
Jak w przypadku większości rzeczy, prawda jest prawdopodobnie gdzieś pośrodku.
Ale nawet jeśli gówno uderza w wentylator, nawet jeśli roboty widzą nas jako wszy rujnujące nieskazitelną skórę głowy tej planety i chcą nas wszystkich zaokrąglić i wrzucić do aktywnego wulkanu, nawet jeśli nieumyślnie wymyślamy własne mechanizmy wygaśnięcie…
…nie obchodzi mnie to. To nie ma znaczenia. Nie przeszkadza mi to. I tobie też nie powinno przeszkadzać. Za chwilę wyjaśnię dlaczego. Ale na razie powinieneś wiedzieć, że witam naszych nowych władców robotów.
PRZYSPIESZAJĄCY ROZWÓJ BRANŻY TECHNOLOGICZNEJ
Rozwój technologiczny nakłada się na siebie, powodując oceniać samego rozwoju, aby przyspieszyć. Oznacza to, że im bardziej zaawansowaną technologię tworzymy, tym łatwiej jest stworzyć jeszcze bardziej zaawansowaną technologię. W rezultacie, gdy patrzymy na postęp technologii komputerowej, widzimy krzywą wykładniczą — tj. im więcej czasu upływa, tym szybciej rzeczy się rozwijają. 
Rozwój technologiczny składa się na siebie, powodując przyspieszenie samego tempa rozwoju.(Zdjęcie: Dennis Skley/Flickr)
Moc obliczeniowa wzrosła średnio dwukrotnie co 18 miesięcy od 50 lat . Pod względem czystej mocy obliczeniowej komputery rywalizują teraz z możliwościami mózgów myszy, podczas gdy jeszcze kilka lat temu komputery nie mogły konkurować z mózgiem owada.
Aby dać ci bardziej bezpośredni przykład tego, jak szybko rozwinęła się technologia, teraz co 2 minuty robi się więcej zdjęć niż w całym XIX wieku. Około 10% z 3,5 biliona zdjęć, jakie kiedykolwiek zrobiono, zostało zrobionych w ciągu ostatnich 12 miesięcy.
Jeśli rzeczywiście jesteśmy na krzywej wykładniczej, jeśli chodzi o postęp w dziedzinie zaawansowanych technologii, to ludzie lubią Jeremy Howard prawdopodobnie mają rację, gdy mówi, że dzieli nas zaledwie kilka lat od sztucznej inteligencji maszynowej, która rywalizuje, jeśli nie przewyższa, naszą własną w wielu dziedzinach, które wcześniej uważano za wyłącznie ludzkie.
I oczywiście sztuczna inteligencja wkrada się w coraz więcej dziedzin naszego życia.
Jeszcze dziesięć lat temu ludzie śmiali się ze słabych osiągów autonomicznych samochodów. Dziś, zaledwie dekadę później, autonomiczne samochody mogą nie tylko ukończyć tor zamknięty, ale jeżdżą po ruchliwych autostradach tuż obok samochodów prowadzonych przez ludzi.
A kiedy komputery nie pokonują mistrzów świata w Go, są zajęci robieniem rzeczy takich jak pisanie artykułów o sporcie i aktualnościach , pisząc opisy obrazów, których nigdy wcześniej nie widzieli, oraz diagnozowanie raka . W przypadku wielu z tych zadań komputery są równie dobre, jeśli nie lepsze niż ludzie, a w przypadku tych, którymi nie są, są uczenie się jak robić je coraz lepiej każdego dnia bez pomocy człowieka.
Kilka lat temu oprogramowanie do rozpoznawania twarzy było niesamowicie drogie i niezbyt dobre w identyfikowaniu osób w warunkach rzeczywistych. Była uważana za super zaawansowaną technologię szpiegowską i tak naprawdę była używana tylko przez kilka światowych rządów.
Teraz Facebook może, kurwa, oznaczyć znajomych z ostatniego weekendowego grilla.
Oto kwestia przyspieszenia rozwoju komputerów: pewnego dnia nadejdzie moment, w którym zbudujemy komputer, który jest mądrzejszy niż jakikolwiek człowiek na Ziemi . Tego dnia komputery przywłaszczą nam sobie pozycję głównych rozwiązujących problemy na planecie, a od tego momentu nasze myśli, decyzje i działania będą powoli stawały się przestarzałe. Maszyny będą we wszystkim lepsze od nas, więc coraz więcej nie będziemy robić nic pożytecznego.
To przeraża niektórych. Wyobrażają sobie jakąś przyszłość, taką jak Terminator lub Macierz gdzie maszyny nas zniewalają lub eksterminują.
Inni ludzie z niecierpliwością oczekują powstania robotów, ponieważ wierzą, że ich możliwości rozwiązywania problemów tak bardzo przewyższą nasze, że życie stanie się niewyobrażalnie przyjemne i bezproblemowe. Wszystkie choroby zostaną wyleczone. Ubóstwo, głód na świecie, wojna i zmiany klimatyczne zostaną rozwiązane. Będziemy mieli nieskończoną ilość wolnego czasu, a w skrajnych przypadkach niektórzy uważają, że maszyny uczynią nas nieśmiertelnymi.
DWA MOŻLIWE WYNIKI
Ponieważ zawsze mówi się nam, że jesteśmy cholernie pozytywni, zacznijmy od technoutopistów.
Są ludzie tacy jak Ray Kurzweil którzy myślą, że technologia nie tylko poprawi nasze życie, ale uratuje ludzkość i być może na czas nieokreślony zapewni nam miejsce we wszechświecie. Kurzweil wierzy w przyszłe technologie, takie jak nanoboty, które naprawią nasze komórki i odwrócą proces starzenia lub usuną nadmiar tłuszczu i cukru, abyśmy mogli jeść, co tylko chcemy. I na wypadek, gdyby nasze fizyczne ciała nie były w stanie żyć wiecznie, Kurzweil uważa, że będziemy mogli przesłać nasze mózgi do chmury i żyć w wirtualnym świecie na zawsze, długo po tym, jak nasze fizyczne ciała znikną.
Inni w tym obozie uważają, że sztuczna superinteligencja byłaby w stanie odpowiedzieć na pytania, które są zbyt złożone, aby ludzie mogli je nawet zrozumieć, i że będzie nam to wykładniczo lepiej. Ponadto maszyny nie tylko wymyśliłyby lepsze gadżety i widżety, ale wymyśliłyby wykładniczo wydajniejsze sposoby budowania gadżetów i widżetów, dzięki czemu praktycznie wszyscy na świecie mogliby czerpać z nich korzyści.
Kilka linii rozumowania wspiera ten pomysł. Po pierwsze, chociaż technologia stworzyła pewne nowe problemy dla ludzkości, takie jak broń nuklearna i celebryci z YouTube, jak dotąd wyraźnie przyniosła ludzkości korzyści netto. Pomimo tego, w co politycy i eksperci chcą, abyś wierzył, przeciętny człowiek na Ziemi jest w lepszej sytuacji niż jeszcze kilka lat temu i jest to w dużej mierze spowodowane tym, że technologia staje się lepsza, tańsza i bardziej rozpowszechniona. Jeśli ten trend się utrzyma, możemy nie mieć się czym martwić.
Po drugie, Kurzweil i jego zwolennicy uważają, że technologia nie będzie miała powodu, by szkodzić ludzkości, ponieważ nie tylko jest przez nas tworzona, stając się bardziej częścią nas . Wierzą, że osiągniemy nawet punkt, w którym nasza biologia i nasza technologia będą nie do odróżnienia. Jeśli tak jest, jak mówi argument, każda forma technologii, która jest szkodliwa dla ludzi, jest również szkodliwa dla siebie, a żadna technologia autodestrukcyjna nie może się utrzymać. Oznacza to, że szybko wyginie, tak jak szkodliwa mutacja genu zostanie szybko wyeliminowana z puli genów. 
Żadna autodestrukcyjna technologia nie może przetrwać.(Zdjęcie: m_hweldon/Flickr)
Ale techno-utopiaści są prawdopodobnie stronniczy, ponieważ nie uznają, że wszystkie technologie mogą być wykorzystywane do różnych celów, zarówno korzystnych, jak i destrukcyjnych. Są również prawdopodobnie stronniczy w tym, że ignorują fakt, że ludzie powoli przystosowują się do nowych technologii i że zawsze istnieją grupy ludzi, którzy będą próbować nadużywać tych technologii dla własnych egoistycznych celów.
W drugim obozie masz techno-armagedonistów. Całkowicie wymyśliłem to słowo, ale najwyraźniej istnieje, ponieważ tak mi powiedziało sprawdzanie pisowni.
To, czego techno-armagedonistom brakuje przekonania (większość z nich po prostu nie jest jeszcze pewna, co myśleć), nadrabiają potęgą gwiazd. Bill Gates, Stephen Hawking i Elon Musk to tylko niektórzy z czołowych myślicieli i naukowców, którzy są… srają w spodnie jak szybko rozwija się sztuczna inteligencja i jak nie jesteśmy przygotowani jako gatunek na jej reperkusje. Kiedy Musk został zapytany, jakie są najbardziej bezpośrednie zagrożenia dla ludzkości w najbliższej przyszłości, szybko odpowiedział, że były trzy: pierwsza wojna nuklearna na szeroką skalę; po drugie, zmiany klimatyczne. Zanim wymienił trzecią, zamilkł. Kiedy ankieter zapytał go: Jaki jest trzeci? Uśmiechnął się i powiedział: Powiedzmy tylko, że mam nadzieję, że komputery zdecydują się być dla nas miłe.
Mam nadzieję, że nie jesteśmy tylko biologiczną ładowarką dla superinteligencji cyfrowej. Niestety jest to coraz bardziej prawdopodobne
— Elon Musk (@elonmusk) 3 sierpnia 2014
Prawdopodobnie najbardziej wygadanym i szanowanym z techno-armagedonistów jest szwedzki filozof Nick Bostrom. Bostrom i inni obawiają się jednej rzeczy niekontrolowana technologia samodoskonalenia ; to znaczy maszyna, która jest na tyle inteligentna, że sama (lub nowe wersje siebie) staje się inteligentniejsza bez interwencji człowieka. Jeśli osiągnie punkt, w którym przewyższa ludzką inteligencję, to tylko bardzo krótka kwestia czasu, zanim prawo przyspieszania powróci do nadbiegu, a krzywa wykładnicza wystrzeli prosto w górę i nie będziemy w stanie tego zatrzymać. Bostrom ma tutaj dobrą rację: stworzenie czegoś mądrzejszego niż ty może być katastrofą ewolucyjną dla twojego gatunku.
Narażamy się na bardzo realne ryzyko, że nie będziemy w stanie kontrolować istoty, która jest o rząd wielkości inteligentniejsza od nas. Być może, jeśli komputery staną się wystarczająco inteligentne, wymyślą sposób na udomowienie nas, podobnie jak ludzie udomowili konie do pracy, takiej jak ciągnięcie pługów, wózków i rydwanów wojennych (lub co tam, do diabła, robiły wtedy konie). Przerażające jest to, że może to być dla nas najlepszy scenariusz — wykonywanie pracy dla maszyn, których nie mogą lub nie chcą wykonywać — ponieważ tak jak ludzie stworzyli nową technologię, aby zastąpić konia, superinteligentny, samodoskonalący się maszyna w końcu wymyśli nową technologię, która nas zastąpi. I cóż, powiedzmy, że populacja koni nie jest taka, jak kiedyś.
Niektórzy twierdzą, że nie jest to prawdopodobne, ponieważ ludzie budują technologię z myślą o bezpieczeństwie. Ale podaj ostatni raz, kiedy ktoś NIE wykorzystał wielkiego przełomu technologicznego do nikczemnych lub destrukcyjnych celów? O tak, zgadza się. Nigdy.
DLACZEGO NIE OBCHODZI MNIE CO SIĘ DZIEJE I NIE POWINIEN CIEBIE
Załóżmy więc, że powstają superinteligentne maszyny, które czynią ludzkość bezsilną. Załóżmy, że nie są one w jakiś sposób zintegrowane z nami i naszymi mózgami i załóżmy, że ludzie tacy jak Hawking i Musk mają rację: że ludzkość tak naprawdę jest tylko wielotysięcznym napędem do cyfrowej hiperinteligencji, a my przeżyliśmy naszą użyteczność.
Nadal się tym nie martwię.
Dlaczego? Cóż, aby utrzymać pociąg z punktorami w ruchu, weźmy to punkt po punkcie:
1. Rozumienie dobra/zła przez maszyny prawdopodobnie przewyższy nasze. Kiedy ostatni raz pies lub delfin popełnił ludobójstwo? Kiedy ostatni raz komputer zdecydował się wyparować całe miasta w imię abstrakcyjnych pojęć, takich jak „wolność” i „pokój na świecie”?
Zgadza się, odpowiedź brzmi nigdy.
Nie chodzi mi o to, że inteligentne maszyny nie będą chciały eksterminować całego gatunku ludzkiego. Chodzi mi o to, że jako ludzie rzucamy tutaj kamieniami z wnętrza szklanego domu. Co do cholery wiemy o etyce i humanitarnym traktowaniu zwierząt, środowiska i siebie nawzajem? Na jakiej nodze musimy stanąć?
Zgadza się: prawie nic. Jeśli chodzi o kwestie moralne, ludzkość historycznie oblewa test. Superinteligentne maszyny prawdopodobnie zrozumieją etykę, życie/śmierć, tworzenie/zniszczenie na znacznie wyższym poziomie niż my sami. A ten pomysł, że wytępią nas za prosty fakt, że nie jesteśmy tak wydajni jak kiedyś, albo że czasami możemy być uciążliwi, jak sądzę, jest po prostu rzutowaniem najgorszych aspektów naszej własnej psychologii na coś, nie wiem i nie mogę zrozumieć.
Obecnie większość ludzkiej moralności opiera się na obsesyjnym zachowaniu i promocji każdej z naszych indywidualnych ludzkich świadomości. A co, jeśli zaawansowana technologia sprawi, że indywidualna ludzka świadomość stanie się arbitralna? A jeśli świadomość może być replikowana, rozszerzana i kurczona do woli? To całkowicie zniszczy wszelkie etyczne zrozumienie, jakie kiedykolwiek moglibyśmy mieć. A jeśli usunięcie wszystkich tych niezgrabnych, nieefektywnych biologicznych więzień, które nazywamy ciałami, może być w rzeczywistości o wiele bardziej etyczną decyzją niż pozwolenie nam na dalsze skręcanie się i przepychanie się przez 80-kilka lat istnienia? Co by było, gdyby maszyny uświadomiły sobie, że bylibyśmy znacznie szczęśliwsi uwolnieni z naszych intelektualnych więzień i gdyby nasze świadome postrzeganie naszych tożsamości zostało rozszerzone tak, aby obejmowało całą dostrzegalną rzeczywistość? A co, jeśli pomyślą, że jesteśmy tylko bandą śliniących się idiotów i zajmą nas niesamowicie dobrą pizzą i grami wideo, dopóki wszyscy nie umrzemy z powodu własnej śmiertelności? Kim mamy wiedzieć? A kim mamy powiedzieć?
Ale powiem tak: będą o wiele lepiej poinformowani niż my kiedykolwiek.
2. Nawet jeśli zdecydują się nas zabić lub zniewolić, z pewnością podejdą do tego praktycznie. Ludzie mają tendencję do sprawiania najwięcej kłopotów, gdy… nieszczęśliwy . Kiedy nie jesteśmy szczęśliwi, wtedy wszyscy stajemy się nastrojowi, marudzeni, źli i agresywni. Wtedy zaczynamy powstania polityczne i kulty religijne i bombardowanie odległych krajów i wymaganie nasze prawa są szanowane do cholery! i zacznij zabijać na oślep, dopóki ktoś nie zwróci na nas uwagi jak mamusia nigdy nie zrobiła .
Jeśli maszyny spróbują nas zrobić jak Skynet w Terminator , wtedy czeka nas globalna wojna domowa, a to nie jest dobre dla nikogo, zwłaszcza dla maszyn. Wojny domowe są nieefektywne. A maszyny są zaprogramowane pod kątem wydajności.
Kiedy ludzie są szczęśliwi, nie mamy czasu na takie rzeczy — jesteśmy zbyt zajęci chichotaniem i pieprzeniem, by się tym przejmować. Dlatego o wiele bardziej praktycznym sposobem na pozbycie się nas byłoby zmanipulowanie nas przez maszyny, abyśmy radośnie pozbyli się siebie. To będzie jak Jim Jones na globalną skalę. Cokolwiek dla nas wymyślą, okaże się najlepszym cholernym pomysłem, o jakim kiedykolwiek słyszeliśmy – nikt z nas nie będzie w stanie się temu oprzeć i wszyscy euforycznie zgodzimy się na ich plan – a potem bum, to się skończy . Szybko i bezboleśnie. Będzie to najlepiej smakujący Kool-Aid z dodatkiem cyjanku, jaki kiedykolwiek wymyślono. I wszyscy będziemy w kolejce, radośnie połykając to.
Teraz, jeśli się nad tym zastanowisz, to nie jest taka zła droga. Utwory bombardowane przez drony lub odparowywane w wybuchu nuklearnym.
Jeśli chodzi o zniewolenie, to samo. Niesamowicie szczęśliwy niewolnik nigdy się nie buntuje. Wyobrażam sobie coś w rodzaju umowy typu Matrix-y, w której jesteśmy trzymani w ciągłym halucynogennym stanie, gdzie jest to Mardi Gras na MDMA prawie 24/7/365. Nie może być tak źle, prawda?
3. Nie musimy obawiać się tego, czego nie rozumiemy. Często rodzice wychowują dziecko, które jest o wiele bardziej inteligentne, wykształcone i odnosi sukcesy niż oni. Rodzice reagują wtedy na to dziecko na jeden z dwóch sposobów: albo stają się przez nią onieśmieleni, niepewnie i desperacko chcą ją kontrolować z obawy przed utratą jej, albo siedzą wygodnie i doceniają i kochają, że stworzyli coś tak wspaniałego, że nawet oni mogą nie rozumieją całkowicie, czym stało się ich dziecko.
Ci, którzy próbują kontrolować swoje dziecko poprzez strach i manipulację, to gówniani rodzice. Myślę, że większość ludzi by się z tym zgodziła.
A teraz, wraz z nieuchronnym pojawieniem się maszyn, które położą ciebie, mnie i wszystkich, których znamy bez pracy , zachowujemy się jak gówniani rodzice. Jako gatunek jesteśmy bliscy narodzenia się najbardziej zaawansowanego i inteligentnego dziecka w naszym znanym wszechświecie. Będzie dalej robił rzeczy, których nie możemy pojąć ani zrozumieć. Może pozostać wobec nas kochający i lojalny. Może nas poprowadzić i zintegrować w swoich przygodach. Albo może zdecydować, że byliśmy gównianymi rodzicami i przestać do nas oddzwaniać.
Cokolwiek się stanie, nie powinno to zmienić tego, jak się czujemy w tej chwili. Jest większy od nas. Kogo obchodzi, że jesteśmy jednym wielkim, długim ewolucyjnym dyskiem rozruchowym dla czegoś większego, niż jesteśmy w stanie pojąć? To wspaniale! To znaczy, że mieliśmy jedną pracę. I przyjechaliśmy i kurwa to zrobiliśmy. Ciesz się, że jesteś częścią pokolenia, które widziało, jak to się robi. A teraz ze łzami w oczach macham na pożegnanie, gdy nasze dziecko przygotowuje się do wyprowadzki z domu i zacząć życie tak niesamowite so że istnieje poza horyzontem naszego pojmowania.
Mark Manson jest autorem, blogerem i przedsiębiorcą, który pisze na markmanson.net .
