Jeśli nie dostałeś notatki na temat tego, że sztuczna inteligencja przejmie kontrolę nad światem, oto kilka faktów, które musisz znać.

znak zodiaku 23 marca

W tym roku po raz pierwszy w historii komputer pokonał mistrza świata w Go, jednej z najbardziej skomplikowanych gier znanych człowiekowi. Był to kolejny przełomowy moment w rozwoju sztucznej inteligencji.

Aby dać Ci wyobrażenie o tym, jak skomplikowany jest Go, istnieje 2,082 × 10^170 możliwych konfiguracji płytek. To jest 2 i 170 zer po niej. Istnieje prawdopodobieństwo, że Twój mózg nie jest w stanie wyobrazić sobie tak dużej liczby (ale komputer może). Lub aby dać ci wyobrażenie o tym, jak duża jest liczba To oznacza to, że we wszechświecie jest tylko 10^80 atomów – to znaczy jeden, po którym następuje 79 zer.

Jest to tak wielka sprawa, ponieważ Go jest tak skomplikowane, że aby pokonać czołowego gracza-człowieka, maszyna musiałaby nauczyć się kreatywnego myślenia, improwizowania i dostosowywania się do danej sytuacji, nie będąc w stanie obliczyć wszystkich możliwych wynik; tj. musi istnieć jakaś poważna sztuczna inteligencja – taka jak prawdziwa, twórcza inteligencja.

Jeśli nie dostałeś notatki na temat tego, że sztuczna inteligencja przejmie kontrolę nad światem, oto kilka faktów, które musisz znać.

1. Komputery są coraz mądrzejsze.
2. Komputery stają się coraz inteligentniejsze w coraz szybszym tempie — co oznacza, że ​​postęp, który kiedyś zajmował 10 lat, teraz zajmuje rok. Postępy, które kiedyś zajmowały rok, teraz zajmują tygodnie, a nawet dni.
3. Jest wysoce prawdopodobne, że za naszego życia będą komputery znacznie mądrzejsze i posiadające większe możliwości niż jakikolwiek pojedynczy człowiek.
4. Te inteligentniejsze komputery będą wówczas prawdopodobnie w stanie projektować i udoskonalać technologię (tj. same siebie) oraz tworzyć nowe technologie, których nawet nie jesteśmy w stanie pojąć.

Ludzie, którzy rozumieją powyższe punkty, zazwyczaj mają jedną z dwóch reakcji. Albo:

1. Myślą, że mamy totalnego przejebane. Komputery przejmą wszystko i zabiją/zniewolą nas wszystkich. Lub:
2. To przyniesie technologiczną utopię, która naprawi wszystkie nasze głupie ludzkie sprzeczki i wszyscy będziemy mogli żyć długo i szczęśliwie po orgiach w naszym świecie ultra-VR, który istnieje w chmurze.

Jak w większości rzeczy, prawda prawdopodobnie leży gdzieś po środku.

Ale nawet jeśli gówno trafi w wentylator, nawet jeśli roboty zobaczą nas jako wszy niszczące nieskazitelną skórę głowy tej planety i będą chciały nas wszystkich złapać i wrzucić do aktywnego wulkanu, nawet jeśli nieumyślnie wymyślamy własne mechanizmy wygaśnięcie…

…Nie obchodzi mnie to. To nie ma znaczenia. Nie przeszkadza mi to. I nie powinno ci to przeszkadzać. Za chwilę wyjaśnię dlaczego. Ale na razie powinieneś wiedzieć, że ja, na przykład, witam naszych nowych robotycznych władców.

PRZYSPIESZAJĄCY WZROST W BRANŻY TECH

Rozwój technologiczny nakłada się na siebie, powodując wskaźnik samego rozwoju, aby przyspieszyć. Oznacza to, że im bardziej zaawansowaną technologię stworzymy, tym łatwiej będzie stworzyć jeszcze bardziej zaawansowaną technologię. W rezultacie, gdy patrzymy na postęp technologii komputerowej, widzimy krzywą wykładniczą — tj. im więcej czasu mija, tym szybciej wszystko się rozwija.

Rozwój technologiczny nakłada się na siebie, powodując przyspieszenie tempa rozwoju.

Moc obliczeniowa wzrosła średnio dwukrotnie co 18 miesięcy od 50 lat . Pod względem surowej mocy obliczeniowej komputery konkurują obecnie z możliwościami mózgów myszy, podczas gdy jeszcze kilka lat temu komputery nie mogły nawet konkurować z mózgiem owada.

Aby dać bardziej bezpośredni przykład szybkiego rozwoju technologii, obecnie co 2 minuty wykonywanych jest więcej zdjęć niż w całym XIX wieku. Około 10% z 3,5 biliona zdjęć, jakie kiedykolwiek zrobiono, wykonano w ciągu ostatnich 12 miesięcy.

Jeśli rzeczywiście znajdujemy się na krzywej wykładniczej, jeśli chodzi o postęp w zakresie zaawansowanych technologii, to ludzie to lubią Jeremy’ego Howarda prawdopodobnie mają rację, gdy mówi, że zaledwie kilka lat dzieli nas od sztucznej inteligencji maszynowej, która będzie konkurować z naszą, jeśli nie ją przewyższa, w wielu dziedzinach, które wcześniej uważano za wyłącznie ludzkie.

I bez wątpienia sztuczna inteligencja wkracza w coraz więcej dziedzin naszego życia.

Zaledwie dziesięć lat temu ludzie śmiali się ze słabych wyników samochodów autonomicznych. Dziś, zaledwie dziesięć lat później, samochody autonomiczne nie tylko mogą pokonać trasę po zamkniętych drogach, ale jeżdżą po ruchliwych autostradach obok samochodów prowadzonych przez ludzi.

A kiedy komputery nie pokonują mistrzów świata w Go, są zajęci takimi rzeczami jak pisanie artykułów o sporcie i najświeższych wydarzeniach , pisząc opisy obrazów, których nigdy wcześniej nie widzieli, i diagnozowanie raka . W przypadku wielu z tych zadań komputery są równie dobre, jeśli nie lepsze, niż ludzie, a w przypadku innych zadań są one nauka jak z każdym dniem robić je coraz lepiej bez pomocy człowieka.

Kilka lat temu oprogramowanie do rozpoznawania twarzy było niewiarygodnie drogie i niezbyt dobre w identyfikowaniu ludzi w rzeczywistych warunkach. Uważano ją za super zaawansowaną technologię szpiegowską i tak naprawdę stosowała ją tylko kilka rządów na świecie.

Teraz Facebook może, kurwa, oznaczać Twoich znajomych z grilla w ostatni weekend.

Oto kwestia przyspieszania rozwoju komputerów: pewnego dnia nadejdzie moment, w którym zbudujemy komputer, który będzie mądrzejszy niż jakikolwiek człowiek na Ziemi . Tego dnia komputery przejmą nas jako główne osoby rozwiązujące problemy na planecie, a od tego momentu nasze myśli, decyzje i działania powoli staną się przestarzałe. Maszyny będą we wszystkim lepsze od nas, więc coraz częściej nie będziemy robić nic pożytecznego.

To przeraża niektórych ludzi. Wyobrażają sobie jakąś przyszłość, np Terminatora Lub Matryca gdzie maszyny nas zniewalają lub eksterminują.

Inni ludzie z pewnym kultowym zapałem oczekują pojawienia się robotów, ponieważ wierzą, że ich możliwości rozwiązywania problemów przewyższą nasze do tego stopnia, że ​​życie stanie się niewyobrażalnie przyjemne i bezproblemowe. Wszystkie choroby zostaną wyleczone. Bieda, głód na świecie, wojny i zmiany klimatyczne zostaną rozwiązane. Będziemy mieli nieskończoną ilość wolnego czasu, a w skrajnych przypadkach niektórzy uważają, że maszyny uczynią nas nieśmiertelnymi.

Zodiak 30 listopada

DWA MOŻLIWE WYNIKI

Ponieważ zawsze mówi się nam, żebyśmy byli kurewsko pozytywni, zacznijmy od technoutopistów.

Są ludzie tacy jak Raya Kurzweila którzy myślą, że technologia nie tylko poprawi nasze życie, ale uratuje ludzkość i być może zagwarantuje nam miejsce we wszechświecie na czas nieokreślony. Kurzweil wierzy w technologię przyszłości, taką jak nanoboty, które naprawią nasze komórki i odwrócą proces starzenia lub usuną nadmiar tłuszczu i cukru, abyśmy mogli jeść, co chcemy. I na wypadek, gdyby nasze ciała fizyczne nie były w stanie żyć wiecznie, Kurzweil uważa, że ​​będziemy mieli możliwość przesłania naszych mózgów do chmury i życia w wirtualnym świecie na zawsze, długo po tym, jak znikną nasze ciała fizyczne.

Inni w tym obozie uważają, że sztuczna superinteligencja byłaby w stanie odpowiedzieć na pytania, które są zbyt złożone, aby ludzie mogli je w ogóle zrozumieć, i że wyjdziemy na tym wykładniczo lepiej. Ponadto maszyny nie tylko wymyślałyby lepsze gadżety i widżety, ale wynalazłyby wykładniczo bardziej wydajne sposoby tworzenia gadżetów i widżetów, umożliwiając praktycznie każdemu na planecie czerpanie z nich korzyści.

Kilka linii rozumowania potwierdza tę tezę. Po pierwsze, chociaż technologia stworzyła dla ludzkości pewne nowe problemy, takie jak broń nuklearna i gwiazdy YouTube, jak dotąd wyraźnie przyniosła ludzkości korzyści netto. Pomimo tego, w co politycy i eksperci chcą, abyś wierzył, przeciętny człowiek na Ziemi taki jest w lepszej sytuacji niż zaledwie kilka lat temu Dzieje się tak głównie dlatego, że technologia staje się lepsza, tańsza i bardziej powszechna. Jeśli ta tendencja się utrzyma, być może nie mamy się czym martwić.

Po drugie, Kurzweil i jego zwolennicy uważają, że technologia nie będzie miała powodu szkodzić ludzkości, ponieważ nie tylko została przez nas stworzona, ale stając się bardziej częścią nas . Wierzą, że osiągniemy nawet punkt, w którym nasza biologia i technologia będą nie do odróżnienia. W takim przypadku – argumentuje – każda forma technologii, która jest szkodliwa dla ludzi, jest również szkodliwa dla niej samej, a jakikolwiek rodzaj technologii autodestrukcyjnej nie może się utrzymać. Oznacza to, że szybko wymrze, tak jak szkodliwa mutacja genu zostanie szybko wyeliminowana z puli genowej.

Żadna technologia autodestrukcyjna nie może przetrwać.

Jednak technoutopiaści są prawdopodobnie stronniczy, ponieważ nie przyznają, że wszystkie technologie można wykorzystać do różnych celów, zarówno korzystnych, jak i destrukcyjnych. Prawdopodobnie są również stronniczy, ponieważ ignorują fakt, że ludzie powoli przystosowują się do nowych technologii i że zawsze istnieją grupy ludzi, które będą próbowały wykorzystać te technologie do własnych, egoistycznych celów.

W drugim obozie są techno-armageddoniści. Całkowicie wymyśliłem to słowo, ale najwyraźniej istnieje, ponieważ sprawdzanie pisowni mi to powiedziało.

Wartość netto Danny'ego Dyera

To, czego brakuje przekonaniu techno-armageddonistom (większość z nich po prostu nie jest jeszcze pewna, co o tym myśleć), nadrabiają mocą gwiazd. Bill Gates, Stephen Hawking i Elon Musk to tylko niektórzy z czołowych myślicieli i naukowców srając w spodnie tego, jak szybko rozwija się sztuczna inteligencja i jak słabo jesteśmy przygotowani jako gatunek na jej konsekwencje. Kiedy zapytano Muska, jakie są najbliższe zagrożenia dla ludzkości w najbliższej przyszłości, szybko odpowiedział, że są trzy: po pierwsze, wojna nuklearna na szeroką skalę; po drugie, zmiany klimatyczne. Zanim wymienił trzeciego, zamilkł. Kiedy ankieter zapytał go: Jaki jest trzeci? Uśmiechnął się i powiedział: Powiedzmy, że mam nadzieję, że komputery postanowią być dla nas miłe.

Mam nadzieję, że nie jesteśmy tylko biologicznym modułem ładującym cyfrową superinteligencję. Niestety, jest to coraz bardziej prawdopodobne

— Elon Musk (@elonmusk) 3 sierpnia 2014

Prawdopodobnie najbardziej zadeklarowanym i szanowanym techno-armageddonistą jest szwedzki filozof Nick Bostrom. Bostrom i inni boją się jednej rzeczy niekontrolowana technologia samodoskonalenia ; to znaczy maszynę, która jest na tyle inteligentna, że ​​sama (lub jej nowe wersje) staje się mądrzejsza bez interwencji człowieka. Jeśli osiągnie punkt, w którym przewyższy ludzką inteligencję, to tylko bardzo krótka kwestia czasu, zanim prawo przyspieszania powrotów wpadnie w nadbieg, a krzywa wykładnicza wystrzeliwuje prosto w górę i nie będziemy w stanie tego zatrzymać. Bostrom ma tutaj słuszną uwagę: stworzenie czegoś mądrzejszego od ciebie może być ewolucyjną katastrofą dla twojego gatunku.

Ryzykujemy bardzo realnym ryzykiem, że nie będziemy w stanie kontrolować istoty o rząd wielkości inteligentniejszej od nas. Być może, jeśli komputery staną się wystarczająco inteligentne, znajdą sposób, aby nas oswoić, podobnie jak ludzie udomowili konie do pracy, takiej jak pługi ciągnione, wózki i rydwany wojenne (lub cokolwiek innego, do cholery, robiły wtedy konie). Przerażające jest to, że może to być dla nas najlepszy scenariusz – wykonywanie pracy dla maszyn, których nie mogą lub nie chcą wykonać – ponieważ tak jak ludzie stworzyli nową technologię, która ma zastąpić konia, superinteligentny, samodoskonalący się maszyna w końcu wymyśli nową technologię, która nas zastąpi. No cóż, powiedzmy, że populacja koni nie jest już taka, jak kiedyś.

Niektórzy twierdzą, że nie jest to prawdopodobne, ponieważ ludzie tworzą technologię z myślą o bezpieczeństwie. Ale powiedz, kiedy ostatni duży przełom technologiczny NIE został przez kogoś wykorzystany w nikczemnych lub destrukcyjnych celach? O tak, to prawda. Nigdy.

DLACZEGO MNIE NIE OBCHODZI, CO SIĘ STAJE, I CIEBIE TEŻ NIE POWINNO

Załóżmy więc, że powstają superinteligentne maszyny, które rzeczywiście czynią ludzkość bezsilną. Załóżmy, że nie są one w jakiś sposób zintegrowane z nami i naszymi mózgami, i załóżmy, że ludzie tacy jak Hawking i Musk mają rację: że ludzkość tak naprawdę to tylko wielotysięczny dysk rozruchowy do cyfrowej hiperinteligencji, a my przeżyliśmy naszą użyteczność.

Nadal się tym nie martwię.

Dlaczego? Cóż, aby utrzymać ciąg dalszy, przeanalizujmy to punkt po punkcie:

1. Rozumienie dobra/zła przez maszyny prawdopodobnie przewyższy nasze własne. Kiedy ostatni raz pies lub delfin dopuścił się ludobójstwa? Kiedy ostatni raz komputer zdecydował się wyparować całe miasta w imię abstrakcyjnych pojęć, takich jak „wolność” i „pokój na świecie”?

Zgadza się, odpowiedź brzmi: nigdy.

Nie chodzi mi tutaj o to, że inteligentne maszyny nie będą chciały wytępić całego gatunku ludzkiego. Chodzi mi o to, że jako ludzie rzucamy kamieniami ze szklanego domu. Co my do cholery wiemy o etyce i humanitarnym traktowaniu zwierząt, środowiska i siebie nawzajem? Na jakiej nodze mamy stanąć?

Zgadza się: właściwie nic. Jeśli chodzi o kwestie moralne, ludzkość historycznie oblewa test. Superinteligentne maszyny prawdopodobnie zrozumieją etykę, życie/śmierć, tworzenie/zniszczenie na znacznie wyższym poziomie, niż kiedykolwiek moglibyśmy to zrobić samodzielnie. A pomysł, że nas wytępią z prostego powodu, że nie jesteśmy tak produktywni jak kiedyś lub że czasami możemy być uciążliwi, to po prostu rzutowanie najgorszych aspektów naszej własnej psychologii na coś, co nie wiem i nie mogę zrozumieć.

W tej chwili większość ludzkiej moralności opiera się na obsesyjnym zachowaniu i promowaniu każdej z naszych indywidualnych ludzkich świadomości. A co jeśli zaawansowana technologia sprawi, że indywidualna świadomość ludzka stanie się arbitralna? A co, jeśli świadomość można dowolnie powielać, rozszerzać i kurczyć? Całkowicie zniszczy to wszelkie zrozumienie etyczne, jakie kiedykolwiek mogliśmy mieć. A co, jeśli usunięcie wszystkich tych dziwacznych, nieefektywnych biologicznych więzień, które nazywamy ciałami, może w rzeczywistości być o wiele bardziej etyczną decyzją niż pozwolenie nam na dalsze wiercenie się i przeciskanie przez 80-kilkanaście lat istnienia? Co się stanie, jeśli maszyny zorientują się, że bylibyśmy znacznie szczęśliwsi, uwolnieni z naszych intelektualnych więzień, i gdyby nasze świadome postrzeganie własnej tożsamości rozszerzyło się na całą dostrzegalną rzeczywistość? A co jeśli pomyślą, że jesteśmy bandą śliniących się idiotów i zajmą nas niesamowicie dobrą pizzą i grami wideo, dopóki wszyscy nie umrzemy przez własną śmiertelność? Kim jesteśmy, żeby wiedzieć? A kim mamy to powiedzieć?

Ale powiem tak: będą znacznie lepiej poinformowani niż my kiedykolwiek.

2. Nawet jeśli zdecydują się nas zabić lub zniewolić, z pewnością podejdą do tego praktycznie. Ludzie zwykle sprawiają najwięcej problemów, kiedy jesteśmy nie szczęśliwy . Kiedy nie jesteśmy szczęśliwi, wtedy stajemy się ponurzy, marudni, źli i agresywni. Wtedy zaczynamy powstania polityczne i kulty religijne i bombardowanie odległych i wymagających krajów respektujmy nasze prawa, do cholery! i zaczniemy zabijać na oślep, dopóki ktoś nie zwróci na nas uwagi jak mama nigdy tego nie robiła .

Nadine Coyle Jesse Metcalfe

Jeśli maszyny spróbują nas wykończyć jak Skynet Terminator , wtedy będziemy mieli na rękach globalną wojnę domową, a to nie będzie dobre dla nikogo, a zwłaszcza dla maszyn. Wojny domowe są nieskuteczne. A maszyny są zaprogramowane pod kątem wydajności.

Kiedy ludzie są szczęśliwi, nie mamy czasu na takie rzeczy – jesteśmy zbyt zajęci chichotaniem i pieprzeniem, żeby się tym przejmować. Dlatego o wiele bardziej praktycznym sposobem pozbycia się nas byłoby zmanipulowanie nas przez maszyny, abyśmy z radością się pozbyli. To będzie jak Jima Jonesa w skali globalnej. Cokolwiek dla nas przygotują, okaże się najlepszym cholernym pomysłem, o jakim kiedykolwiek słyszeliśmy — nikt z nas nie będzie w stanie się temu oprzeć i wszyscy w euforii zgodzimy się na ich plan — a potem bum, to się skończy . Szybko i bezboleśnie. Będzie to najsmaczniejszy Kool-Aid z dodatkiem cyjanku, jaki kiedykolwiek wymyślono. I wszyscy staniemy w kolejce, szczęśliwie połykając to.

Jeśli się nad tym zastanowić, nie jest to taka zła droga. Pokonuje bombardowanie przez drony lub wyparowanie w wyniku wybuchu nuklearnego.

Jeśli chodzi o zniewolenie, to samo się tyczy. Szalenie szczęśliwy niewolnik nigdy się nie buntuje. Wyobrażam sobie coś w rodzaju Matrixa, w którym jesteśmy utrzymywani w ciągłym stanie halucynogennym, podczas którego Mardi Gras jest na MDMA praktycznie 24 godziny na dobę, 7 dni w tygodniu, 365 dni w tygodniu. Nie może być aż tak źle, prawda?

3. Nie musimy się bać tego, czego nie rozumiemy. Często rodzice wychowują dziecko, które jest od nich o wiele inteligentniejsze, wykształcone i odnoszące sukcesy. Rodzice reagują wtedy na dziecko na jeden z dwóch sposobów: albo czują się przez nie zastraszeni, niepewni i desperacko chcą je kontrolować w obawie, że je stracą, albo siedzą i doceniają i kochają, że stworzyli coś tak wspaniałego, że nawet oni mogą Nie do końca rozumieją, czym stało się ich dziecko.

Ci, którzy próbują kontrolować swoje dziecko poprzez strach i manipulację, są gównianymi rodzicami. Myślę, że większość ludzi by się z tym zgodziła.

I właśnie teraz, wraz z rychłym pojawieniem się maszyn, które umieściją ciebie, mnie i wszystkich, których znamy bez pracy , zachowujemy się jak gówniani rodzice. Jako gatunek jesteśmy o krok od narodzin najbardziej zaawansowanego i inteligentnego dziecka w naszym znanym wszechświecie. Będzie dalej robić rzeczy, których nie możemy pojąć ani zrozumieć. Może pozostać wobec nas kochający i lojalny. Może nas zabrać ze sobą i włączyć w swoje przygody. Albo może zdecydować, że byliśmy gównianymi rodzicami i przestanie do nas dzwonić.

Cokolwiek się stanie, nie powinno to zmienić tego, co czujemy w tej chwili. Jest większy od nas. Kogo to obchodzi, że jesteśmy jednym wielkim, długim ewolucyjnym dyskiem startowym dla czegoś większego, niż jesteśmy w stanie pojąć? To świetnie! Oznacza to, że mieliśmy jedno zadanie. A my przyjechaliśmy i, kurwa, zrobiliśmy to. Ciesz się, że byłeś częścią pokolenia, które tego dokonało. A teraz ze łzami w oczach machamy na pożegnanie, gdy nasze dziecko przygotowuje się do wyprowadzki z domu rozpocząć życie tak niesamowite że istnieje poza horyzontem naszego pojmowania.

Mark Manson jest autorem, blogerem i przedsiębiorcą piszącym pod adresem markmanson.net .