Geoffrey Hinton przemawia podczas Collision 2023 w Enercare Center w Toronto w Kanadzie.Ramsey Cardy/Sportsfile za pośrednictwem Getty Images

Elon Musk i Geoffrey Hinton, pionier akademicki zajmujący się sztuczną inteligencją (AI), często nazywany ojcem chrzestnym sztucznej inteligencji, najwyraźniej zgadzają się co do zagrożeń, jakie dla ludzkości stwarza nowa technologia. Ale kiedy Musk, który w zeszłym roku wypuścił na rynek moduł A.I. startup xAI, niedawno poprosił Hintona o dołączenie do rady doradczej miliardera strumień świadomości bełkot spowodował, że Hinton wymyślił wymówkę, aby zakończyć rozmowę po 20 minutach, powiedział w tym tygodniu w wywiadzie dla dziennika „The Globe and Mail” brytyjsko-kanadyjski informatyk.

Umówiłem się na spotkanie, żeby odmówić mu telefonu – powiedział Hinton. Nie spodoba mu się to. Ponieważ jest w centrum uwagi, tego właśnie chce. Nie sądzę, żeby był już moim przyjacielem.

Poprzez karierę akademicką skupioną na sieciach neuronowych – procesie uczenia maszynowego wzorowanym na neuronach ludzkiego mózgu, który umożliwia programom komputerowym uczenie się umiejętności poprzez analizę danych – Hinton odegrał kluczową rolę w kształtowaniu podstaw sztucznej inteligencji. systemy obsługujące takie jak ChatGPT OpenAI. Jednak odkąd w 2023 r. opuścił stanowisko w Google (GOOGL) po dziesięcioletniej kadencji, stał się jednym z najgłośniejszych krytyków tego, jak firmy Big Tech rozwijają tę technologię.

Musk również od dawna ostrzegał przed zagrożeniami związanymi ze sztuczną inteligencją powtórzył przestrogi Hintona , tweetując w zeszłym roku, że naukowiec wie, o czym mówi. Jednak według Hintona sam Musk, obok wpływowych osobistości, takich jak Peter Thiel (kluczowy inwestor w licznych laboratoriach sztucznej inteligencji) i Mark Zuckerberg, stanowią część problemu.

Omawiając sposób, w jaki A.I. dane szkoleniowe muszą być selekcjonowane, aby uniknąć używania botów bez kompasu moralnego, Hinton wskazał na potrzebę uregulowania sztucznej inteligencji. liderów do osiągnięcia takich celów. Jedyną rzeczą, która może utrzymać Elona, ​​Petera Thiela i Zuckerberga pod kontrolą, są regulacje rządowe, powiedział The Globe and Mail. To jedyna rzecz wystarczająco mocna, aby wykonać tę pracę.

Znak zodiaku 12 grudnia

Na początku tego miesiąca Hinton poparł także list otwarty podpisany przez kilkunastu byłych pracowników OpenAI, w którym utrzymywano, że obecna ochrona sygnalistów jest niewystarczająca i argumentowano, że A.I. firmy takie jak OpenAI tłumią krytykę ze strony pracowników opowiadających się za obawami dotyczącymi bezpieczeństwa. List ten nastąpił po odejściu kilku czołowych pracowników OpenAI, takich jak Ilya Sutskever, który wcześniej doprowadził do nieudanego obalenia dyrektora generalnego OpenAI Sama Altmana.

Geoffrey Hinton był mentorem wielu specjalistów zajmujących się sztuczną inteligencją. dane mocy

Zarówno Sutskever, jak i informatyk Alex Krizhevsky byli byłymi studentami Hintona na Uniwersytecie w Toronto i w 2012 roku współpracowali z profesorem nad dokonaniem przełomowych odkryć w sieciach neuronowych. W następnym roku Google wydał 44 miliony dolarów na przejęcie firmy założonej przez to trio i zatrudnił całą trójkę jako pracowników. Następnie Hinton otrzymał nagrodę Turinga, znaną jako Nagrodę Nobla w dziedzinie informatyki, wraz z innymi naukowcami Yoshuą Bengio i Yannem LeCunem za ich wkład w sieci neuronowe i rozwój sztucznej inteligencji.

Hinton niekoniecznie żałuje swojego zaangażowania w tę dziedzinę. Gdybym tego nie zrobił, zrobiłby to ktoś inny – powiedział, dodając, że wszystko mogło wydarzyć się kilka tygodni później. Jednak informatyk w dalszym ciągu alarmuje o zagrożeniach związanych z tą technologią i wierzy, że jeśli nie zostaną podjęte środki zapobiegawcze, A.I. maszyny w końcu staną się mądrzejsze od ludzi i zbuntują się. sztuczna inteligencja Na przykład agenci, których zadaniem jest jedynie organizowanie wakacji i kupowanie pakietów dla ludzi, szybko zorientują się, że im większą kontrolę uda im się uzyskać, tym skuteczniej będą to robić, powiedział Hinton. Kontrolują świat, aby móc osiągnąć różne rzeczy. W tym sensie te maszyny są jak małe dzieci. A my jesteśmy jak rodzice, którzy nie mają pojęcia, jak je wychowywać.

Dla Hintona straszna rzeczywistość A.I. stały się tylko bardziej naglące. Chociaż wcześniej wierzył, że technologia ta może unicestwić ludzkość w ciągu 30–50 lat, od tego czasu liczba ta przesunęła się do pięciu–20 lat. Szansa na to, że sztuczna inteligencja wynosi 50-50. staną się mądrzejsi od nas, powiedział. Kiedy stanie się mądrzejszy od nas, nie wiem, jakie jest prawdopodobieństwo, że przejmie kontrolę, ale wydaje mi się to całkiem prawdopodobne.