Kai 2018 m. Jeffrey Hintonas morališkai prieštaravo „Google“ darbui su JAV kariuomene, jis nedalyvavo viešuose protestuose ir neįvardijo savo pavardės atvirame skundo laiške, kurį pasirašė daugiau nei 4 000 jo kolegų.

Vietoj to jis ką tik kalbėjosi su Sergejumi Brinu, „Google“ įkūrėju. Jis sakė, kad taip pat buvo šiek tiek nusiminęs.

Šis incidentas simbolizuoja tylią Hintono įtaką dirbtinio intelekto pasaulyje. 75 metų profesorius yra gerbiamas kaip vienas iš dirbtinio intelekto „krikštatėvių“ dėl jo giluminio mokymosi darbo – dirbtinio intelekto srities, kuri paskatino didžiulę pažangą šiame sektoriuje.

Tačiau pasaka taip pat atspindi Hintono ištikimybę, kaip teigia geriausiai jį pažįstantys asmenys. Iš esmės jis niekada viešai nereiškė jokių institucinių nusiskundimų, nei etinių, nei kitų.

Būtent šis įsitikinimas paskatino jį praėjusią savaitę atsistatydinti iš „Google“ viceprezidento ir inžinieriaus pareigų, kad jis galėtų laisviau kalbėti apie didėjantį susirūpinimą dėl dirbtinio intelekto keliamo pavojaus žmonijai.

Jo ilgametis bendradarbis ir draugas Yoshua Bengio, 2018 m. laimėjęs Turingo premiją kartu su Hintonu ir Yan-Locun, sakė matantis artėjantį atsistatydinimą. „Jis galėjo likti „Google“ ir kalbėtis, bet jo lojalumo jausmas nebuvo toks“, – sakė Bengio.

Hintonas atsistatydino po kelių novatoriškų dirbtinio intelekto paleidimo per pastaruosius šešis mėnesius, pradedant lapkritį Microsoft palaikomu ChatGPT ir kovo mėn. Google pokalbių robotu Bard.

Hintonas išreiškė susirūpinimą, kad „Microsoft“ ir „Google“ lenktynės paskatins dirbtinio intelekto plėtrą be tinkamų kliūčių ir taisyklių.

„Manau, kad „Google“ iš pradžių buvo labai atsakinga“, – sakė jis trečiadienį per EmTech Digital renginį, po to, kai paskelbė apie savo atsistatydinimą. „Kada OpenAI sukūrė panašius dalykus su .

Nuo 1970-ųjų Hintonas buvo „neuroninių tinklų“ – technologijos, bandančios imituoti smegenų veiklą, – kūrimo pradininkas. Dabar ji palaiko daugumą AI įrankių ir produktų, kuriuos šiandien naudojame, nuo Google Translate ir Bard iki ChatGPT ir savarankiškai važiuojančių automobilių.

Tačiau šią savaitę jis pripažino susirūpinimą dėl spartaus jos vystymosi, dėl kurio viešąją erdvę gali užplūsti klaidinga informacija, o dirbtinis intelektas pasisavins daugiau žmonių darbo vietų, nei tikėtasi.

„Man nerimą kelia tai, kad taip nutiks [make] Turtingieji yra turtingesni, o vargšai – skurdesni. kaip tu tai darai. . . „Visuomenė darosi vis žiauresnė“, – sakė Hintonas. „Ši turi būti puiki technologija… kuriama visuomenėje, kuri nėra skirta naudoti visų labui.

Hintonas taip pat perspėjo apie ilgalaikes grėsmes, kurias AI sistemos kelia žmonėms, jei technologijai bus suteikta per daug savarankiškumo. Jis visada manė, kad šis egzistencinis pavojus nepasiekiamas, bet neseniai iš naujo susimąstė apie jo skubumą.

„Gana tikėtina, – sakė jis, – kad žmonija yra praeinantis intelekto evoliucijos etapas. Jis pridūrė, kad Hintono sprendimą palikti „Google“ po dešimtmečio paskatino akademinis kolega, įtikinęs jį apie tai prabilti.

Gimęs Londone, Hintonas buvo kilęs iš garsios mokslininkų linijos. Jis yra britų matematikų Mary ir George Boole proanūkis, pastarasis išrado Būlio logiką – teoriją, kuria grindžiamas šiuolaikinis skaičiavimas.

Hintonas, kaip kognityvinis psichologas, dirbtinio intelekto srityje siekė priartinti žmogaus intelektą – ne tik sukurti dirbtinio intelekto technologiją, bet ir parodyti, kaip veikia mūsų smegenys.

Jo kilmė reiškia, kad jis „nėra pats matematiškiausias žmogus, kurį galima rasti mašininio mokymosi bendruomenėje“, – sakė Kalifornijos Berklio universiteto dirbtinio intelekto profesorius ir Hintono mokyklos akademikas Stuartas Russellas.

Jis atkreipė dėmesį į Hintono proveržį 1986 m., kai jis paskelbė straipsnį apie techniką, vadinamą „atgalinio propagavimo“, kuri parodė, kaip kompiuterių programos gali mokytis laikui bėgant.

„Tai akivaizdžiai rakto kortelė“, – sakė Russellas. „Tačiau jis neišvedė… valdyti matematiko būdo. Jis naudojo savo intuiciją, kad išsiaiškintų metodą, kuris veiktų.”

Hintonas ne visada viešai kalbėdavo apie savo moralines pažiūras, tačiau išreikšdavo jas privačiai.

1987 m., kai jis buvo Carnegie Mellon universiteto docentas JAV, jis nusprendė palikti savo pareigas ir imigruoti į Kanadą.

Viena iš priežasčių, kurią jis nurodė, pasak Bengio, buvo moralinė – jis nerimavo dėl technologijų, ypač dirbtinio intelekto, panaudojimo kare, o didžiąją dalį jo finansavimo skyrė JAV kariuomenė.

„Jis norėjo gerai jaustis dėl gaunamo finansavimo ir atliekamo darbo“, – sakė Bengio. „Jis ir aš dalijamės vertybėmis apie visuomenę. Kad žmonės yra svarbūs, kad visų žmonių orumas yra būtinas. Ir visi turėtų gauti naudos iš mokslo daromos pažangos.”

2012 m. Hintonas ir jo absolventai Toronto universitete, įskaitant Ilją Sutskiverį, dabartinį OpenAI įkūrėją, padarė proveržį kompiuterinio matymo srityje. Jie sukūrė neuroninius tinklus, kurie gali atpažinti objektus vaizduose, kurių dydžiai yra tikslesni nei buvo įmanoma anksčiau. Remdamiesi šiuo darbu, jie įkūrė savo pirmąjį startuolį „DNNresearch“.

Jų įmonė, kuri negamino jokių produktų, 2013 m. buvo parduota „Google“ už 44 mln.

Nuo to laiko Hintonas pusę savo laiko praleido „Google“, o kitą pusę – Toronto universiteto profesoriumi.

Pasak Russello, Hintonas nuolat kyla naujų idėjų ir išbando naujus dalykus. „Kiekvieną kartą, kai kildavo nauja idėja, kalbos pabaigoje jis sakydavo:“ Ir tai Kaip veikia smegenys! “

Scenoje paklaustas, ar apgailestauja dėl savo gyvenimo darbo, atsižvelgiant į tai, kad tai galėjo prisidėti prie daugybės jo aprašytų nuostolių, Hintonas sakė, kad apie tai galvoja.

„Šis etapas [AI] Nebuvo tikimasi. Dar visai neseniai maniau, kad ši egzistencinė krizė tolima. – Taigi tikrai nesigailiu dėl to, ką darau.