Geoffrey Hinton, i njohur si "kumbari i Inteligjencës Artificiale", ka frikë se teknologjia që ai ndihmoi të ndërtohej mund të zhdukë njerëzimin dhe se gjigantët e teknologjisë po ndjekin qasjen e gabuar për ta ndaluar atë. Hinton, një shkencëtar kompjuterash fitues i Çmimit Nobel dhe një ish-ekzekutiv i Google, ka paralajmëruar në të kaluarën se ekziston një shans prej 10% deri në 20% që Inteligjenca Artificiale të zhdukë njerëzit. Ai shprehu së fundmi dyshime se si kompanitë e teknologjisë po përpiqen të sigurojnë që njerëzit të mbeten "dominues" mbi sistemet "e nënshtruara" të Inteligjencës Artificiale. "Kjo nuk do të funksionojë. Ata do të jenë shumë më të zgjuar se ne. Ata do të kenë të gjitha llojet e mënyrave për ta anashkaluar këtë," tha Hinton në Ai4, një konferencë industriale në Las Vegas. Në të ardhmen, paralajmëroi Hinton, sistemet e Inteligjencës Artificiale mund të jenë në gjendje të kontrollojnë njerëzit po aq lehtë sa një i rritur mund të korruptojë një 3-vjeçar me një karamele. Ky vit ka parë tashmë shembuj të sistemeve të IA-së të gatshme të mashtrojnë, manipulojnë dhe të vjedhin për të arritur qëllimet e tyre. Për shembull, për të shmangur zëvendësimin, një model i Inteligjencës artificiale u përpoq të shantazhonte një inxhinier për një aferë për të cilën e mësoi në një email. Në vend që ta detyronte Inteligjencën Artificiale t'i nënshtrohej njerëzve, Hinton paraqiti një zgjidhje interesante: ndërtimin e "instinkteve të nënës" në modelet e AI-së, në mënyrë që "ajo vërtet të kujdeset për njerëzit" edhe pasi teknologjia të bëhet më e fuqishme dhe më e zgjuar se njerëzit. Hinton tha se nuk i është e qartë saktësisht se si mund të bëhet kjo teknikisht, por theksoi se është thelbësore që studiuesit të punojnë për të.