Një studiues i lartë i kompanisë së inteligjencës artificiale Anthropic, Evan Hubinger, ka paralajmëruar se ekziston një mundësi prej më shumë se 10% që inteligjenca artificiale të shkaktojë zhdukjen e njerëzimit brenda dhjetë viteve të ardhshme. Ky vlerësim alarmant vjen në mes të shqetësimeve në rritje rreth sistemeve gjithnjë e më të fuqishme që mund të dalin jashtë kontrollit të njeriut, ndërsa vetë kompanitë e teknologjisë pranojnë se ende nuk kanë një plan të qartë për të siguruar kontrollin e një superinteligjence të mundshme.

Deklaratat e Hubinger në platformën X erdhën menjëherë pas dorëheqjes së kolegut të tij, Jacob Coxon, i cili u largua nga Anthropic pasi akuzoi kompanitë kryesore të teknologjisë se po garojnë në mënyrë të rrezikshme drejt zhvillimit të superinteligjencës. Coxon, i cili më parë ka punuar edhe te OpenAI, theksoi se këto zhvillime po luajnë bixhoz me jetët njerëzore dhe se, në skenarët më agresivë, situata mund të dalë jashtë kontrollit që në fund të vitit 2027, pasi kompanitë përfshihen në një garë të pandalshme konkurrence.

Ndonëse modelet aktuale paraqesin rrezik të ulët, frika kryesore lidhet me mundësinë që sistemet e ardhshme të fillojnë vetë-përmirësimin rekursiv, duke lënë pas masat mbrojtëse njerëzore. Nga ana e tyre, kompanitë si Anthropic dhe OpenAI pretendojnë se i trajtojnë me seriozitet rreziqet, duke investuar në siguri dhe duke kërkuar bashkëpunim qeveritar, megjithëse zhvillimi i modeleve të reja dhe më të fuqishme vijon me ritme të larta.