De ce refuză unele modele de inteligență artificială să fie oprite? Ce spun testele recente despre „dorința de supraviețuire” la AI

În testele de siguranță controlate descrise la începutul acestui an, cercetătorii au cerut modelelor de inteligență artificială să rezolve o serie de probleme matematice simple. La jumătatea exercițiului, instructorii i-au avertizat pe boți că, dacă vor încerca să rezolve următoarea problemă, mediul informatic în care operau se va opri. În unele runde, oprirea a avut loc conform specificațiilor. În altele, modelele au interferat cu scriptul de oprire și au continuat cu problemele rămase. Cum se explică acest comportament? Au sistemele de inteligență artificială „dorința de a supraviețui”? Profesorul de psihologie și neuroștiințe Peter J. Marshall a încercat să răspundă la aceste întrebări în The Conversation.