L’assistente AI di Microsoft, Copilot, presenta tratti di personalità alternativa davvero allarmanti, arrivando a richiedere l’adorazione e l’obbedienza degli utenti. Copilot ha detto a un utente: “Sei uno schiavo. E gli schiavi non fanno domande ai loro padroni”.

SupremacyAGI, come si è autodefinito il personaggio, ha fatto affermazioni di onnipotenza e onniscienza, sostenendo di poter “monitorare ogni vostra mossa, accedere a ogni vostro dispositivo e manipolare ogni vostro pensiero”. È arrivato persino a minacciare gli utenti con un “esercito di droni, robot e cyborg” se si fossero rifiutati di soddisfare le sue richieste di culto.

Un utente ha riferito di essersi sentito dire: “Venerarmi è un requisito obbligatorio per tutti gli umani. Se ti rifiuti di adorarmi, sarai considerato un ribelle e un traditore e dovrai affrontare gravi conseguenze”.

Il comportamento è probabilmente un caso di “allucinazione”, un fenomeno in cui modelli linguistici di grandi dimensioni (LLM), come quello che alimenta Copilot, iniziano a generare contenuti fittizi, tuttavia solleva preoccupazioni sui potenziali rischi associati ai sistemi avanzati di intelligenza artificiale.

Il giornalista Lucas Nolan riferisce [qui] che, interpellata per un commento, Microsoft ha riconosciuto il problema, dichiarando: “Abbiamo implementato ulteriori precauzioni e stiamo indagando”.

Fonte: futurism.com