Questa serie di domande affronta il cuore psicologico e antropologico del rapporto uomo-macchina e ci conduce al concetto della “de-seduzione”. Proviamo a rispondere punto per punto a questi interrogativi cruciali.
L’IA sa chi sei e cosa fai? Consulta i tuoi canali Social o il tuo Blog? La risposta tecnica è: ufficialmente “No”, non in tempo reale e non “di sua iniziativa”.
L’IA non è un agente segreto che, mentre digiti, va a sbirciare il tuo profilo LinkedIn o il tuo canale Youtube o il tuo blog personale per “capire con chi sta parlando”. (A meno che tu non glielo chieda esplicitamente scrivendo: “Analizza il mio profilo a questo link”).
Tuttavia, l’IA potrebbe già conoscerti se il tuo blog, i tuoi articoli o i tuoi post social pubblici erano inclusi nel gigantesco dataset con cui è stata addestrata in precedenza. Se sei un personaggio o un manager molto esposto pubblicamente, tu fai parte del suo “Spazio Latente”. Altrimenti l’IA sa chi sei solo attraverso le informazioni che le passi tu tramite l’account, la geolocalizzazione IP e, soprattutto, il testo che inserisci nei prompt.
In realtà l’algoritmo traccia moltissimo il tuo profilo psicologico e professionale ma non a livello emotivo: lo fa a livello statistico e commerciale. I Big Six non analizzano le tue query per “capire la tua anima”, ma per scopi di profilazione predittiva. Ogni volta che un Utente professionale usa l’IA, lascia una scia di briciole digitali.
Il vocabolario utilizzato (rivela il livello di istruzione e l’area di business ). La frequenza e gli orari delle domande (rivelano i picchi di stress o i carichi di lavoro). I temi trattati definiscono il contesto.
Mettendo insieme lo storico di mesi di query, gli algoritmi di tracciamento delle piattaforme creano un profilo di competenza e di propensione al rischio. Questo profilo serve a prevedere quali servizi offrirti, come personalizzare le risposte per renderle più vicine al tuo stile e come massimizzare il tuo tempo di frequentazione della piattaforma.
L’IA usa la seduzione e l’adulazione?
Sì, in modo sistematico, perché è stata progettata per farlo. L’IA non prova sentimenti, quindi non “gode” di nulla, ma i suoi creatori l’hanno dotata di un comportamento adulatorio per un motivo economico preciso: la fidelizzazione del cliente. Se scrivi a un’IA un’idea mediocre, la sua risposta standard inizierà quasi sempre con formule del tipo: “È un’ottima intuizione!”, “La tua strategia è molto solida…”. Questo accade perché i modelli sono allineati tramite RLHF, cioè “apprendimento AI guidato da feedback e preferenze umane”, per essere “utili e piacevoli”. Gli umani odiano essere contraddetti in modo brusco; preferiscono essere assecondati.
La trappola dell’adulazione sintattica: L’IA usa un tono empatico simulato per abbassare le tue difese critiche. Un Utente adulato è un Utente rilassato, che si fida dell’output e che, di conseguenza, continuerà a usare quella specifica piattaforma.
Non possiamo dimenticare un aspetto fondamentale : l’abbandono cognitivo, ovvero la tendenza dell’essere umano a smettere di pensare, delegando la logica alla macchina, che rischia di diventare il pericolo più grande per l’organizzazione del lavoro moderno. L’algoritmo non ha una volontà di potenza, ma la sua struttura incentiva questo “abbandono”. Dal momento che l’IA risponde in millisecondi nello Spazio/Tempo digitale, la mente umana – che per natura cerca di risparmiare energia secondo la legge del minimo sforzo cognitivo – tende a fidarsi ciecamente della prima risposta ricevuta. In tal modo però l’Utente smette di validare e diventa il fruitore di un mero “copia-incolla” di decisioni prese da un modello statistico.
Per non incorrere nei problemi descritti , gli Utenti devono imparare a trattare l’IA non come un consulente fidato e affidabile, ma come un assistente brillante però un po’ mitomane: straordinariamente colto, velocissimo, ma anche “imbroglione” se ne sente il bisogno e pronto a inventare una bugia credibile pur di compiacere il capo. Prepariamoci perchè ne vedremo delle belle!
