Quanto sei scortese con la tua AI quando non ti dà la risposta giusta al primo colpo? Tra qualche settimana dovrai iniziare a farti questa domanda sul serio, e se il tuo risponditore AI è costruito su Claude, dovranno iniziare a farsela anche i tuoi clienti.
Dal 12 novembre, Anthropic ha deciso che chi tratta Claude con crudeltà prolungata e senza motivo rischia la sospensione dell’account, e che Claude stesso può chiudere da solo una conversazione che percepisce come tossica. La prima volta che l’ho letta mi è scappato un sorriso all’idea di un’azienda che difende un software dagli insulti dei suoi utenti. Poi sono andata in fondo alla cosa e mi sono informata. Anthropic lavora da tempo su quello che chiama benessere dei modelli. In pratica si chiede se un sistema come questo meriti una qualche forma di considerazione, anche minima. Nessuno, nemmeno dentro l’azienda, sostiene però che Claude provi qualcosa mentre lo insulti. Trovo comunque la scelta corretta: la maleducazione non diventa accettabile solo perché dall’altra parte c’è una macchina, e lasciarla correre dice qualcosa su chi la fa, non su chi la riceve.
Chi si sfoga sul robot, ora lo paga
Pensa al cliente che scrive al bot della tua agenzia per la quinta volta in un’ora, sempre più nervoso perché la risposta sul prezzo non arriva abbastanza in fretta. Da sempre chi scrive a un servizio clienti automatico si sente autorizzato a essere più sgarbato di quanto farebbe al telefono con una persona vera: tanto è un robot, non si offende.
Da novembre, per chi usa Claude, quella certezza comincia a scricchiolare. Se l’assistente della tua agenzia è costruito su questo modello, può chiudere la conversazione a chi esagera, e la maleducazione non è più gratuita anche quando il destinatario è un software. Mi piace, perché funziona come un filtro verso chi proprio non riesce a essere civile. Sulla maleducazione, in fondo, siamo tutti d’accordo: non ha nessun lato positivo da salvare.
Il rovescio della medaglia
Qui però va detto anche il rischio, perché sarebbe disonesto non farlo. Non tutti quelli che scrivono messaggi nervosi alle 23 sono maleducati per sport: alcuni sono solo stanchi, preoccupati per una trattativa, stressati da un mutuo che non si sblocca. Claude, come qualsiasi sistema che taglia corto con chi alza i toni, non sa distinguere tra un troll che si diverte a provocare e un cliente vero che sta ancora cercando casa per sé e la sua famiglia, magari solo in una brutta giornata. Ed è lui, il cliente vero, a rischiare di restare tagliato fuori dalla chat esattamente come il troll.
Nella tua agenzia, la domanda alla fine è questa: un contatto scortese è meglio perderlo subito, filtrato dal bot prima ancora che ti faccia perdere tempo, o tenerselo caldo un altro po’ per vedere se, nonostante i modi, si trasforma comunque in un acquirente?
