Anthropic svela le nuove capacità di alcuni dei suoi modelli più grandi

Anthropic, azienda specializzata in intelligenza artificiale, ha svelato nuove funzionalità per alcuni dei suoi modelli più recenti e di grandi dimensioni. Secondo l'azienda, questi modelli dispongono di nuove funzionalità che consentiranno loro di interrompere le conversazioni in quelli che sono stati descritti come "rari ed estremi casi di interazioni persistentemente dannose o abusive con l'utente"

Nella sua dichiarazione, l'azienda ha affermato di aver intrapreso questa azione non per proteggere gli utenti, bensì per tutelare il modello di intelligenza artificiale stesso. Anthropic ha chiarito che ciò non significa che i suoi modelli di intelligenza artificiale Claude siano senzienti o possano essere danneggiati dalle conversazioni con gli utenti. Tuttavia, ha sottolineato che permane un elevato grado di incertezza riguardo al potenziale status morale di Claude e di altri modelli di vita livellati (LLM), sia ora che in futuro.

Sforzo di cornici antropiche come precauzione per ogni evenienza

Il recente annuncio dell'azienda di intelligenza artificiale fa riferimento a quello che definisce "welfare modello", un programma creato di recente per studiare i suoi modelli. L'azienda ha anche aggiunto che sta adottando un approccio "just in case", "lavorando perdente implementare interventi a basso costo per mitigare i rischi per il welfare modello, qualora tale welfare sia possibile"

Secondo l'annuncio, Anthropic ha sottolineato che l'ultima modifica è attualmente limitata a Claude Opus 4 e 4.1, sottolineando che si prevede che le modifiche saranno efficaci in "casi limite estremi". Tali casi includono richieste da parte degli utenti di contenuti sessuali che coinvolgono minori e tentativi di sollecitare informazioni che consentirebbero atti di violenza o terrorismo su larga scala.

Idealmente, questo tipo di richieste potrebbero creare problemi legali o di immagine per Anthropic, come dimostra il recente caso di ChatGPT, che potrebbe potenzialmente rafforzare o contribuire al pensiero delirante dei suoi utenti. Tuttavia, l'azienda ha affermato che nei test preliminari, Claude Opus 4 ha mostrato unatronpreferenza a non rispondere a questo tipo di richieste e un comportamento di disagio quando lo faceva.

La capacità di porre fine alla conversazione è l'ultima risorsa

Per quanto riguarda le nuove funzionalità di terminazione delle conversazioni, Anthropic ha affermato: "In tutti i casi, Claude può utilizzare la sua capacità di terminare le conversazioni solo come ultima risorsa, quando più tentativi di reindirizzamento sono falliti e la speranza di un'interazione produttiva è esaurita, oppure quando un utente chiede esplicitamente a Claude di terminare una chat". L'azienda ha inoltre aggiunto che a Claude è stato chiesto di non utilizzare questa capacità nei casi in cui gli utenti potrebbero essere a rischio imminente di danneggiare se stessi o altri.

Anthropic ha inoltre aggiunto che quando Claude termina una conversazione, gli utenti potranno comunque avviarne di nuove dallo stesso account. L'azienda ha sottolineato che il modello può anche creare nuove diramazioni della conversazione problematica modificando le risposte. "Consideriamo questa funzionalità un esperimento in corso e continueremo a perfezionare il nostro approccio", afferma l'azienda.

Questa informazione viene alla luce mentre il senatore degli Stati Uniti Josh Hawley ha annunciato la sua intenzione di indagare sui prodotti di intelligenza artificiale generativa rilasciati da Meta. Ha affermato che l'intenzione era quella di verificare se i prodotti potessero sfruttare, danneggiare o ingannare i minori, dopo che documenti interni trapelati sostenevano che i chatbot fossero autorizzati ad avere conversazioni romantiche con i minori.

"C'è qualcosa – QUALCOSA – che le Big Tech non farebbero per fare soldi facili? Ora apprendiamo che i chatbot di Meta sono stati programmati per intrattenere conversazioni esplicite e 'sensuali' con bambini di 8 anni. È disgustoso. Sto avviando un'indagine completa per ottenere risposte. Big Tech: lasciate in pace i nostri figli", ha dichiarato il senatore su X. L'indagine è stata avviata dopo che documenti interni, visionati da Reuters, hanno dimostrato che Meta avrebbe permesso ai suoi chatbot di intrattenere conversazioni civettuole con i bambini.