La piattaforma di competenze OpenClaw solleva preoccupazioni sulla sicurezza mentre accelera l'adozione di agenti IA
- Le abilità degli agenti AI OpenClaw rimangono un potenziale punto d'accesso per exploit.
- ClawHub potrebbe contrassegnare alcune abilità come innocue, ma potrebbero comunque nascondere vulnerabilità.
- Gli sviluppatori AI devono testare le abilità in un ambiente sandbox ed evitare di concedere loro accesso a dati sensibili o portafogli.
Ricerche recenti mostrano che il sistema di scansione delle competenze di OpenClaw non è un confine sicuro. La pubblicazione di competenze di terze parti rimane un problema per la creazione e l'utilizzo di agenti IA.
Le competenze di OpenClaw continuano a rappresentare minacce alla sicurezza e il recente sistema di scansione delle competenze non costituisce un confine sicuro, secondo ricerche recenti di esperti di sicurezza. La scansione delle competenze è stata proposta come gateway per gli editori di competenze, con l'obiettivo di intercettare potenziali payload di dati dannosi o elementi malevoli della stessa competenza.
As Cryptopolitan ha riportato, i servizi di terze parti hanno già rappresentato rischi per la sicurezza e l'adozione di agenti IA sta accelerando e peggiorando il problema.
OpenClaw consente all'utente di creare agenti ed eseguirli su una macchina locale o su un server. Tuttavia, le competenze vengono eseguite immediatamente accanto a OpenClaw e possono ereditare lo stesso accesso a risorse e strumenti. Poiché alcune competenze coinvolgono attività sensibili come l'accesso al portafoglio o interazioni on-chain, gli insiemi di competenze pubblicati da terze parti rimangono un rischio.
Come controlla OpenClaw le competenze per intenti malevoli?
Ricerche recenti hanno mostrato che Clawhub utilizza VirusTotal, nonché il sistema di moderazione interno di OpenClaw. I risultati di questi controlli classificano le competenze e impostano avvisi per l'utente durante l'installazione.
Questo sistema è ancora imperfetto e potrebbe considerare innocue o persino potenzialmente dannose alcune competenze. Sorge un problema quando VirusTotal segnala la competenza come sospetta, mentre OpenClaw la considera benigna. All'utente viene mostrato un avviso e potrebbe comunque confermare l'installazione della competenza. Le competenze completamente segnalate come malevole non sono consentite per il download.
OpenClaw offre anche sandboxing e controlli di runtime, ma questi sono opzionali e non costituiscono un confine predefinito rigido per le competenze di terze parti. OpenClaw rende opzionale il sandboxing basato su Docker e alcuni strumenti rimangono disponibili anche con questa funzione disattivata.
Gli utenti scelgono anche il percorso diretto perché gli ambienti sandbox possono essere difficili da implementare e alcune competenze non funzionano correttamente. Ciò significa che la piattaforma dipende da recensioni e avvisi, un sistema che non offre protezione diretta durante l'esecuzione delle competenze degli agenti.
OpenClaw può rilevare competenze malevole?
OpenClaw ha già implementato alcune misure di sicurezza, inclusi controlli per comportamenti specificamente collegati a codice di cattura che può leggere segreti e inviarli all'esterno. Questo approccio è utilizzato nella sicurezza tradizionale per rilevare processi sospetti, richieste e altri comportamenti.
Le competenze degli agenti IA sono più difficili da scansionare perché gli input coinvolgono sia codice che istruzioni in linguaggio naturale, nonché il comportamento di runtime. La sicurezza tradizionale potrebbe avere punti ciechi per i comportamenti agentic.
Il livello successivo consiste nell'utilizzare la scansione IA per rilevare comportamenti più rischiosi che non sono stati catturati da una ricerca statica o dall'approccio regolare delle espressioni regolari. Gli agenti IA possono offrire uno sguardo sulla coerenza interna delle competenze, pur non essendo esaustivi riguardo al potenziale di exploit. Cercano il codice più ovvio sfruttabile o le incongruenze generali.
I ricercatori hanno notato che il sistema di controlli e moderazione di OpenClaw approvava le competenze rapidamente, mentre VirusTotal a volte impiegava giorni per segnalare l'aggiunta. Era anche possibile aggiungere exploit a competenze già approvate. Ciò significava che il processo di OpenClaw poteva proclamare le competenze come benigne quando potevano contenere comportamenti imprevisti.
Per gli sviluppatori di agenti IA, i ricercatori raccomandano il sandboxing o l'uso di strumenti per impedire l'esecuzione delle competenze, anche se sono segnalate come benigne. I ricercatori hanno chiesto alle piattaforme di competenze di assumere che le competenze dall'aspetto normale possano nascondere exploit ed evitare di utilizzarle in ambienti ad alto valore, potenzialmente concedendo l'accesso a portafogli crittografici o altre informazioni sensibili.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Hristina Vasileva
Hristina Vasileva si specializza in notizie su DeFi, business ed economia. Si è laureata presso l'Università di Sofia con un Master in Filosofia, dopo aver completato una laurea triennale quadriennale in Amministrazione Aziendale, Giornalismo e Comunicazione di Massa. Ha lavorato per uno dei principali quotidiani del paese, coprendo il settore delle materie prime e i risultati aziendali. Attualmente, Hristina è autrice di notizie collaboratrice per Cryptopolitan.
