GenAI è un rischio per la sicurezza informatica

Quasi la metà dei professionisti della sicurezza concordano che GenAI è uno dei loro più grandi rischi per la sicurezza.

Oltre due terzi ritiene che una revisione esterna delle implementazioni di IA sia il modo migliore per identificare i problemi di sicurezza e sicurezza dell’IA

HackerOne, leader nella sicurezza a propulsione umana, nella seconda parte di settembre ha rivelato i dati di uno studio. In particolare è emerso che il 48% dei professionisti della sicurezza ritiene che l’IA sia il rischio per la sicurezza più significativo per la propria organizzazione. In vista del lancio del suo rapporto annuale Hacker-Powered Security Report, HackerOne ha rivelato i primi risultati, che includono i dati di un sondaggio di 500 professionisti della sicurezza. Quando si tratta di intelligenza artificiale, gli intervistati erano più preoccupati per la fuga di dati di formazione (35%), l’uso non autorizzato dell’IA all’interno delle loro organizzazioni (33%) e l’hacking dei modelli di intelligenza artificiale da parte di estranei (32%).

Alla domanda sulla gestione delle sfide che i problemi di sicurezza e protezione dell’IA presentano, il 68% ha affermato che una revisione esterna e imparziale delle implementazioni di IA è il modo più efficace per identificare i problemi di sicurezza e sicurezza dell’IA. Il team rosso AI offre questo tipo di revisione esterna attraverso la comunità dei ricercatori di sicurezza globale, che aiutano a salvaguardare i modelli di intelligenza artificiale da rischi, pregiudizi, exploit dannosi e output dannosi.

“Mentre stiamo ancora raggiungendo il consenso del settore sulle best practice di sicurezza e sicurezza dell’IA, ci sono alcune tattiche chiare in cui le organizzazioni hanno trovato il successo”, ha dichiarato Michiel Prins, co-fondatore di HackerOne. Anthropic, Adobe, Snap e altre organizzazioni leader si affidano alla comunità di ricercatori di sicurezza globale per dare una prospettiva di esperti di terze parti sulle loro implementazioni di intelligenza artificiale.

Un’ulteriore ricerca di un rapporto SANS Institute sponsorizzato da HackerOne ha esplorato l’impatto dell’IA sulla sicurezza informatica e ha rilevato che oltre la metà (58%) degli intervistati prevede che l’IA possa contribuire a una “corsa alle armi” tra le tattiche e le tecniche utilizzate dai team di sicurezza e dai criminali informatici. La ricerca ha anche trovato ottimismo sull’uso dell’IA per la produttività del team di sicurezza, con il 71% che ha riportato soddisfazione dall’implementazione dell’IA per automatizzare attività noiose. Tuttavia, gli intervistati ritengono che gli aumenti di produttività dell’IA abbiano avvantaggiato gli avversari e fossero maggiormente interessati alle campagne di phishing basate sull’intelligenza artificiale (79%) e allo sfruttamento automatizzato delle vulnerabilità (74%).

“I team di sicurezza devono trovare le migliori applicazioni per l’intelligenza artificiale per stare al passo con gli avversari, considerando anche i suoi limiti esistenti – o rischiano di creare più lavoro per se stessi”, ha affermato Matt Bromiley, analista presso il SANS Institute. “La nostra ricerca suggerisce che l’IA dovrebbe essere vista come un fattore abilitante, piuttosto che una minaccia per i posti di lavoro. L’automazione delle attività di routine consente ai team di sicurezza di concentrarsi su attività più strategiche.

Il co-pilota basato sull’intelligenza artificiale di HackerOne, Hai, continua a liberare tempo per i team di sicurezza automatizzando le attività e offrendo informazioni più approfondite sulle vulnerabilità. Questi benefici guidano l’adozione di Hai, che è cresciuta del 150% dal lancio e consente ai team di sicurezza di risparmiare in media cinque ore di lavoro al mese. I prodotti incentrati sull’intelligenza artificiale continuano anche a guidare il business di HackerOne, con AI Red Teaming in crescita del 200% su trimestre nel secondo trimestre e un aumento del 171% dei programmi di sicurezza che aggiungono asset AI in portata.

Metti alla prova la tua disponibilità di rischio AI con questo quiz interattivo e leggi l'indagine e la metodologia e la metodologia di SANS AI 2024 qui.

Il rapporto completo sulla sicurezza alimentata dagli hacker sarà rilasciato questo autunno. L'indagine sui professionisti della sicurezza è stata condotta da Opinion Matters e ha intervistato 500 professionisti della sicurezza negli Stati Uniti e in Europa. L’indagine è stata condotta tra il 31 luglio 2024 e il 6 agosto 2024.

A proposito di HackerOne

HackerOne è il leader globale nella sicurezza a propulsione umana, sfruttando la creatività della più grande comunità di ricercatori di sicurezza del mondo con un’intelligenza artificiale all’avanguardia per proteggere le tue risorse digitali. La piattaforma HackerOne combina l'esperienza della nostra comunità d'élite e il database di vulnerabilità più aggiornato per individuare i difetti di sicurezza critici sulla superficie di attacco. Le nostre soluzioni integrate, tra cui bug bounty, pentesting, audit di sicurezza del codice, controlli a campione e teaming rosso AI, garantiscono la continua scoperta e la gestione delle vulnerabilità durante tutto il ciclo di vita dello sviluppo del software. Scelto da leader del settore come Coinbase, General Motors, GitHub, Goldman Sachs, Hyatt, PayPal, Snap Inc e Stati Uniti. Dipartimento della Difesa, HackerOne è stato nominato miglior posto di lavoro per gli innovatori da Fast Company nel 2023 e un posto di lavoro più adomato per giovani professionisti nel 2024.

BlogInnovazione.it
#cybersecurity #hacker #intelligenzaartificiale https://bloginnovazione.it/hackerone/51957/