Content
- Pirateria AI
- Fighting Back
- Sense errors, sense estrès: la vostra guia pas a pas per crear programes que canvien la vida sense destruir la vida
Font: Sdecoret / Dreamstime.com
Emportar:
L’AI té el potencial de protegir dades com mai, però també pot robar dades com mai. Els professionals de la seguretat i els pirates informàtics intenten treure el màxim partit d’aquesta tecnologia.
Els professionals de la ciberseguretat busquen amb entusiasme i trepidància la intel·ligència artificial (IA). D’una banda, pot afegir capes de defensa completament noves per a dades i infraestructures crítiques, però, de l’altra, també es pot utilitzar com a arma poderosa per frustrar aquestes defenses sense deixar rastre.
Com qualsevol tecnologia, l'AI té els punts forts que es poden aprofitar i les debilitats que es poden explotar. El repte per als experts en seguretat d'avui és mantenir un pas per davant dels dolents, cosa que hauria de començar amb una comprensió clara de com es pot utilitzar la IA com a arma de dades ofensiva.
Pirateria AI
Per una cosa, afirma Nicole Kobie, de Wired, hauríem de reconèixer que, igual que qualsevol entorn de dades, la IA mateixa pot ser piratejada. Al cor de cada procés intel·ligent hi ha un algorisme i els algoritmes responen a les dades que reben. Els investigadors ja mostren com es pot enganyar les xarxes neuronals a pensar que una imatge d’una tortuga és en realitat una imatge d’un fusell i com una simple enganxa en un cartell d’aturada pot fer que un cotxe autònom conduís directament cap a una intersecció. Aquest tipus de manipulació no només és possible després de la implementació de la IA, sinó que també s’està formant, cosa que pot proporcionar als pirates informàtics la possibilitat de causar estralls sense haver de tocar la infraestructura de l’empresa del client.
Tot i que certament no hi ha escassetat de malcontents que tenen com a únic objectiu ferir a les persones i causar terror, el veritable premi del joc de pirateria és la detecció de contrasenyes i totes les possibilitats de robatori o d’extorsió que hi arriben. L’any passat, l’Institut Tecnològic Stevens va crear un programa per demostrar el poder que aporta AI a aquest procés. Els investigadors van infondre diversos programes de cracking de contrasenyes coneguts amb algoritmes intel·ligents que van ser entrenats per endevinar probables combinacions de caràcters-número especials de lletres i en pocs minuts havien adquirit més de 10 milions de contrasenyes de LinkedIn. A mesura que es descobreixen més contrasenyes, per descomptat, es poden utilitzar per entrenar aquests algoritmes d’aprenentatge, de manera que es faran més efectius amb el pas del temps, fins i tot si s’utilitzen mesures comunes de defensa, com ara canviar de contrasenya habitualment. (Per obtenir més informació sobre les contrasenyes, vegeu Simplement segur: canviar els requisits de contrasenya més fàcil als usuaris.)
És possible que aquestes eines ja siguin utilitzant el subterrani penal? Amb els serveis d’AI basats en núvols fàcilment disponibles i la web fosca que actua com a casa de compensació de tota mena de programari crypto, seria sorprenent que no fos així. Darktrace, empresa d’anàlisi de les amenaces, diu que està veient primers signes de programes maliciosos populars com TrickBot que mostren consciència simultània en les seves missions per robar dades i bloquejar sistemes. Sembla que saben què buscar i com trobar-lo estudiant la infraestructura objectiu i, a continuació, decideixen per ells mateixos la millor manera d’evitar la detecció. Això vol dir que el programa ja no necessita mantenir el contacte amb el pirata informàtic mitjançant servidors de comandament i control o altres mitjans, que sol ser un dels mitjans més eficaços de fer un seguiment de l’autor.
Mentrestant, les estafes tradicionals de phishing comencen a semblar cada cop més genuïnes, en bona part, perquè les eines d’IA poden fer que la inicial sembli que prové d’una font de confiança. Per exemple, el processament del llenguatge natural està dissenyat per imitar la parla humana. Si es combina amb dades fàcilment disponibles, com ara noms i adreces executives, pot produir una missiva tan realista que pot enganyar fins i tot a persones properes. El consumidor mitjà és igualment susceptible, atès que la IA té la possibilitat de minar tota mena de dades per infondre un fraudulent amb informació personalitzada.
Fighting Back
Com s'ha esmentat anteriorment, però, l'AI és un carrer de doble sentit. Tot i que pot permetre que els pirates informàtics facin cercles pels sistemes de seguretat tradicionals, també fa que els sistemes de seguretat actuals siguin molt més eficaços. Segons el diari d’Assegurances, Microsoft va poder publicar recentment un intent de pirateig del núvol d’Azure quan el seu règim de seguretat infusionat en AI va detectar una falsa intrusió des d’un lloc remot. L'intent hauria passat desapercebut en protocols basats en regles anteriors, però la capacitat de l'AI per aprendre i adaptar-se a les noves amenaces hauria de millorar dràsticament la capacitat de protecció de l'empresa per si mateixa, encara que les dades i la infraestructura passen per sobre del tradicional tallafoc al núvol i a Internet de coses. Tots els principals proveïdors de núvols de nivell elevat estan implementant de manera agressiva la IA en els seus nivells de seguretat, ja que quan més aviat es posi en marxa, més haurà après durant el temps que es trobi amb hacks empoderats de la IA. (Per obtenir més informació, vegeu com afecten els avenços de la IA a la seguretat, la ciberseguretat i al pirateria.)
D’aquesta manera, AI no és més que l’última escalada de la guerra de seguretat de tit-for-tat que ha estat en curs des de fa dècades. A mesura que sorgeixen noves amenaces, les noves defenses augmenten per assolir-les, les mateixes tecnologies subjacents alimenten ambdues parts.
Sense errors, sense estrès: la vostra guia pas a pas per crear programes que canvien la vida sense destruir la vida
No podeu millorar les vostres habilitats de programació quan ningú es preocupa per la qualitat del programari.
Si hi ha alguna cosa, probablement l'AI acceleri aquest procés i, a la vegada, eliminarà moltes de les activitats pràctiques dels operadors humans. Serà una cosa bona o dolenta per als ciberguerrers d'avui? Probablement una combinació d’ambdós, tant els barrets blancs com els barrets negres, deixen les femelles i els cargols per codificar els seus atacs i defenses i es concentren en els aspectes més estratègics de la guerra cibernètica moderna.