Inteligencia artificial y ciberseguridad. ¿Frente a qué nuevas amenazas debemos prepararnos?

Artificial Intelligence and Cybersecurity. What should we be prepared for?
Fotografía de Jorge Zapata en Unsplash
Artículo de
 Josep Guitart Pardellans (Investment Analyst at Sabadell Venture Capital)
Fernando Mateus (CEO Kymatio)

Seguramente todos estaremos de acuerdo en que para alcanzar un éxito a largo plazo, las empresas necesitan soluciones de automatización inteligente que integren Inteligencia Artificial.

Podemos asegurar que esto, aplicado al ámbito de la ciberseguridad y en particular sobre los ciberataques basados en Inteligencia Artificial, cambiará las reglas del juego tanto para los delincuentes como para las víctimas.

Existen diferentes tecnologías que pueden ayudarnos a tener una visión de lo que nos vamos a encontrar en los próximos meses. En este artículo nos vamos a centrar en GPT-3 (Generative Pre-training Transformer 3) pero el dúplex de Google es otro buen ejemplo del uso de la IA, utilizado en un entorno no de ciberseguridad, que nos sirve perfectamente para ilustrar el concepto de interacción humano-máquina (Adversarial). O siendo un poco más dramáticos, una nueva generación de Ataques de Texto a Voz (Text to Speech Attacks – TTS) y Ataques de texto a Voz Visuales (Text to Visual Speech Attacks – TTVS).

Kymatio Adversarial Text to Speech Attacks

Google Duplex

Duplex es un proyecto de Google que actualmente está activo en gran parte de los EE. UU. Permite a los usuarios hacer una reserva de restaurante por teléfono. Sin embargo, en lugar de que el usuario hable directamente con el empleado del restaurante, Duplex, con la ayuda del Asistente de Google, habla por el usuario. Ver Google Duplex en acción aquí para aprender con un ejemplo de interacción positiva entre un ser humano y una máquina.

Kymatio Adversarial_Text_to Speech Attacks OpenAI

Transformador generativo pre-entrenado 3 (GPT-3)

OpenAI es una empresa de investigación y despliegue de soluciones basadas en IA cuya misión es garantizar que la inteligencia artificial general beneficie a toda la humanidad.

En julio, OpenAI lanzó el Generative Pre-trained Transformer 3  o GPT-3, un nuevo modelo de lenguaje entrenado con 175 mil millones de parámetros, 10 veces más que cualquier modelo de lenguaje no disperso anterior, capaz de programar, diseñar e incluso hablar sobre política o economía.

Aquí hay un hilo de Twitter con algunos de los casos más curiosos.  

Incluso ante la gran expectación generada, el CEO de OpenAI y ex presidente de Y Combinator, Sam Altman dijo literalmente “La exageración de GPT-3 es máxima. Es una tecnología impresionante pero todavía tiene serias debilidades y en ocasiones comete errores muy tontos ”.

Pero ahora, dejemos volar nuestra imaginación. El GPT-3 se utilizó para generar noticias artificiales que se percibían tan bien como las escritas por periodistas especializados. Como puede verse en la siguiente tabla, con un valor del 52% en mean accuracy, los usuarios no podían distinguir entre GPT-3 y periodistas especializados cuando la IA usaba su máxima potencia (GPT-3 175B).

 

¿Cómo puede afectar este enfoque de Inteligencia Artificial a la Ciberseguridad?

Continuando con este caso de uso, esto podría potencialmente utilizarse para suplantar fuentes fiables en entornos laborales. Los empleados sufren constantemente ataques de ingeniería social (Phishing, vishing, smishing…) en su día a día, pero debemos prepararnos para recibir ataques más sofisticados  con el uso de este tipo de inteligencia artificial. 

Los incidentes de seguridad de la información interna han crecido en un 47% el año pasado, con un sorprendente 85% originado directamente por negligencia o fraude de ingeniería social.

Poniendo en perspectiva el problema, el coste medio por incidente en las grandes empresas supera los 7M€* y en las pymes se estima en 40k € con el agravante de que el 60% de ellas afronta su cierre solo 6 meses después de que se produzca el incidente.

Y la tecnología de ataque está mejorando a un ritmo más rápido que el que tienen las empresas capacitando y fortaleciendo a sus empleados

Preparémonos, cada vez será más difícil identificar una estafa

Por todo lo anterior, es fundamental para las empresas empezar a implementar soluciones para apoyar a los empleados y ayudar a proteger la organización

Soluciones como Kymatio acompañan a los empleados actuando como un «cibercompañero» mientras ayudan a las organizaciones ante el nuevo enfoque de gestión del ciberriesgo humano.

Para aumentar la ciberresiliencia es necesario incorporar el factor humano a la ecuación de ciberseguridad y lograr el enfoque proactivo necesario para estar preparado ante próxima generación de amenazas.

* El coste medio por incidente varía según el sector, el tamaño de la empresa y la región. Contactar con Kymatio para más información.

Artículo de Josep Guitart Pardellans (Investment Analyst at Sabadell Venture Capital) y Fernando Mateus (CEO Kymatio)

Sources: