Los investigadores de amenazas han revelado un nuevo ciberataque que utiliza correos electrónicos encubiertos para engañar a los sistemas de aprendizaje automático (ML), permitiendo la infiltración de redes empresariales.
Un aviso publicado hoy por SlashNext calificó la táctica como un ataque de “desbordamiento de conversación”, un método que elude las medidas de seguridad avanzadas para enviar mensajes de phishing directamente a las bandejas de entrada de las víctimas.
Los correos electrónicos maliciosos constan de dos componentes distintos. La parte visible solicita al destinatario que realice alguna acción, como ingresar credenciales o hacer clic en enlaces. Debajo, numerosas líneas en blanco separan la sección oculta, que contiene texto benigno que se asemeja al contenido normal de un correo electrónico.
Este texto oculto está diseñado para engañar a los algoritmos de aprendizaje automático y hacer que categoricen el correo electrónico como legítimo, permitiéndole así eludir los controles de seguridad y llegar a la bandeja de entrada del destinatario.
Esta técnica ha sido observada repetidamente por los investigadores de SlashNext, lo que indica posibles pruebas beta por parte de actores de amenazas para evadir las plataformas de seguridad de inteligencia artificial (IA) y ML.
Lea más sobre la seguridad impulsada por la IA: el libro electrónico RSA detalla cómo la IA transformará la ciberseguridad en 2024
A diferencia de las medidas de seguridad tradicionales que se basan en la detección de firmas “malas conocidas”, los sistemas de aprendizaje automático identifican anomalías a partir de patrones de comunicación “buenos conocidos”. Al imitar la comunicación benigna, los actores de amenazas explotan este aspecto del aprendizaje automático para disfrazar sus intenciones maliciosas.
Una vez infiltrados, los atacantes despliegan mensajes de robo de credenciales disfrazados de solicitudes legítimas de reautenticación, dirigidos principalmente a altos ejecutivos. Las credenciales robadas alcanzan precios elevados en los foros de la web oscura.
Según SlashNext, esta forma sofisticada de recolección de credenciales plantea un desafío importante para los motores avanzados de IA y ML, lo que indica un cambio en las tácticas cibercriminales en medio del panorama cambiante de la seguridad impulsada por la IA.
“A partir de estos hallazgos, debemos concluir que los ciberdelincuentes están transformando sus técnicas de ataque en esta incipiente era de la seguridad de la IA”, se lee en el aviso. “Como resultado, nos preocupa que este desarrollo revele un conjunto de herramientas completamente nuevo que los grupos de piratas informáticos criminales están perfeccionando en tiempo real hoy”.
Para defenderse contra amenazas como esta, se recomienda a los equipos de seguridad mejorar los algoritmos de IA y ML, realizar capacitaciones periódicas en seguridad e implementar protocolos de autenticación de múltiples capas.
