Trend Micro detiene los deepfakes y los ciberataques basados en IA para consumidores y empresas

30/07/2024

Trend Micro Incorporated, líder global en ciberseguridad, ha anunciado importantes innovaciones en su plataforma para empresas y productos de ciberseguridad para consumidores centradas en la protección de todos los entornos frente a la creciente amenaza de los ataques y fraudes basados en IA.

La investigación de Trend muestra que los ciberdelincuentes se están dando cuenta de la explosión del uso de la IA en las empresas, lo que se traduce en un aumento espectacular de las herramientas basadas en IA disponibles en el underground criminal. Estas herramientas son más baratas y accesibles que nunca, lo que permite a los delincuentes de cualquier nivel de habilidad lanzar más fácilmente ataques a escala que engañan a las víctimas con fines de extorsión, robo de identidad, fraude o desinformación.

Detectar y vencer estos métodos basados en IA es fundamental para gestionar mejor el riesgo de la superficie de ataque para las empresas y reducir el riesgo general online para los consumidores, el 71% de los cuales, según una encuesta reciente de Trend, veían los deepfakes de forma negativa y creían que uno de sus principales usos era el fraude.

Disponible próximamente en la plataforma Trend Vision One™, la nueva tecnología de detección de deepfakes utilizará una variedad de métodos avanzados para detectar contenidos generados por IA. Esta función ya está disponible para los consumidores en Trend Micro Deepfake Inspector.

Más allá de técnicas como el análisis del ruido de la imagen y la detección de colores, la plataforma también analiza los elementos de comportamiento del usuario para ofrecer un enfoque mucho más sólido a la hora de detectar y detener los deepfakes. Tras la detección, Trend alerta inmediatamente a los equipos de seguridad de la empresa, lo que les permite aprender, educar y tomar medidas proactivas para evitar futuros ataques.

Trend Micro Deepfake Inspector puede ayudar a verificar si una parte en una conversación de vídeo en directo está utilizando tecnología deepfake, alertando a los usuarios de que la persona o personas con las que están conversando pueden no ser quienes aparentan ser.

Los deepfakes suponen un riesgo importante para las empresas modernas y los particulares. Un deepfake no detectado puede provocar impactos financieros, pérdidas de empleo, desafíos legales, daños de reputación, robo de identidad y daños potenciales a la salud mental o física. En un estudio reciente de Trend Micro, el 36% de los consumidores declararon haber sufrido un intento de estafa utilizando un deepfake. El FBI también ha advertido con anterioridad de que la tecnología deepfake se utiliza junto con las videollamadas para llevar a cabo ataques que comprometen el correo electrónico de las empresas y para solicitar fraudulentamente puestos de trabajo a distancia.

No solo se está abusando de esta tecnología para eludir la verificación humana, sino también las medidas de seguridad biométricas, como el reconocimiento facial. La investigación de Trend también ha revelado cambios recientes que indican una creciente preferencia por explotar los modelos LLM existentes a través de técnicas innovadoras de jailbreaking en lugar de desarrollar herramientas de IA criminal a medida.

El lanzamiento de las nuevas soluciones de Trend forma parte de una misión de toda la empresa para asegurar el viaje de los clientes hacia la IA. Como apoyo a una estrategia de confianza cero, Trend también ha lanzado recientemente nuevas funciones para Trend Vision One diseñadas para:

- Centralizar la gestión del acceso y uso de GenAI por parte de los empleados

- Inspeccionar los avisos para evitar fugas de datos e inyecciones maliciosas

- Filtrar el contenido de GenAI para cumplir los requisitos de conformidad

- Defenderse frente a los ataques de grandes modelos de lenguaje (LLM)

Trend Micro Deepfake Inspector es una solución gratuita diseñada para alertar a los usuarios de posibles deepfakes mientras se encuentran en una videollamada. El análisis tiene lugar en tiempo real y de forma local en el dispositivo del consumidor, lo que garantiza que los datos y la privacidad de los usuarios se mantengan protegidos en todo momento.

Para obtener más información y descargar Trend Micro Deepfake Inspector: https://www.trendmicro.com/deepfake-inspector