De momento, y según una investigación de la empresa, los atacantes se muestran escépticos sobre la IA para el cibercrimen.
Sophos publicó dos informes sobre el uso de la Inteligencia Artificial (IA) en el cibercrimen .
El primero demuestra cómo, en el futuro, los impostores podrán aprovechar las tecnologías de IA generativa como ChatGPT para cometer fraude a gran escala, incluso con habilidades técnicas mínimas.
Sin embargo, el segundo informe concluyó que a pesar del potencial de la IA, en lugar de adoptar grandes modelos de lenguaje (LLM) como ChatGPT, algunos ciberdelincuentes se muestran escépticos e incluso preocupados por el uso de la IA en sus ataques.
Utilizando una plantilla de comercio electrónico simple y herramientas LLM como GPT-4, el equipo de Sophos X-Ops pudo crear un sitio web completamente funcional con imágenes, audio y descripciones de productos generados por IA, así como un inicio de sesión falso en Facebook y un Página de pago falsa para robar las credenciales de inicio de sesión y los datos de la tarjeta de crédito de los usuarios.
Crear y operar el sitio web requirió conocimientos técnicos mínimos y, utilizando la misma herramienta, Sophos X-Ops pudo crear cientos de sitios web similares en cuestión de minutos usando el botón.
“Es natural –y esperado– que los delincuentes recurran a nuevas tecnologías de automatización. La creación original de correos electrónicos no deseados fue un paso fundamental en la tecnología del fraude porque cambió la escala del margen de maniobra. Las nuevas tecnologías de IA harán lo mismo: si hay una tecnología que puede crear amenazas completas y automatizadas, terminarán usándola”, afirmó Ben Gelman, científico de datos senior de Sophos.
“Sin embargo, parte del motivo por el que llevamos a cabo estas investigaciones fue para adelantarnos a los delincuentes. Al crear un sistema para crear sitios web fraudulentos a gran escala que sea más avanzado que las herramientas que utilizan actualmente los delincuentes, tenemos una oportunidad única de analizar y prepararnos para esta amenaza antes de que prolifere”, añadió.
Para su investigación sobre las actitudes de los atacantes hacia la IA, Sophos X-Ops examinó las discusiones relacionadas con LLM en cuatro foros importantes de la web oscura. Aunque el uso de la IA por parte de los ciberdelincuentes parece estar en una etapa temprana, están discutiendo su potencial con respecto a la ingeniería social. Sophos X-Ops ya ha sido testigo del uso de la IA en estafas románticas y con criptomonedas.
Además, Sophos X-Ops descubrió que la mayoría de las publicaciones estaban relacionadas con la venta de cuentas ChatGPT comprometidas y «jailbreaks»: formas de eludir las protecciones integradas en los LLM para que los ciberdelincuentes puedan utilizarlas con fines maliciosos.Fuente:Silicon, Revista Bit desde Portugal.
Contacto