Alertan que ciberdelincuentes novatos usan IA

¿Está facilitando la IA la tarea de algunos ciberdelincuentes? Los ataques informáticos, antes reservados a especialistas, son ahora accesibles a los novatos, que consiguen manipular los robots conversacionales con fines espurios.

El fenómeno se llama “vibe hacking”, en referencia al “vibe coding”, la creación de código informático por parte de no iniciados. Y marca una “evolución preocupante de la cibercriminalidad asistida por la IA”, alertó la empresa norteamericana Anthropic.

Ka empresa competidora de OpenAI y de su robot ChatGPT desveló que “un cibercriminal utilizó Claude Code para llevar a cabo una operación de extorsión de datos a gran escala, con objetivos internacionales múltiples en un corto espacio de tiempo”.

De esta manera, el robot conversacional Claude Code, especializado en crear código informático, fue manipulado para “automatizar” la recolección de datos personales y contraseñas.

Con esta información en mano, el usuario envió pedidos de rescate de los datos obtenidos por hasta 500.000 dólares. Un proceder que Anthropic, pese a las “sofisticadas medidas de seguridad desplegadas”, no supo impedir.

El caso de Anthropic no es aislado, y resuena con las inquietudes que sacuden el sector de la ciberseguridad desde la llegada masiva, a disposición de millones de usuarios, de herramientas de IA generativa.

“Al igual que el conjunto de usuarios, los ciberdelincuentes han adoptado la IA”, indica Rodrigue Le Bayon, al frente del centro de alerta y reacción a ataques informáticos (CERT) de Orange Cyberdefense.

En un informe publicado en junio, OpenAI reconoció que ChatGPT había ayudado a un usuario a la hora de desarrollar un programa malicioso o ‘malware’.

Los modelos desarrollados disponen de medidas de seguridad que, supuestamente, deben impedir la explotación de sus capacidades con fines delictivos. Sin embargo, existen técnicas que “permiten esquivar los límites de los grandes modelos de lenguaje, de modo que produzcan contenido que no deberían generar”, explica el especialista Vitaly Simonovich.