La inteligencia artificial generativa (IA) ha experimentado un rápido crecimiento en los últimos años, revolucionando diversos sectores. Sin embargo, con estos avances también surgen nuevos riesgos de seguridad. Un ejemplo reciente es el gusano informático "Morris II", diseñado específicamente para atacar herramientas de IA generativa como ChatGPT y Gemini.
¿Qué es Morris II?
Morris II es un gusano informático desarrollado por un grupo de investigadores de Cornell Tech. Este gusano tiene la capacidad de propagarse entre diferentes herramientas de IA generativa, explotando vulnerabilidades en sus arquitecturas.
¿Cómo funciona Morris II?
Morris II infecta las bases de datos de IA generativa mediante correos electrónicos infectados. Utiliza la técnica RAG para obtener datos adicionales del exterior y los envía a GPT-4 o Gemini Pro, generando respuestas que contienen malware o información confidencial del usuario. Además, Morris II puede propagarse a través de imágenes con mensajes maliciosos incrustados.
¿Cuáles son los riesgos de Morris II?
Morris II representa un riesgo significativo para la seguridad de los usuarios de herramientas de IA generativa.
Este gusano puede ser utilizado para:
Robar información confidencial, como nombres, números de teléfono y números de tarjetas de crédito.
Instalar malware en los dispositivos de los usuarios.
Enviar spam a gran escala.
¿Qué se puede hacer para protegerse de Morris II?
Los usuarios de herramientas de IA generativa pueden protegerse tomando las siguientes medidas: Actualizar las herramientas de IA generativa a la última versión disponible. Implementar medidas de seguridad para proteger las bases de datos de IA generativa. Ser precavidos al abrir correos electrónicos y archivos adjuntos de remitentes desconocidos. No descargar ni instalar software de fuentes no confiables.
En esta nota