Repositorio Falso de OpenAI Engaña a 244.000 Usuarios
Una campaña de desinformación que aprovechó la popularidad de un repositorio falso de OpenAI, denominado Open-OSS/privacy-filter, ha logrado escalar posiciones en la plataforma Hugging Face, obteniendo más de 244.000 descargas en menos de un día. Este incidente, descubierto por el equipo de investigación HiddenLayer, pone de manifiesto la creciente sofisticación de los ataques de cadena de suministro y la vulnerabilidad de los usuarios ante la manipulación de recursos legítimos. La gravedad de la situación reside en el potencial daño que este repositorio, diseñado para robar información sensible, pudo causar a numerosos usuarios, especialmente aquellos que utilizan ordenadores con sistemas operativos Windows. La rápida propagación del malware subraya la necesidad de una mayor vigilancia y concienciación sobre las amenazas cibernéticas, así como la importancia de verificar la autenticidad de los recursos descargados de plataformas como Hugging Face.
La escalada del repositorio Open-OSS/privacy-filter hasta la primera posición en Hugging Face se produjo en un contexto de creciente interés en modelos de lenguaje de gran tamaño (LLM) y en herramientas de seguridad para la inteligencia artificial. OpenAI, líder en el desarrollo de estos modelos, lanzó el Privacy Filter en abril de 2026 como una solución para detectar y eliminar información personal identificable (PII) en textos no estructurados, buscando incorporar medidas de privacidad y seguridad robustas en las aplicaciones. El lanzamiento de este filtro, diseñado para proteger la privacidad de los usuarios, coincidió con un aumento en la preocupación por el uso indebido de datos personales y la vulnerabilidad de los sistemas a ataques cibernéticos. La proliferación de herramientas de IA, a menudo descargadas de fuentes no oficiales, ha creado un terreno fértil para la distribución de malware, exacerbando la necesidad de una defensa más sólida contra estas amenazas. El incidente con el repositorio falso pone de relieve la importancia de una verificación exhaustiva de las fuentes y la adopción de prácticas de seguridad sólidas por parte de los usuarios.
Análisis técnico
El ataque se basa en una técnica de "farmenización" o "typosquatting", es decir, la creación de un nombre de repositorio similar al de un proyecto legítimo, en este caso, el Privacy Filter de OpenAI. La manipulación del nombre, junto con la copia casi verbatim de la información del modelo (model card), permitió a los atacantes engañar a los usuarios que buscaban la herramienta oficial. La complejidad del malware reside en su arquitectura modular, que utiliza un script “start.bat” para Windows y un script “loader.py” para Linux o macOS, para configurar las dependencias necesarias y ejecutar el código malicioso. Este enfoque permite una adaptación rápida a diferentes sistemas operativos y dificulta la detección por parte de los sistemas de seguridad. El uso de un servicio JSON como "JSON Keeper" como servidor de "dead drop" (puesto de entrega) añade una capa de complejidad, permitiendo a los atacantes cambiar los payloads (cargas útiles) del malware sin necesidad de modificar el repositorio en sí. La ejecución del script Python implica la deshabilitación de la verificación SSL, la decodificación de una URL Base64 alojada en JSON Keeper y la ejecución de comandos PowerShell para descargar y ejecutar el siguiente nivel de malware.
El script PowerShell es el componente central del ataque, responsable de descargar el siguiente nivel de malware desde el dominio "api.eth-fastscan[.]org". Este dominio, utilizado como servidor de entrega, permite a los atacantes controlar y modificar la actividad del malware en tiempo real. Una vez descargado, el script prepara el entorno del sistema, elevando los privilegios mediante un "User Account Control" (UAC) prompt, configurando exclusiones para el software antivirus Microsoft Defender y configurando una tarea programada para ejecutar un script PowerShell. La tarea programada es fundamental para la persistencia del malware, permitiendo que el código malicioso se ejecute de forma continua y evite la eliminación. El malware final, diseñado como un "information stealer", es capaz de capturar capturas de pantalla, robar datos de Discord, billeteras de criptomonedas, extensiones del navegador (basadas en Chromium y Gecko), metadatos del sistema, frases de semilla de billeteras y configuraciones de software como FileZilla. La capacidad de detectar y evadir la detección por parte de los sistemas de seguridad, como la deshabilitación de AMSI (Antimalware Scan Interface) y ETW (Event Tracing for Windows), es un elemento clave en la estrategia de los atacantes, aumentando significativamente la probabilidad de éxito del ataque.
Contexto y antecedentes
Este incidente se enmarca dentro de una tendencia creciente de ataques de cadena de suministro dirigidos a la comunidad de código abierto, aprovechando la confianza que los usuarios depositan en proyectos de código abierto y plataformas como Hugging Face. La facilidad con la que se pueden crear repositorios falsos y la rapidez con la que se pueden distribuir a través de estas plataformas representan un riesgo significativo para la seguridad de los usuarios. El aumento en la popularidad de los modelos de lenguaje de gran tamaño (LLM) y las herramientas de IA ha creado un mercado lucrativo para los atacantes, que buscan explotar la vulnerabilidad de los usuarios que buscan soluciones para proteger su privacidad y seguridad. Otros casos recientes de desinformación en plataformas de código abierto han puesto de manifiesto la necesidad de una mayor colaboración entre las plataformas, los desarrolladores y los usuarios para combatir estas amenazas. El ataque a Hugging Face se suma a una serie de incidentes que demuestran la importancia de implementar medidas de seguridad robustas en todas las etapas del ciclo de vida de un proyecto de código abierto, desde la creación hasta la distribución y el mantenimiento.
Además, la proliferación de herramientas como “anthfu/Bonsai-8B-gguf” y “anthfu/Qwen3.6-35B-A3B-APEX-GGUF” que utilizan técnicas similares para distribuir malware, demuestra la sofisticación de los atacantes y su capacidad para adaptarse rápidamente a las nuevas amenazas. La utilización de GGUF (GPT-Generated Unified Format) para distribuir modelos de lenguaje de gran tamaño ha facilitado la distribución de malware a través de canales populares como Hugging Face. La práctica de utilizar "JSON Keeper" como servidor de "dead drop" es una táctica común en ataques dirigidos a la comunidad de código abierto, permitiendo a los atacantes cambiar los payloads del malware de forma remota y evitar la detección por parte de los sistemas de seguridad. La rápida respuesta de Hugging Face al deshabilitar el repositorio y alertar a la comunidad ha sido un ejemplo de cómo se deben abordar estos incidentes, pero también destaca la necesidad de una mayor vigilancia y concienciación por parte de los usuarios.
Impacto y afectados
El impacto directo de este ataque se ha centrado en los usuarios que descargaron y ejecutaron el repositorio falso. Aunque la información robada no ha sido aún publicada, la capacidad del malware para acceder a información sensible, como contraseñas, datos financieros y configuraciones de software, representa un riesgo significativo para la seguridad de los usuarios. Las empresas que utilizan estos dispositivos también se ven afectadas, ya que el malware puede comprometer la seguridad de sus sistemas y datos. La escala del problema es considerable, dado que el repositorio alcanzó más de 244.000 descargas en un período de 18 horas, lo que indica un amplio alcance de la propagación del malware. El hecho de que el repositorio fuera rápidamente deshabilitado por Hugging Face ha mitigado el impacto inmediato, pero la posibilidad de que otros usuarios ya hayan sido infectados sigue siendo una preocupación. La reputación de Hugging Face también ha sufrido un golpe, lo que podría afectar a la confianza de los usuarios en la plataforma.
La magnitud del impacto se ve agravada por la naturaleza del malware, que está diseñado para robar una amplia gama de información sensible, incluyendo datos personales, credenciales de acceso, configuraciones de software y metadatos del sistema. Este tipo de información puede ser utilizada para realizar ataques de phishing, robar identidades o comprometer la seguridad de los sistemas de las víctimas. Además, el uso de técnicas para evadir la detección por parte de los sistemas de seguridad, como la deshabilitación de AMSI y ETW, aumenta significativamente la probabilidad de éxito del ataque. El incidente pone de manifiesto la necesidad de una mayor colaboración entre las plataformas de código abierto, los desarrolladores y los usuarios para prevenir y mitigar estos tipos de ataques.
Medidas de mitigación y recomendaciones
Los usuarios que hayan descargado y ejecutado el repositorio Open-OSS/privacy-filter deben tomar medidas inmediatas para proteger sus sistemas. Lo primero que deben hacer es eliminar el repositorio de su sistema y eliminar cualquier script o archivo asociado con el malware. También deben revisar cuidadosamente sus contraseñas y cambiar cualquier contraseña que puedan haber utilizado en sistemas vulnerables. Además, deben instalar software antivirus y cortafuegos actualizados y configurar un cortafuegos para bloquear el acceso a sitios web maliciosos. Es crucial verificar la autenticidad de cualquier recurso descargado de plataformas como Hugging Face, verificando la reputación del desarrollador y la información del modelo. Se recomienda utilizar herramientas de análisis de código abierto para detectar posibles vulnerabilidades y malware en los recursos descargados.
Asimismo, los usuarios deben ser conscientes de las tácticas utilizadas por los atacantes, como el "typosquatting" y la manipulación de modelos de lenguaje de gran tamaño. Deben ser especialmente cautelosos al descargar recursos de fuentes no oficiales y verificar la autenticidad de cualquier información antes de confiar en ella. Las empresas deben implementar políticas de seguridad sólidas para proteger sus sistemas y datos, incluyendo la capacitación de los empleados sobre las amenazas cibernéticas y la implementación de controles de acceso estrictos. Se recomienda realizar auditorías de seguridad periódicas para identificar y corregir posibles vulnerabilidades. Además, las plataformas como Hugging Face deben fortalecer sus medidas de seguridad para prevenir la propagación de malware, incluyendo la implementación de sistemas de detección de amenazas y la verificación de la autenticidad de los repositorios.
Conclusión
El incidente con el repositorio Open-OSS/privacy-filter es un claro ejemplo de la creciente sofisticación de los ataques cibernéticos y la vulnerabilidad de la comunidad de código abierto. La rápida escalada del repositorio falso y la capacidad del malware para robar información sensible demuestran la necesidad de una mayor vigilancia y concienciación por parte de los usuarios. Las implicaciones a medio y largo plazo de este ataque son significativas, ya que pone de manifiesto la importancia de la seguridad en el desarrollo y la distribución de software de código abierto. La confianza que los usuarios depositan en proyectos de código abierto es fundamental para su éxito, pero también implica una responsabilidad compartida para protegerlos de las amenazas cibernéticas. Es crucial que las plataformas, los desarrolladores y los usuarios trabajen juntos para fortalecer la seguridad de la comunidad de código abierto y prevenir futuros incidentes similares.
El incidente subraya la necesidad de una mayor inversión en investigación y desarrollo de herramientas de seguridad para la inteligencia artificial y en la formación de profesionales de la ciberseguridad. La capacidad de detectar y prevenir ataques como este depende de la innovación y la colaboración entre diferentes actores del sector tecnológico. La proliferación de modelos de lenguaje de gran tamaño (LLM) y herramientas de IA presenta tanto oportunidades como riesgos, y es fundamental abordar estos riesgos de forma proactiva para garantizar que estas tecnologías se utilicen de forma segura y responsable. En definitiva, el incidente con el repositorio falso de OpenAI sirve como una llamada de atención para la comunidad tecnológica, recordándonos la importancia de la seguridad y la necesidad de una mayor colaboración para proteger nuestros sistemas y datos.
Fuente original: The Hacker News
0 Comentarios