{"id":166765,"date":"2025-11-25T03:00:51","date_gmt":"2025-11-25T11:00:51","guid":{"rendered":"https:\/\/unit42.paloaltonetworks.com\/?p=166765"},"modified":"2025-11-24T10:25:55","modified_gmt":"2025-11-24T18:25:55","slug":"dilemma-of-ai-malicious-llms","status":"publish","type":"post","link":"https:\/\/unit42.paloaltonetworks.com\/es-la\/dilemma-of-ai-malicious-llms\/","title":{"rendered":"El dilema del doble uso de la IA: LLMs maliciosos"},"content":{"rendered":"

<\/a>Resumen ejecutivo<\/h2>\n

Un desaf\u00edo fundamental con los grandes modelos de lenguaje (LLMs) en un contexto de seguridad es que sus mayores fortalezas como herramientas defensivas son precisamente las que permiten su poder ofensivo. Este problema se conoce como el dilema del doble uso, un concepto que t\u00edpicamente se aplica a tecnolog\u00edas como la f\u00edsica nuclear o la biotecnolog\u00eda, pero que ahora tambi\u00e9n es central para la IA. Cualquier herramienta lo suficientemente poderosa para construir un sistema complejo tambi\u00e9n puede ser reutilizada para romperlo.<\/p>\n

Este dilema se manifiesta de varias formas cr\u00edticas relacionadas con la ciberseguridad. Mientras que los defensores pueden emplear LLMs para acelerar y mejorar las respuestas, los atacantes tambi\u00e9n pueden aprovecharlos para sus flujos de trabajo. Por ejemplo:<\/p>\n

    \n
  1. Precisi\u00f3n ling\u00fc\u00edstica:<\/strong> Los LLMs pueden generar texto que es gramaticalmente plausible, contextualmente relevante y psicol\u00f3gicamente manipulador, avanzando el arte de la ingenier\u00eda social para campa\u00f1as de phishing<\/em>, vishing<\/em> y compromiso de correo electr\u00f3nico empresarial (BEC).<\/li>\n
  2. Fluidez de c\u00f3digo:<\/strong> Pueden generar, depurar y modificar r\u00e1pidamente c\u00f3digo funcional, incluidos scripts<\/em> maliciosos y malware<\/em> personalizado, acelerando enormemente el ciclo de desarrollo de malware<\/em> y herramientas.<\/li>\n<\/ol>\n

    La l\u00ednea entre una herramienta de investigaci\u00f3n benigna y un poderoso motor de creaci\u00f3n de amenazas es peligrosamente delgada. A menudo, ambas est\u00e1n separadas solo por la intenci\u00f3n del desarrollador y la ausencia de barreras \u00e9ticas (guardrails<\/em>).<\/p>\n

    En este art\u00edculo, examinamos dos ejemplos de LLMs que Unit 42 considera maliciosos, modelos construidos espec\u00edficamente con fines ofensivos. Estos modelos, WormGPT y KawaiiGPT, demuestran exactamente estos desaf\u00edos de doble uso.<\/p>\n

    La Evaluaci\u00f3n de Seguridad de IA de Unit 42<\/a> puede ayudar a potenciar el uso y desarrollo seguro de la IA en su organizaci\u00f3n.<\/p>\n

    Si cree que podr\u00eda haber sido comprometido o tiene un asunto urgente, contacte al equipo de Respuesta a Incidentes de Unit 42<\/a>.<\/p>\n\n\n\n
    Temas relacionados de Unit 42<\/b><\/td>\nLLMs<\/b><\/a>, Phishing<\/a><\/strong>, Cybercrime<\/b><\/a>, Ransomware<\/b><\/a><\/td>\n<\/tr>\n<\/thead>\n<\/table>\n

    <\/a>Definiendo los LLMs maliciosos<\/h2>\n

    Estos LLMs maliciosos \u2014modelos construidos o adaptados espec\u00edficamente para fines ofensivos\u2014 se distinguen de sus contrapartes convencionales al eliminar intencionalmente las restricciones \u00e9ticas y los filtros de seguridad durante su entrenamiento fundamental o proceso de ajuste fino (fine-tuning<\/em>).<\/p>\n

    Adicionalmente, estos LLMs maliciosos contienen funcionalidades espec\u00edficas. Se comercializan en foros clandestinos y canales de Telegram con una variedad de caracter\u00edsticas, incluyendo aquellas expl\u00edcitamente dise\u00f1adas para:<\/p>\n