Trace Id is missing

Innovación para la seguridad y la resistencia

A medida que el sector de la ciberseguridad se enfrenta a un cambio de paradigma, la inteligencia artificial ofrece el potencial de aumentar la resistencia y ampliar la habilidad, la velocidad y el conocimiento de los defensores.

Un programador informático que trabaja tarde en la oficina.
“Aunque la ingenuidad y la experiencia humanas siempre serán un componente valioso e irreemplazable de la defensa cibernética, la tecnología tiene el potencial de aumentar estas capacidades únicas con los conjuntos de aptitudes, las velocidades de procesamiento y el aprendizaje rápido de la inteligencia artificial moderna.” 
 
 - Bret Arsenault, responsable principal de seguridad de la información de Microsoft 

Respuesta con innovación innovadora

Frente a un ecosistema cibernético cada vez más complejo, la inteligencia artificial (IA) ofrece la posibilidad de cambiar el panorama de seguridad aumentando la habilidad, la velocidad y el conocimiento de los defensores.   

La inteligencia artificial también puede habilitar nuevas funcionalidades, como el uso de modelos de lenguaje de gran tamaño (LLM) para generar información y recomendaciones de lenguaje natural a partir de datos complejos y proporcionar a los analistas nuevas oportunidades de aprendizaje. 

En el Informe de protección digital de Microsoft 2023, se exploran algunos de los avances en inteligencia artificial que están transformando la ciberseguridad, los riesgos asociados a la inteligencia artificial y los sistemas de inteligencia artificial (LLM) y cómo podemos asegurarnos de que se usan para crear un futuro digital más seguro y resistente.  

Decorativo: Diseño abstracto con colores de luz en azul y verde.

¿Cómo podemos aprovechar los LLM para la defensa cibernética?

LOSM tienen el potencial de mejorar considerablemente la defensa cibernética. Los investigadores de Microsoft y los científicos aplicados están explorando y experimentando con estos y otros escenarios:
  • Análisis e inteligencia sobre amenazas

    Los LLM pueden ayudar a los ciberdefensores a recopilar y analizar datos para encontrar patrones y tendencias en las ciberamenazas. También pueden agregar contexto a la inteligencia sobre amenazas mediante el uso de información de diferentes orígenes y realizar tareas técnicas como la ingeniería inversa y el análisis de malware. 

  • Respuesta y recuperación de incidentes de seguridad

    Los LLM pueden ayudar a los ciberdefensores a respaldar y automatizar la respuesta y recuperación de incidentes de seguridad, incluida la evaluación de prioridades de incidentes, la contención, la detención, el análisis y la recuperación. Pueden resumir incidentes y generar scripts de automatización de respuestas, coordinar equipos y documentar y comunicar los detalles y las acciones del incidente. Los LLM también pueden ayudarnos a aprender de los incidentes y proporcionar sugerencias de mejora para la prevención y la mitigación. 

  • Supervisión y detección de seguridad

    Los LLM pueden supervisar y detectar eventos e incidentes de seguridad en redes, sistemas, aplicaciones y datos. Pueden analizar datos, generar alertas prioritarias y proporcionar información contextual para la investigación y la respuesta. Los LLM también pueden analizar la posición de los entornos multinube, crear mapas completos de recursos, estimar posibles impactos y ofrecer sugerencias de mitigación de riesgos. Pueden ser útiles para la detección de suplantación de identidad mediante el análisis del contenido del correo electrónico y la identificación de patrones textuales, anomalías y lenguaje sospechoso que indiquen intentos de suplantación de identidad (phishing). 

  • Pruebas de seguridad y validación

    Los LLM pueden automatizar y mejorar las pruebas de seguridad y la validación, incluidas las pruebas de penetración, el análisis de vulnerabilidades, el análisis de código y la auditoría de configuración. Generan y ejecutan casos de prueba, evalúan y notifican resultados, y ofrecen sugerencias de corrección. Los LLM pueden crear aplicaciones y herramientas personalizadas para escenarios específicos, automatizar tareas repetitivas y controlar tareas ocasionales o ad hoc que requieren intervención manual. 

  • Concienciación y educación de seguridad

    Los LLM pueden ayudar a los ciberdefensores a crear contenido y escenarios atractivos y personalizados para el reconocimiento y la educación de la seguridad. Pueden evaluar el nivel de conocimientos y aptitudes de seguridad de un público objetivo, proporcionar comentarios e instrucciones, y generar simulaciones y ejercicios cibernéticos realistas y adaptables para el entrenamiento y las pruebas. 

  • Gobernanza, riesgo y cumplimiento de la seguridad

    Los LLM pueden ayudar a automatizar las actividades de gobernanza, riesgo y cumplimiento de la seguridad, incluido el desarrollo y la aplicación de directivas, la evaluación y administración de riesgos, la auditoría y la garantía, y el cumplimiento y los informes. Pueden alinear las actividades con los objetivos empresariales y proporcionar métricas de seguridad y paneles para la medición del rendimiento. También pueden identificar brechas y problemas y ofrecer recomendaciones para mejorar la posición de seguridad de la organización, priorizar las vulnerabilidades e identificar sugerencias de corrección. 

Mujer con gafas y sosteniendo una tableta.

Reducción de la barra de entrada para usar innovaciones de inteligencia artificial modernas

Aunque las soluciones basadas en LLM muestran un gran potencial para la ciberseguridad, no reemplazan a los expertos en ciberseguridad humana. Tener los conocimientos adecuados es fundamental a la hora de combinar LOSM y la ciberseguridad. Una solución consiste en reunir las aptitudes de los profesionales de inteligencia artificial y expertos en ciberseguridad para mejorar la productividad.  

Afortunadamente, el uso de LOSM en operaciones de ciberseguridad no se limita a grandes organizaciones con recursos enormes. Estos modelos se han entrenado en grandes cantidades de datos, lo que les proporciona un conocimiento preexistente de la ciberseguridad. 

Los LLM destacan por sintetizar información compleja y presentarla en un lenguaje claro y conciso, lo que ayuda a los analistas a seleccionar el mejor análisis cibernético para diferentes escenarios. A medida que el panorama de amenazas evoluciona y las técnicas de análisis se expanden, incluso los analistas experimentados pueden tener dificultades para mantenerse al día, y los LLM pueden actuar como asistentes personales, lo que sugiere opciones de análisis y mitigación.  

Trabajar juntos para dar forma a una inteligencia artificial responsable

Programador de software informático mirando dos pantallas.

IA responsable por diseño

Con la tecnología de inteligencia artificial que se compromete a transformar la sociedad, debemos asegurar un futuro de inteligencia artificial responsable por diseño. Las prácticas de inteligencia artificial responsable son fundamentales para mantener la confianza de los usuarios, proteger la privacidad y crear beneficios a largo plazo para la sociedad.

Respetar nuestros propios estándares éticos en inteligencia artificial

Debemos liderar por ejemplo e invertir en investigación y desarrollo para estar a la vanguardia de las amenazas de seguridad emergentes. Microsoft se compromete a garantizar que todos sus productos y servicios de inteligencia artificial se desarrollen y usen de forma que cumplan nuestros principios de inteligencia artificial.

Mujer pensando en una reunión.

10 años de directivas activas de inteligencia artificial

Desde Microsoft nos comprometemos a garantizar que todos nuestros productos y servicios de inteligencia artificial se desarrollen y usen de forma que cumplan nuestros principios de inteligencia artificial. Al mismo tiempo, estamos trabajando con asociados del sector para desarrollar estándares y tecnologías que permitan información transparente y comprobable sobre el origen y la autenticidad del contenido digital para mejorar la confianza online.  

En todo el mundo, el interés por las directrices normativas sobre el desarrollo y el uso responsables de la inteligencia artificial está creciendo, y muchos países redactan documentación que ofrece orientación para administrar los riesgos emergentes asociados con las tecnologías de inteligencia artificial. Esta tendencia se ha desarrollado durante más de una década y cada vez tiene más impulso.  

An infographic displaying numbers of AI policies by country since 2014, and still active as of July 2023.
Directivas activas por entidad y año de implementación. Fuente: Observatorio de política de IA de OECD (OECD.IA) y seguimiento interno de Microsoft para 2023, enero-junio.

Explorar otros capítulos del informe de protección digital de Microsoft

Introducción

El poder de las asociaciones es clave para superar las adversidades al reforzar las defensas y hacer responsables a los ciberdelincuentes.

El estado de la ciberdelincuencia

Mientras los ciberdelincuentes siguen trabajando duro, los sectores público y privado se unen para acabar con sus tecnologías y apoyar a las víctimas de la ciberdelincuencia.

Amenazas estatales a la nación

Las operaciones cibernéticas estatales están uniendo a los gobiernos y a los actores del sector tecnológico para crear resistencia frente a las amenazas a la seguridad online.

Desafíos críticos de la ciberseguridad

A medida que navegamos por el cambiante panorama de ciberseguridad, la defensa holística es una necesidad para la resistencia de las organizaciones, las cadenas de suministro y la infraestructura.

Innovación para la seguridad y la resistencia

A medida que la IA moderna avanza a pasos agigantados, desempeñará un papel vital en la defensa y la resistencia de las empresas y la sociedad.

Defensa colectiva

A medida que evolucionan las ciberamenazas, la colaboración refuerza los conocimientos y la mitigación en todo el ecosistema de seguridad mundial.

Más información sobre seguridad

Nuestro compromiso de ganar confianza

Microsoft se compromete a usar de forma responsable la inteligencia artificial, proteger la privacidad y avanzar en la seguridad digital y la ciberseguridad.

Señales cibernéticas

Un informe trimestral de inteligencia sobre ciberamenazas informado por los últimos datos e investigaciones sobre amenazas de Microsoft. Las señales cibernéticas proporcionan análisis de tendencias e instrucciones para ayudar a reforzar la primera línea de defensa.

Informes de estado nacional

Informes semianuales sobre actores de estado nacional específicos que sirven para advertir a nuestros clientes y a la comunidad global de las amenazas que suponen las operaciones de influencia y la ciberamenaza, identificando sectores y regiones específicos con un riesgo mayor.

Archivo de Informe de protección digital de Microsoft

Explore los informes anteriores de protección digital de Microsoft y vea cómo ha cambiado el panorama de amenazas y la seguridad online en unos pocos años.

Seguir a Seguridad de Microsoft