Episodio 5. Ciberseguridad evolutiva: el rol de la GenAI 37486t

Bienvenidos a un nuevo capítulo de The GNI Era. Hoy vamos a hablar de ciberseguridad.

Cuando vamos a hablar con la mayoría de nuestros clientes, lo primero que nos preguntan y sus mayores preocupaciones están en torno a la privacidad de los datos y la seguridad. ¿Qué está pasando en las organizaciones? ¿Cómo están afrontando estos retos? ¿Cómo están protegiéndose? ¿Qué tipo de acciones están tomando? Si queréis respuestas a todo esto, quedaros que os los vamos a contar.

Tenemos a Mappy Torres, responsable de ciberseguridad en NTT Data para Iberia y Latinoamérica, que va a acompañarnos durante esta sesión para aclararnos todas las dudas y enseñarnos todo lo relativo a inteligencia artificial generativa y a seguridad en una organización. Bienvenida, Mappy. Gracias por estar aquí con nosotros y por recalarnos este rato para contarnos cómo vamos a afrontar estos retos de ciberseguridad asociados al GNI. Muchas gracias, Conchi. Encantada de estar aquí con vosotros. La primera pregunta que te voy a lanzar, muy directo. Todas las organizaciones están empezando a explorar qué pueden hacer con la inteligencia artificial.

¿Cuáles son las preocupaciones que os trasladan los CISOs cuando vais a hablar con ellos relativo a esta materia? Bueno, a ver, pues los CISOs realmente nos trasladan las preocupaciones de seguridad y privacidad. Oye, ¿cómo puedo hacer yo que mi compañía, a la hora de adoptar distintos sistemas de IA generativa, que les van a venir fenomenal para el negocio, pero cómo hacemos que esto sea seguro? Claro, muchas veces nos quedamos a ese nivel, pero qué significa realmente esa preocupación. Bueno, detrás de esta preocupación hay varios pilares.

Está el pilar de, oye, los datos que se van a usar, están completos, el resultado que me van a dar el propio sistema, ¿va a ser un resultado explicable o va a ser algo que sea complicado de poder descifrar? ¿Vamos a poder vigilar ese proceso? Y después, ¿voy a poder limitar el a la información a ciertas áreas de la organización? ¿Se va a poder limitar desde fuera el a la información? ¿Va a ser proporcional a la categoría, al rol de la persona que está dentro de la organización y lo está utilizando? O sea, hay muchas cosas detrás de esta preocupación de seguridad que obviamente luego va a depender mucho de qué tipo de organización sea, de su tamaño, incluso del negocio al que se está dedicando.

Y que es lo primero que deberían hacer los CISOs cuando se plantean implementar toda esta seguridad alrededor de la inteligencia artificial. ¿Cuáles son los pasos que tienen que ir dando? ¿Por dónde empezar? Pues el punto por el que se debería empezar es tener un framework de controles de seguridad alrededor de la IA generativa. De hecho, lo ideal es pensar en este framework sin tener en la cabeza ya sistemas que se quieran adoptar, ¿no? Para no tener algo ya preconcebido.

Entendiendo bien cuál es tu negocio, cuáles son tus datos más sensibles, cuáles son tus procesos críticos, se trata de plantear qué controles tenemos que validar ahí. Esto realmente... Existen ya frameworks en el mercado, existen legislaciones que detrás de ellas hay puntos que se tienen que revisar. Al final es tomar toda esta información y adaptarla a la propia organización. Ojo, si hay una legislación vigente en un país, las organizaciones de ese país tienen que cumplir esa legislación.

Pero además es interesante siempre tomar otro tipo de normativas y buenas prácticas y al final poder construir un framework que sea válido para la organización. Se puede empezar con un framework que sea un documento, que sea una política de seguridad, ¿vale? Luego se pueden dar pasos en realmente adquirir ciertas herramientas que nos permitan ya cumplir ese framework, pero no hace falta hacer grandes adquisiciones para pensar y planificar qué controles quiero yo aplicar a mis organizaciones.