Disrupt or Defend? An AI Grudge Match

0:00:05 Emily Wearmouth: Hola y bienvenidos al podcast Security Visionaries, un lugar donde reunimos expertos para hablar sobre ciberdatos, seguridad, infraestructuras y todo tipo de cosas interesantes. Soy una de tus anfitrionas, Emily Wearmouth. Y hoy espero iniciar un poco de pelea. Déjame explicarme. Últimamente he estado pensando en cómo los CIOs y los CISOs parecen tener un mandato casi contradictorio respecto a la IA cuando hablan con sus CEOs y les asignan sus tareas del día. Así que tienes al CIO que, en mi opinión, se le pide específicamente que corra por los pasillos de una organización rompiendo cosas, encontrando eficiencias, oportunidades de productividad, fuentes de ingresos de Nuevo, pero literalmente siendo invitado a desmontar cosas y reconstruirlas con IA como parte de ese proceso, lo cual suena genial. Pero lo que ocurre al recorrer esos mismos pasillos es un CISO cuyo mandato del CEO es defender a la Organización, especialmente ante amenazas emergentes que puedan afectar a la IA. Así que de eso quiero que hablemos hoy en el podcast, y tengo dos invitados excelentes que, con suerte, nos ayudarán a superar esta pequeña disputa. Voy a Inicio presentando a nuestro primer invitado, que representa al rincón CIO del ring de boxeo, Mike Anderson. Así que Mike, bienvenido al podcast.

0:01:19 Mike Anderson: Es un placer estar aquí. Tengo ganas de la conversación. Esperemos que podamos hacer que sea un combate divertido.

0:01:24 Emily Wearmouth: Sí, eso espero. Mike es el Director de Datos e Información en Netskope, la empresa de seguridad y redes a la que pondré a mis lectores. Se incorporó a Netskope procedente de Schneider Electric y también ocupa numerosos cargos en consejos asesores. Cuando busco invitados para el podcast, hago Intentar y miro en profundidad en su currículum para ver lo que hicieron al principio de su carrera con Intentar y hacerme una idea de cómo podrían abordar la conversación. Y Mike, lo noté muy pronto que puedo ver las pequeñas gotas de sudor y miedo sobre lo que hay al principio de tu currículum. Mike, me di cuenta muy pronto de que trabajaste mucho con proveedores de servicios de aplicaciones en integración de datos. Así que pienso que probablemente estás abordando esto, la idea de integraciones de Datos e IA sin ningún miedo. ¿Es justo, Mike?

0:02:08 Mike Anderson: Sí, ningún miedo salvo el miedo en sí.

0:02:13 Emily Wearmouth: Bueno, bienvenidos al pódcast. Permítanme presentar a nuestro otro invitado porque pensé que, aunque sería genial tener un CIO y cualquier CISO cualquiera, sería aún más divertido si fuera el CISO que realmente trabaja con Mike día a día, porque no estarán hablando teóricamente y podrían tener ya algún problema en la pelea. Nuestro otro invitado es James Robinson, que es el CISO en Netskope. Bienvenido al podcast, James.

0:02:36 James Robinson: Sí, estoy aquí para defender.

0:02:41 Emily Wearmouth: Así que el CV de James trata sobre aplicaciones Datos y seguridad en la nube. Empezó en roles de analistas técnicos e ingenieros de sistemas, y vi a James muy pronto en tu carrera que trabajaste en una cervecería importante. Así que quizá podamos tener una conversación offline sobre algunas de las ventajas de ese trabajo

0:02:59 James Robinson: En cualquier momento. Solo si podemos hacerlo con una copa.

0:03:03 Emily Wearmouth: Genial. Vale, ¿nos metemos en ello? Así que quería empezar con una pregunta para ti, Mike. Cuando buscas, recorres estos pasillos y ves el panorama general de una Organización, ¿cómo determinas en qué debéis invertir tu tiempo tú y tu equipo para asegurarte de no limitarte a buscar en los bordes y encontrar los proyectos de IA que tienen mayor impacto potencial para una Organización? ¿Dónde vas a buscar?

0:03:29 Mike Anderson: Bueno, la primera es cuando tenemos un proceso muy bien definido porque si lanzas una tecnología, no importa cuál sea, en un proceso malo, simplemente te lleva al mismo resultado más rápido. Así que lo primero es asegurarnos de que tenemos un proceso sólido. Y una de las cosas que siempre digo y digo a los equipos es que se aseguren de seguir los ingresos. ¿Cómo estamos ganando dinero como organización y dónde está su fricción en ese proceso? ¿Y cómo podemos usar la tecnología Usar para ayudar a reducir esa fricción? Así que cuando piensas en IA, no es diferente de la automatización robótica de procesos o cualquier otro tipo de herramienta que hayamos visto en este ámbito en los últimos 20 años. Simplemente, ¿cómo nos aseguramos de aplicarlo adecuadamente? Y la IA no es un enfoque único para todos. Puede que no haya un buen caso Usar para IA en áreas específicas y puede que sea IA junto con otras herramientas en el arsenal también.

0:04:20 Emily Wearmouth: Y James, cuando empiezas o simplemente estás de pie viendo cómo el equipo de Mike crea caos, ¿cómo logras abrazar a la IA? ¿Cuál es tu punto de partida?

0:04:31 James Robinson: Sí, creo que una de las cosas que, para ir en contra, diría a este tema, Mike y yo encontramos algo de terreno común en la alfabetización. Así que una de las cosas que Inicio para identificar era que la gente no sabía cuáles eran sus límites, cuánto debían compartir, qué estaba aprobado, qué no, y ese tipo de cosas. Así que hacer cosas como Promptathon, creo, fue un muy buen ejemplo donde debería haberme puesto esa camiseta en vez de esta. Pero

0:05:00 Emily Wearmouth: Explícanos a qué te refieres con apuntador activado. Veo que para el oyente llevas un Hackathon, pero acabas de decir Promptathon. ¿Qué es eso?

0:05:09 James Robinson: Así que la idea era que Intentar para que algunas personas fluyeran ideas, usar herramientas de IA aprobadas para nosotros, era Gemini internamente, usar eso y luego Inicio para crear ideas y diferentes cosas que pudieran hacer. También fue muy claro que comenzó para delinear algunos de los límites que la gente podría o no debería bajar para que pudiéramos usar Netskope Datos y demás. Así que eso elevó el nivel de conocimiento de todos porque estaban haciendo proyectos, usaban IA Usar a diario y lo usaban para divertirse. Así que fue un tema de concienciación educativa. Eso fue como Inicio para marcar la marca no solo de impulsar la educación y el conocimiento de la educación en seguridad, sino también una educación general sobre el ámbito. Somos una empresa tecnológica, así que para nosotros había muchos proyectos diferentes relacionados con IA y genIA, pero con eso se centró y también marcó la marca de lo que es apropiado y lo que no. Esa es una de las áreas. La otra zona que inicio a mirar es simplemente esa superficie de ataque. Creo que el sector ha definido muy, muy bien qué es la gestión de superficies de ataque en relación con redes, sistemas y cosas que pueden estar expuestas. Pero la superficie de ataque también puede venir en la IA sombra y puede venir incluso del Usar de una aplicación de grabación para que hagamos este podcast. ¿Qué pasa si ese Ahora tiene IA incrustada? Nadie lo sabía realmente. No lo revisamos, no lo pasamos por seguridad, ni frenamos, ni ralentizamos los proyectos en el sentido tradicional de seguridad, sino que realmente nos aseguramos de que la IA esté segura y que no aprenda de los datos que subimos porque no queremos llevar ese alcance a datos internos o si tenemos un caso usar donde intentamos hacer algo y construir un producto para un cliente Datos o algo así y estamos empezando a enseñar a la IA, ahí es donde realmente nos encontramos en conversaciones difíciles en lugares complicados. El caso Usar y el beneficio, incluso bien documentado, pueden estar ahí, pero si no sabemos si están usando la información que subimos, si no saben que estamos usando eso y enseñando a su IA, bueno, eso es un problema. Así que ahí es donde tenemos que frenar de golpe. Ahí es donde SABER lo saber se convierte en no, no podemos hacer eso y poner esa línea. Pero, de nuevo, volviendo a subir el listón con la educación, así que tenemos ese terreno y superficie común sobre los que todos podemos hablar. Y luego, Inicio para ver cuáles son esas áreas de IA sombra en las que necesitamos conectarnos y luego pivotar desde ahí.

0:07:41 Mike Anderson: Sé que tenemos suficientes vídeos grabados tuyos, solo Ahora, James para crear un deep fake tuyo, así que lo agradezco. Así que, hablando de dónde vamos a subir este vídeo, simplemente diciendo que apruebo, apruebo, apruebo. Lo tenemos controlado.

0:07:56 Emily Wearmouth: Así que vale, quizá debería haber invitado a alguien más al podcast, un usuario más anónimo, porque parece que vosotros dos, con vuestro promptmarathon, estáis avanzando más sincronizados de lo que quizá yo había planteado al principio de esta conversación y que quizá sean esos Usar Caso en la sombra que emergen de unidades de negocio aleatorias los que pueden ser más problemáticos aquí y menos ese enfoque organizacional centralizado hacia la IA.

0:08:20 James Robinson: Te diré que donde entra el conflicto es en la capacidad de ir tan rápido desde la perspectiva de la revisión de seguridad. Mike y yo hablamos todo el tiempo sobre que esto se quedó atascado o que no avanza lo suficientemente rápido o que este Usar Caso está simplemente parado y lleva dos semanas sin hacer nada. ¿Puedes pedir al equipo que lo revise? Y creo que ahí es donde Inicio está en conflicto para que la mayoría de los equipos se apoyen. Obviamente, el mandato es lograr una mayor eficiencia, operacionalizar la IA y hacer todas estas cosas, queremos que eso también ocurra en el área de seguridad, pero estamos intentando aprovechar nuestros procesos y procedimientos y, sinceramente, a veces simplemente no son lo suficientemente rápidos para el negocio. Y eso es una de las cosas que, como líder, siempre intento buscar y intentar averiguar si podemos usar IA nosotros mismos para acelerar eso. ¿Por qué no usar la eficiencia de la IA para poder acelerar las cosas nosotros mismos? Así que intentamos hacer lo mismo, pero no estamos operando tan rápido como diría que la empresa quiere que hagamos. Y ahí es donde Inicio para entrar en conflicto sería en esos escenarios o no nos entendemos, y es," sin hablar por Mike, pero sería algo como, Oye, esto es un Usar Caso sencillo y fácil. No entiendo por qué se cuelga o por qué va tan lento." Bueno, no es que uno cuelgue o se quede lento. Es que tenemos una avalancha de ellos llegando de varias unidades de negocio y los equipos en la lista de pendientes es grande. Más de 1.200 evaluaciones