0:00:01.4 Emily Wearmouth: Hola y bienvenidos al podcast de Visionarios de la Seguridad. Hoy me acompaña un invitado con el que he querido coger un ratito de tiempo, y no solo porque tiene un gran título de trabajo, sino porque tiene un gran título de trabajo. Mark Day es científico jefe y lo hace para la empresa de ciberseguridad y redes Netskope. Bienvenido al espectáculo, Mark.
0:00:20.1 Día de la Marca: Gracias, Emily. Es un placer estar aquí.
0:00:22.6 Emily Wearmouth: Ahora, antes de sumergirnos en el tema sobre el que planeo interrogarte un poco hoy, ¿podrías contarnos un poco sobre ti y tus antecedentes?
0:00:29.6 Día de la Marca: Seguro. Como has dicho, soy el científico jefe de Netskope. Hice mi trabajo de posgrado en el MIT, donde tengo un doctorado. Soy un experto en sistemas distribuidos y he realizado muchos trabajos de diferentes sistemas distribuidos a lo largo de los años en una variedad de empresas tecnológicas, siendo Netskope la actual.
0:00:52.4 Emily Wearmouth: Así que ayúdame a entender, cuando pienso en ciencia, mi cerebro inmediatamente se va a pipetas y tubos de ensayo. Pero ayúdame a entender cuál es el papel del científico jefe en una empresa de tecnología, en particular, ¿cómo trabajas junto a un ingeniero jefe, un director de producto, un director de tecnología? ¿Dónde encajas en esa mezcla?
0:01:09.1 Día de la Marca: Bueno, mi papel aquí es en gran medida uno de hacer buenas preguntas y luego reconocer cuándo estoy obteniendo buenas respuestas, o tal vez no tan buenas, y presionar para obtener mejores respuestas cuando lo necesito. Y así, un enfoque particular mío ha sido la infraestructura, la plomería, si se quiere. Y por lo tanto, sé lo suficiente como para ser peligroso sobre todos los diferentes tipos de tecnologías que intervienen en la construcción de la solución de Netskope. Y por lo tanto, estoy bien posicionado cuando las cosas van mal o cuando necesitamos movernos en una dirección diferente para entender cuáles son los problemas y tal vez encontrar a las personas que mejor pueden lograrlo dentro de la Organización. Así que en parte es una cuestión de ser un receptor de un montón de cosas técnicas extrañas que podrían estar materializándose y que aún no son del portafolio de otra persona, y también de estar preparado para ir y hacer preguntas y no preocuparme demasiado si estoy haciendo preguntas estúpidas. Así que ahí es donde el doctorado es útil, que puedo decir que si no entiendo algo, probablemente sea realmente difícil o genuinamente nuevo.
0:02:25.1 Emily Wearmouth: Esa es una forma muy clara de... Realmente quiero tu trabajo, Mark. Voy a exponerlo ahí. Me iré al MIT. Estoy detrás de tu trabajo.
[risas]
0:02:33.1 Emily Wearmouth: Ahora, en este punto voy a poner una pequeña advertencia de contenido. Si no lo viste en el título del programa, este episodio será una palabrota. Es leve, pero si eres protector con las orejitas sensibles que pueden estar colgando de tus pies mientras escuchas y preparas la cena, aquí está tu advertencia de que seremos Usar en su totalidad la palabra que a menudo se acorta a BS. Y hay una razón para ello, lo prometo. Pero tal vez sacar a algunas personas de la cocina. De acuerdo, aviso debidamente entregado. Mark, hace unos meses me dijiste que los grandes modelos de lenguaje eran una mierda y que, a pesar de eso, crees que aún pueden ser increíblemente valiosos, lo que parece enormemente contradictorio. Entonces, comiéntanos con ¿por qué crees que los LLM o los modelos de IA son tonterías?
0:03:18.2 Día de la Marca: Derecha. Bueno, esta no es una idea original. Todo lo que realmente he hecho es recoger y abrazar un artículo publicado que hizo el punto... El título del artículo era ChatGPT es una mierda. Y el punto es que hay una noción técnica de mierda en la filosofía moral donde básicamente se trata de describir el comportamiento en el que estás diciendo lo que sea necesario para hacer tu Caso sin tener en cuenta si es cierto o no. Y esto es algo que podemos identificar a la gente haciendo. Y, ya sabes, a veces está bien y a veces no. Pero es una característica de estos grandes modelos de lenguaje que está recibiendo mucha atención en el espacio de la IA, porque fundamentalmente la forma en que funciona un gran modelo de lenguaje es que construye cosas que son plausibles y construye cosas que suenan bien en función de lo que se le ha entrenado, pero no tiene ningún concepto de lo que es cierto y lo que no es cierto. Así que, en un sentido cuasi definitorio, los grandes modelos de lenguaje son intrínsecamente tonterías. No saben hacer nada diferente a eso.
0:04:33.0 Emily Wearmouth: ¿Es por eso que tenemos problemas como las alucinaciones dentro de los sistemas de IA?
0:04:37.8 Día de la Marca: Sí, la alucinación es la forma educada de referirse a la mierda.
[risas]
0:04:42.2 Marca el día: Y creo que uno de los servicios de ese artículo fue señalar que cuando los investigadores de IA hablaban sobre el hecho de que sus modelos a veces alucinaban o que había un problema con las alucinaciones y que se necesitaba realizar más investigación al respecto, lo que en realidad estaban haciendo es el hecho de que sus modelos eran tonterías. Y como dije, creo que, aunque ciertamente hay desacuerdos sobre esto dentro de la comunidad de IA, creo que hay buenas razones para pensar que, dada la forma en que funcionan los grandes modelos de lenguaje, que es efectivamente que están produciendo estadísticamente oraciones probables en lugar de hacer referencia a algún tipo de cuerpo de conocimiento, Creo que son intrínsecamente tontos. Y lo que llama la atención es la frecuencia con la que se las arreglan para contar algo que resulta ser cierto, en contraposición al hecho de que de vez en cuando nos damos cuenta de que es una mierda.
0:05:41.5 Emily Wearmouth: Eso es fascinante. Entonces, está bien, no soy fanático de las falsedades, así que convénceme, ¿cómo puede algo que intrínsecamente ignora los conceptos de verdad, cómo puede tener valor? Requerimos una confianza con los sistemas que utilizamos. Entonces, ¿cómo podemos construir una confianza con estos sistemas que sabemos que nos están mintiendo?
0:06:00.0 Día de la Marca: Bueno, el desafío aquí no es necesariamente que estén buscando mentirnos o que mientan el 100% de las veces. Creo que otra metáfora útil que algunas personas usan para la IA generativa para grandes modelos de lenguaje es el pasante como servicio. Y eso capta la idea de que es como si acabaras de contratar a un pasante y supiera muchas cosas, pero realmente no entendiera cómo funciona tu organización o qué te importa o cómo se arman ciertos aspectos del mundo. Y así pueden cometer algunos errores muy tontos. Y creo que hay una cualidad similar a la IA en la que puedes ir y hacerle un cierto tipo de pregunta y te dará una respuesta fabulosa de inmediato. Y tú dirás, no sé cómo viví sin esto. Y luego puedes preguntarle algo similar y te sale algo que sabes que está absolutamente mal. Y dices, bueno, eso fue terrible. Y aparte de saber de lo que estás hablando, no sé si tienes una forma de protegerte contra eso.
0:07:11.7 Emily Wearmouth: Nuestros oyentes tienden a ser líderes dentro de la seguridad, los campos de datos, tecnología. ¿Qué proceso de pensamiento aconsejarías a las personas que ponen sus ideas a través de ellas cuando están pensando en las tareas que le darían a este tipo de sistemas?
0:07:24.9 Marca el día: Desea comprender la sabiduría convencional sobre un tema en particular con el que no está familiarizado. Esa es una gran tarea para una IA. Si quieres que resuma un gran corpus de cosas que no tienes tiempo de leer y estás de acuerdo con que tal vez haya pequeños fallos en el camino, esa es otra gran tarea. Creo que si recurres a una IA y dices, dime cuál va a ser el producto líder del mercado en cinco años, eso es absurdo, ¿verdad? Simplemente no vas a obtener ese tipo de información. Y creo que incluso haciendo preguntas, ya sabes, recientemente estaba haciendo una pregunta técnica bastante específica. Estaba buscando escenarios que coincidieran con un problema que estaba tratando de explicar a un cliente y especificé el escenario con bastante cuidado y la IA me dio respuestas que pensé que había descartado. Y era una de esas áreas en las que, si no hubiera sabido ya bastante sobre ese espacio, habría tenido la tentación de copiar y pegar lo que decía y ponerlo en mis diapositivas y luego presentar la basura al cliente.
0:08:40.4 Emily Wearmouth: Así que hay mucha IA dentro de los sistemas de Netskope. ¿Qué tipo de cosas conseguí que hiciera la IA usted o el equipo de Netskope? ¿Y por qué te sientes cómodo haciendo esas cosas?
0:08:51.2 Día de la Marca: Lo que importa aquí es distinguir entre diferentes sabores o diferentes géneros de IA. Los grandes modelos de lenguaje, las cosas tipo ChatGPT reciben toda la atención porque es muy emocionante interactuar con una entidad que parece humana, hacerle preguntas, etc. Y casi ninguna de las IA que aportan valor en la Netskope Plataforma es de ese tipo. Lo que es mucho más común en la forma en que estamos usando IA siguen siendo los modelos de Machine Learning. No son grandes modelos de lenguaje y están realizando tareas que, cuando los humanos las hacen, requieren cierto grado de inteligencia. Y así, por ejemplo, hay un modelo en Netskope que nos permite ser capaces de identificar cosas que es muy probable que sean pasaportes o que son muy probables que sean permisos de conducir. Y ese es el tipo de cosas que se pueden lograr obteniendo un gran corpus de imágenes de pasaportes y licencias de conducir, y enseñando efectivamente a la máquina a reconocer ese tipo de cosas. Y hace esa tarea tan bien como lo hace una persona. Pero eso no se relaciona en ningún sentido con todo este tipo de, ya sabes, debería preocuparme por la respuesta que estoy obteniendo de esta IA porque tal vez me esté engañando. Así que esa es una razón por la que, en términos generales, tenemos bastante IA en la plataforma Netskope , pero no estoy muy preocupado por la mierda de Problema allí.
0:10:31.4 Emily Wearmouth: Así que Gen AI fue el gran favorito posiblemente el año pasado, y este año todos nos hemos ido de largo. Todos estamos acudiendo en masa a ver a una banda de Nuevo en la ciudad, Agentic AI. Y por eso quería preguntarte, la última vez que hablamos de esto, la IA agentica no estaba realmente en el radar. ¿Cómo podríamos tener que considerar la forma en que usamos la IA agentica si estamos de acuerdo en que también nos están engañando? ¿Es diferente o se aplica la misma precaución? Hay una gran diferencia entre generativo y agentivo. Entonces, ¿cómo se aplica esta teoría de la mierda?
0:11:01.0 Día de la Marca: Creo que, en primer lugar, personalmente creo que el jurado aún está deliberando sobre si la agentic es significativamente diferente de la Gen AI. Me inclino más por la teoría que dice que Gen AI en realidad nos dice algo interesante sobre la naturaleza del lenguaje y el mundo y el hecho de que estos procesos aparentemente relativamente simples pueden hacer cosas extremadamente no triviales. Agentic solo para mí parece mezclar algunas ideas de flujo de trabajo e interacción en la mezcla. No sé si tengo la misma sensación de que es un mundo Nuevo. Supongo que todavía puedo estar convencido, pero en este punto estoy más como, está bien, entonces la IA, después de haber tenido un gran momento llamativo, es una especie de vuelta al modo habitual en el que hay un montón de gente corriendo por ahí diciendo cosas exageradas pero que en realidad no tienen mucho que mostrar.
0:11:58.5 Emily Wearmouth: Entonces, ¿tu opinión sería que es solo una forma de marketing de Nuevo para que todos se entusiasmen con algo Nuevo nuevamente? [risas]
0:12:04.0 Día de la Marca: Sí, creo que en este momento el jurado todavía está deliberando. Estoy abierto a que me convenzan, pero todavía no estoy convencido.
0:12:09.9 Emily Wearmouth: Interesante. Ahora, debido a tu impresionante título de trabajo, permíteme preguntarte, tengo un breve coqueteo en el mundo de la ciencia ficción. ¿Qué es lo que más te entusiasma, idealmente en el ámbito de la inteligencia artificial, pero tal vez no, eso está por venir?
0:12:26.2 Marcos el día: Creo que lo que más me emocionaría que aún no he visto y que creo que veremos en algún momento, aunque posiblemente no en mi vida, es alguna forma de arte Nuevo que esté reconociblemente arraigado en la IA. Y la analogía que creo que haría aquí es con la forma en que funcionaban las películas. Y las películas eran inicialmente una novedad y la gente luego las usaba para obtener pequeños fragmentos de cosas. Y luego la gente los usaba en una especie de modo imitativo en el que filmaban obras de teatro o las primeras películas estaban muy influenciadas por lo que sucedía en el cine. Y luego hay un punto en el que se desarrolla su propio vocabulario y, posteriormente, hay obras cinematográficas que son reconocibles como obras maestras en una dimensión u otra. Y creo que estamos en una especie de etapa en la que es una novedad y la gente está usando para hacer el tonto. Y se podría decir que algunas de las cosas que la gente hace con el arte actual de la IA, en las que generas una imagen que te gusta, que está en modo imitativo, todavía no somos capaces de conceptualizar ni siquiera cuál sería el equivalente de Ciudadano Kane. Ciertamente, todavía no estamos en un punto en el que podamos imaginar una obra como El reloj de Christian Marclay. Pero me parece que la interacción de las personas con la IA acabará dando lugar a obras de arte que, en cierto sentido, son análogas.
0:14:09.7 Emily Wearmouth: Entonces, cuando estaba en la universidad, viví con alguien que estaba estudiando historia del arte, y recuerdo que se afanaba en muchos ensayos sobre ¿cuál es el significado del arte? ¿Y este artículo es arte? ¿Es este artículo arte? ¿Qué es el arte? ¿Qué es la artesanía? Vas a abrir todo un curso tipo Nuevo que esa pobre chica va a tener que hacer la próxima vez. No puede ser creado por otra cosa que no sea un ser humano. [risas]
0:14:29.6 Marcos el día: Oh, absolutamente. Absolutamente. Bueno, quiero decir, creo que la pregunta interesante no es tanto, ya sabes, ¿puede una máquina crear arte? Pero creo que alguna combinación máquina-humano va a hacer algo muy interesante.
0:14:42.5 Emily Wearmouth: Bueno, sé que mi hijo está muy entusiasmado con la IA en el futuro, lo que le permitirá ser Harry Potter sin tener que pasar por audiciones o que la fama arruine su vida. Así que todos podíamos esperar con ansias eso. [risas]
0:14:52.7 Marca el día: Aquí tienes. Exactamente.
0:14:54.9 Emily Wearmouth: Brillante. Bueno, ¿hay algo más, Mark, que quisieras dejar a nuestros oyentes cuando piensen en la IA en los próximos meses?
0:15:01.5 Día de la Marca: Creo que la sola palabra, mierda, es probablemente lo más importante con lo que hay que dejarles.
0:15:06.7 Emily Wearmouth: [risas] No queríamos llegar al final del podcast y no decir palabrotas por última vez. Muchas gracias.
0:15:11.5 Día de la Marca: Aquí tienes.
0:15:12.0 Emily Wearmouth: Bueno, gracias, en realidad, por convertirlo en nuestro episodio más grosero de todos los tiempos. Creo que lo llevamos a cabo con aplomo erudito y mucha seriedad. Así que muchas gracias.
0:15:21.2 Marcos del día: Gracias, Emily.
0:15:22.8 Emily Wearmouth: Has estado escuchando el podcast de Security Visionaries y yo he sido tu anfitriona, Emily Wearmouth. Si te ha gustado este episodio, compártelo, pero también asegúrate de seguirnos en tu podcast favorito Plataforma para que no te pierdas ningún episodio en el futuro. Nos vemos la próxima.
){kind=icon}
