Entrevistas de Herrero: Chema Alonso

0:06 En Casa de Herrero, con Luis Herrero, es radio. Bueno, vamos allá, amigos. Ya saben ustedes que todos los martes aprovechamos estos minutos hasta las noticias de las cinco para tratar en profundidad algún asunto que que tenga especial interés, ya sea desde el punto de vista literario, ya sea desde el punto de vista informativo, ya sea desde el punto de vista histórico, ya sea desde el punto de vista que hoy quiero tratar, que es algo que está en las conversaciones de todas y cada una de las tertulias familiares que yo conozco, que es, bueno, para entendernos, la inteligencia artificial. Hay un enorme temor a que la inteligencia artificial acabe destruyendo con el mundo que conocemos, con el mundo laboral. Yo estoy rodeado de gente que está temblando porque dice¿ y mi puesto de trabajo cuánto va a durar?¿ Y la inteligencia artificial va a ser capaz de hacer lo que yo hago?¿ Tengo un hijo que está a punto de estudiar?¿ Qué hago con él? Es decir,¿ que vaya a la universidad para hacer algo que la inteligencia artificial ya hace mejor que él?¿ Por dónde tengo que encaminar esas tendencias? Bueno, esto es solo por hablar de algunas cosas que están, digo, en el orden del día porque ya todos tenemos más o menos la experiencia de lo cómodo que es de repente, pues si tienes que hacer, hablo de un caso personal, poner orden en tus finanzas. Yo que soy bien perezoso y de letras y que no sé sumar y que cada vez mejor tenía que puntear todas las cosas que sucedían en mi cuenta bancaria, ahora le doy el extracto a una inteligencia

1:40 artificial y me lo ordena y me lo suma y yo no tengo que hacer nada. Bueno, quien es, ustedes lo saben, no voy a perder ni un minuto más en presentarlo, porque ha sido colaborador de nuestro programa, confío en que lo vuelva a ser cuando se lo permita su tarea profesional, Chema Alonso, que se hizo conocidísimo por ser el hacker, ya nos aclaró en muchas ocasiones que hacker no es un término peyorativo. Don Chema Alonso, bienvenido antes de nada, buenas tardes, porque me gustaría hablar. Buenas tardes, me encanta, cuánto echo de menos estar escuchándote, Luis, me encanta, te estaba escuchando y digo, yo quiero volver ya. Bueno, pues no, pero al final, bueno, déjame que te pregunte por ese cambio, porque cuando estabas en Telefónica eras uno de los hackers más conocidos del mundo, luego te fuiste a Cloucer, que es una empresa, yo de esto sabes que sé muy poquito, lo que sé es que se dedica precisamente a la seguridad en Internet, es decir, para que todos podamos estar tranquilos y saber... Que lo que hacemos en las redes está bien protegido.¿ Más o menos es eso?

2:35 Bueno, Cloudflare es una empresa muy grande en el mundo de Internet. Es el anillo de seguridad de Internet en el Edge, en lo que se llaman los servidores de borde, que es lo que está más cerca de los de los usuarios cuando se conectan desde sus casas y desde teléfonos móviles, son unos servidores especiales que están muy cerquita, entonces se hace que todo vaya mucho más rápido en Internet y es un anillo de seguridad y para que la gente se haga un poco la idea, porque los servicios muchos son gratuitos para proteger a los usuarios, es una de las misiones que tiene esta compañía, nació con la misión de hacer un mejor Internet para todos y se están bloqueando 234 billones, billones americanos, billones de ataques al día en Internet de la plataforma de Cloudflare. Ese es el nivel de virulencia que tenemos hoy en día en Internet.

3:25 Y si de repente dejáramos de dar este servicio en Cloudflare, pues la seguridad y los servidores de las páginas web de muchos países, de las empresas de muchos países, pequeñas y medianas empresas, etc., pues tendrían un serio problema para funcionar en Internet Sabes que los periodistas somos gente de mala leche en general y tenemos que hacer preguntas comprometidas. Te lo digo porque, claro, si alguien nos escucha y alguien está en los antecedentes y dice, o sea, que Klauffler es, digamos, el cancerbero, el que tiene que velar precisamente para que no haya riesgos. Pero¿ no fue Klauffler la que fue acusada por la Liga de Fútbol Profesional de estar amparando la piratería?¿ Cómo se puede proteger y al mismo tiempo amparar la piratería?

4:08 No, no, nosotros no amparamos la piratería, ni mucho menos. Pero sabes que esa denuncia se hizo. Bueno, denuncia pública, se hizo una denuncia pública, pero Cloudflare no ha estado... Primero, no ampara la piratería, para nada, están nuestros términos y condiciones y hemos sido claros siempre con ello. Segundo, luchamos activamente contra todos los piratas que hay en Internet, activamente, de hecho tenemos... Un track record, un historial de luchar contra ellos y de bloquearlos y de tumbar grandes grupos organizados, que estos no son cuatro chavales en internet compartiendo una página pirata o un canal pirata, no, no, estamos hablando de grandes organizaciones que están... en países offshore donde son paraísos legales y la piratería no es ningún delito y que además utilizan servidores de la Darknet, servidores creados que se llaman Bulletproof, a prueba de balas, porque los que trabajan en esos servidores, en esas empresas para darles servidores...

5:08 trabajan a favor de los cibercriminales, no trabajan a favor de los cuerpos de seguridad del Estado que están luchando contra ellos. Si alguien intenta entrar, lo bloquean para esto. Entonces, no solo estamos... Estamos en contra de la piratería, luchamos activamente con ella, sino que estamos trabajando con proveedores de contenido de todo el mundo para ir más rápido y proteger mejor los derechos. La piratería, hoy en día, tú te vas a una de estas páginas web piratas que tienen distribuidores. A veces el distribuidor es una persona del barrio que se ha dado de alta como distribuidor en esta empresa pirata. Pues estos te dan el béisbol, la NBA, la Bundesliga, la Fórmula 1, la NASCAR. Tienen más películas y más series que la suma de tu Netflix, Disney, Movistar Plus, Prime Video juntos y todos a tarifas que son 85 euros por tres años o cosas así. Entonces es un negocio muy rentable para los cibercriminales en el que tenemos que trabajar todos coordinados para... para reducir y luchar con ellos.

6:16 Y a nosotros, lógicamente, aparte de todo que está en contra de nuestros términos y condiciones y de que estamos luchando con ellos, nos genera unos costes tremendos que queremos, lógicamente, que no los generen. Bueno, vamos a abordar esta cuestión que creo que efectivamente está en el ánimo y en la preocupación de tantos ciudadanos de España y del mundo entero.¿ Es verdad lo que a veces leo, de que el 80% de los puestos de trabajo ahora mismo podrían ser prescindibles? Es una pregunta difícil y que la respuesta puede ser difícil y dura. Es verdad que lo que estamos viendo es que muchas de las tareas que hace la inteligencia artificial hoy en día son tareas por las que están pagándose a puestos de trabajo a personas y muchas de las cosas que antes tenías a una persona ahora se pueden empezar a hacer con inteligencia artificial. Yo sí que veo ese riesgo, lo llevo viendo muchos años, hemos hablado de ello muchos años. desde que la inteligencia artificial empezó a crecer. No ha sido un periodo de dos años.

7:21 Ha sido un poco casi como el metaverso y las criptomonedas. La gente pensaba que la inteligencia artificial era igual, porque... Esto nace en el año 1950, cuando Alan Turing habla del test de Turing y habla de la película famosa de Imitation Game, donde empezaba a preguntarse si la inteligencia artificial podía pensar, si las máquinas podían pensar. Entonces, desde 1950 hasta el año 2010... no se tienen todas las piezas tecnológicas necesarias. Es necesario avanzar mucho en potencia de cómputo, que esto no llega hasta que en el año 2010 tenemos cloud computing y está democratizado el acceso a grandes cantidades de cómputo a un coste muy bajo, que es lo que sucede en el año 2010. Previamente necesitábamos muchos datos y hasta que el año 2004 no aparecen las técnicas de Big Data, pues no se podía... procesar muchas cantidades de datos en tiempo útil y antes de eso necesitábamos los algoritmos de inteligencia artificial, que son los de las redes neuronales, que son los que les otorgaron el premio Nobel recientemente, ¿no? Pero una vez que se dan esas tres piezas, que ya tienes Big Data, que tienes Cloud Computing y que tienes algoritmos de inteligencia artificial, pues ha ido muy rápido. Esto fue en 2010 y de 2010 a 2020, en esa década, hemos visto eclosionar y la inteligencia artificial... Cada mes hay una novedad, ¿eh? Claro, claro. Bueno y cada semana y cada día. O sea, esto es tremendo.

8:48 Y a todos los que estamos en este mundo, que yo lo llevo viendo muy de cerca, muchos años, con las redes generativas, con la GNI, yo empecé a dar conferencias... En el año 2017 empezamos a hablar de, oye, van a llegar esto de las deep space, de las suplantaciones de personas y demás. Pues todo lo que estamos en el mundo nos genera esta ansiedad, ¿no? De, oye,¿ qué hacemos?¿ Qué hacemos? Ahora con los agentes... estamos viendo que pueden hacer cosas maravillosas en el mundo del marketing de las finanzas, en el mundo de la gestión de la información, en el mundo de generar contenido. Hoy en día escriben. El otro día hablaba con Arturo P. Reverte que en el año 2019...

9:30 Cuando la inteligencia artificial estaba empezando, yo hice un proyecto con Arturo donde le pedí crear una inteligencia artificial del año 2019 para escribir, le daba un texto y lo transformaba para que se pareciera a los textos del Capitán Alatriste de De Arturo P. Reverte. Y entonces fue un poco divertido. Y es verdad que daba como el tufillo a que se parecía a Arturo P. Reverte. Pero era un filtro malo. Era como ponerle pintura por encima de algo que no estaba bien. Y él se reía. De hecho, él reescribió el texto que hizo la inteligencia artificial a su estilo. Y hizo un texto maravilloso. Está publicado en la web de Zenda Libros. Y pues hace no demasiado hablaba con él, hace poco, que yo tengo la suerte de disfrutarlo de cerca de vez en cuando, y estábamos hablando y me decía, Chema, es que ya empieza a escribir como yo, es que ya veo lo que escribe cuando le digo que escriba como Arturo P. Reverte y se parece mucho a mí.

10:34 Pues eso trasladado al mundo del cine, del vídeo, del contenido, del marketing, de la exposición, de las matemáticas, de las finanzas, de los asesores, de la asistencia jurídica, de las enfermedades. Hay cantidad de gente que dice, tengo estos síntomas. Sí, pero hay que tener cuidado, porque no está perfecta. Hay que tener cuidado, por ejemplo, con las... enfermedades, es verdad que te da unas posibilidades que podrían ser, pero el otro día estaba leyendo un informe de esta misma semana y decía que en el 80% de los casos no... O sea, es verdad que si hubiera estado enfermo estos síntomas podrían haber sido, pero la persona no estaba enferma, ¿no?

11:15 Pero¿ a qué mundo vamos? Es decir,¿ cómo va a cambiar la sociedad? Hasta ahora sabemos que cada vez que ha habido algún acontecimiento importante, como por ejemplo yo que sé, la imprenta, la revolución industrial, la cuarta ola de la que hablaba Tobler, la sociedad se ha acomodado y ha sido capaz de encontrar la manera de digerir eso. Ahora se está hablando de algo que a mí me parece, no sé, ciencia ficción, pero ya no te diría que no, y es que todo el mundo se toque las narices y que haya como una especie de renta universal que trabaje la inteligencia artificial y que nosotros cobremos lo que produce la propia inteligencia artificial sin la necesidad de trabajar.¿ Eso es razonable pensar que va a ocurrir? Bueno, desde luego yo no tengo la bola mágica y ya me gustaría tener la bola mágica. Pero tengo el problema que tú comentabas antes, ¿no? De mi hacker, mi primera hija que va a entrar a la universidad ahora, ¿no?¿ Y qué voy a estudiar?¿ De qué voy a vivir?

12:13 Yo creo que vamos a un mundo donde evidentemente si cada vez crecemos más población, porque la población sigue creciendo, la población mundial, Dicen que se estabilizará en los 10 billions o los 10 billones de personas, 10.000 millones de personas. No lo sabemos. Pero si seguimos creciendo, pues lógicamente habrá que tener más protección, más proteccionismo. Yo creo que llegaremos a un modelo donde todavía nos quedan muchos años, donde el ser humano va a marcar la diferencia para muchas cosas. Ya se están hablando de la inteligencia artificial general y de que está ya aquí y que pronto va a ser capaz de de superar a toda la especie humana, los robots, el trabajo y tal. Yo creo que nos quedan años todavía, pero que nos tenemos que ir adaptando a ello. Y creo que tendremos que encontrar el modelo. Es a día de hoy y diferentes países tienen diferentes modelos económicos y sociales distintos. No sé cómo se adaptará cada uno de esos modelos económicos y sociales que tenemos en el mundo a la llegada tan masiva de la inteligencia artificial. Pero me interesa mucho saber qué consejo concreto le has dado al hacker a la que tienes que asesorar.

13:27 A mi hacker, a mi super hacker. Claro, porque esto nos da una idea de por dónde va tu planteamiento. Pues mira, yo soy un creyente de que las habilidades personales son lo que marca las diferencias. Yo... evidentemente yo he estudiado todo, ya lo sabes, yo hice el EGB, el BUP, el COU, el instituto, o sea, luego hice la ingeniería técnica con mi proyecto de fin de carrera, la ingeniería superior, luego hice mi máster, luego hice mi doctorado, luego he sacado las certificaciones tecnológicas, o sea, yo he estado estudiando toda la vida, pero lo que... lo que yo siempre he considerado que me ha permitido ir mejor ha sido capacidad de adaptarme al cambio, soy una persona muy trabajadora, soy muy resistente a los problemas, si algo sale mal no me frustro y me enfado y me bloqueo, lo que intento es trabajar todas esas habilidades que te van a permitir adaptarte a lo que venga al mundo. Entonces yo a mi hija le he dicho que que elija algo que le guste a ella. Ella le gusta emprender, etcétera.

14:35 Ya sabes que yo también tengo esa faceta emprendedora que siempre estoy pensando en alguna nueva empresa y, bueno, pues supongo que tirará por ahí, ¿no? Ella le gusta la parte de administración de empresas, de finanzas, de económicas, aprender eso, pero trabajando mucho toda la otra disciplina. Fíjate le he preguntado a la inteligencia artificial, le he dicho, voy a entrevistar a Xemalos. Mmm. dime qué cuatro preguntas fundamentales le harías sobre el futuro de la IA. Bien. Y entonces, la primera, tengo que decirte que yo no la entiendo, seguramente tú sí, pero te la leo tal cual ella me la ha dictado.¿ qué parte del valor real de la IA estará en los modelos y qué parte en los datos, la infraestructura y la distribución? ¡Ostras Es muy buena pregunta. Pero la tendrás que traducir. Sí. El modelo al final es el algoritmo, ¿vale?

15:26 Es el algoritmo. El modelo es el GPT, ¿vale? Ese es el modelo. Para que ese modelo sea inteligente, necesita datos, necesita proveedores de datos. Y además necesita proveedores de datos que sean proveedores de datos en... En tiempo real. A ti te interesa, si quieres tomar un análisis, para que la pregunta esa que le has hecho de qué le puedo hacer a Chema Alonso, el modelo tiene que conocer quién es Chema Alonso y qué hace Chema Alonso hoy en día. Entonces necesita datos frescos. Esto es la disrupción que hemos tenido en el modelo de negocio con los medios de comunicación y los periódicos, donde todos estos modelos se han llevado los datos y le han quitado el tráfico a las páginas web. Por eso los ingresos de publicidad han caído en todos los grandes medios digitales. En Cloudflare nosotros creemos que eso no es justo y estamos abogando Por ayudar a los medios de comunicación, estamos con New York Times y con muchos medios para conseguir que estos algoritmos hagan un acuerdo justo con los proveedores de contenidos, con los medios, ya sea bien pagando parte de la suscripción que cobran a los usuarios... Por los datos o ya sea dándoles el tráfico que le daban antes para que pudieran tener el modelo de negocio de los anuncios. Entonces, una cosa son los datos y otra es el modelo.

16:51 Pero claro, luego el modelo tiene que tener un uso, un caso de uso, ¿no? Y el caso de uso pueden ser muchas cosas. Puede ser el asistente que tú tienes para... Ayudarte en el Office o en el iPhone o en el Android, que es el caso de uso, la distribución. Pongo el modelo a hacer un caso de uso que quieren los usuarios. Eso es a lo que se refiere la distribución. Y luego es necesario para que los modelos se entrenen y para que los modelos se puedan utilizar en tiempo real, hace falta infraestructura, que son los data centers. que son las redes de comunicaciones, que son los fabricantes de tarjeta, tipo los NVIDIA, etc. Entonces, esas son las cuatro piezas que se necesitan. Datos, modelos de inteligencia artificial, infraestructura para correrlo. Cloudflare es una infraestructura.

17:37 Nosotros corremos todos los modelos en el Edge para proteger a los servicios digitales. Y luego, los casos de uso. Hago una... una herramienta para ayudarte a escribir o hago un editor de vídeo que te deja súper guapo y súper delgado en las fotografías, ¿no? Bueno, segunda pregunta. Esta de alguna manera ya veníamos hablando, pero a ver si lo concretamos. Dice,¿ qué trabajos va a transformar de verdad la IA en los próximos tres a cinco años y cuáles no va a tocar tanto como se dice? Uf, yo creo que la IA va a tocar y trastocar muchos de los trabajos de poco valor, de procesado, todos los más cercanos a la automatización sencilla. Por ejemplo, yo recuerdo años atrás que cuando se enviaban los tomates, y seguro que alguno de nuestros oyentes lo conoce bien, Cuando los tomates se envían, se exportan, se exportan con un determinado color y el color implica un grado de madurez, ¿no? Entonces, en muchos de los campos tenían a personas eligiendo el color exacto en el cual había que recolectar el tomate uno a uno para enviarlo y que durante el tiempo del viaje el proceso de maduración llegara con el color contratado, ¿no?

19:03 Había personas que lo único que utilizaban es su capacidad cognitiva de visión para reconocerlo y llegó un momento que se automatizó y lógicamente ya se hace con sistemas de inteligencia artificial hace ya muchos años. Hoy en día yo creo que estamos en lo mismo. Entonces en las empresas todos los trabajos que son automatizables porque son generación de informes, generación de textos, procesado de datos, etc., pues cada vez van a tener mucho más, menos valor, ¿no? En uno de los casos de uso que nosotros utilizamos mucho más es el triaje de datos, ¿no? de ficheros de cosas que están pasando, de log, mensajes que no llegan, etc.

19:45 Entonces todo eso la inteligencia artificial le hace un triaje y lo clasifica y dice, oye, pues esto puede ser por esta causa y además esto que llega por aquí creo que es el mismo caso pero explicado de manera distinta y está asistiendo a nuestros ingenieros a tomar una decisión a la hora de algo que está pasando en nuestros sistemas y en nuestras plataformas y a mejorar. Entonces, todos esos que son procesado de información para generar dentro de la cadena de valor y de toma de decisiones inteligencia, pues cada vez se van a ir cambiando. viendo más afectados. Claro, o sea que hay que ser fontanero y electricista, digo, por llegar a alguna conclusión. No, yo tampoco, yo creo que todavía no está en el nivel de creatividad que tenemos los seres humanos. Bueno, el artículo Pérez Reverte que ya está acojonado porque empieza a ver que escriben como él.

20:34 Sí pero yo he estado viendo ahí cómo está escribiendo la novela esa que va a sacar en septiembre y no creo que se le ocurriera algo así a una idea. Bueno, tercera pregunta que me dicta la inteligencia artificial.¿ Cuál será el mayor riesgo no obvio de la inteligencia artificial? ¿Desinformación, ciberataques automatizados, dependencia tecnológica o concentración de poder? Pues mira, yo, y esto es un tema personal mío que he estado hablando, yo creo que la manipulación de las sociedades con la inteligencia artificial a gran escala es uno de los grandes riesgos. La polarización... es muy fácil de explotarla con la inteligencia artificial. Yo hacía un estudio, lo publiqué en un evento en el mes de marzo, hice una conferencia que se llamaba Fear of the Dark, como la canción de los Iron Maiden, ¿no? Miedo a la oscuridad. Entonces, lo que moviliza a las personas es el miedo, ¿no? Y hay un estudio que cataloga todos los miedos de los seres humanos en cinco categorías. Lo llaman los five primal fears, ¿no? Los cinco miedos primarios de los seres humanos. donde están la muerte, la mutilación, la exclusión social, etc. Son cinco miedos. Entonces yo cogí los vídeos que se están publicando en redes sociales hechos con inteligencia artificial, con un eje político incluso de influencers e incluso de medios de comunicación tradicionales. Cogí los canales de Instagram y de TikTok, los de los Reels y

22:07 los TikToks, Y los pasé con un análisis detallado y concienciudo de inteligencia artificial que buscaba en ese vídeo la narración y qué miedos se están explotando. Y es tremendo la cantidad de miedos que se están poniendo. Pero además, con ese modelo de inteligencia artificial lo que sacábamos era también un análisis crítico de si el mensaje era correcto o cuál era la trampa. Y es sorprendente el análisis crítico que te hace para detectar, oye, en este... en este vídeo, que se están explotando este miedo y este miedo con este nivel de intensidad, se está omitiendo correctamente, o sea, expresamente este dato, este dato, para construir un relato de no sé qué. Tremendo, tremendo. Claro,¿ por qué hice yo ese estudio? Porque la historia es que igual que se explotan esos miedos para conseguir la atención de las personas, el ser humano pone atención a lo que le es peligroso para él, nadie las cosas... Que vaya bien en Francia todo, no te presta atención a ti en Francia. Te presta atención, pones atención cuando algo no va bien. Pues lo contrario.¿ Cómo generar con inteligencia artificial vídeos totalmente hiperrealistas que están manipulando a la opinión pública por el uso de miedos? Y hay una cosa fantástica que tienen los miedos, que es la RAE, que el miedo es temor y preocupación a que una amenaza real

23:38 o imaginaria tenga lugar. O sea, puedes tener miedo a los vampiros o a los fantasmas o a algo que no sea real y eso te puede movilizar. Entonces, movilizar por medio de inteligencia artificial explotada masivamente a través de redes sociales, yo creo que es un riesgo muy grande que puede permitir, puede hacer daño a las sociedades. Déjame, porque ya nos hemos comido todo el tiempo que teníamos. Te hablo mucho yo. No, no, no, pero yo creo que todo es interesante. A mí la última pregunta me parece que es clave. Por eso, y además vuelvo a repetir que yo no he sido aquí el artífice de la idea.¿ Quién debería tener el botón de apagado cuando la inteligencia artificial toma decisiones críticas?¿ La empresa, el regulador, el usuario o nadie?

24:30 Una pregunta muy complicada. Yo creo que es un trabajo coordinado entre todos. Todos tenemos que tener esa responsabilidad. Los seres humanos tenemos que decidir.¿ Qué hacemos con esta tecnología? Lo hemos tenido en el pasado que tomar esta decisión. Cuando aparecieron las bombas nucleares, yo nací en los 70 y recordarás que entonces lo que se decía es que no íbamos a llegar al siglo XXI, que antes íbamos a tener la Tercera Guerra Mundial. Hasta el propio Einstein hablaba de eso y los científicos. Hablábamos del invierno nuclear, de cómo iba a ser la vida cuando estallaran las bombas atómicas. Todavía hemos conseguido que eso no haya pasado. Pues ahora tenemos una tecnología que es una disrupción muy grande... Y lo que tenemos que intentar es que no pase lo que sucedió con la revolución industrial, que fue un auténtico dolor para las personas que la sufrieron en primera persona y que además coleó durante muchas décadas y es parte de todo lo que sucedió en Europa posterior y que hemos estado viendo en tantos años en tantos países. Entonces yo creo que debe ser responsabilidad de todos y no debemos excluir nuestra responsabilidad en eso.

25:36 Bueno, lo que queda claro es que tienes que venir más, porque me han quedado muchas dudas en el tindero, pero el tiempo, ya sabes... Yo te pido públicamente que en cuanto pueda me deje hueco volver a la tertulia contigo, ya lo sabes. Lo pensaré, lo consultaré con la inteligencia artificial a ver cuál es el consejo que me da. Y, hermanos, gracias por estar con nosotros. Un saludo muy cordial. Un saludo. En Casa de Herrero, con Luis Herrero, es radio.