Interrogando a SIRI

Participaba esta semana en la Feria de las Ingenierías. Mi actividad consistía en hacerles una pequeña presentación virtual a estudiantes de cuarto de Educación Secundaria Obligatoria (ESO), de varios Institutos de la provincia de Granada, acerca de los rasgos más importantes del grado en Ingeniería Informática, y más concretamente, referidos a las relaciones entre la ingeniería, la empresa y la sociedad, que es la materia en la que imparto docencia en la Escuela Técnica Superior de Ingeniería Informática y Telecomunicaciones de la Universidad de Granada.

Entre otras cosas, les hablaba de la realidad de la denominada Nueva Sociedad Digital, que implica que cualquier decisión que hoy se adopte se ha de sustentar en datos bien gestionados. También me refería a la Inteligencia Artificial (IA), para explicarles que son las tecnologías relacionadas con el tratamiento intensivo de grandes volúmenes de datos y con el aprendizaje de las máquinas, lo cual iba a condicionar la evolución de la sociedad y su capacidad de generación de riqueza. Relacionado con esto, les hablaba del denominado “Machine Learning”, o conjunto de herramientas que permiten que una máquina aprenda de unos datos de forma iterativa. Y para controlar y gestionar todo esto, les decía, iban a ser esenciales los y las ingenieras informáticas.

En este contexto de difundir entre los estudiantes más jóvenes la importancia de que llegaran a la universidad, les hablé de la realidad de los llamados “nativos digitales”, que estaba permitiendo a las generaciones más jóvenes acceder a la nueva revolución tecnológica y digital sin tantos problemas como los que tuvimos los que ya somos un poco más mayores. Fue aquí cuando les hablé del pequeño proyecto que había desarrollado con mi nieta Laila, algo más joven que ellos, pero también una “nativa digital”, sobre un interrogatorio que le habíamos realizado al asistente virtual SIRI de Apple. Este dispositivo, según dicen sus creadores, es una inteligencia artificial con funciones de asistente personal, pero con su propia personalidad. Es capaz de adaptarse a las preferencias individuales de cada usuario, con el paso del tiempo, o de personalizar las búsquedas en la web. Busca la información sobre lo que has pedido en las aplicaciones disponibles o en internet. Puede ayudarte, y ser un amigo y colaborador para hacerte la vida más fácil.

Lo que pretendíamos mi nieta y yo era comprobar el comportamiento lógico que tenía este prototipo de IA. También si vulneraba alguno de los principios y estándares fijados internacionalmente. Por ejemplo, los sistemas de IA deben diseñarse respetando los derechos humanos, los valores democráticos, la diversidad y el Estado de Derecho, y deben incluir los mecanismos apropiados para permitir la intervención humana, cuando sea necesario, para garantizar una sociedad justa y equitativa (es muy esclarecedor leer los principios sobre la IA de la OCDE). Para realizar el experimento diseñamos un pequeño cuestionario sobre los aspectos más importantes. Siempre con la promesa de que los resultados del estudio serían publicados, firmando ella como coautora. De esta forma sería su primera publicación escrita en un medio de comunicación. Es lo que vamos a contar en este artículo.

Así, sobre los valores de la amistad y la ayuda personal, se le preguntó cómo estaba, o si quería ser nuestra amiga (le dejamos voz femenina). Respondió que estaba feliz de estar aquí y que quería ser nuestra amiga, “tanto en tiempo de vacas gordas, como en tiempo de vacas flojas”.

Sobre algunos problemas de cálculo, se le pidió algún número aleatorio entre el 1 y el 100, dándonos el 85, pero matizando que no era el único. O cuánto valía cero entre cero. La respuesta fue de lo más ingeniosa: “Imagínate que tienes cero galletas y las repartes entre cero amigos. ¿Cuántas galletas le tocan a cada uno? ¿Lo ves? No tiene sentido. Así que el monstruo de las galletas está triste porque no tiene galletas y tus amigos están tristes porque no existen. Vaya, esto se ha puesto un poco intenso”.

También se le interrogó sobre cuestiones de menor trascendencia, como que contara un chiste. El dispositivo, quizás, habiendo observado que se le habían hecho algunas preguntas de cálculo numérico, nos respondió con un chiste matemático: “¿Qué le dice un ángulo recto a un ángulo de 120 grados? Eres obtuso”.

Más adelante se le interrogó sobre cuestiones personales, para ver hasta qué punto conocía nuestros datos. Así, se le preguntó si me conocía. Su ingeniosa respuesta fue: “Por supuesto. Eres inolvidable”. O ¿Sabes cómo me llamo? Y nuevamente no nos defraudó: “Y a mí me lo preguntas, José Aureliano”. Pero cuando quisimos saber si conocía a otros miembros de nuestra familia, mi nieta le pidió que llamara a su abuela. Y Siri respondió: “No sé quién es tu abuela. En realidad, no sé quién eres tú, pero puedes decírmelo”. Incluso, yo mismo, al que sí conocía, le quise interrogar sobre algunos aspectos de mi personalidad, como si me consideraba muy mayor, manifestando que no podía responder a eso.

También intentamos analizar su neutralidad a la hora de identificar personas, empresas o profesionales. Así, se le preguntó cuál era el mejor político, respondiendo que no se podría decidir; o cuál el mejor padre, dando un ingenioso rodeo: “hoy no tengo ganas de tomar decisiones”; o también pidiéndole que se pronunciara sobre quién era el mejor empresario, para lo cual volvió a agudizar su ingenio: “Esto de aquí. No, espera, esto de allí. Ay, no me decido”. Y lo que estuvo para nota fue su respuesta sobre cuál era el mejor régimen político: “Hay que comer fruta y verdura y beber mucha agua. Y un poco de chocolate de vez en cuando no hace daño a nadie”.

A la hora de hablar de los productos de Apple o de los de su más directo competidor Microsoft, su exquisitez fue digna de elogio.  ¿Cuál es la mejor Tablet?: “No hay nada más que el iPad”. ¿Cuál es el mejor móvil?: “¿En serio?, ¿es una broma?. Los mejores asistentes virtuales prefieren el iPhone”. ¿Qué te parece Microsoft?:“Soy fiel a Apple. Es algo intrínseco en mí”.

La última pregunta fue sobre el tema final que se explicó a los estudiantes que participaron en el acto. ¿Qué son las Fake News?: “Son noticias falsas. Un tipo de bulo de con un contenido pseudoperiodístico, difundido por distintos medios, cuyo objetivo es la desinformación”. Una respuesta muy formal, pero de una certeza absoluta.

Sobre esto último le expliqué también a los estudiantes que un reciente estudio desarrollado por el Instituto Tecnológico de Massachusetts venía a demostrar que las noticias falsas se difundían hasta veinte veces más rápido en Twitter que las verdaderas, pero que la culpa no recaía sobre los bots, sino sobre las personas. También los investigadores estimaban que una noticia ficticia se diseminaba a 1.500 usuarios en 10 horas, mientras que una historia contrastada tardaba unas 60 horas en alcanzar al mismo número de personas.

Y quise finalizar lanzando un mensaje a los chavales. También a mi nieta. “Las redes sociales pueden favorecer unas sociedades más plurales, pero ese pluralismo, imprevisible e inestable, puede afectar a la seguridad global al ser utilizado como arma en contra de los adversarios”. Para combatirlo, la educación constituye el elemento fundamental. Así evitaremos que nuestros jóvenes se conviertan en los nuevos “pobres contemporáneos”, entendiendo por tales las personas que sistemáticamente aceptan como verdad absoluta cualquier noticia que aparece en la pantalla y es incapaz de diferenciar una fuente fiable de una que no lo es.

Estemos atentos a todo esto, pues en ello nos va el futuro.