La inteligencia artificial debería ser “humilde”

Sevilla, 18/X/2024

En mi singladura digital diaria, a bordo de la carabela imaginaria de Saramago, La isla desconocida, he “salido de mí”, una vez más, para buscar esas islas homónimas que empiezan por uno mismo. Esta vez he encontrado una que me ha parecido una “aparición” casi metafísica, en medio de las “alucinaciones” que nos ofrece a diario la inteligencia artificial en su peor misión didáctica. Me refiero a la inteligencia artificial “humilde”, un proyecto innovador de un doctor español en ingeniería de telecomunicaciones, andaluz por más señas, de cuyo nombre quiero acordarme hoy: Pablo Martínez Olmos (Granada, 1984).

Este profesor del Departamento de Teoría de la Señal y Comunicaciones de la Universidad Carlos III de Madrid, acaba de recibir una Beca Leonardo que la Fundación BBVA entrega para impulsar “proyectos innovadores” en áreas de la ciencia y la cultura. Se la han concedido por presentar un proyecto innovador basado en el desarrollo de una inteligencia artificial “humilde”, capaz de declarar el nivel de incertidumbre sobre los resultados que arroja, así como la advertencia clara de posibles errores en sus resultados: ”Me gustó la idea de «humilde» porque nosotros pensamos que una persona con esta virtud es alguien consciente de sus limitaciones y se frena a la hora de responder cuando no tiene idea de un tema”. Quizás y con esta visión, la inteligencia artificial debería callar, digitalmente hablando, si no tiene claro qué responder, siguiendo el principio analógico del arte de callar preconizado por Joseph Antoine Dinouart, recordando el primer principio de ese arte, Sólo se debe dejar de callar cuando se tiene algo que decir más valioso que el silencio, y el decimocuarto: “El silencio es necesario en muchas ocasiones, pero siempre hay que ser sincero; se pueden retener algunos pensamientos, pero no debe disfrazarse ninguno. Hay formas de callar sin cerrar el corazón; de ser discreto, sin ser sombrío y taciturno; de ocultar algunas verdades sin cubrirlas de mentiras”. En definitiva, ética digital que debe respetar la inteligencia artificial, para declarar humildemente sus límites, respondiendo con silencios expresos cuando no tenga respuesta alguna o muy débil sobre lo que se le pregunta. Asimismo, debería preparar sus algoritmos para enfrentarse a estas situaciones reales como la vida misma y así ganar credibilidad, digital por supuesto. Es la única forma de prepararse para ofrecer un chat con ética digital dentro, que facilite el diálogo persona-máquina, en el que se demuestre que existe una actitud científica donde hablar, digitalmente dicho, ocupe su auténtico lugar, preguntando primero y escuchando después, de forma recíproca, hasta el momento en que rompamos ese silencio porque lo que tenemos que decirnos, tanto la persona, con su inteligencia natural, como la máquina con su algoritmo dentro, es mucho más valioso que mantenernos callados, pero respetando la humildad personal, científica y tecnológica, que a cada uno corresponde.

En este contexto, el artículo que publica hoy el diario El País en relación con este “descubrimiento” sobre humildad digital, creo que es de obligada lectura ante el desconcierto que plantean en bastantes ocasiones herramientas tan potentes como chatGPT y sus derivados actuales. Su proyecto, que ha obtenido esta beca Leonardo tan preciada, se fundamenta en desarrollar una inteligencia artificial humilde y trazable (THAI): “La inteligencia artificial (IA) generativa produce resultados cada vez más convincentes aunque no siempre bien fundamentados, por lo que la confianza que genera puede suponer un riesgo elevado para la sociedad. Este proyecto se propone desarrollar métodos de IA generativa “humildes”, que reduzcan el nivel de certeza cuando no se disponga de información sólida en la que basar los resultados. Además, pretende mejorar la seguridad de estos sistemas, volviéndolos menos vulnerables a los ataques que explotan el exceso de confianza para extraer información sensible o generar contenido dañino. Se espera así que contribuya a mantener la credibilidad de las tecnologías de IA”. En definitiva, se trata de lograr la “credibilidad digital” de la inteligencia artificial, porque alcanzarla es un sueño analógico posible y deseable para salvaguardar el interés digital general de la Humanidad, que también existe.

CLÁUSULA ÉTICA DE DIVULGACIÓN: José Antonio Cobeña Fernández no trabaja en la actualidad para empresas u organizaciones religiosas, políticas, gubernamentales o no gubernamentales, que puedan beneficiarse de este artículo; no las asesora, no posee acciones en ellas ni recibe financiación o prebenda alguna de ellas. Tampoco declara otras vinculaciones relevantes para su interés personal, aparte de su situación actual de persona jubilada.

UCRANIA, GAZA, LÍBANO, SAHEL Y PAÍSES EN GUERRA, EN GENERAL

¡Paz y Libertad!