Senén Barro: “El principal desafío al que nos enfrentan las tecnologías inteligentes es humano” - Ahora
Publicador de contenidos
Humanidad
Imparcialidad
Independencia
Humanidad
Imparcialidad
Independencia
Vivimos en una época en la que la tecnología avanza a un ritmo vertiginoso, abriendo oportunidades impensables hace tan solo unos años, pero también enfrentándonos a desafíos éticos, sociales y humanos de gran calado. Bien lo sabe Senén Barro (As Pontes, 1962), doctor en Física, catedrático de Ciencias de la Computación e Inteligencia Artificial y director científico de CiTIUS (Centro Singular de Investigación en Tecnologías Inteligentes de la Universidad de Santiago de Compostela - USC). Con él abordamos el momento actual, exploramos la relación entre tecnología y propósito social, y miramos hacia un futuro prometedor pero incierto.
La tecnología avanza a gran velocidad, pero no siempre llega a todos por igual. ¿Cómo podemos evitar que la brecha digital deje atrás a las personas más vulnerables?
Las tecnologías pueden ser amplificadoras de desigualdades, y es lo que suele ocurrir cuando no se adoptan medidas que lo impidan. Cuanto más capaz es una tecnología, más se acentúa esta circunstancia, y afecta más a quienes ya parten de situaciones de desventaja, sea económica, de educación, vulnerabilidad… Por otra parte, tiende a pensarse que la solución es universalizar el despliegue de la tecnología. Esto, siendo necesario, no es suficiente. Además de tener acceso a la tecnología tenemos que tener la capacidad de utilizarla. Si no está adaptada a quien ha de usarla, si no se sabe cómo utilizarla, si hay barreras de acceso a dicha tecnología, sean económicas, idiomáticas, etc., las desigualdades seguirán aumentando.
La inteligencia artificial tiene un enorme potencial en sectores como la salud, la educación o la acción humanitaria. ¿Cuáles crees que son sus aplicaciones más prometedoras para mejorar la vida de las personas?
En los ámbitos de la salud y la educación será por su contribución al que ha sido siempre un anhelo humano: la universalización y la personalización de la medicina y de la educación. Las aplicaciones más prometedoras de la IA en general, pero incluso más en estos ámbitos, son las que amplifican las capacidades humanas donde hay limitaciones o escasez estructural, no donde nos reemplazan por aportar una mayor eficiencia.
En la acción humanitaria no lo sé. Sé que ya hay muchas aplicaciones en uso y se me ocurren otras que seguramente podrían servir de ayuda, pero no es tan evidente como en el caso de la salud y la educación. La predicción de desplazamientos poblacionales o brotes epidémicos es un buen ejemplo. De hecho, la primera alerta sobre la COVID-19 la dio una empresa canadiense, BlueDot, a finales de 2019; esta compañía utiliza inteligencia artificial y análisis de datos para rastrear y predecir la propagación de enfermedades infecciosas, analizando miles de fuentes de datos e información, incluidos boletines de salud pública, informes de noticias y datos de vuelos y movimientos poblacionales, para identificar posibles amenazas sanitarias.
Los sesgos en los algoritmos pueden perpetuar desigualdades de todo tipo. ¿Cómo podemos garantizar que la tecnología sea realmente inclusiva y equitativa?
La equidad algorítmica no se logra simplemente auditando algoritmos o apelando a la necesidad de hacerlo. Es necesario que ese objetivo lo sea desde la misma concepción de las soluciones, sea por imperativo legal o, al menos, por voluntad firme de quienes diseñan, despliegan y usan los sistemas. La forma de llevarlo a cabo no es tanto algorítmica sino política y de gobernanza. Por tanto, no se trata de ser neutrales, sino que es necesario ser intervencionistas. No es un problema de buenos y malos, es un problema de cosas bien o mal hechas. Y hacerlo bien es más costoso que hacerlo mal, por supuesto.
En contextos de emergencia y crisis humanitaria, la tecnología puede marcar la diferencia en la respuesta. ¿Cómo ves su papel en la gestión de desastres y la ayuda a las personas afectadas?
La tecnología puede salvar vidas y aminorar los daños cuando se aplica ex ante de forma conveniente. Un ejemplo obvio son los edificios y otras infraestructuras con tecnología antisísmica. También los sistemas de predicción y alerta temprana de emergencias. Por ejemplo, la IA aplicada a imágenes satelitales e información meteorológica permite anticipar inundaciones. Pero siempre va a estar mediatizada por la intervención humana, para bien o para mal. Siguiendo el ejemplo de las inundaciones, hemos visto como lo ha sido para muy mal durante la DANA en Valencia el año pasado.
Cualquier tecnología que sea aplicada a contextos o situaciones críticas no puede ser una solución tecnológica sin más, y ha de tener en cuenta los factores humanos. De otro modo, y más en situaciones de esta índole, las posibilidades de hacerlo mal se incrementan.
La automatización y la digitalización están transformando el mercado laboral. ¿Qué impacto tendrán en el empleo y cómo podemos preparar a la sociedad para estos cambios?
Con insistencia se argumenta que la automatización inteligente nos liberará de tareas peligrosas, desagradables y mecánicas, en cuanto que manuales y totalmente pautadas. En definitiva, de aquellas que no nos gusta hacer. Además, se insiste en que automatizarlas nos permitirá dedicarnos a trabajos más creativos, más interesantes de realizar, de mayor valor añadido… ¿Cuántos trabajos actualmente y en un futuro más o menos previsible y cercano responden a estas características? Pues no tantos. Muchas de las tareas que hoy en día se están automatizando requieren de nuestras capacidades cognitivas de medio y alto nivel. Esto supone un cambio radical respecto a los procesos de automatización que se han ido produciendo en las últimas décadas, muy centrados en tareas manuales y muy repetitivas.
Hay formas de afrontar este desafío, pero me temo que no se están llevando a cabo con la intensidad y celeridad debida: políticas sociales para quienes de modo creciente queden excluidos del mercado laboral; cambios profundos en el modelo y sistema educativos y en la formación continua; incentivos a la innovación basada en la incorporación de las tecnologías inteligentes y no a la mera sustitución de trabajadores para abaratar costes en el corto plazo…
Has hecho referencia en alguna ocasión a que la tecnología es un ámbito donde tiene que haber profesionales del mundo del derecho, de la educación… ¿Por qué es tan importante la multidisciplinariedad?
Suelo decir que quien solo sabe de IA, ni siquiera sabe de IA como para diseñarla o usarla bien. Son tantas las implicaciones de las tecnologías inteligentes (culturales, sociales, económicas, legales, éticas, laborales…), que o las tenemos en cuenta desde su misma concepción o no lo estaremos haciendo bien, o no del todo bien. Obviamente, esto resulta más o menos crítico en función del ámbito de aplicación y función de cada sistema. No tiene la misma importancia en un sistema de detección de nódulos cancerosos sobre imágenes médicas que en un sistema de recomendación de películas o libros. Pero incluso en este caso, el factor humano, el cumplimiento de la ley en la utilización de los datos y en el posible condicionamiento inducido en los usuarios, entre otras cuestiones, han de ser tenidos en consideración. Lo mismo ocurre con los algoritmos que sustentan las redes sociales, mucho más peligrosos en potencia.
En definitiva, la multidisciplinariedad no es un toque de exotismo intelectual, sino la forma de tratar la IA desde una perspectiva humana y no a los humanos desde un enfoque maquinal. Elijamos qué queremos y actuemos en consecuencia.
Por otra parte, si siempre fue negativa la visión, y más el ejercicio, de distinguir entre dos culturas: las ciencias duras y la tecnología, frente a las humanidades y las ciencias sociales, quedarse hoy instalado en uno de estos lados imaginarios es casi suicida. Igual que tener dos ojos nos permite ampliar el campo de visión y ver en profundidad, necesitamos las dos supuestas culturas para sobresalir e incluso sobrevivir en una sociedad donde cada vez compartimos más la vida y el trabajo con máquinas de creciente inteligencia.
La tecnología plantea dilemas que afectan directamente a las personas. ¿Cuáles crees que son los mayores desafíos que enfrentamos para asegurar un desarrollo tecnológico responsable y, sobre todo, humanitario?
He mencionado ya algunos de los mayores desafíos a los que nos enfrentamos. El incremento de las desigualdades de todo tipo o el desempleo tecnológico, derivado de la creciente automatización del trabajo, en particular. A estos añadiría el impacto de la desinformación en las democracias y, muy especialmente, lo que yo denomino delegación cognitiva. Me explico: el riesgo más significativo que plantea el auge de la IA no es que las máquinas nos superen en inteligencia, sino que dejemos de desarrollar y ejercitar la nuestra. Cuando delegamos en exceso en las máquinas la realización de tareas que requieren aprendizaje, memoria y razonamiento, corremos el riesgo de atrofiar esas mismas capacidades en nosotros.
En todo caso, no hay un determinismo tecnológico, aunque el desarrollo y, sobre todo, la aplicación de las tecnologías nunca sean procesos neutros. Por tanto, como con otras tecnologías, el principal desafío al que nos enfrentan las tecnologías inteligentes es humano y tiene que ver con decidir qué queremos hacer con ellas.
Publicador de contenidos
Banner Home
