Cerrar

Ramón López de Mántaras en el Seminario de Étnor “La inteligencia artificial, como el emperador de Andersen, sigue desnuda”

Ramón López de Mántaras en el Seminario de Étnor
Fundación ETNOR

Fundación ETNOR

Publicado el martes, 30 de noviembre de 2021 a las 16:43

Mostrar ampliado

Ramón López de Mántaras en el Seminario de Étnor

Ramón López de Mántaras en el Seminario de Étnor

Ramón López de Mántaras, profesor de investigación del Consejo Superior de Investigaciones Científicas (CSIC) y pionero en el estudio de la Inteligencia Artificial (AI) en Europa, ha participado en el XXXI Seminario Permanente de Ética Económica y Empresarial de la Fundación Étnor que este curso lleva por título "Inteligencia artificial: ¿Oportunidad o amenaza para la democracia?"

En su conferencia "El traje nuevo de la inteligencia artificial", presentada por la directora académica de Étnor, Adela Cortina, y su presidente, Pedro Coca, López de Mántaras ha analizado los avances y las implicaciones de la inteligencia artificial (IA) en la última década, periodo en el que se ha producido un auténtico auge de la IA que califica de "nueva primavera". "Todo el mundo habla de ello y grandes empresas y tecnológicas y países enteros se han lanzado a invertir en IA", apunta. Antes hubo dos primaveras más seguidas de sus inviernos.

Esta tercera primavera, ofrece resultados espectaculares en ámbitos como el de los juegos (Go, ajedrez, Shogi..), el reconocimiento de imágenes, las capacidades del lenguaje, los asistentes personales o los sistemas de pregunta respuesta. Estos grandes éxitos son muy mediáticos, asegura López de Mántaras, "aparecen titulares en todo el mundo". Pero, desde el punto de vista de la ciencia, se pregunta "¿supone un avance significativo en el objetivo que se planteó en el 56 de crear inteligencias generales que no sean específicas?"

Reconocimiento de imágenes

Para que un sistema de IA adquiriera conocimientos y fuera capaz de reconocer cualquier objeto, en su aprendizaje habría que etiquetarlo y mostrarlo todo, "y eso es un imposible", asegura el ponente. Además, existe el problema de la falta de representatividad de la muestra, porque hay situaciones, con muy baja probabilidad de que ocurran, que no forman parte del entrenamiento del sistema y cuando ante situaciones la IA fracasa "estrepitosamente", asegura López de Mántaras. Apunta, además, otros problemas: "estos sistemas de IA tan impresionantes no sabemos con exactitud porque funcionan cuando funcionan o fallan cuando fallan". Sin duda, explica el conferenciante, un tema candente es cómo dotarlos de capacidad explicativa, que es la que genera confianza. Pero, además, son sistemas muy poco robustos, si se perturba un poco la imagen, el resultado de clasificación cambia completamente.  Y son más los problemas, "los famosos sesgos" y el uso de sistemas de reconocimiento facial que admiten un 98% de error. "Algo que tiene un 98% de error es algo que no funciona y no se debe usar". Y cosas más inaceptables, en su opinión, "¿cómo se puede pretender deducir, analizando solo la cara, las preferencias sexuales de las personas, por ejemplo?".

"Estamos muy lejos hoy de resolver el problema de reconocimiento general de imágenes", asegura López de Mántaras. Las diferencias entre el aprendizaje humano y el aprendizaje artificial son enormes, explica. "Nosotros solo necesitamos ver unos cuantos ejemplos, no millones. Nuestro aprendizaje es activo, interactuamos con nuestro entorno, conocemos las relaciones entre lo que vemos y lo que no vemos. Y si lo que vemos son objetos animados, sabemos interpretar sus movimiento e incluso predecir sus acciones inmediatas", explica.

Capacidades del lenguaje

Para que una máquina pudiera realmente comprender el lenguaje, o una escena visual, necesitaría tener una enorme cantidad de conocimientos generales de sentido común, que son los que nos permiten entender y predecir las relaciones causa-efecto. Las personas adquirimos estos conocimientos casi sin esfuerzo a lo largo de nuestra vida interactuando y socializando con el entorno. Por otra parte, muchos conocimientos se tramiten gracias al lenguaje, por lo tanto, comprender el lenguaje es un requisito fundamental para poder adquirir conocimientos. "Estamos, pues, ante un problema de muy difícil solución, la comprensión profunda del lenguaje es uno de los desafíos más difíciles a los que se enfrenta la IA", asegura López de Mántaras

Regulación

"En mi opinión, -concluye- la IA, al igual que el emperador del cuento de Andersen, continúa paseando desnuda". Y se pregunta: "¿somos conscientes de que estamos dejando en manos de artefactos estúpidos decisiones peligrosas como son el reconocimiento facial para el control masivo de la ciudadanía, o sistemas que pretenden tener la capacidad de predecir el futuro o evaluar la probabilidad de que un delincuente reincida, o lo que es aún peor, la decisión de disparar de armas letales autónomas?". Hechos que considera más preocupantes que un eventual e improbable futuro de ciencia ficción y que requieren regular lo antes posible el desarrollo y uso de la IA.

S/V
2.229 visitas

Esta web utiliza cookies propias y de terceros para ofrecerte una mejor experiencia y servicio.
Al continuar con la navegación consideramos que aceptas su uso y nuestra política de cookies.

Aceptar