Programación 1920

Las cinco ideas principales que todo el mundo debería conocer acerca de la IA son:

1. Percepción
Los ordenadores perciben el mundo utilizando sensores

2. Representación y razonamiento
Los agentes mantienen modelos o representaciones del mundo y las usan para razonar.

3. Aprendizaje
Los ordenadores pueden aprender a partir de datos.

4. Interacción natural
Hacer que los agentes interactúen con los humanos de manera fluida es un desafío enorme para los desarrolladores de IA.

5. Impacto social
La IA puede tener un impacto tanto positivo como negativo sobre la sociedad.

1ª idea fundamental: PERCEPCIÓN. Los ordenadores perciben el mundo utilizando sensores.

Para casa: Clica en la siguiente imagen, luego selecciona el idioma y finalmente pulsa sobre el botón del micrófono de la parte superior derecha. Según vayas hablando, en la capa de texto se mostrará por escrito la frase que el ordenador ha entendido al escucharte hablar.

La percepción de un ordenador del lenguaje hablado o de la imagen visual, requiere contar con un amplio conocimiento del dominio. Así, para entender una frase hablada no solo se deben conocer los sonidos del idioma sino también su vocabulario, gramática y patrones de uso. Y, mientras el ordenador no disponga de tal conocimiento, el reconocimiento de voz realizado por una máquina no puede acercarse a la precisión del nivel humano. Pero ya se han hecho grandes avances.

2ª idea fundamental: REPRESENTACIÓN Y RAZONAMIENTO. Los agentes mantienen modelos o representaciones del mundo y las usan para razonar.

Los sistemas de IA pueden definirse como agentes inteligentes que perciben y representan el mundo, deliberan sobre lo percibido y producen salidas que afectan al mundo. Lo que no quiere decir que piensen igual que las personas.

Un voluntario: Para entender qué hablamos cuando nos referimos a la representación y el razonamiento, os proponemos que juguéis unas partidas con Akinator. Se trata de un sistema experto que te pide que pienses en algún persona (real o ficticio); y luego te va haciendo preguntas para intentar adivinarlo.

En realidad el funcionamiento de este tipo de sistemas expertos es bastante sencillo, ya que se implementan utilizando lo que se conoce como "árboles de decisión". Si elegimos las preguntas con cuidado, tratando de que las respuestas nos indiquen inequívocamente a los personajes, tenemos el trabajo prácticamente hecho. Por ejemplo: ¿qué pregunta/s harías para saber si tu compañero está pensando en Bugs Bunny, Pato Lucas o Correcaminos?. Lo primero, si tiene plumas, si las tiene entonces sería el Pato Lucas, y sino las tiene preguntaríamos si es muy rápido.

¿Recordáis el juego "Adivina el Personaje" o "¿Quién es quién?, donde dos jugadores intentaban adivinar qué personaje, de entre una serie de fotos, había escogido el contrincante a base de preguntas?

3ª idea fundamental: APRENDIZAJE Los ordenadores pueden aprender a partir de datos.

Muchas áreas de la IA han progresado significativamente en los últimos años gracias a la tecnología de aprendizaje automático, pero para que el enfoque tenga éxito se necesitan enormes cantidades de datos, y para poder procesar esta cantidad tan grande de datos se requiere contar con una potencia informática que no estaba disponible hace unos años.

En el tema anterior jugaste con QuikDraw donde el programa tenía millones de imágenes con las que comparaba tu dibujo según lo ibas haciendo.

Con Sentiment el clasificador intentará decirte si un texto es positivo o negativo. Pon una frase, una url de un tweet, un estado de Facebook, publicación de blogs, ... Se utilizaron 2,8 millones de documentos.

Y GenderAnalizer_V5 intenta clasificar los mensajes en si los ha escrito un hombre o una mujer. Se utilizaron 11.000 artículos de blogs.

Como el aprendizaje automático se basa precisamente en aprender a partir de ejemplos, es muy importante que durante la recopilación y preparación de los datos de entrenamiento se tomen medidas para tratar de evitar al máximo la introducción de sesgos, puesto que en caso de que se introduzcan el sistema va a reproducir estos sesgos. ¿Cómo traduce Google "teacher", como "profesora" o como "profesor"? Evidentemente el sistema de IA no ha sido construido a propósito para ser machista, pero debe haber sido entrenado con textos, quizás antiguos, en los que aparecían más profesores que profesoras, y por eso lo traduce de este modo. No te pierdas este  artículo que presenta ejemplos de escándalos mediáticos de sistemas de IA.

El tema de los sesgos en los sistemas de IA es muy interesante y complejo. Si te interesa profundizar en la cuestión, este artículo de Ricardo Baeza-Yates y Karma Peiró titulado "¿Es posible acabar con los sesgos de los algoritmos?" es realmente recomendable. Aquí te dejamos un extracto para ver si te pica la curiosidad... sonrisa "Los sistemas automatizados tienen sesgos que pueden convertir nuestra cotidianidad en una burbuja de felicidad, mostrándonos sólo lo que nos gusta. Si no hacemos algo para cambiar esta situación, quizás un día descubriremos que —como el protagonista del Show de Truman— no sabremos distinguir la realidad de la ficción. ¿Estamos todavía a tiempo de cambiar nuestra sociedad?"

Pero, ¿cómo funciona realmente el aprendizaje automático? ¿A qué nos referimos con que el ordenador aprende a partir de datos?

4ª idea fundamental: INTERACCIÓN NATURAL. Hacer que los agentes interactúen con los humanos de manera fluida es un desafío enorme para los desarrolladores de IA.

Comprender a las personas es uno de los problemas más difíciles a los que se enfrentan los agentes inteligentes, imagínatelo si hasta a nosotros mismos nos cuesta, y si no mira este vídeo (2:12). Esto incluye tareas como conversar en lenguaje natural, reconocer estados emocionales e inferir intenciones del comportamiento observado. Es importante comprender que, si bien las computadoras pueden entender el lenguaje natural en un grado limitado, en la actualidad carecen del razonamiento general y las capacidades de conversación de incluso un niño pequeño.

La interacción con los humanos es especialmente importante para los agentes robóticos que compartirán nuestros espacios de vida y trabajo. Así, es posible que deseemos que un robot asistente en el hogar se mantenga cerca de nosotros para que esté siempre listo para ayudar, pero está claro que no debería estar tan cerca de nosotros como para que se cruce en nuestro camino y nos choquemos constantemente cuando vamos a coger algo de la cocina, por ejemplo. En este caso, sería fundamental que el robot pudiera inferir las intenciones futuras de una persona al observar sus acciones, algo que es un desafío muy grande incluso para los humanos.

Pero se están produciendo avances en dominios concretos y limitados, veámoslo con este vídeo en el que un sistema de IA, llamado Google Duplex, es capaz de hacer una llamada telefónica para pedir cita en una peluquería, interactuando de manera natural con la persona que atiende la llamada:

5ª idea fundamental: IMPACTO SOCIAL. La IA puede tener un impacto tanto positivo como negativo sobre la sociedad.

La IA tiene un gran potencial para hacer cosas muy buenas para las personas. De hecho, ya existen iniciativas, como las lideradas por Naciones Unidas, en las que a través del análisis de datos agregados y anonimizados de la red de telefonía móvil se resuelven problemas en las áreas de la salud pública, sostenibilidad del planeta y asistencia en desastres naturales.

Además, los sistemas de IA van a sustituir a los humanos en la realización de trabajos peligrosos y nocivos para la salud, como la recolección de minerales en minas. Pero, claro, esta implantación de los sistemas de IA en el ámbito laboral también tiene sus riesgos. Así lo ilustran de manera muy visual y pedagógica los siguientes vídeos de la Fundación COTEC titulados "Mi empleo, mi futuro", en los que se discute que la automatización de muchos trabajos puede conducir a un desempleo masivo o a un cambio importante en los puestos de trabajos, lo que tiene un impacto muy profundo para la sociedad:

Por otro lado, hay que tener en cuenta que si bien las tecnologías que permiten que los agentes inteligentes comprendan mejor a los humanos podrían brindarnos, por ejemplo, ayudantes de salud en el hogar para personas mayores, también podrían permitir la vigilancia masiva de empresas y gobiernos eliminando totalmente la privacidad de las personas.

Además, es importante que, como sociedad, exijamos que los sistemas de IA que toman decisiones que afectan a nuestras vidas sean transparentes, es decir, que proporcionen justificaciones para sus conclusiones para que su razonamiento pueda verificarse e identificar situaciones incorrectas. Porque, ¿qué pasaría si usamos un sistema de IA que no justifica sus decisiones? ¿Qué ocurre, por ejemplo, si solicito un préstamo y el sistema lo deniega pero no explica los motivos de la denegación? ¿Cómo sabemos, por ejemplo, que no me está discriminando por mi raza, cuando eso está prohibido por la Constitución española?

En otro campo completamente diferente, uno de los mayores impactos que consideramos que va a tener la IA se debe a que, como ya existen sistemas capaces de generar contenido sintético (fotos, texto, audio y vídeos) indistinguible del contenido real, se va a producir una transformación inmensa de la comunicación y la difusión de información.

Como ejemplo para ilustrar esta situación tomemos este vídeo en el que se ve al expresidente de Estados Unidos de América, Obama, insultando al actual presidente, Trump.

(En realidad se trata de un vídeo elaborado con el objetivo de concienciar del peligro de las aplicaciones que intercambian caras y voces de forma realista, en el que consiguen crear una imagen real de Obama que parece decir las palabras que en realidad está pronunciando un actor).

El impacto potencial de estos sistemas de IA sobre la opinión pública no tiene precedentes en la historia probablemente, por lo que la sociedad debe conocer su existencia para no dejarse manipular. Desde luego, se trata de un reto inmenso que debemos abordar desde la escuela.

Por último, no hay que olvidarse del impacto medioambiental de los sistemas de IA, que ya hemos discutido que requieren contar con cantidades inmensas de datos que es necesario almacenar, transmitir y procesar, lo que requiere de un gran consumo energético. De hecho, hay estimaciones que indican que para 2025 el sector de la informática y las comunicaciones podría consumir el 20% de toda la electricidad del planeta y emitir hasta un 5,5% de las emisiones de CO2.

Por tanto, ¿la IA va a ser positiva o negativa para nuestra sociedad? Probablemente todo dependerá de que la ciudadanía luche para que la integración de la IA en nuestras vidas se centre en los aspectos positivos y limite al máximo posible su impacto negativo. Pero para ello, la ciudadanía debe estar bien informada, lo que pasa por que este tipo de cuestiones se traten y debatan desde la escuela.