Inteligencia Artificial: “Ni Inteligencia ni Artificial”: edición de José Luis Morales B

Ni autónoma ni racional, ni capaz de discernir nada “sólo son sistemas de procesamiento computacional intensivo, entrenados con conjuntos de datos monstruosos (en tamaño) y reglas predefinidas”.

Muchos dicen que el 2022 fue el año de la Inteligencia Artificial (IA).

Más allá de todo esto, y dejando de lado el momento cool de estas tecnologías, hay varias cosas sobre la IA y es bueno tener más antecedentes.

Atlas de la IA, de Kate Crawford

La autora de éste libro, investigadora principal en Microsoft Research, tiene hace años investigando los impactos de la Inteligencia Artificial en diferentes dimensiones, partiendo por un proceso de disección de todas las componentes involucradas en la IA, y para ello inició ese proceso analizando el Amazon Echo como mapa anatómico del trabajo humano, datos y recursos planetarios involucrados, desde la fabricación hasta la operación del dispositivo, los cuales son muchos más de los que pensamos.

A partir de la investigación y según relata Crawford, le dio la idea de hacer una análisis más profundo de la IA, y para ello construyó lo que denomina el Atlas de la AI, exitoso libro que publicado en 2021.

Qué es un Atlas?

Es una colección de mapas publicados de manera conjunta en un libro. Dependiendo del área geográfica y de los temas tratar, los atlas se pueden clasificar en generales o temáticos.

En el caso de la Inteligencia Artificial, Crawford analiza en su libro la IA en sus diferentes dimensiones, y cómo estas impactan nuestra vida en diferentes aspectos.

Parte por afirmar que “la IA no es ni Inteligente, ni Artificial”, ya que está hecha de recursos naturales, combustible, trabajo, infraestructura, logística y clasificación. “Los sistemas IA no son autónomos, racionales o capaces de discernir nada, sino sistemas de procesamiento computacional intensivo, entrenados con conjuntos de datos monstruosos (en tamaño) y reglas predefinidas”.

Crawford analiza la IA desde las siguientes dimensiones:

* Tierra (Earth): El desarrollo de la IA parte del consumo y uso de gran cantidad de recursos naturales no renovables (tierras y minerales raros, litio y estaño entre otros), componentes esenciales para la infraestructura TI que la soporta. De hecho las grandes compañías tecnológicas no admiten la huella de carbono que generan, ni se hacen cargo de ella; existe la impresión errónea de que se trata de empresas “limpias”.

Adicionalmente, el procesamiento computacional asociado tiene gran impacto desde el punto de vista del consumo energético.

* Trabajo (Labor): el trabajo que hay detrás de muchas factorías, desde mineros hasta personas trabajando en factorías tecnológicas en China (por ejemplo: Foxconn) produciendo los componentes que forman parte de la infraestructura TI, pasando por trabajadores en la modalidad de crowdworkers en India y otros países del tercer mundo, mal pagados en plataformas como Amazon para apoyar el procesamiento de los modelos IA (etiquetado, categorización, …).

Muchos de estos trabajo, se caracterizan por reunir serios problemas (sueldo bajos, pocos derechos laborales y otros).

A muchos datos (datasets) se accede en forma pública y gratuita, para luego crear modelos privados

* Datos (Data): Capturando datos de múltiples fuentes, la mayoría de acceso abiertos (públicos) sin asumir los costos asociados (data for free). Las frases “los datos son el nuevo petróleo”, son una forma retórica para no aceptar que en muchas ocasiones se trata de datos sensibles, personales y sin el control de sus dueños, utilizados en forma gratuita y sin ninguna retribución por parte de las compañías tecnológicas.

Por otra parte diferentes fuentes de datos tienen el mismo peso (blog, sitios, medios de prensa y otros) y con con grandes sesgos en términos de países, contextos, e idiomas entre otros. Entre dichos sesgos destacan estos:.

* Clasificación (Classification): El proceso de etiquetado y clasificación con sus sesgos ampliamente identificados (raciales, étnicos, religiosos, políticos y de genero entre otros) que generan acciones y decisiones discriminatorias.

* Emociones (Affect): Un ejemplo de sesgos es creer que con el análisis de las expresiones faciales se pueden interpretar en forma universal los sentimientos. Incluso con la evidencia científica en contrario, la industria sigue desarrollando servicios basados en esta hipótesis, transformando a estos sistemas en determinísticos.

* Estado (State): Las profundas y secretas relaciones (ejemplo Google y Mayen) entre el sector TI, la milicia y las grandes agencias de seguridad, muchas veces sustentadas en agendas nacionalistas que han resultado en el desarrollo de productos y servicios de vigilancia masivos, incluso a nivel doméstico, por ejemplo en sistemas de reconocimiento facial que utilizan departamentos de policía, sin administrar adecuadamente los sesgos que estos sistemas tienen.

Crawford, luego de analizar en forma bastante detallada cada una de estas dimensiones, llega a la conclusión que la IA se ha transformado en herramientas de poder en manos de unos pocos, y que van a afectar a muchos (millones) en su cotidiano vivir sin un adecuado entendimiento, además muchas de esas compañías tech con esa imagen distorsionada de una industria limpia y cool.

Interesantísimas reflexiones de Kate Crawford en su Atlas de la AA, ampliamente recomendable como su lectura.

Resumen de un artículo tomado de Publicad. o Datos Abiertos/Desarrollo Digital/ Inteligencia Artificial/Política y Tecnologías.