Gigantes de la inteligencia artificial crearon una organización para autorregularse

Sociedad

¿En qué medida estás de acuerdo con la denominación de "inteligencia artificial" para denominar a los procesos de aprendizaje automatizado?

El concepto de inteligencia artificial es vendedor, pero también engañoso. Hasta el momento, se han desarrollado distintas aplicaciones de aprendizaje automatizado o de asistencia a innumerables tareas, pero es problemático calificar eso como "inteligencia". Primero, por sus fundamentales diferencias con el funcionamiento de la inteligencia humana, a la que no buscan emular. Segundo, porque no tienen conciencia de sí, la que resulta una condición fundamental para pensar una definición de inteligencia.

¿Cuáles son los procesos que intervienen en el conocimiento humano y qué pasa con la denominada IA?

Según el psicólogo suizo Jean Piaget, hay dos actividades básicas en todo proceso de conocimiento: la exteriorización objetivante y la interiorización reflexiva. La exteriorización objetivante implica la posibilidad de separarse de la realidad para distinguir y clasificar los objetos con los que interactuamos. La IA ha desarrollado muchas herramientas que, de alguna manera, logran reproducir este tipo de proceso. Por el contrario, la interiorización reflexiva requiere la capacidad del juicio, una toma de conciencia crítica de sí. Ello requiere elementos hoy inexistentes en la IA, como la conciencia o el juicio crítico, fundamentales para un verdadero proceso de conocimiento y acción sobre la realidad.

En este sentido, la IA no tendría hoy "pensamiento crítico".

Exacto. La posibilidad de reflexionar críticamente sobre la propia acción requiere una construcción de un sujeto. Hoy, esa existencia de conciencia y juicio no existe en ningún desarrollo de la IA conocido.

No obstante, hay muchísimos procesos que la IA puede hacer hoy, como escribir una canción o un texto... ¿Qué impacto podría tener el reemplazo de estas actividades para el pensamiento humano?

Hay un riesgo y es que se dé un nuevo salto en el proceso de alienación, como sucedió en la revolución industrial. Este salto derivaría en que, ante la existencia y difusión de aplicaciones que serían capaces de realizar (igual o posiblemente mejor que un ser humano) tareas intelectuales que hasta hoy realizan seres humanos, se pierda la capacidad de realizar esas tareas, como la redacción, búsquedas de información y traducción, entre muchas otras. Por lo tanto, millones de personas perderían habilidades que hoy son capaces de desarrollar, tal como hoy casi no existen artesanos capaces de conocer las distintas etapas de producción de determinados productos.

Foto: archivo Télam

Una de las problemáticas que se plantean respecto de la IA en algunos procesos, por ejemplo, en las búsquedas de información, es que los resultados pueden tener sesgos. ¿De dónde provienen esos sesgos?

Sin dudas, los sesgos no son de la IA, sino de los humanos que alimentan los datasets. Son sesgos que pueden ser más intencionales o inconscientes, pueden ser explícitos o implícitos. El problema es que, al no tener conciencia ni juicio crítico, la IA no tiene la capacidad de descubrir dichos sesgos. Un segundo problema es que los sesgos humanos están distribuidos de modos no uniformes, mientras que, si dichos sesgos quedan sedimentados en herramientas universalizadas, a partir de ese momento, su impacto será mucho mayor, y la capacidad de cuestionarlos o desarmarlos, mucho menor.

A la par que hablamos sobre la IA, el mundo atraviesa una crisis climática donde está en juego la escasez de las cosas más elementales para la vida, como el agua. ¿Cómo dialogan esas dos problemáticas? 

Los distintos problemas se articulan y solapan en muchos planos, pero no es que la existencia de unos anule la de otros. Hay un riesgo en relación con la situación del clima, otro geopolítico vinculado a las próximas guerras o genocidios, otro vinculado al desarrollo de nuevas enfermedades, otro a los cambios identitarios. En ese sentido, es relevante pensar en los riesgos, pero también las potencialidades en los profundos cambios que generarán estas transformaciones en la IA.