El papa León XIV presentó el lunes su primera encíclica, Magnifica Humanitas (“Humanidad magnífica”), un documento de 110 páginas en la que pidió que la inteligencia artificial «no domine al ser humano». A raíz de eso hablamos con Carlos Chesñevar, quien es director del Instituto de Ciencias e Ingeniería de la Computación (UNS-Conicet) y un investigador con años de experiencia en temas de IA.
Chesñevar repasó sus inicios en la disciplina a principios de los 90 y recordó el surgimiento del núcleo de investigación local en la Universidad Nacional del Sur. «Desde 1990, hace 35 años más o menos, junto con otros compañeros tuvimos la suerte de que un profesor, Guillermo Simari, volviera de Estados Unidos y generara una especie de tribu de gente que empezó a interesarse por esa temática vinculada a cómo hacer un sistema que razonara, usando lógica y algunas cuestiones que se llamaban argumentación rebatible», repasó.
El director diferenció las dos corrientes históricas de la especialidad y analizó el predominio actual de los modelos empíricos por sobre los sistemas estructurados. «Se suele hablar de que está la visión limpia y la visión más sucia. Nosotros, que estábamos en el equipo de la visión limpia, decíamos ‘bueno, los limpios vamos a terminar ganando, porque somos los que usamos la matemática, la lógica’ y no fue así. El abordaje de prueba y error terminó generando sistemas como los que tenemos hoy, Inteligencia Artificial Generativa, que son muy buenos para montones de cosas, pero son bastante oscuros para otras», contrastó.
El investigador profundizó en el concepto de falta de transparencia que caracteriza a los algoritmos contemporáneos basados en redes neuronales complejas. «Algo que uno ve en Inteligencia Artificial es lo que se conoce como la opacidad de los modelos. Reclaman una matemática de grandes números, de miles de millones de ejemplos, que llevan a modelos que funcionan muy bien, pero que son opacos en muchas situaciones. Aparecen resultados, funcionan bien, pero el sistema no sabe explicar por qué tomó esa decisión», precisó.
Respecto al impacto sociológico de estas tecnologías, Chesñevar advirtió sobre la progresiva pérdida de discernimiento entre las interacciones simuladas y los vínculos reales. «Los seres humanos estamos encontrándonos en una disyuntiva con sistemas que imitan muchas cosas de las que hacemos y las imitan tan bien que de alguna manera perdemos el pie entre la percepción y la realidad. Esa distinción entre fingir y actuar de verdad se hace cada vez más difusa con estos sistemas. El problema más grande que hay pasa a ser también de naturaleza ética», argumentó.
Chesñevar recurrió a un ejemplo sobre el comportamiento de los automóviles para graficar la tendencia a humanizar los dispositivos tecnológicos. «Tenemos que ser muy cuidadosos de cómo usamos todas estas herramientas para no terminar tratando a las máquinas como si fueran seres humanos. Estás haciendo que una máquina cada vez haga cosas más parecidas a la persona y es más probable que si el auto a mí me empieza a hablar y empieza a suspirar y a pedirme cosas yo le haga caso», advirtió.
«Hay modelos que son opacos en muchas situaciones. Funcionan bien, aparecen resultados, pero el sistema no sabe explicar por qué tomó esa decisión»
Asimismo, alertó sobre los efectos cognitivos que produce la delegación sistemática de funciones intelectuales en plataformas de procesamiento automatizado. «Esas herramientas generan un fenómeno que se conoce como pereza metacognitiva, que es el hecho de que nos generan una noción de que lo estamos haciendo nosotros. Cuando uno usa herramientas como ChatGPT, redactarme un correo para decir cierta cosa, uno está haciendo, delegando una tarea que hace que el cerebro no trabaje», describió.
Como alternativa pedagógica, el docente propuso un abordaje educativo orientado al desarrollo de capacidades críticas frente a los entornos digitales vigentes. «Lo que yo muchas veces he mencionado en charlas o conferencias es lo que llamamos alfabetización crítica en inteligencia artificial. Hoy en día lo que está pasando es que estas herramientas también se venden como soluciones mágicas, pero tenemos que ser un poco críticos y darnos cuenta de que no necesariamente va a ser tan así», postuló.
Finalmente, Chesñevar instó a preservar los mecanismos de pensamiento individuales ante la proliferación de servicios digitales orientados a suplantar el esfuerzo intelectual. «Cuando uno tiene una herramienta que resuelve problemas en mi nombre, yo estoy perdiendo la capacidad de enfrentarme al problema, la capacidad de frustrarme porque no encuentro la solución. Ese proceso de razonar, esa fricción entre el problema y mi capacidad de pensar, es la que nos ha hecho una especie pensante. Tenemos que usar estas herramientas como un complemento y no depositarles a ellas toda la responsabilidad», concluyó.
Podés mirar el programa completo en nuestro canal de YouTube. ¡No te olvides de suscribirte! 😉
También estamos en Instagram, X y Facebook. Seguinos para no perderte nada de nuestro contenido.