De la Ignorancia Absoluta, A un mundo feliz

En noviembre de 2022 se lanzó ChatGPT (OpenAI, 2022), una inteligencia artificial con la capacidad de generar texto a partir de una conversación interactiva con un humano, que no solo tiene la capacidad de responder preguntas, sino también de generar código, escribir ensayos, poemas, inventar palabras, cartas; en resumen, generar cualquier tipo de texto. Desde su lanzamiento, y tan solo dos meses después, adquirió más de 100 millones de usuarios; su creciente uso ha aumentado la atención hacia el futuro de la inteligencia artificial (DW, 2022). ¿Qué puede y qué no hacer una inteligencia artificial? ¿Cuáles son las limitaciones de este tipo de tecnologías? Si las inteligencias artificiales pudieran tener la habilidad de resolver cualquier problema, ¿podrán solucionar todos los problemas de la humanidad?

Mientras que las motivaciones para construir una tecnología como esta pueden variar, podemos pensar en algunas de estas; desde la mera curiosidad y necesidad de responder cualquier pregunta científica o filosófica, el deseo de querer imitar la inteligencia humana, y en mayor medida resolver cualquier problema de utilidad instrumental, es decir, su uso hacia situaciones prácticas (ej. crear una página web, agilizar un proceso industrial) (Armstrong, Sandberg & Bostrom, 2012).

Desde los inicios de la IA, Turing (1948) propone que una de las ventajas que tienen las computadoras o máquinas universales es la capacidad de hacer cualquier trabajo mecánico. El problema de tales máquinas se convierte en poder programarlas para resolver los trabajos. La idea de la inteligencia artificial nace con la intención de tener una máquina autoprogramable que, con cierto proceso de aprendizaje (ej. machine learning, deep learning), pueda por sí sola resolver cualquier problema.

Aunque este tipo de tecnologías parecen entender completamente nuestro lenguaje (hasta hacen difícil distinguir si conversamos con una persona o un chatbot, el test de Turing), la realidad es que son el resultado de algo muy diferente a la manera en que nosotros adquirimos el lenguaje. Esto es lo que Chomsky et al. (2023) llaman la falsa promesa de ChatGPT:

The human mind is not, like ChatGPT and its ilk, a lumbering statistical engine for pattern matching, gorging on hundreds of terabytes of data and extrapolating the most likely conversational response or most probable answer to a scientific question.

Desde la página de lanzamiento oficial de ChatGPT podemos encontrar al menos tres limitaciones de esta tecnología: 1) no garantiza que la información generada sea verdadera; 2) puede reducir su calidad (o creatividad) de respuesta al intentar proveer una respuesta más correcta, o simplemente no responder (ej. al preguntar directamente sobre moralidad o perspectiva propia, decide no responder); 3) puede crear alucinaciones, es decir, información ficticia (OpenAI, 2022).

Aunque ChatGPT no sea un candidato a IA general por las limitaciones mencionadas, para muchos como es el caso de Bostrom (2014), parece evidente que la idea de una superinteligencia artificial, es decir, una IA que rebase a la inteligencia humana¹, es posible y representa un riesgo existencial para la humanidad.

Los problemas anteriores se relacionan con el problema de alineación, que se refiere a intentar alinear los valores humanos con las posibles acciones de una IA para que estas sean positivas para la sociedad. Mayormente, este concepto intenta evitar el riesgo existencial o la idea de una "IA malvada" (Rogue AI) (Müller, 2021), aunque la resolución de este problema también se necesita para evitar sesgos y discriminación, e intentar que las decisiones, creaciones y/o acciones de una IA sean menos perjudiciales.

Yoshua Bengio² (2023) hace una interesante analogía entre las corporaciones como entidades desalineadas y una posible IA desalineada de los principios humanos:

Corporations may be viewed as special kinds of artificial intelligence whose building blocks (humans) are cogs in the machine (who for the most part may not always perceive the consequences of the corporation's overall behavior). We might think that the intended social role of corporations should be to provide wanted goods and services to humans (this should remind us of AI systems) while avoiding harm (this is the "spirit of the law"), but it is difficult to directly make them follow such instructions. Instead, humans have provided more quantifiable instructions ("the letter of the law") to corporations that they can actually follow, such as "maximize profit while respecting laws", but corporations often find loopholes that allow them to satisfy the letter of the law but not its spirit. (para. 28)

La analogía anterior sugiere que una IA con intencionalidad o inteligencia podría tener intereses contrarios al bienestar de la humanidad. Por otro lado, comparar las IAs y las corporaciones también es un tema discutido, al preguntarnos si una IA debería tener personalidad jurídica al igual que las corporaciones legalmente sostienen la categoría de personas morales. Este debate permite discutir sobre las obligaciones, derechos de autor, impuestos y responsabilidad moral de estas tecnologías (Chesterman, 2020). Incluso nos puede llevar a cuestionarnos quién es responsable de las acciones y decisiones automatizadas de una IA. Como ejemplo de este problema, en 2018 un auto de prueba manejado automáticamente por Uber mató a Elaine Herzberg; el resultado de este accidente dejó en la cárcel a la persona que monitoreaba el auto (Levin, 2020). Si más puestos de monitorización terminan asumiendo la responsabilidad por las acciones de las IAs, esto permitiría que los softwares y las compañías que las desarrollan terminen liberándose de las consecuencias. La incorporación de IAs a armas letales y de guerra también es un problema preocupante, ya que puede quitar responsabilidad a quien las usa (Müller, 2021).

La idea de que las IAs puedan potencialmente destruir a la humanidad supone, para muchas personas, un tema de ciencia ficción. Aunque las dudas son genuinas, han hecho que expertos en inteligencia artificial discutan sobre ello, como es el caso de Geoffrey Hinton (BBC News Mundo, 2023). Armstrong, Sandberg y Bostrom (2012) sugieren que usar una IA Oráculo —es decir, que no actúe en el mundo, sino que solo conteste preguntas— podría ser menos letal. Pero incluso un Oráculo como este trae consigo varios problemas: ¿cómo podemos tomar consejos de una tecnología que no sabe lo que hace?

ChatGPT puede ser un tipo de IA Oráculo, pero no es la única tecnología de este estilo. Los motores de búsqueda más populares, como Google y Bing, pretenden incorporar esta tecnología en las búsquedas de todos los usuarios, lo cual podría reducir la investigación de algo en particular a una sola respuesta de este Oráculo. Si no solo la información que obtenemos, sino también las decisiones que tomamos, se basan en el resultado de estas tecnologías, podríamos caer en una especie de algocracia (algocracy) (Aneesh, 2002), o gubernamentalidad algorítmica (término mencionado en Reyes, 2022). Aún si las IAs no adquieren conciencia propia, el hecho de que evolucionan tan rápido hace que cada vez sea más difícil entender cómo funcionan y saber por qué arrojan ciertos resultados; esto se conoce como el problema de la opacidad (Burrell, 2016). Este problema evidencia una de las maneras en las que podríamos perder el control sobre las decisiones automatizadas.

Por otro lado, la posibilidad de este riesgo existencial nos puede hacer cuestionarnos sobre las preocupaciones y problemas éticos actuales que surgen alrededor del uso de las IAs. A continuación presentaré algunas de las problemáticas actuales alrededor de esta tecnología.

1. Privacidad y control

Uno de los temas más discutidos alrededor del uso de datos personales es cómo estos representan un modelo de negocio para algunas empresas al ser utilizados con fines mercadotécnicos. El "capitalismo de vigilancia" nos manipula para concentrar cada vez más nuestra atención en el uso de estas aplicaciones y seguir alimentando su fuente principal de datos (Müller, 2021). La manipulación y el reforzamiento de sesgos personales no solo se encuentran en redes sociales: estos algoritmos de aprendizaje a base de información personal se han desplazado a diversos sectores, incluyendo la atención psicológica artificial (Wakefield, 2023). Mientras que en el pasado ha existido interferencia humana para manipular las noticias e información que se muestra a los usuarios —como en el caso de Facebook-Cambridge Analytica—, la nueva preocupación es que este problema se amplifique debido a los propios sesgos de los algoritmos, generando mayor adicción y polarización en redes sociales (Wu et al., 2022).

Al mezclar el uso de datos personales con IA nos enfrentamos a nuevos obstáculos, como poder generar contenido falso acerca de una persona —ya sea su voz, imagen, expresiones faciales, estilo de escritura— e incluso generar pornografía falsa (deepfake pornography). Solo hasta junio de 2020, más de 100,000 mujeres fueron víctimas de este tipo de venganza pornográfica (Hao, 2021). No solo nos exponemos a un cierto estilo de manipulación mediante la selección más sofisticada de la información y el contenido que se nos muestra, sino que además podrían existir conversaciones entre chatbots y personas sin que estas sepan que hablan con una inteligencia artificial, lo cual resultaría conveniente para estas plataformas, pues aumentaría su engagement o tiempo de consumo (ej. Facebook, LinkedIn, Snapchat) (Vincent, 2023).

2. Desempleo, centralización y desigualdad

De acuerdo con un estudio de Goldman Sachs (Hatzius et al., 2023), alrededor de 300 millones de empleos a nivel global podrían automatizarse, y alrededor de un cuarto de los trabajos podría sustituirse con herramientas generativas de IA. La adopción de este tipo de tecnologías, al menos en algún grado, impactaría las tareas del 80% de los trabajos en el mundo (Eloundou et al., 2023). Aunque en el pasado tecnologías como las computadoras personales o el internet han reemplazado algunos trabajos, la preocupación actual es: ¿será posible la creación de más de 100 millones de trabajos en el poco tiempo en que esta tecnología se incorpore a gran escala? ¿Y qué tipo de trabajos serían los incorporados?

3. Impacto ambiental

Mientras que las IAs tienen un impacto positivo al ser herramientas efectivas para monitorear el clima, hacer análisis en tiempo real y predecir diversos factores —como la concentración atmosférica de CO2, los cambios en la masa de los glaciares y el aumento del nivel del mar— (UN, 2022), por otro lado, la huella de carbono del procesamiento de millones de datos puede ser preocupante. Para un solo modelo de IA se producen 300,000 kg de emisiones de dióxido de carbono, lo que equivale a 125 vuelos de Nueva York a Berlín. Esto podría incrementarse, ya que la capacidad computacional necesaria para entrenar los modelos se ha duplicado cada 3.4 meses desde 2012, superando por mucho la Ley de Moore (Dhar, 2020).

Conclusiones

Aunque los avances en los modelos de inteligencia artificial siguen progresando, los problemas mencionados anteriormente no dependen de las capacidades técnicas de los modelos, sino, más bien, del uso que se les dé. Por más que intentemos hacer una IA que pueda resolver cualquier problema analítico, mecánico o creativo, tenemos que voltear a ver los problemas que el rápido desarrollo de esta tecnología podría ocasionar. Y si bien existe la posibilidad de generar proyectos que impacten de manera positiva a la sociedad, hay que estar conscientes de los usos que mayormente se le darían para poder regularlos. Tal vez pensar en la posibilidad de una superinteligencia, y darnos cuenta de que tendría las motivaciones para acabar con la humanidad, nos haga reflexionar sobre el uso que hacemos de la tecnología y sobre el propósito que le damos.

Notas

¹ Este evento también es conocido como la Singularidad: el momento en que una inteligencia artificial rebase a la inteligencia humana.

² Ganador del premio Turing junto con Geoffrey Hinton y Yann LeCun por su trabajo en aprendizaje profundo (deep learning).

Referencias

Aneesh, A. (2002). Technological modes of governance: Beyond private and public realms. Actas de la 4th International Summer Academy on Technology Studies.

Armstrong, S., Sandberg, A., & Bostrom, N. (2012). Thinking inside the box: Controlling and using an Oracle AI. Minds & Machines, 22, 299–324. https://doi.org/10.1007/s11023-012-9282-2

BBC News Mundo. (2023, 2 de mayo). Geoffrey Hinton, "padrino de la inteligencia artificial": "En este momento los sistemas de IA no son más inteligentes que nosotros, pero creo que pronto lo serán". BBC. https://www.bbc.com/mundo/noticias-65464637

Bengio, Y. (2023, 22 de mayo). How rogue AIs may arise. Yoshua Bengio. https://yoshuabengio.org/2023/05/22/how-rogue-ais-may-arise/

Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.

Burrell, J. (2016). How the machine "thinks": Understanding opacity in machine learning algorithms. Big Data & Society, 3(1). https://doi.org/10.1177/2053951715622512

Chesterman, S. (2020). Artificial intelligence and the limits of legal personality. International & Comparative Law Quarterly, 69(4), 819–844. https://doi.org/10.1017/S0020589320000366

Chomsky, N., Roberts, I., & Watumull, J. (2023, 8 de marzo). Noam Chomsky: The false promise of ChatGPT. The New York Times. https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html

Dhar, P. (2020). The carbon impact of artificial intelligence. Nature Machine Intelligence, 2, 423–425. https://doi.org/10.1038/s42256-020-0219-9

DW. (2022, 9 de diciembre). ChatGPT: El bot viral y futuro de la IA que podría cambiarlo todo. DW.COM. https://p.dw.com/p/4KkyH

Eloundou, T., Manning, S., Mishkin, P., & Rock, D. (2023). GPTs are GPTs: An early look at the labor market impact potential of large language models. arXiv preprint arXiv:2303.10130.

Hao, K. (2021, 20 de octubre). A deepfake bot is being used to "undress" underage girls. MIT Technology Review. https://www.technologyreview.com/2020/10/20/1010789/ai-deepfake-bot-undresses-women-and-underage-girls/

Hatzius, J., Briggs, J., Kodnani, D., & Pierdomenico, G. (2023). The potentially large effects of artificial intelligence on economic growth. Goldman Sachs Economic Research. https://www.gspublishing.com/content/research/en/reports/2023/03/27/d64e052b-0f6e-45d7-967b-d7be35fabd16.html

Levin, S. (2020, 16 de septiembre). Safety driver charged in 2018 incident where self-driving Uber car killed a woman. The Guardian. https://www.theguardian.com/us-news/2020/sep/16/uber-self-driving-car-death-safety-driver-charged

Müller, V. C. (2021). Ethics of artificial intelligence and robotics. En E. N. Zalta (ed.), The Stanford Encyclopedia of Philosophy (edición de verano de 2021). https://plato.stanford.edu/archives/sum2021/entries/ethics-ai/

OpenAI. (2022). Introducing ChatGPT. https://openai.com/blog/chatgpt

Reyes, C. (2022). Inteligencia artificial y acumulación en el capitalismo contemporáneo. Crónicas de la Bifurcación, Boletín del LET, 1(3), 59–86.

Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–457.

Turing, A. M. (1948). Intelligent machinery. En B. J. Copeland (ed.), The Essential Turing (Oxford, 2004; edición en línea, Oxford Academic, 12 de noviembre de 2020). https://doi.org/10.1093/oso/9780198250791.003.0016

UN. (2022). How artificial intelligence is helping tackle environmental challenges. UNEP. https://www.unep.org/news-and-stories/story/how-artificial-intelligence-helping-tackle-environmental-challenges

Vincent, J. (2023, 10 de marzo). The semiautomated social network is coming. The Verge. https://www.theverge.com/23632371/social-network-future-ai-automated-chatbot-posts-linkedin

Wakefield, J. (2023, 2 de abril). Would you open up to a chatbot therapist? BBC News. https://www.bbc.com/news/business-65110680

Wogu, I. A. P., et al. (2017). Artificial intelligence, alienation and ontological problems of other minds: A critical investigation into the future of man and machines. 2017 International Conference on Computing Networking and Informatics (ICCNI), Lagos, Nigeria, 1–10. https://doi.org/10.1109/ICCNI.2017.8123792

Wu, C., Wu, F., Qi, T., et al. (2022). Removing AI's sentiment manipulation of personalized news delivery. Humanities and Social Sciences Communications, 9, 459. https://doi.org/10.1057/s41599-022-01473-1