¿Por qué la gente sigue fantaseando con que la IA provoque el apocalipsis?

Hola a todos, soy Michael Reilly.

\ Todavía estamos a principios de 2024, pero ¿alguien más está agotado por los niveles de drama e hiperventilación en torno a la IA? Algo que me ha resultado particularmente sorprendente es la disposición de algunas personas a invocar catástrofes —visiones apocalípticas reales de nuestro futuro— para describir sus elegantes chatbots y generadores de imágenes.

\ Estoy pensando en particular en la reciente disputa en X entre Vinod Khosla y Marc Andreessen, dos de los capitalistas de riesgo más prominentes de Silicon Valley, que también son inversores en OpenAI. Lo que comenzó como una discusión sobre si era buena idea que el código propietario de OpenAI fuera de código abierto, de alguna manera terminó comparando los productos de la empresa con el Proyecto Manhattan.

\ El argumento de Khosla parecía centrarse en preocupaciones de seguridad nacional por hacer de código abierto un código de IA muy sofisticado para cualquiera que pudiera decidir usarlo indebidamente. Pero este tipo de discurso apocalíptico está en el ADN fundacional de OpenAI, una empresa que comenzó como un esfuerzo deliberado para crear una superinteligencia basada en computadoras que eclipsaría al intelecto humano. A finales de 2022, OpenAI lanzó ChatGPT y el bombo realmente despegó. También lo hizo la catastrofización, que se extendió desde personas como Sam Altman, quien como jefe de la empresa tiene un interés personal en hacer que su tecnología suene Realmente Poderosa.

\ ¿Por qué a la gente de tecnología le gusta hablar de las cosas en términos apocalípticos? Seamos justos: *a todos* nos encanta hablar sobre el fin de los tiempos. Civilizaciones antiguas, textos religiosos, productores de cine de Hollywood, medios de comunicación convencionales, teóricos de la conspiración en internet —los ejecutivos tecnológicos no están solos. Hay algo inherentemente humano en creer que el mundo está al borde del cataclismo.

\ Pero específicamente para la gente de tecnología, me pregunto: ¿Sam Altman dice que todo lo que necesita son 7 billones de dólares para transformar el mundo en una utopía impulsada por IA porque realmente cree que ese es un buen uso del dinero (¿ha oído hablar del cambio climático)? ¿Es solo marketing? Cuanto más peligrosa suena su tecnología, más atención recibe y, por lo tanto, más dinero, tanto en términos de inversión como de valoración de la empresa. Esa estrategia... ¡parece estar funcionando muy bien! OpenAI ha sido valorada en 80 mil millones de dólares.

\ El verdadero problema, sin embargo, es que esta narrativa de objeto brillante distrae de las ramificaciones reales y cotidianas de la IA. El software que utiliza grandes tramos de datos para hacer predicciones sobre el mundo está ahí fuera, haciendo lo suyo diligentemente. En algunos casos —como en el sistema de puntuación de Los Ángeles para viviendas subsidiadas, el Sistema de Alerta Temprana de Abandono Escolar de Wisconsin, herramientas de detección de plagio, y una letanía de otros casos bien documentados que van desde la contratación hasta la justicia penal— está perjudicando a las personas.

\ Si se molestaran en prestar atención, creo que los Grandes Intermediarios del Poder Tecnológico estarían mayormente de acuerdo con la idea de que deberíamos arreglar sistemas como los que The Markup investigó en LA o Wisconsin para que funcionen de manera más justa y equitativa. Pero al ignorar estos temas admitidamente mucho menos atractivos y centrarse en cambio en discutir sobre cómo la IA va a provocar el fin de los tiempos —o que solo a través de la sabia administración de los sumos sacerdotes del capital de riesgo podemos salvarnos de la destrucción— se nos pide que centremos nuestra atención en la fantasía.

\ Y bueno, ¿a quién no le gusta una buena fantasía? Solo asegúrate de dejar espacio para la realidad.

\ Gracias por leer,

Michael Reilly

Managing Editor

The Markup

\ PD – si has llegado hasta aquí o simplemente has saltado al final, mereces algunas cosas interesantes. Aquí hay algunas cosas (principalmente relacionadas con la IA) de internet que encontré realmente interesantes últimamente. Espero que te den algo en qué pensar este fin de semana:

• Esta historia de Karen Hao en The Atlantic es una de las mejores piezas que he leído sobre los recursos naturales que está consumiendo el Gran Bombo de la IA de la década de 2020.
• Nuestro propio Ross Teixeira habló con varios profesores de todo el mundo sobre cómo utilizan la IA en el aula. Encontré sus respuestas fascinantes.
• Los nuevos chicos del barrio, 404 Media, han estado arrasando con primicias casi a diario desde su lanzamiento hace seis meses. Si la IA va a destruir el mundo, es porque se utilizará para ahogarnos a todos en spam de TikTok.
• Nuestro antiguo colega, Leon Yin, y sus compañeros de Bloomberg realizaron una increíble investigación sobre cómo la herramienta de reclutamiento GPT de OpenAI tiene un sesgo racial incorporado. Visualmente impresionante además de ser una gran pieza de periodismo.
• Esta pequeña empresa cree que América necesita comenzar a usar máquinas de votación que funcionen completamente con código de código abierto.

Créditos

• Michael Reilly, Managing Editor

Edición

• Sisi Wei

Diseño y Gráficos

• Gabriel Hongsdusit

Participación

• Maria Puertas

\ También publicado aquí

\ Foto de Mylène Haudebourg en Unsplash

\