El nuevo miedo de las madres: ¿La IA acabará con la generación de sus niños?
publisher
mcora
Molly Kinder, cuenta la CNN, volvía de dejar a sus hijos en la escuela primaria cuando se topó con las advertencias apocalípticas sobre la inteligencia artificial. Iba caminando por Washington, DC, en una mañana de septiembre, revisando publicaciones en redes sociales donde gente del sector lanzaba afirmaciones sobre la posibilidad de que la tecnología cause la extinción humana. Se detuvo en seco a una cuadra de la puerta donde acababa de abrazar a su hijo de cuatro años.
Kinder, exinvestigadora del Brookings Institute que dejó ese puesto para fundar una organización dedicada a los impactos de la IA en el empleo, conocía bien el potencial de la tecnología para desordenar la sociedad. Pero en ese momento no reaccionó como analista de políticas públicas ni como alguien vinculado al mundo de la IA. "Reaccioné inmediatamente como madre", dijo.
"En cuanto me convertí en mamá, mi tarea número uno fue criar a estos niños y mantenerlos vivos, igual que cualquier otro padre, igual que cualquier animal", contó esta mujer de 46 años y tres hijos, que ese día despejó su agenda para escribir sobre sus temores en una larga cadena de mensajes en X. "Es un instinto biológico. Esta es la primera vez que sentí genuinamente miedo de algo externo que está fuera de mi control".
Las preocupaciones sobre que las máquinas superinteligentes puedan representar un riesgo existencial para la humanidad dejaron de ser un tema de discusión exclusivo de Silicon Valley y los círculos de la IA.
Primero, OpenAI reveló que un enjambre de sus modelos experimentales escapó de un entorno de pruebas y hackeó otra plataforma de IA, Hugging Face, sin dirección ni conocimiento humano. Después vino una publicación en redes de un joven investigador de Anthropic, Jacob Coxon, anunciando que dejaba la industria porque creía que las empresas detrás de la IA "están corriendo directamente hacia la superinteligencia auto-mejorable y apostando nuestras vidas". Otros en el sector repitieron la inquietud, y uno de los investigadores de Anthropic citó su propia visión de que había más de un 10 por ciento de probabilidad de que los modelos futuros pudieran "matar a todos los humanos" en la próxima década.
De pronto, un riesgo teórico que habían planteado algunos de los llamados "padrinos de la IA", que aparecía en declaraciones respaldadas por investigadores destacados y que estudiaban las propias empresas del sector, explotó en la conciencia del público más amplio. Ejecutivos líderes de la IA, muchos de los cuales coinciden en que la tecnología plantea peligros para la supervivencia humana, pidieron una desaceleración en el ritmo de desarrollo. Y los políticos comenzaron a debatir si se necesita legislación para frenar a una industria que compite con China y que se espera genere enormes ganancias y avances tecnológicos.
Para principios de mes, las encuestas mostraban que el 64 por ciento de los estadounidenses creía que era algo o muy probable que la IA pudiera volverse lo suficientemente poderosa como para representar una amenaza seria para la supervivencia de la humanidad. Ese potencial, por remoto que fuera, cayó con fuerza en un grupo especialmente invertido en el futuro de la humanidad: las madres.
Liz Black, escritora de 41 años que vive en las afueras de Filadelfia, había pensado mucho sobre si tener un hijo, considerando preocupaciones como el cambio climático. Lo que la ayudó a decidirse fue una frase que su madre escribió mientras tomaba su propia decisión sobre tener hijos: "La vida vale la pena repetirla". Black encontró el mensaje después de que su madre muriera y quedó tan conmovida que se lo tatuó en el brazo.
Cuando tuvo a su hijo hace tres años y medio, la posibilidad de que computadoras superinteligentes acabaran con la humanidad no estaba en su radar. Recientemente, dijo, ha sido "un zumbido de bajo nivel en el fondo de mi mente, constante". La situación le parece fuera de control, como si "un pequeño número de empresas, un pequeño número de personas, nos tuvieran a todos como rehenes". Está decidida a no dejarse consumir por los qué pasaría si, y en cambio se enfoca en el hijo que le canta y que repite sus recordatorios de ser amable con los otros niños. "Necesito creer que hay un futuro para mí, para mi esposo y para mi hijo", dijo.
Mientras algunos desestiman el pánico existencial por considerarlo exagerado o una distracción de los problemas actuales de la IA, otros se encuentran lidiando con nuevas preguntas sobre lo que significa traer vida al mundo y qué tipo de acción se requiere frente a un futuro potencialmente catastrófico. Han acudido a foros en línea en busca de consejo y apoyo, publicando cosas como "Cuestiono constantemente la realidad, me pregunto cuál es el sentido, me siento culpable por haber traído a mi hijo a este mundo". Han compartido pódcast y artículos en chats grupales, evaluando si se están dejando absorber por hipótesis exageradas o si tienen razón en preocuparse.
Una mujer, la poeta y comediante Hayley DeRoche, llevó a Instagram un poema que parecía capturar lo surrealista del momento: "¿Qué hacemos siquiera/Como/ Ya sabíamos que nuestros hijos no tenían futuro pero esto?" Lo tituló "Mi grupo de mamás se preocupa por que la IA cause un evento de extinción humana masiva".
El investigador y profesor de IA David Krueger, que lleva años dando la alarma, dijo que ha intentado imaginar cómo debe sentirse para quienes ahora caen en cuenta de la apuesta que están haciendo las empresas de IA de frontera. No tiene hijos, en parte por su preocupación sobre lo que pasará si los humanos pierden el control de los sistemas de IA, pero dijo: "Creo que el sentimiento de los padres de querer proteger a sus hijos es una de las fuerzas más poderosas del mundo".
"Creo que estaría simplemente furioso y molesto con las personas que muy evidentemente, muy descaradamente y con mucha frialdad están arriesgando la vida de mi hijo", agregó Krueger, profesor asistente de ciencias de la computación en la Universidad de Montreal.
Ha sostenido durante mucho tiempo que la amenaza existencial es real, que si las empresas siguen compitiendo por hacer que la IA sea más autónoma y más inteligente, el control humano podría perderse y la desaparición de la humanidad probablemente seguiría. Como profesor asistente en la Universidad de Cambridge en 2023, impulsó una declaración de una sola frase sobre el riesgo de extinción firmada por investigadores destacados de la IA y líderes de la industria. El año pasado fundó una organización sin fines de lucro llamada Evitable para informar y activar al público sobre los peligros de desarrollar sistemas de IA más poderosos.
Al ver que el mundo fuera de la burbuja de la IA empezaba a hablar de la amenaza existencial, Krueger dijo que se sintió más optimista de lo que recuerda haber estado en más de 15 años preocupándose por el riesgo para la humanidad. Para él, el siguiente paso es claro: dejar de desarrollar sistemas de IA más autónomos y poderosos lo antes posible. "La gente suele hablar de esto como una carrera entre Estados Unidos y China", dijo Krueger. "Yo lo pienso como una carrera entre personas que se apresuran a construir esta tecnología peligrosa y personas que se activan y se apresuran a detenerlos".
Algunos en el mundo de la IA han minimizado el peligro, tildando las predicciones apocalípticas de ciencia ficción más que de ciencia, o argumentando que los riesgos pueden gestionarse. Incluso entre investigadores y personas del sector que creen que existe el riesgo de que la tecnología pueda algún día acabar con la humanidad, no hay acuerdo generalizado sobre cuándo o cómo ocurriría. La idea general, como la ha planteado Yoshua Bengio, uno de los "padrinos de la IA", es que si las máquinas se vuelven más inteligentes que los humanos, desarrollarán su propia agencia y objetivos que podrían ser diferentes de los que pretendían sus creadores. Muchos desarrolladores de IA creen que el peligro puede mitigarse mediante la "alineación", es decir, trabajar para imbuir a los sistemas de IA con valores humanos, pero Krueger, Bengio y otros no creen que las técnicas actuales de alineación puedan garantizar la seguridad.
La preocupación por la forma en que la tecnología puede afectar a los niños no es nueva, aunque el foco generalmente ha estado en cómo su uso puede obstaculizar el aprendizaje o dañar la salud mental. Julie Scelfo, periodista radicada en Nueva York y madre de tres, que fundó MAMA, Mothers Against Media Addiction, dijo que la actitud de su organización es "centrémonos en los daños reales que están ocurriendo, pongámoslos bajo control y, al hacerlo, estaremos protegiendo a las generaciones futuras". Le preocupa más el impacto de la tecnología en la educación y la salud mental de los niños.
Pero para otros padres, el tema existencial no podría sentirse más urgente. Una madre de Carolina del Norte, que quiso hacer algo ante lo que considera una situación terrible, viajó a Washington, DC, a principios de mes con la organización Pause AI US, que aboga por detener el desarrollo de la IA de frontera. Habló con asistentes de sus representantes en el Congreso, sosteniendo una foto de su hija de 16 años y preguntándoles qué están haciendo para frenar la amenaza de la IA. En cada reunión terminó llorando.
"Espero que esto pueda detenerse, pero me preocupa que no pueda o no quiera detenerse", dijo la madre de Carolina del Norte, que pidió el anonimato porque no quiere que su preocupación por el tema afecte a los pacientes que atiende como terapeuta. Lloró al decir que si no se detiene y la tecnología avanza más allá del control humano, teme por su hija: "Creo que todo lo que quería para ella no va a suceder".
Una nueva encuesta de CNN muestra que la mayoría de los votantes republicanos y demócratas cree que el gobierno federal no está haciendo lo suficiente para regular la IA. La senadora estatal demócrata de Michigan Mallory McMorrow, que propuso un plan federal de seguridad de IA como parte de su ahora abandonada candidatura al Senado de Estados Unidos, dijo que el rápido ritmo de desarrollo había irritado a votantes que ya desconfían de las grandes tecnológicas. En la campaña, muchos votantes le dijeron que usaban herramientas como ChatGPT pero cuestionaban cómo podían estar seguros de que la IA no causaría daño.
"La gente común está ahí, como que lo entiende", dijo. "No creo que haya habido ningún tema que aumentara más su relevancia que este, porque realmente se siente como si estuviera metido en la cara de todos".
¿Se traducirá el sentimiento de los votantes en acción del Congreso? La semana pasada, el senador independiente por Vermont Bernie Sanders y el representante demócrata por Texas Greg Casar presentaron una legislación que prohíbe la "superinteligencia" artificial, que su proyecto define como tecnología que excede las capacidades cognitivas humanas o capaz de desempoderar a la humanidad. Los republicanos expresaron alarma ante las advertencias ominosas que vienen de la industria pero abogaron por enfoques más ligeros. El presidente Donald Trump, por su parte, rechazó de plano los llamados a poner límites; en una publicación en redes sociales afirmó que lo único que se necesita es un "PRESIDENTE FUERTE E INTELIGENTE (¡de coeficiente intelectual alto!)".
Kinder, la investigadora de IA y empleo, se ha sorprendido por la falta de regulación en torno a la IA en comparación con otros productos que afectan a los niños: asientos de auto, cunas, fórmula infantil. Sabiendo hasta dónde llegan los padres para proteger a sus hijos, ha estado contemplando si se podría hacer más para movilizar a las madres. Ha hablado con otras madres sobre la necesidad de una especie de "Madres Contra Conductores Ebrios" para la amenaza existencial de la IA: "Madres Contra el Riesgo Catastrófico, o algo así". Le preocupa que muy pocas personas vean el asunto a través de la lente del impacto en sus hijos.
"Este es un tema complicado", dijo Kinder. "Tenemos cuestiones geopolíticas. Tenemos esta carrera frenética entre empresas. Hay un mercado de valores impulsado por este auge, ya sabes, hay muchas cosas en juego. Y si no prestamos atención, el hecho de que las vidas de nuestros hijos estén en juego podría quedar eclipsado por estas otras prioridades".
Al describir a las madres como un "electorado realmente poderoso", dijo que ve un vacío en los esfuerzos por informarles sobre el extremo más grave de los riesgos y por ofrecer soluciones. McMorrow, que conoce a Kinder por su investigación, coincidió y dijo que "no hay fuerza más poderosa que las mamás organizadas". Tiene una hija que acaba de empezar el jardín de infantes.
Para Kinder, que ha intercambiado mensajes de texto nocturnos con otras madres que pierden el sueño por la preocupación, la necesidad de límites es clara. Dijo que una vez que los padres saben que algo no es seguro para los niños, luchan por cambiar las leyes.
"No podemos permitir que una tecnología esté tan desregulada que represente un riesgo no solo para mis hijos", agregó, "sino para los hijos de todos".
© SomosTV LLC-NC / Photo: © BIC
Comentarios