¿Qué pasará el día después de la superinteligencia?

Con el lanzamiento de Chat GPT-5 de OpenAI, el mundo está un paso más cerca de liberar una superinteligencia de propósito general capaz de superarnos cognitivamente a todos por un amplio margen. A medida que se acerca este día, me preocupa cada vez más que estemos completamente mal preparados para las repercusiones que esto tendrá en la sociedad, y probablemente no por las razones que se esperan.

Prueba este pequeño experimento: Pregúntale a cualquier conocido si le preocupa la IA y probablemente compartirá diversos temores , desde las disrupciones masivas en el mercado laboral y el impacto desvirtuador de la realidad de los deepfakes, hasta el poder sin precedentes que se concentra en un puñado de grandes empresas de IA. En otras palabras, la mayoría de la gente nunca ha imaginado honestamente cómo será su vida el día después de que la superinteligencia esté ampliamente disponible.

En contexto, la superinteligencia artificial (ISA) se refiere a sistemas que pueden superar a los humanos en la mayoría de los aspectos, desde la planificación y el razonamiento hasta la resolución de problemas, el pensamiento estratégico y la creatividad pura. Estos sistemas resolverán problemas complejos en fracciones de segundo que podrían llevar días, semanas o incluso años a los expertos humanos más inteligentes. Esto me aterra, y no se debe a los escenarios catastróficos que dominan nuestro discurso público.

No, me preocupan los riesgos opuestos: los peligros que podrían surgir en el mejor de los casos, cuando la superinteligencia es útil y benévola. Una IA como esta tendrá muchos impactos positivos en la sociedad, pero también podría ser profundamente desmoralizante para nuestra identidad humana. Después de todo, el mundo se sentirá diferente cuando cada uno de nosotros sepa que una inteligencia más inteligente, más rápida y más creativa está disponible en nuestros dispositivos móviles que entre nuestros oídos.

Así que, pregúntate honestamente, ¿cómo actuaremos los humanos en esta nueva realidad? ¿Buscaremos consejo de nuestros asistentes de IA para afrontar cualquier pequeño desafío? O peor aún, ¿aprenderemos a confiar más en nuestros asistentes de IA que en nuestros propios pensamientos e instintos?

Espere, antes de responder, debe actualizar su modelo mental. Actualmente, interactuamos con la IA mediante un marco socrático que nos exige hacer preguntas y obtener respuestas (como hizo el capitán Kirka bordo del Enterprise en 1966). Pero eso es pensar de la vieja escuela. Estamos entrando en una nueva era en la que los asistentes de IA se integrarán en dispositivos corporales equipados con cámaras y micrófonos, lo que permitirá a la IA ver lo que usted ve, oír lo que usted oye y susurrarle consejos al oído sin necesidad de que se los pida.

En otras palabras, nuestro futuro estará repleto de asistentes de IA que nos acompañarán en la vida, enriquecendo nuestras experiencias con una guía optimizada en todo momento. En este mundo, el riesgo no es que pidamos consejo a la IA por reflejo antes de usar nuestro propio cerebro; el riesgo es que no necesitemos pedirlo: el consejo simplemente nos llegará por los ojos y los oídos, moldeando nuestras acciones, influyendo en nuestras decisiones y resolviendo nuestros problemas antes de que hayamos tenido la oportunidad de pensar por nosotros mismos.

Me refiero a este marco como " mentalidad aumentada " y está a punto de llegar a la sociedad a gran escala a través de gafas, auriculares y colgantes con IA. Este es el futuro de la informática móvil y ya está impulsando una carrera armamentística entre Meta, Google, Samsung y Apple, que se posicionan para producir los dispositivos de IA sensibles al contexto que reemplazarán a los teléfonos móviles.

Imagina caminar por la calle en tu ciudad. Ves a un compañero de trabajo acercándose. No recuerdas su nombre, pero tu asistente de IA sí. Detecta tu vacilación y te susurra su nombre al oído. La IA también te recomienda que le preguntes por su esposa, quien se operó hace unas semanas. El compañero agradece la sugerencia y luego te pregunta por tu reciente ascenso, probablemente por consejo de su propia IA.

¿Es esto empoderamiento humano o una pérdida de la capacidad de acción humana?

Sin duda, te sentirás como un superpoder tener una IA en el oído que siempre te apoya, asegurándote de que nunca olvides un nombre, siempre tengas cosas ingeniosas que decir y recibas alertas instantáneas cuando alguien con quien hablas no sea sincero . Por otro lado, cada persona que conozcas tendrá su propia IA murmurando en sus oídos. Esto nos hará preguntarnos con quién interactuamos realmente : con la persona que tenemos delante o con el agente de la IA que le da orientación (consulta la datación por carbono para ver ejemplos divertidos).

Muchos expertos creen que los asistentes corporales de IA nos harán sentir más poderosos y capaces, pero no es el único camino posible. Estas mismas tecnologías podrían hacernos sentir menos seguros de nosotros mismos y menos influyentes en nuestras vidas. Al fin y al cabo, la inteligencia humana es la característica que define a la humanidad, aquello de lo que más nos enorgullecemos como especie; sin embargo, pronto podríamos encontrarnos supeditados a los asistentes de IA porque nos sentimos mentalmente superados. ¿Es esto empoderamiento: una IA que botsexplique cada experiencia en tiempo real?

Planteo estas preocupaciones como alguien que ha dedicado toda su carrera a crear tecnologías que amplían las capacidades humanas . Desde mis inicios en el desarrollo de la realidad aumentada hasta mi trabajo actual en el desarrollo de agentes conversacionales que hacen que los equipos humanos sean más inteligentes, creo firmemente que la tecnología puede mejorar enormemente las capacidades humanas. Desafortunadamente, en lo que respecta a la superinteligencia, existe una delgada línea entre aumentar nuestras capacidades humanas y reemplazarlas . A menos que seamos reflexivos al implementar la IAA, me temo que cruzaremos esa línea.

Louis Rosenberg es un pionero de la realidad virtual y aumentada y un veterano investigador de IA. Fundó Immersion Corp, Outland Research y Unanimous AI.