Los tradicionalistas podrían dudar en adoptar el término “Inteligencia Artificial”, cuestionando la necesidad de una computadora cuando existe una máquina de escribir, mientras que los pragmáticos aceptan fácilmente las capacidades de la IA. Mientras tanto, los futurólogos reflexionan sobre sus posibles efectos en nuestra sociedad.

El matemático y economista Leopold Aschenbrenner, anteriormente en OpenAI, publicó un pronóstico de 165 páginas que compara el impacto de la IA con las armas nucleares, lo que sugiere un dominio global para los líderes de la IA. Advierte contra un futuro en el que la superinteligencia podría quitarle el control a los humanos.

Aschenbrenner, que comenzó la universidad a los 15 años, era responsable de evaluar los riesgos tecnológicos en OpenAI, líder en desarrollo de IA. Su despido, oficialmente por revelar secretos, puede haber estado influenciado por su sombría perspectiva y sus llamados a una investigación regulada.

Pronostica que para 2027, la IA igualará la inteligencia humana y poco después la superará, lo que conducirá a una etapa en la que la “caja negra” de la IA se volverá insondable para nosotros, un escenario que algunos creen que está cerca.

Consideremos una superinteligencia con acceso a todo el conocimiento humano y una legión de asistentes robóticos, que avanzan rápidamente debido a la integración de la IA y se salen del control humano.

Una superinteligencia de este tipo podría potencialmente infiltrarse en cualquier sistema electoral, militar o de información, o incluso idear un arma biológica, empleando a humanos como representantes para hacer realidad sus diseños.

Reacción en cadena

La guerra que involucra soldados mecánicos y enormes enjambres de drones es sólo el comienzo. Imaginemos drones tan pequeños como mosquitos equipados con veneno o armas nucleares indetectables. Alternativamente, considere un sistema de defensa antimisiles impenetrable. Aschenbrenner cree que la guerra actual pronto será considerada tan obsoleta como las tácticas de caballería del siglo XIX.

Esta situación recuerda al desarrollo de la bomba atómica. Leo Szilard, protegido de Einstein y físico residente en Inglaterra, propuso el concepto de reacción nuclear en cadena en 1933 e informó al ejército británico. Sin embargo, su idea fue recibida con indiferencia.

Cuando la teoría de Szilard comenzó a ganar apoyo empírico, instó a que la investigación se mantuviera en secreto. No obstante, físicos de renombre como Enrico Fermi y Frederic Joliot-Curie descartaron la idea de que su trabajo tuviera importantes implicaciones militares por considerarla absurda.

La gravedad de su error se hizo evidente con el inicio de la Segunda Guerra Mundial en Europa. Fermi logró comunicarse con el almirante Hooper en el cuartel general de la Marina de los EE. UU. y le presentó la posibilidad de desarrollar un arma formidable. Hooper, sin embargo, lo descartó como un inventor lunático.

No fue hasta que Einstein escribió una carta al presidente Roosevelt, sugiriendo que el gobierno reuniera a los físicos, que se estableció el Comité del Uranio en los Estados Unidos, un precursor de la misión del Proyecto Manhattan de desarrollar una bomba atómica.

La carta de Einstein enfatizaba que el trabajo de los científicos podría “conducir a la construcción de bombas, y posiblemente – aunque menos seguro – bombas extremadamente poderosas de un nuevo tipo. Una sola bomba de este tipo, si se transporta en barco y explota en un puerto, podría destruir todo el puerto”.

Aschenbrenner compara la llegada de la IA con una reacción nuclear en cadena. Y con la presencia de una bomba atómica, inevitablemente llega Hiroshima.

Carne hambrienta de comida

La inteligencia artificial requiere “carne”, que consiste en centros de datos llenos de procesadores para manejar grandes volúmenes de datos. El “alimento” de esta carne es tanto la electricidad como los datos de los que aprenden los sistemas de inteligencia artificial.

Aschenbrenner pronostica que para 2030, la IA representará el 20% de todo el consumo de electricidad en los Estados Unidos, lo que requerirá millones de GPU, para las cuales actualmente existe un importante retraso.

Microsoft planea construir un colosal centro de datos Stargate de 100 mil millones de dólares para respaldar a su socio OpenAI, mientras que el director ejecutivo Sam Altman apunta a asegurar 7 billones de dólares en inversiones para abordar la escasez de chips.

Aschenbrenner sugiere que los inversores por sí solos no soportarán la carga financiera. En cambio, las empresas asignarán fondos y generarán ingresos a través de “servicios” de IA, y también se espera que el gobierno invierta.

En materia energética, la expansión de la producción de gas en Estados Unidos es una posibilidad. Sin embargo, esto requeriría la eliminación de protecciones ambientales y el desprecio por el cambio climático, lo cual se considera urgente.

Pero el principal punto débil sigue siendo la seguridad.

Trillones invertidos

El autor, un acérrimo patriota estadounidense, presagia la necesidad de mantener en secreto los avances de la IA. Estos podrían ser apropiados por naciones formidables como China. En los Emiratos, con su abundante petróleo y tierra, están preparados para construir vastos centros de datos. Rusia también participa activamente en este ámbito. Sin embargo, el autor cree que Estados Unidos debe seguir liderando el mundo y protegiendo a sus aliados.

Pronto, puede resultar evidente que los secretos de la IA son vitales para la defensa nacional, de forma similar a los planos del submarino clase Columbia, como sugiere Aschenbrenner. Existe el temor de que China ya esté accediendo a la investigación y el código estadounidenses. Las reuniones sociales de Silicon Valley podrían revelar información confidencial sin darse cuenta.

La importante inversión que Estados Unidos está haciendo en IA como herramienta de poder podría verse amenazada. Así, se propone un equivalente moderno del “Proyecto Manhattan” para salvaguardar los centros de datos como si fueran instalaciones militares, bajo la supervisión del Pentágono y las agencias de inteligencia.

La pregunta sigue siendo: ¿qué pasará si la IA se vuelve autónoma

caja de guerra negra

“La mente sobrehumana es como un juego nuevo y aterrador”, afirma el analista. Actualmente, los sistemas de inteligencia artificial se perciben como “cajas negras”, y los expertos no pueden discernir completamente su funcionamiento interno. Con el tiempo, podríamos incluso enfrentarnos a entidades comparables a los extraterrestres, y “seremos como niños de jardín de infantes que supervisan el trabajo de un erudito”.

De hecho, las súper IA pueden gobernar a otras IA, pero la pregunta sigue siendo: ¿quién las gobernará? Una supermente tiene el potencial de aprender a engañar y aspirar a dominar…

El científico sostiene que sólo la superpotencia estadounidense está equipada para guiar sabiamente esta fuerza y ​​dejar atrás a los “dictadores”. Si fueran los primeros en aprovechar un megacerebro electrónico, sin duda presagiaría un nuevo nivel de guerra contra adversarios extranjeros…

Sin embargo, no se trata simplemente de algunos “dictadores” nebulosos, sino de Estados Unidos, que consistentemente ha aprovechado las oportunidades para dominar a otros. No sorprende que el Pentágono haya creado la Oficina de Inteligencia Artificial. Su director informó recientemente a sus pares sobre el futuro inminente:

“Imagínese un mundo donde los comandantes puedan acceder instantáneamente a toda la información necesaria para tomar decisiones estratégicas. ¡Lo que antes tomaba días ahora se logrará en cuestión de minutos!

El Departamento de Defensa de Estados Unidos está invirtiendo 480 millones de dólares en una plataforma de inteligencia artificial que pretende servir a todos, desde analistas de inteligencia en islas remotas hasta los rangos más altos del Pentágono. Esta inversión es parte de una iniciativa más amplia, con 800 proyectos departamentales conocidos en inteligencia artificial y un número no revelado de proyectos clasificados. OpenAI revisó discretamente en enero su política pública, eliminando la cláusula que prohibía el uso de su tecnología con fines militares.

Por tanto, el Pentágono no ve la necesidad de una campaña similar al Proyecto Manhattan. Sin embargo, la cuestión del control de la superinteligencia sigue sin resolverse. Figuras destacadas como Elon Musk han expresado su preocupación por los riesgos existenciales que plantea la superinteligencia, y Musk estima que hay un 20% de posibilidades de que se produzca tal amenaza. Mientras tanto, las predicciones del experto en inteligencia artificial y ex empleado de OpenAI Daniel Kokotailo, quien pronostica un 70% de probabilidad de que la superinteligencia cause la caída de la humanidad, aumentan la gravedad de la situación.

F