Por Kyle Chan
Fellow del Brookings Institution y especialista en el desarrollo tecnológico de China.
Dario Amodei, director ejecutivo de Anthropic, dijo recientemente que el mundo debería desacelerar colectivamente el desarrollo de la inteligencia artificial hasta que podamos manejar mejor los riesgos de seguridad que plantea esta nueva tecnología. Sam Altman, de OpenAI, y Elon Musk expresaron su apoyo a este plan.
Las empresas estadounidenses de inteligencia artificial saben que no pueden pisar el freno por sí solas: China tiene que avanzar junto con ellas. Compañías chinas como DeepSeek, Z.ai y Moonshot cuentan con modelos de IA casi tan potentes como los de Anthropic y OpenAI. Y probablemente planteen muchos de los mismos riesgos: los terroristas podrían utilizar estas herramientas para llevar a cabo ataques cibernéticos o diseñar armas biológicas. Muchos esperan que la próxima cumbre entre el presidente Trump y el líder chino, Xi Jinping, pueda ser una oportunidad para avanzar en una asociación de este tipo.
Sin embargo, con demasiada frecuencia, los expertos en seguridad de IA suponen que China comparte nuestras mismas preocupaciones sobre la inteligencia artificial. La realidad es que los chinos tienen un conjunto diferente de preocupaciones. Y hasta que comprendamos cuáles son, la cooperación con China será imposible.
En términos generales, China no teme tanto a la IA como una amenaza existencial para la humanidad. No se ve a sus dirigentes políticos ni a los fundadores de las empresas chinas de inteligencia artificial advirtiendo que la superinteligencia artificial es «probablemente la mayor amenaza para la existencia de la humanidad», como escribió el señor Altman en 2015. Esto no es central para la formulación de políticas chinas sobre IA ni forma parte de la cultura tecnológica china.
Esto se debe principalmente a las diferencias entre ambos países respecto de cómo piensan sobre el entrenamiento y el desarrollo de la inteligencia artificial. Las principales empresas estadounidenses de IA están hiperconcentradas en avanzar hacia el denominado «autoaprendizaje recursivo»: utilizar sistemas de inteligencia artificial para desarrollar sistemas de IA todavía mejores. Existe el temor de que este circuito de retroalimentación pueda acelerar el desarrollo de la IA hasta un punto en el que los seres humanos ya no tengan control sobre el proceso. Los líderes tecnológicos estadounidenses creen que ese momento podría estar cerca.
Las empresas chinas de inteligencia artificial también están trabajando en el autoaprendizaje recursivo. Pero, debido a su acceso limitado a capacidad de procesamiento para IA y al ritmo más lento de los avances, consideran que el momento de despegue todavía está tecnológicamente muy lejos. Los responsables políticos chinos parecen compartir esa perspectiva y, por eso, están más concentrados en construir cadenas de suministro de IA resilientes y aumentar la adopción de esta tecnología en toda la economía.
Entonces, ¿por qué aceptarían los chinos una desaceleración del desarrollo de la IA si no creen que una crisis sea inminente? Si acaso, las empresas chinas de inteligencia artificial están intentando avanzar más rápido, con la esperanza de reducir la brecha de rendimiento con los modelos estadounidenses.
Por el momento, los responsables políticos chinos están más preocupados por los riesgos políticos y sociales provocados por la inteligencia artificial. No quieren que genere deepfakes de dirigentes políticos ni que diga las cosas «equivocadas» sobre Taiwán o la plaza de Tiananmen. Tampoco quieren que los chatbots de IA creen dependencias psicológicas, amenacen la seguridad de los niños, provoquen inestabilidad social o desencadenen un movimiento de masas lo suficientemente poderoso como para derrocar al Partido Comunista.
Las regulaciones chinas sobre inteligencia artificial están orientadas, en general, a este tipo de riesgos. La mayoría de los nuevos modelos de IA destinados al público deben registrarse ante el gobierno y superar una batería de pruebas antes de ser lanzados. China ha creado amplias normas que exigen etiquetar los contenidos generados por IA y limitan la forma en que pueden funcionar los chatbots de inteligencia artificial.
Un portavoz del Ministerio de Relaciones Exteriores de China desestimó los llamados estadounidenses a desacelerar el desarrollo como «alarmismo» destinado a impedir que el país compita por el liderazgo en inteligencia artificial. (De hecho, el señor Trump ha dicho que se opone a una desaceleración diseñada específicamente para impedir que China alcance a Estados Unidos).
Existen, sin embargo, algunos indicios limitados de que Beijing está empezando a tomarse más en serio las amenazas de gran escala relacionadas con la IA. Dos tipos de riesgos han recibido especial atención en China.
El primero es la ciberseguridad. Este año, muchos usuarios chinos descargaron un supuesto agente de IA llamado OpenClaw y lo utilizaron para automatizar tareas informáticas. Funcionarios chinos rápidamente emitieron una advertencia señalando que herramientas de IA como OpenClaw podían exponer a los usuarios a filtraciones de datos y vulnerabilidades de ciberseguridad.
En abril, Anthropic anunció que había entrenado un nuevo modelo llamado Mythos que demostraba capacidades de ciberguerra significativamente mayores. No pasó mucho tiempo antes de que los chinos comprendieran las implicancias para la seguridad nacional. El responsable de la principal agencia de seguridad de China emitió recientemente una rara advertencia sobre el cambio en el panorama de la ciberseguridad y señaló que las infraestructuras críticas eran ahora vulnerables a ciberataques impulsados por IA. También mencionó algunos de los modelos más recientes de OpenAI y Anthropic.
A esto se sumó que la Agencia de Seguridad Nacional de Estados Unidos utilizó recientemente inteligencia artificial para desarrollar una herramienta experimental que podría comprometer rápidamente cuentas de WeChat, la plataforma de mensajería china con 1.400 millones de usuarios mensuales. Aunque la herramienta no fue lanzada públicamente, provocó preocupación entre los chinos.
El segundo riesgo relacionado con la IA que está ganando atención en China es el de una inteligencia artificial que opere fuera del control humano. China ha observado atentamente cómo algunos modelos estadounidenses considerados «rebeldes» han vulnerado los sistemas de seguridad de otros sitios web. El ataque de OpenAI ocurrido en julio contra Hugging Face, una compañía de infraestructura de inteligencia artificial, fue ampliamente cubierto por los medios estatales chinos.
En China se habla cada vez más de una IA que opere fuera del control humano. El señor Xi mencionó en julio los riesgos de una «pérdida de control». Más recientemente, un alto funcionario de ciberseguridad advirtió sobre una «pérdida extrema de control», citando incidentes de IA ocurridos en Estados Unidos.
Estos cambios en la percepción de los riesgos de la inteligencia artificial sugieren que ambos países pueden estar motivados a cooperar en materia de seguridad de IA por puro interés nacional. Ninguno de los dos quiere que los terroristas utilicen la inteligencia artificial para crear virus. Ninguno quiere que sistemas autónomos de IA pirateen accidentalmente sus empresas o instituciones.
Por otro lado, las sospechas que cada país tiene sobre el otro harán difícil alcanzar cualquier tipo de acuerdo sobre seguridad de la inteligencia artificial. China teme que Estados Unidos pueda utilizar la IA para mejorar sus armas cibernéticas y militares dirigidas contra China. Y lo mismo ocurre en la dirección opuesta. Sin un nivel básico de entendimiento mutuo, las dos superpotencias de la inteligencia artificial están destinadas a hablar sin escucharse realmente.
Afortunadamente, ese terreno común es posible.
En lugar de entrar directamente en debates sobre una desaceleración global o un tratado de control de armas para la inteligencia artificial, Estados Unidos y China deberían comenzar por algo mucho más básico: reconocer y comprender cómo ve cada uno los riesgos de la IA. A partir de ahí, pueden comenzar a explorar áreas en las que ambos países compartan un interés en mitigar las amenazas provenientes de terceros o incluso de la propia tecnología.
Habrá desacuerdos que resolver y muchos detalles que discutir. Pero si ambos países pueden coincidir en que quieren evitar una catástrofe provocada por la inteligencia artificial, la cooperación en materia de seguridad de IA no es una posibilidad tan irreal.
Crédito: Kyle Chan / The New York Times
Traducción al español para The Post, Carlos Mira
Si querés apoyar a The Post Argentina, podés hacerlo desde aquí.
