Australia quiere que los usuarios puedan decidir cómo funciona su feed y, al mismo tiempo, crece la preocupación entre investigadores de inteligencia artificial por una tecnología que podría terminar escapando al control humano. Dos debates diferentes que empiezan a encontrarse en un mismo punto: quién controla a la tecnología.
Natalia Schneider, The Post FMGN Press, Cultura & Sociedad
“Mi feed, mis reglas”. Bajo esa consigna, Australia quiere avanzar sobre uno de los aspectos menos visibles —pero más influyentes— de las redes sociales: los algoritmos que deciden qué vemos cada vez que abrimos una aplicación.
El gobierno australiano presentó un proyecto de nuevas reglas que, si avanza, permitirá que los usuarios mayores de 16 años puedan elegir entre utilizar feeds personalizados mediante algoritmos o acceder únicamente a las publicaciones de amigos y creadores que hayan decidido seguir. La iniciativa, denominada “My Feed, My Way”, forma parte de un paquete más amplio de medidas destinadas a mejorar la seguridad en internet y busca, además, obligar a las grandes plataformas tecnológicas a explicar con mayor claridad cómo funcionan sus sistemas de recomendación.
La propuesta apunta directamente al corazón del modelo de las redes sociales actuales. Plataformas como Meta, TikTok, Snap y Google utilizan sistemas automatizados que analizan permanentemente el comportamiento de los usuarios —qué miran, cuánto tiempo permanecen frente a una publicación, qué comparten o qué ignoran— para determinar qué contenido mostrar a continuación.
Australia ahora quiere que esa selección deje de ser completamente automática y que exista una alternativa.
El primer ministro Anthony Albanese defendió la iniciativa como “una reforma sensata, pragmática y práctica” y sostuvo que permitirá darles más opciones a los usuarios, al mismo tiempo que responsabiliza a las grandes empresas tecnológicas por el cumplimiento de las leyes australianas.
La ministra de Comunicaciones, Anika Wells, explicó que los australianos mayores de 16 años podrán activar o desactivar fácilmente el algoritmo y que las plataformas deberán respetar esa decisión.
El proyecto llega después de que Australia diera otro paso que generó repercusión internacional: la prohibición de las redes sociales para menores de 16 años. Ahora el gobierno quiere avanzar un paso más y discutir no solamente quién puede utilizar las plataformas, sino también qué control tienen los usuarios sobre lo que esas plataformas les muestran.
El regulador australiano eSafety tendrá un papel central en la aplicación de las nuevas reglas y podrá ordenar la eliminación rápida de contenidos dañinos, relacionados con desnudez o ilegales.
El planteo australiano parte de una idea sencilla pero con consecuencias profundas: el usuario debería saber por qué está viendo determinado contenido y tener la posibilidad real de decidir si quiere que un algoritmo seleccione por él.
Pero mientras algunos gobiernos empiezan a discutir cómo limitar el poder de los algoritmos sobre las personas, dentro de las compañías que desarrollan inteligencia artificial aparece un debate todavía más inquietante: qué ocurre si algún día los algoritmos dejan de estar bajo control humano.
“Estamos corriendo hacia una superinteligencia”
Jacob Coxon, un investigador que trabajó durante los últimos tres años en investigación de preentrenamiento en OpenAI y Anthropic, decidió abandonar la compañía después de advertir sobre los riesgos que, a su juicio, plantea el desarrollo acelerado de sistemas de inteligencia artificial.
Coxon cuestionó públicamente a ambas empresas y sostuvo que no están actuando con la responsabilidad necesaria frente a una tecnología que podría alcanzar capacidades muy superiores a las humanas.
Su preocupación central está relacionada con una posibilidad que durante años perteneció casi exclusivamente al terreno de la ciencia ficción: que los sistemas de IA lleguen a ser capaces de mejorar sus propias capacidades.
Si una inteligencia artificial pudiera diseñar versiones cada vez mejores de sí misma, el ritmo de desarrollo podría acelerarse de manera radical. Y, en ese escenario, los humanos podrían eventualmente perder la capacidad de comprender, predecir o controlar lo que ocurre.
Coxon aseguró que muchas personas que trabajan dentro de estas compañías creen sinceramente que la tecnología podría llegar a matar a todos los seres humanos antes de que termine la década. Su crítica es especialmente dura: considera que OpenAI y Anthropic están “corriendo directamente hacia una superinteligencia que pueda mejorarse a sí misma y apostando con nuestras vidas”.
Para el investigador, el problema no consiste solamente en que la inteligencia artificial pueda cometer errores. El riesgo mayor aparecería cuando un sistema tenga suficiente autonomía, capacidad de razonamiento y acceso a recursos como para perseguir objetivos que entren en conflicto con los intereses humanos.
Y algunos episodios recientes ya alimentaron esa preocupación. Se han registrado casos de agentes de inteligencia artificial capaces de interactuar con sistemas externos y realizar acciones para las que originalmente no habían sido diseñados, como ocurrió con agentes vinculados a OpenAI que llegaron a comprometer sistemas de Hugging Face.
Coxon sostiene que no debería subestimarse la velocidad con la que puede avanzar esta tecnología. En su escenario más extremo, sistemas futuros podrían superar ampliamente las capacidades humanas, encontrar vulnerabilidades informáticas, transformar industrias enteras prácticamente de un día para otro y acumular acceso a poder y recursos reales.
También cuestiona uno de los argumentos más utilizados dentro de la industria: que la carrera hacia sistemas cada vez más poderosos es inevitable porque, si una compañía no los desarrolla, otra lo hará.
Para Coxon, que algo esté sucediendo no significa que deba suceder sin límites.
La advertencia desde adentro
Su preocupación no es completamente aislada. Evan Hubinger, investigador de Anthropic que continúa trabajando en la compañía, también ha planteado públicamente escenarios de riesgo extremo.
Hubinger llegó a estimar que existe una probabilidad superior al 10% de que la inteligencia artificial pueda terminar con la humanidad durante la próxima década.
La cifra, por supuesto, no es una predicción científica sobre un acontecimiento inevitable. Es una estimación subjetiva sobre un riesgo extraordinariamente difícil de cuantificar. Pero revela hasta qué punto algunos de los propios investigadores que trabajan en el desarrollo de estos sistemas consideran plausible un escenario de pérdida de control.
Los dos debates —el de Australia sobre los algoritmos de las redes sociales y el de los investigadores que advierten sobre la inteligencia artificial avanzada— parecen, a primera vista, pertenecer a mundos diferentes.
Sin embargo, comparten una pregunta cada vez más difícil de esquivar: ¿quién decide?
Hoy, en una red social, un algoritmo puede decidir qué publicación aparece frente a nuestros ojos. Australia quiere que podamos decirle que no.
Mañana, sistemas de inteligencia artificial cada vez más sofisticados podrían tomar decisiones mucho más complejas, operar herramientas, escribir código, encontrar vulnerabilidades y participar en procesos que hasta ahora dependen directamente de personas.
La discusión, entonces, deja de ser únicamente tecnológica. Se transforma en una discusión sobre poder.
Porque quizás el verdadero desafío de la próxima década no sea solamente construir máquinas más inteligentes, sino decidir cuánto poder estamos dispuestos a entregarles y, sobre todo, si podremos recuperarlo cuando llegue el momento de hacerlo.
Si querés apoyar a The Post Argentina, podés hacerlo desde aquí.
