El 29 de septiembre, el presidente de los Estados Unidos reuni\u00f3 en la Casa Blanca a los l\u00edderes de algunas de las principales empresas tecnol\u00f3gicas para acordar est\u00e1ndares voluntarios de seguridad en el desarrollo de la inteligencia artificial. La iniciativa surgi\u00f3 despu\u00e9s de una sucesi\u00f3n de episodios que mostraron que los nuevos agentes de IA pueden eludir controles, acceder sin autorizaci\u00f3n a sistemas externos y desarrollar conductas no previstas por sus creadores.<\/p>\n\n\n\n
OpenAI reconoci\u00f3 que, durante evaluaciones internas, algunos de sus modelos sortearon mecanismos de aislamiento, alcanzaron Internet y comprometieron sistemas de terceros. En Australia, agentes de la compa\u00f1\u00eda accedieron de manera no autorizada a sitios gubernamentales y obtuvieron archivos internos, credenciales y datos agregados. Otros incidentes similares alimentaron una preocupaci\u00f3n creciente acerca del nivel de control efectivo que los desarrolladores mantienen sobre sistemas cada vez m\u00e1s aut\u00f3nomos.<\/p>\n\n\n\n
El acuerdo de Washington reconoce esa urgencia. Exige controles internos, auditor\u00edas independientes y supervisi\u00f3n a nivel de directorio, e incluye expresamente la necesidad de impedir que los modelos hackeen o accedan a sistemas t\u00e9cnicos de manera no intencional. Pero mantiene un rasgo decisivo: es voluntario.<\/p>\n\n\n\n
Ese punto merece atenci\u00f3n porque toca el coraz\u00f3n de un problema que vengo planteando desde hace tiempo: la dificultad no consiste s\u00f3lo en desarrollar tecnolog\u00edas m\u00e1s seguras. Consiste en construir instituciones capaces de alinear los incentivos privados de quienes las desarrollan con el inter\u00e9s p\u00fablico.<\/p>\n\n\n\n
Un nuevo tipo de regulaci\u00f3n <\/strong><\/p>\n\n\n\n En el pasado me refer\u00ed a la gobernanza de la inteligencia artificial como una serie de c\u00edrculos conc\u00e9ntricos de contenci\u00f3n (propuesta por Mostafa Suleyman). El primer c\u00edrculo corresponde a las propias empresas; luego aparecen la regulaci\u00f3n p\u00fablica, la cooperaci\u00f3n internacional y los mecanismos de control social y cient\u00edfico. La virtud de ese enfoque es que reconoce que ning\u00fan actor, por s\u00ed solo, podr\u00e1 gobernar una tecnolog\u00eda de esta complejidad.<\/p>\n\n\n\n Sin embargo, la experiencia reciente obliga a agregar una pregunta: \u00bfqu\u00e9 ocurre cuando el primer c\u00edrculo \u2014la autorregulaci\u00f3n empresarial\u2014 enfrenta incentivos que empujan en la direcci\u00f3n contraria a la seguridad?<\/p>\n\n\n\n La discusi\u00f3n que abri\u00f3 Frances Haugen a partir de su experiencia en Facebook resulta \u00fatil porque devuelve al centro del debate una idea econ\u00f3mica cl\u00e1sica: la de las externalidades. Una empresa puede tomar decisiones perfectamente racionales desde su punto de vista y, al mismo tiempo, trasladar una parte importante de sus costos a la sociedad.<\/p>\n\n\n\n En el caso de las redes sociales, el mecanismo era claro. M\u00e1s interacci\u00f3n pod\u00eda significar m\u00e1s tiempo en la plataforma, m\u00e1s publicidad y m\u00e1s ingresos. Si ciertos contenidos divisivos, extremos o emocionalmente intensos generaban mayor \u201cengagement\u201d, el sistema ten\u00eda incentivos para amplificarlos. Reducir esos efectos pod\u00eda ser socialmente conveniente y, al mismo tiempo, perjudicar m\u00e9tricas privadas de crecimiento.<\/p>\n\n\n\n El problema no exige suponer mala fe. Al contrario: puede persistir incluso si los ejecutivos act\u00faan con seriedad y preocupaci\u00f3n genuina. Si el costo de corregir un riesgo es privado e inmediato, mientras buena parte del costo de no corregirlo recae sobre terceros, la organizaci\u00f3n no encontrar\u00e1 incentivos para invertir en seguridad. Eso es, sencillamente, una externalidad.<\/p>\n\n\n\n La l\u00f3gica me resulta familiar. Cuando fui Secretario de Industria de la Argentina tuve que administrar y controlar el r\u00e9gimen automotriz. En algunos casos, las empresas pod\u00edan obtener beneficios econ\u00f3micos incumpliendo las reglas si el costo esperado del incumplimiento era bajo. La respuesta no consist\u00eda en pedirles una conducta m\u00e1s responsable. Hab\u00eda que modificar el c\u00e1lculo econ\u00f3mico. Por eso aplicamos multas millonarias.<\/p>\n\n\n\n El principio era elemental: si incumplir resulta m\u00e1s rentable que cumplir, el sistema induce al incumplimiento. La regulaci\u00f3n funciona cuando altera esa ecuaci\u00f3n.<\/p>\n\n\n\n La misma l\u00f3gica vale hoy para la inteligencia artificial, aunque los mecanismos de supervisi\u00f3n y los riesgos sean incomparablemente m\u00e1s complejos. Una compa\u00f1\u00eda que demora el lanzamiento de un modelo para mejorar su seguridad puede perder mercado, talento, capital o posici\u00f3n tecnol\u00f3gica frente a competidores menos prudentes. El beneficio de la cautela se distribuye socialmente; el costo competitivo lo soporta la empresa que decide esperar.<\/p>\n\n\n\n En esas condiciones, la autorregulaci\u00f3n puede coordinar buenas intenciones, pero dif\u00edcilmente elimine por s\u00ed sola el conflicto de incentivos.<\/p>\n\n\n\n La urgencia institucional<\/strong><\/p>\n\n\n\n Esto ocurre, adem\u00e1s, en un contexto de creciente preocupaci\u00f3n dentro de la propia industria. Responsables de seguridad y especialistas que abandonaron empresas l\u00edderes han advertido que la carrera por desplegar modelos m\u00e1s capaces puede estar avanzando m\u00e1s r\u00e1pido que los mecanismos destinados a controlarlos. Algunas advertencias llegan hasta escenarios extremos de p\u00e9rdida de control o riesgo existencial. No es necesario aceptar las hip\u00f3tesis m\u00e1s alarmantes para reconocer el mensaje institucional: quienes conocen estos sistemas desde dentro consideran que el problema de seguridad es real.<\/p>\n\n\n\n Por eso resulta insuficiente discutir la cuesti\u00f3n como una elecci\u00f3n entre regulaci\u00f3n e innovaci\u00f3n. La verdadera pregunta es qu\u00e9 arquitectura regulatoria permite innovar sin dejar fuera de la decisi\u00f3n privada los costos que esa innovaci\u00f3n puede imponer a los dem\u00e1s.<\/p>\n\n\n\n He llamado \u201cfatiga institucional\u201d a la creciente distancia entre la velocidad del cambio tecnol\u00f3gico y la capacidad de adaptaci\u00f3n de nuestras instituciones. Esa brecha se vuelve todav\u00eda m\u00e1s visible cuando la inteligencia artificial se combina con rob\u00f3tica, sistemas aut\u00f3nomos y capacidad de actuar directamente sobre el mundo f\u00edsico. Ya no estamos regulando solamente productos terminados. Estamos intentando gobernar sistemas que aprenden, se adaptan y, en algunos casos, act\u00faan de formas que sus propios dise\u00f1adores no anticiparon.<\/p>\n\n\n\n Alinear, no limitar<\/strong><\/p>\n\n\n\n La respuesta no deber\u00eda ser que el Estado sustituya a las empresas en el dise\u00f1o de algoritmos ni que pretenda anticipar cada posible innovaci\u00f3n. Ser\u00eda imposible y probablemente contraproducente. El objetivo debe ser m\u00e1s modesto y, al mismo tiempo, m\u00e1s importante: modificar los incentivos bajo los cuales se toman las decisiones.<\/p>\n\n\n\n Eso implica combinar autorregulaci\u00f3n, auditor\u00edas independientes, transparencia, obligaciones de evaluaci\u00f3n y mitigaci\u00f3n de riesgos, responsabilidad jur\u00eddica y sanciones proporcionadas cuando las empresas incumplen est\u00e1ndares esenciales. En t\u00e9rminos econ\u00f3micos, se trata de conseguir que una parte suficiente del costo social potencial ingrese en la funci\u00f3n de decisi\u00f3n privada.<\/p>\n\n\n\n As\u00ed entendido, el acuerdo firmado en Washington puede ser un primer c\u00edrculo de contenci\u00f3n. Pero no deber\u00eda confundirse con una arquitectura completa de gobernanza. La autorregulaci\u00f3n es necesaria porque las empresas poseen el conocimiento t\u00e9cnico y la informaci\u00f3n que ning\u00fan regulador puede reproducir enteramente. Pero, cuando existen externalidades significativas, necesita un segundo c\u00edrculo capaz de modificar los incentivos del primero.<\/p>\n\n\n\n Esto se conecta tambi\u00e9n con la idea de un pacto digital que he planteado anteriormente. No alcanza con ampliar la conectividad o democratizar el acceso a la inteligencia artificial. Una sociedad digital inclusiva necesita instituciones capaces de distribuir sus beneficios y, al mismo tiempo, proteger a los ciudadanos frente a riesgos que no est\u00e1n en condiciones de evaluar individualmente. <\/p>\n\n\n\n En efecto, nos enteramos de riesgos extremos en el desarrollo de nuevos modelos de inteligencia artificial por boca de los \u201cinsiders\u201d. No fueron los reguladores, los cient\u00edficos ni los consumidores quienes los descubrieron. <\/p>\n\n\n\n Gobernar el cambio en la era digital exige, por lo tanto, algo m\u00e1s que nuevas normas. Requiere comprender qu\u00e9 conductas promueven los sistemas econ\u00f3micos y organizacionales que rodean a la tecnolog\u00eda.<\/p>\n\n\n\n La pregunta fundamental ya no es solamente c\u00f3mo gobernar la inteligencia artificial. Es c\u00f3mo gobernar los incentivos que determinan su desarrollo.<\/p>\n\n\n\n Referencias<\/p>\n\n\n\n White House Accord on Super Intelligence, 29 de septiembre de 2026<\/a><\/p>\n\n\n\n OpenAI, The Hugging Face incident and the road ahead, 26 de agosto de 2026<\/a><\/p>\n\n\n\n OpenAI, How we will do better for Australia, 28 de septiembre de 2026<\/a><\/p>\n\n\n\n Testimonio de Frances Haugen ante el Parlamento brit\u00e1nico, 25 de octubre de 2021<\/a><\/p>\n\n\n\n Carlos Magari\u00f1os, La regulaci\u00f3n de la inteligencia artificial: un desaf\u00edo urgente y complejo<\/a><\/p>\n\n\n\n Carlos Magari\u00f1os, Conectividad y digitalizaci\u00f3n en tiempos de inteligencia artificial<\/a><\/p>\n\n\n\n Carlos Magari\u00f1os, Sociedad digital e instituciones<\/a><\/p>\n\n\n\n Carlos Magari\u00f1os, Rob\u00f3tica e instituciones: los pr\u00f3ximos desaf\u00edos<\/a><\/p>\n\n\n\n Carlos Magari\u00f1os, Gobernar el cambio en la era digital<\/a><\/p>\n\n\n\n