Retrato de Camilo Ramírez Camilo Ramírez
ES / EN Contacto

Blog · Temas · Gobernanza

Tema · Gobernanza de IA

Construimos negocios sobre una tecnología que nadie está auditando.

Síntesis editorial sobre quién audita los modelos de IA, qué oligopolio se está formando, y qué significa para empresas en LATAM construir sobre una tecnología que se decide en otro continente.

TL;DR

Dos empresas (OpenAI y Anthropic) controlan el 89% del mercado mundial de IA. Estados Unidos audita por dentro esos modelos antes de que salgan al público, pero ningún país latinoamericano tiene silla en esa mesa. Europa exige reglas estrictas. China bloquea adquisiciones por el origen étnico de los fundadores. Y el día menos pensado, la regulación que afecta su negocio se decide en alguno de esos tres bloques sin que usted entere. Depender de algo que nadie audita no es necesariamente un error. Hacerlo sin saberlo, sí.

La discusión sobre gobernanza de IA suele aterrizar en titulares de prensa rápida: "tal país firmó tal acuerdo", "tal empresa prometió tal cosa". Lo importante casi nunca está en el titular. Está en el tablero de fondo: quién audita la tecnología, quién la regula, quién decide cuándo se lanza un modelo y bajo qué reglas. En esta página junto lo que vengo escribiendo sobre el tema, porque entenderlo cambia cómo uno toma decisiones de negocio.

El mapa de fondo: tres bloques con tres filosofías distintas

El mundo de la gobernanza de IA se está fragmentando en tres jurisdicciones grandes, y cada una opera con una lógica completamente distinta.

Estados Unidos audita por dentro. Los cinco laboratorios que definen la frontera de la IA en el mundo ya le dan acceso a sus modelos al gobierno gringo antes de que el público los pueda probar. No es regulación remota: es un auditor metido dentro de cada lanzamiento, pidiendo pruebas de ciberseguridad y de riesgo biológico, capaz de obligar a un laboratorio a cambiar la arquitectura del modelo o demorar el lanzamiento. Es poder real, ejercido en silencio. Y lo más interesante: la regulación pública que iba a complementarlo se cayó horas antes de firmarse cuando tres de los hombres más poderosos de la tecnología llamaron al presidente con un argumento simple: regular frena a Estados Unidos frente a China.

Europa regula los usos. El EU AI Act no regula la tecnología, regula los usos según el riesgo. Prohíbe lo inaceptable, exige trazabilidad y supervisión humana en lo delicado (salud, finanzas), y a los modelos grandes les pide algo impensable en Estados Unidos: abrir la caja negra, contar con qué datos los entrenaron y someterse a auditorías de terceros. Quien incumple paga hasta el 7% de sus ingresos globales. Y aplica aunque los servidores estén en otro continente.

China reclama jurisdicción extraterritorial por origen. En el caso más reciente, China bloqueó la compra de una startup por parte de Meta basándose en el origen étnico de los fundadores: eran chinos, y eso bastó para reclamar la tecnología, aunque la empresa estuviera en otro país. Es la primera vez que una jurisdicción reclama un negocio hecho completamente afuera. Y abre un precedente sin límites legales claros.

Lo que se inventa en China, o lo inventan chinos, se queda en China.

El oligopolio que casi nadie cuestiona

Detrás de toda esta discusión geopolítica hay un dato que cambia todo: dos empresas controlan casi nueve de cada diez dólares que se mueven en IA en el mundo. OpenAI y Anthropic. Hace seis meses tenían el 84% combinado. Hoy tienen el 89%. La consolidación va rapidísimo en una sola dirección.

Eso significa que casi cualquier startup, agencia o empresa que monte un producto con IA termina, por debajo de la superficie, pagándole a uno de esos dos gigantes. Cursor, la tercera empresa más grande de la categoría, factura 2.700 millones y pierde plata en cada operación porque por dentro depende de los modelos de OpenAI y Anthropic. Cuando ellos suben tarifas, Cursor se entera por la factura. Esa es la trampa estructural.

Por qué esto le pega directo a una empresa en LATAM

Aquí es donde la discusión deja de ser abstracta. Si su negocio depende de las APIs de uno de esos laboratorios, está operando bajo reglas que se diseñaron para proteger a alguien más. La auditoría que hace el gobierno gringo sobre esos modelos protege la seguridad nacional de Estados Unidos, no la suya. La regulación europea protege los derechos de los ciudadanos europeos, no los nuestros. China protege a China.

Y mientras tanto, en Colombia, México y Perú los congresos están redactando leyes para exigir que la IA sea "segura y sin sesgos", pero no existe un solo instituto técnico capaz de auditar un modelo de frontera. Es como escribir una ley de seguridad aérea sin tener ingenieros aeronáuticos. La regulación existe en el papel; la capacidad de hacerla cumplir, no.

Cuatro principios para operar con criterio en este tablero

No le voy a vender un framework. Le dejo cuatro criterios que aplico yo cuando aconsejo a juntas directivas sobre adopción de IA.

Primero: mire la jurisdicción del proveedor, no solo el producto

Antes de firmar con un proveedor de IA, pregunte dónde está incorporado, dónde están los servidores y bajo qué régimen regulatorio opera. Si es Estados Unidos, sepa que su servicio puede cambiar por decisiones del gobierno gringo. Si es China, sepa que esa tecnología puede dejar de estar disponible para usted en cualquier momento. Si es europeo, sepa que tiene más garantías pero menos features.

Segundo: diseñe para el estándar más exigente desde el día uno

Si su empresa puede llegar a operar en Europa o vender a empresas que operen allá, vale la pena cumplir el EU AI Act desde la primera línea de código. Lo difícil siempre contiene a lo fácil. Cumplir con Europa hoy y entrar a Estados Unidos mañana es trámite. Al revés es rehacer todo.

Tercero: documente la cadena de dependencias

Sepa exactamente qué modelos usa, de qué proveedor, en qué versión, en qué API. Si mañana sale una nueva regulación que afecte a uno de ellos, usted necesita saber en minutos qué partes de su operación están expuestas. Si no lo sabe, se entera tarde.

Cuarto: no espere que su gobierno lo proteja

Ningún país latinoamericano hace parte de la red internacional que audita los modelos de frontera. Kenia, sí. Nosotros, no. Eso significa que las decisiones sobre qué modelos están disponibles para usted las toma un gobierno en cuya mesa no tenemos silla. Operar sabiendo eso es muy distinto a operar ignorándolo.

La pregunta que de verdad importa

Mientras Estados Unidos y Europa definen el juego, ¿qué vamos a ser nosotros en Latinoamérica? ¿Una región que solo compra la tecnología, la conecta y reza para que esté bien hecha? ¿O una que entiende estas reglas a tiempo y decide, con criterio, sobre qué cimientos construir? Porque construir encima de algo que no controlamos no es malo en sí mismo. Lo peligroso es no haberlo pensado.

Preguntas frecuentes

Lo que más me preguntan sobre gobernanza.

¿Quién audita los modelos de IA antes de que salgan al público?

Estados Unidos los audita por dentro: los cinco laboratorios principales (OpenAI, Anthropic, Google, Meta, xAI) le dan acceso a sus modelos al gobierno gringo antes del lanzamiento público. El gobierno hace pruebas de ciberseguridad y de riesgo biológico, y puede obligar a cambiar la arquitectura o demorar el lanzamiento. Ningún país latinoamericano participa en esa red. Kenia, sí. Nosotros, no.

¿Qué tan concentrado está el mercado de la IA?

Dos empresas (OpenAI y Anthropic) controlan el 89% del mercado mundial de modelos de IA. Hace seis meses tenían el 84%. La consolidación va rapidísimo en una sola dirección, no hacia más competencia. Cualquier producto de IA que use, por debajo de la superficie, casi seguro paga a uno de esos dos.

¿Cuál es la diferencia entre la regulación de IA en Estados Unidos, Europa y China?

Tres filosofías opuestas. Estados Unidos audita por dentro pero no regula públicamente. Europa regula los usos según el riesgo y exige auditorías externas (EU AI Act), con multas hasta 7% de ingresos globales. China reclama jurisdicción extraterritorial: bloqueó la compra de una startup por Meta basándose en el origen étnico de los fundadores. Construir un negocio sobre IA sin entender estas tres lógicas es operar a ciegas.

¿Qué debería preguntarse antes de adoptar un proveedor de IA?

Pregúntese: dónde está incorporado el proveedor, dónde están los servidores, bajo qué régimen regulatorio opera, y qué pasa con sus datos si ese régimen cambia mañana. Si es Estados Unidos, su servicio puede cambiar por decisiones del gobierno gringo. Si es China, puede dejar de estar disponible en cualquier momento. Si es europeo, tiene más garantías pero menos features. Documentar esa cadena de dependencias es la mínima diligencia.