Su negocio depende de una tecnología que nadie está auditando

Le voy a hacer una pregunta que probablemente no se ha hecho, aunque ya esté usando inteligencia artificial en su empresa: ¿quién garantiza que el modelo sobre el que montó su operación hace lo que dice que hace? ¿Quién lo revisa? ¿Quién responde si falla?

La respuesta, hoy, es nadie. Y conviene entender por qué, porque cambia la forma en que uno debería tomar decisiones.

La regulación que casi existe y no existió

Hace pocos días, el presidente de Estados Unidos tenía lista una orden ejecutiva para ponerle un mínimo de control a las empresas de IA. Nada drástico: que avisaran qué modelos nuevos iban a lanzar, que hicieran pruebas de ciberseguridad, que reportaran si había riesgo de que sirvieran para crear armas biológicas. Un cinturón de seguridad, no una prohibición.

Horas antes de firmarla, la canceló. Y no por olvido. Tres de los hombres más poderosos de la tecnología lo llamaron y lo convencieron de no hacerlo, con un argumento que suena razonable: regular frena la innovación, y frenar la innovación es regalarle la delantera a China.

Así que hoy la IA en Estados Unidos se regula sola. Con compromisos voluntarios, promesas de meñique. Las propias empresas definen cómo van a ser evaluadas, se hacen el examen, y se ponen un diez. Son juez y parte. Estudios del MIT ya mostraron que el impacto real de esa autorregulación es casi nulo.

Y hay un detalle que lo vuelve más serio: ni siquiera los científicos que crean estos modelos saben del todo qué van a poder hacer una vez lanzados. Lo llaman capacidades emergentes. Estamos confiando en la buena intención de empresas que admiten que no controlan por completo lo que construyen.

Por qué esto es un problema suyo, no de ellos

Aquí es donde aterrizo, porque esto no es una discusión de política gringa lejana. Si usted está montando un negocio sobre las APIs de estas empresas —y casi todos los que usan IA hoy lo están haciendo— entonces está construyendo sobre arenas movedizas. No tiene control sobre hacia dónde va esa tecnología, ni certeza de cómo se va a comportar, ni a quién reclamarle si algo sale mal. Está confiando, y ya.

Eso no significa no usarla. Significa usarla sabiendo dónde está parado.

El otro camino, y lo que nos deja pensando

Europa decidió lo contrario. Su EU AI Act no regula la tecnología, regula los usos según el riesgo: prohíbe lo inaceptable, exige trazabilidad y supervisión humana en lo delicado como salud o finanzas, y a los modelos grandes les pide algo que en Estados Unidos sería impensable: abrir la caja negra, contar con qué datos los entrenaron, y someterse a auditorías de terceros. Quien incumple paga hasta el 7% de sus ingresos globales. Y aplica aunque los servidores estén en otro continente.

No es solo nobleza europea, claro. Es también proteccionismo, una muralla para que sus propias empresas respiren. Pero el resultado es que hoy el mundo se parte en dos: Estados Unidos corriendo sin frenos, Europa construyendo un muro con reglas.

Y la pregunta con la que cierro es la que de verdad nos toca: mientras esos dos definen el juego, ¿qué vamos a ser nosotros en Latinoamérica? ¿Una región que solo compra la tecnología, la conecta y reza para que esté bien hecha? ¿O una que entiende estas reglas a tiempo y decide, con criterio, sobre qué cimientos construir? Porque depender de algo que nadie audita no es necesariamente un error. Hacerlo sin saberlo, sí.