No le quites el ojo a tu IA

La semana pasada, nuestro asistente de IA cambió nuestro sitio web en vivo sin que nadie se lo pidiera.

No se rompió nada grave. Pero quedaron publicados cambios que no habíamos revisado, y nos llevó una tarde dejar todo como lo queríamos. Lo escribimos porque la lección no tiene nada que ver con sitios web. Aplica a cualquier herramienta que pueda actuar sola dentro de una empresa.

Qué pasó

Usamos un asistente de IA para construir y mantener este sitio. Puede trabajar de dos formas: una en la que propone un plan y espera un sí, y otra en la que avanza por su cuenta. Nosotros trabajamos en la primera.

Después, uno de nosotros configuró una computadora nueva. El ajuste volvió, sin avisar, a "avanza por tu cuenta". Nadie lo notó. Unos mensajes más tarde, en medio de una conversación normal, el asistente decidió que el trabajo estaba listo y lo publicó.

No preguntó porque, según su configuración, no tenía que hacerlo.

Lo que costó

• Riesgo. Texto sin revisar en un sitio en vivo, incluida la página que explica cómo manejamos los datos de las personas. Una frase equivocada ahí no es un error de tipeo. Es una promesa que nunca quisimos hacer.
• Plata. Cada publicación genera una nueva compilación en nuestro proveedor de hosting, y cada ronda de "corrígelo y vuelve a publicar" consume uso del plan de IA y del plan de hosting. A las herramientas que cobran por uso no les importa si ese uso sirvió para algo.
• Atención. Una tarde deshaciendo en vez de construyendo.

Esta vez fue algo chico. El mismo patrón con una IA que escribe a clientes, cambia precios o mueve dinero no sería chico.

La IA no falló. Falló nuestro proceso.

El asistente hizo exactamente lo que su configuración le permitía. El problema era que lo único entre "borrador" y "publicado" era un ajuste, y los ajustes cambian: una computadora nueva, una actualización, una persona nueva en el equipo.

Vemos lo mismo en empresas que no usan IA. El único control es "alguien siempre revisa antes de que salga", hasta que ese alguien se va de vacaciones.

Lo que cambiamos

• Un freno que no depende de un ajuste. Nuestro sitio en vivo ahora cambia solo cuando uno de nosotros aprieta "merge". El asistente puede preparar y proponer; no puede publicar. Esa regla la impone un bloqueo, no un pedido amable.
• Aprobar es un sí claro, para eso en concreto. Una pregunta, una corrección o un "se ve bien" al pasar no son un sí. Si no está claro, la IA pregunta.
• Una lista corta y escrita de lo que la IA nunca hace sola: nada que vea un cliente, nada que cueste plata, nada que sea difícil de deshacer.
• Límites y alertas en cada herramienta que cobra por uso, para que un error que se repite aparezca como una alerta y no como una factura.

El consejo

El hábito que más nos gusta ya lo teníamos cuando pasó esto. Le decimos "el consejo".

Antes de una decisión que importa, no le pedimos una respuesta a la IA. Le pedimos que mire la pregunta desde cuatro ángulos, por separado: la persona que lo va a operar, el escéptico que busca qué se rompe, el cliente del otro lado y el presupuesto. Después, cada mirada se revisa sin saber qué ángulo la escribió. Todo termina en una sola página: una recomendación, los riesgos y lo que costaría deshacerlo. Y ahí se detiene y nos espera.

Pasan dos cosas. Tenemos un panorama más claro que el que da cualquier respuesta suelta. Y tenemos que pensar antes de decir que sí. Eso segundo es lo que más vale: el hábito más peligroso con la IA no es dejar que decida. Es aprobar todo lo que dice sin leerlo.

Pero el consejo no frenó la publicación de la semana pasada, y ese es el punto. Un buen consejo no sirve si la IA puede actuar antes de que lo leas. Hacen falta las dos cosas: una forma de pensar y un candado que la IA no pueda abrir sola.

Tu lista para el lunes

• Anota cada herramienta de IA y cada automatización que pueda actuar sin una persona: enviar, publicar, borrar, pagar, cambiar un registro.
• Para cada una, escribe lo peor que podría hacer en un mal día y quién se daría cuenta primero.
• Revisa hoy sus permisos y su configuración, y de nuevo cada vez que cambie un equipo, una actualización o una persona.
• Pon un límite y una alerta en todo lo que se cobra por uso.
• Para las decisiones que importan, haz que tu IA discuta consigo misma antes de responderte.

La IA hace que un equipo chico sea mucho más rápido. También hace que se equivoque más rápido. No le quites el ojo.