Construye la capa de datos antes de construir la IA

La decisión

Todo el mundo quiere poner un copiloto en su panel de administración. Yo también. Pero antes de dejar que tuviera que tocar dinero real y decisiones de seguridad reales, construí primero la verdad de base debajo: la instrumentación, el bucle de revisión, los datos. La IA se ha despedido. Simplemente se envió en segundo lugar.

Las apuestas

La presión para añadir IA en todas partes es real, y la mayor parte es ruido. La versión peligrosa es la IA que actúa, ajusta tarifas, señala a los profesionales, decide qué es seguro, sin ninguna verdad fundamentada detrás. Una decisión equivocada y segura sobre dinero o seguridad es la que no puedes deshacer, y por eso mismo me negué a automatizar nada hasta que los datos pudieran respaldarlo.

The argument

La IA que actúa solo es tan fiable como los datos y el bucle de revisión que hay debajo. Así que fijé el orden y lo seguí: primero instrumentar, construir el bucle de revisión humana y luego automatizar. Si lo ejecutas en esa secuencia, la IA hereda la verdad fundamental; Si te saltas un paso, hereda tus puntos ciegos.

La demostración

En el mercado de bienestar incluí primero la verificación en cuatro etapas, una pila completa de análisis y un motor de comisiones escalonado. Solo entonces introduje a Claude en el superadmin, dividido limpiamente en "recomienda, humano aprueba" y "seguro para automatizar". Cuando la IA tomó su primera decisión, ya estaba leyendo de un sistema que ya sabía cómo era el bien.

La sutileza

No interpretes esto como "nunca uses IA pronto". Puedes hacerlo, como un humano de apoyo a la toma de decisiones desde el primer día, y yo lo hice. La línea nunca fue IA vs. no-IA; Es automatizado o asistido en cualquier cosa relacionada con dinero o seguridad. Dejé que la IA asesorara desde el principio, y solo la dejé actuar por sí misma cuando los datos se habían ganado esa confianza.

The takeaway

Así que aquí está la regla que te daría: instrumenta antes de automatizar, traza explícitamente la línea del humano en el bucle y deja que la IA funcione sin supervisión solo cuando una llamada equivocada sea barata y reversible. Construye primero la capa de datos, y la IA que envías encima es del tipo aburrido y confiable, que es el único que merece la pena enviar.