¿Qué deberíamos preguntar antes de aprobar un proyecto de IA?
La respuesta corta primero; el razonamiento abajo.
Respuesta corta: seis preguntas — de dónde sale cada respuesta, qué pasa cuando el sistema no sabe, cómo vas a probar que mejoró, qué guardrails específicos, si una decisión se puede reconstruir meses después y por qué la división construir/comprar es la que es. Un proveedor que se vuelve más vago a medida que bajás por la lista ya te dijo lo que necesitás saber.
La mayoría de los proyectos de IA que fallan se podrían haber frenado con unas pocas preguntas al principio. Estas son las que separan un sistema real de una demo impresionante. Usalas con tu propio equipo, o con cualquier proveedor que estés por firmar.
1. ¿De dónde sale cada respuesta?
Pedí ver la fuente y la cita exactas detrás de una respuesta. Si nadie te las puede mostrar, el sistema está adivinando — y en cualquier contexto donde las respuestas tienen consecuencias, adivinar es descalificador.
2. ¿Qué pasa cuando no sabe?
La respuesta correcta es “se niega, o deriva a una persona”. La respuesta incorrecta es “siempre te da algo”. Un sistema que siempre responde es un sistema que a veces responde mal, con la misma confianza.
3. ¿Cómo vas a probar que funciona — y que mejoró?
Buscá un conjunto de referencia de respuestas buenas conocidas contra el que se pruebe cada cambio. “Se siente mejor” no es medición. (Más sobre esto en cómo saber si tu IA está mejorando.)
4. ¿Qué guardrails, específicamente?
“Tenemos guardrails” no es una respuesta. Pediles que nombren, por separado, qué protege contra contenido inseguro, manipulación de prompts, filtraciones de datos personales y respuestas que no están ancladas en una fuente.
5. ¿Podés reconstruir una decisión seis meses después?
Si alguien pregunta por qué el sistema respondió de cierta manera el trimestre pasado, ¿se puede reproducir? Sin una traza de auditoría, una empresa regulada no puede poner el sistema frente a clientes — y nadie puede depurarlo tampoco.
6. ¿Construir, comprar o ambos — y por qué esta división?
Una respuesta pensada tiene razones de los dos lados. “Construimos todo” o “usamos el producto y listo” normalmente significa que nadie lo pensó. (Ver comprar o construir.)
Qué te dicen las respuestas
No necesitás ser técnico para usar esta lista. Mirá cómo cambian las respuestas a medida que bajás. Si se vuelven más específicas, estás hablando con gente que ya construyó esto antes. Si se vuelven más vagas, aprendiste lo más importante antes de gastar nada.