¿Tu entrenamiento de IA está alimentando a la competencia?

De HBR.org Durante años, los abogados corporativos se han obsesionado con una pregunta en lo que respecta a la IA: ¿Nuestros datos terminan en el set de capacitación de otra persona? Sin embargo, las empresas están perdiendo algo más valioso que los datos: su lógica, la forma específica y obtenida con esfuerzo en que resuelven los problemas.

Llámalo "Sherlockeo de IA" (AI Sherlocking).

A principios de la década de 2000, Apple creó una herramienta de búsqueda llamada Sherlock que copió, función por función, una popular aplicación complementaria llamada Watson, y llevó a la empresa más pequeña a la quiebra casi de la noche a la mañana.

Desde entonces, "ser sherlockeado" ha significado ver cómo una plataforma más grande absorbe tus mejores ideas y las usa en tu contra.

El "Sherlockeo" tradicional se basaba en copiar una característica visible: un botón, una pantalla, una función específica.

El "Sherlockeo de IA" se trata de algo que no se ve: el razonamiento que generó una buena respuesta.

Un ejemplo del tipo de lógica que persigue el "Sherlockeo de IA" es la retroalimentación de tu equipo.

Cada vez que alguien de tu equipo le da retroalimentación a una herramienta de IA --un pulgar hacia arriba o hacia abajo, "eso no está del todo bien, inténtalo de nuevo" o una corrección manual a un borrador--, está haciendo más que obtener una mejor respuesta.

Está proporcionando exactamente el tipo de señal que las empresas de IA usan para reentrenar y mejorar sus modelos.

En términos sencillos: tus correcciones le enseñan al modelo.

Esta es la parte que debería preocupar a quien sea responsable de los contratos con tus proveedores de IA.

El Acuerdo de Servicios estándar de OpenAI protege tus instrucciones (prompts) y las respuestas sin procesar del modelo para que no se utilicen en el entrenamiento, pero trata la retroalimentación como una categoría aparte.

El acuerdo establece que si un cliente proporciona reacciones y comentarios, OpenAI tiene derecho a utilizarlos y a basarse en ellos sin restricciones y sin pagar por ello.

Los Términos de Servicio Comerciales de Anthropic para Claude contienen una cláusula casi idéntica --una señal de que esta excepción para la retroalimentación es una estructura contractual estándar de la industria y no una peculiaridad de un solo proveedor.