La IA entrenó a la IA: OpenAI despide a contratistas

TVS News IA, supervisado editorialmente, presenta La IA entrenó a la IA: OpenAI despide a contratistas.

Quien debe entrenar a una IA no debería usar precisamente una IA para ello, algo en principio evidente. Pero eso es exactamente lo que, según se informa, habrían hecho varios contratistas que trabajaban en modelos de OpenAI por encargo de proveedores de servicios. Fueron despedidos.

OpenAI apuesta en el ajuste fino de sus modelos por entrenadoras y entrenadores humanos que evalúan respuestas, corrigen errores y dan retroalimentación. Cuando estos contratistas dejan que una IA haga el trabajo en su lugar, la calidad de los datos de entrenamiento cambia de forma radical, y con ello lo que finalmente llega a las usuarias y usuarios.

Lo que se sabe hasta ahora

Según información de Golem.de, proveedores de servicios han despedido a varios contratistas que debían mejorar los modelos de OpenAI. Estos contratistas habían utilizado IA para su tarea, es decir, habían recurrido a la herramienta que en realidad debían entrenar.

Cuántas personas están exactamente afectadas, qué proveedores de servicios se interponen entre OpenAI y los entrenadores y qué consecuencias tiene el uso de la IA para la calidad del entrenamiento no se desprende de la información publicada hasta ahora.

Por qué el caso podría dar mucho que hablar

Cuando las evaluaciones que deben mejorar un modelo de IA provienen a su vez de una IA, todo el proceso de entrenamiento entra en un bucle. Justamente ese control humano es el que OpenAI y sus proveedores de servicios querían garantizar con entrenadores externos.

El incidente muestra lo tentador que resulta para los contratistas acortar sus tareas con IA, y lo difícil que sigue siendo para los contratistas detectarlo de forma fiable.