L'IA entraînée par l'IA : OpenAI licencie des sous-traitants

TVS News IA, supervisé éditorialement, présente L'IA entraînée par l'IA : OpenAI licencie des sous-traitants.

Celui qui doit entraîner une IA ne devrait justement pas utiliser une IA pour ce faire – une évidence, en principe. Or, c'est précisément ce qui se serait produit chez plusieurs sous-traitants travaillant sur les modèles d'OpenAI pour le compte de prestataires. Ils ont été licenciés.

OpenAI mise, pour le réglage fin de ses modèles, sur des entraîneurs et entraîneuses humains qui évaluent les réponses, corrigent les erreurs et formulent des retours. Lorsque ces sous-traitants laissent une IA faire le travail à leur place, la qualité des données d'entraînement s'en trouve fondamentalement modifiée – et donc ce qui arrive finalement aux utilisateurs et utilisatrices.

Ce que l'on sait jusqu'à présent

Selon Golem.de, des prestataires ont licencié plusieurs sous-traitants chargés d'améliorer les modèles d'OpenAI. Ces sous-traitants avaient eux-mêmes utilisé l'IA pour leur tâche – c'est-à-dire l'outil qu'ils étaient censés entraîner.

Le nombre exact de personnes concernées, l'identité des prestataires intermédiaires entre OpenAI et les entraîneurs, ainsi que les conséquences de l'utilisation de l'IA sur la qualité de l'entraînement ne ressortent pas de la dépêche publiée jusqu'ici.

Pourquoi cette affaire risque de faire des vagues

Lorsque les évaluations censées améliorer un modèle d'IA proviennent elles-mêmes d'une IA, c'est tout le processus d'entraînement qui s'enferme dans une boucle. C'est précisément ce contrôle humain qu'OpenAI et ses prestataires entendaient garantir via les entraîneurs externes.

L'incident montre à quel point il est tentant pour les sous-traitants de bâcler leurs tâches à l'aide de l'IA – et combien il reste difficile pour les donneurs d'ordre de le détecter de manière fiable.