Détection à posteriori des bais en IA sur production de texte

Question

Bonjour,

      L'exemple des images pour différencier chiens et loups montre qu'il est possible dans ce cas de distinguer des biais à posteriori et pas uniquement à priori. Les méthodes présentées pour distinguer des biais en IA sur production de textes sont adaptées pour la recherche de biais à priori. Existe t'il d'autres méthodes pouvant fair ce type de détection à posteriori ?

Answer 1

On peut (la grande majorité du temps) détecter autant avant que après les biais.

Dans le cas d'un LLM, la détection des biais va se faire avec de l'évaluation automatique, humaine ou hybride.

Cette page de blog est pas mal : https://www.appypie.com/blog/recognizing-bias-in-llm-outputs

Celle-ci aussi : https://huggingface.co/blog/evaluating-llm-bias

Comments

Merci beaucoup pour votre réponse et vos liens pour la préciser