L'IA selon vous : venez vous exprimer

Question

Bonjour,

Voici les deux questions servant de fil conducteur pour cette discussion. Nous vous invitons à répondre ci-dessous. A réagir aux réponses de chacun, upvote, downvote, ...

1. Avant de débuter un cours de Deep Learning comme FIdle, quelle perception de l'IA aviez-vous?

2. Quelles sont vos préoccupations éthiques concernant l'IA?

Answer 1

1. Algos performants, mais difficile à entrainer , paramétrer

2. Detections des biais ds les données, en amont, puis en aval ds les résultats.

Comments

Heureusement, Laurent et sa partie va nous expliquer les biais

Answer 2

Mon avis: Il serai dommage de réserver l'IA à un microcosme qui ne serait alors plus représentative de la population.

Comments

Est-ce que vous pourriez décrire un peu plus votre pensée concernant le lien entre représentabilité de la population et le microcosme ?

---

par exemple beaucoup de docteurs / doctorants pas beaucoup techniciens

Answer 3

1. Le DL était pour moi une discipline beaucoup plus spécifique que ce que je pensais, compréhensible seulement par certains, et utile que dans des domaines spécifiques.

2. Plusieurs points sur l'éthique, les communautés utilisant cette outil doivent se poser des questions et doivent absolument comprendre celui-ci. Comment l'IA a été entraîné, dans quel but, est ce qu'un "package" éthique (racisme, sexisme, humanité etc ...) a été foruni dans ce training, si oui par qui et pourquoi ?

Pour les IA génératives, a t elle été entrainé avec des images libre de droit par exemple ou elle juste "volé" des oeuvres sur le net ? Comment traité ce qui a été généré que ça soit une image, un modèle physique, la data etc ... ?

Les organisations, ou entreprises doivent-elles rendre accessible l'architecture, le data set de training, les hyperparamètres qaund elles sont utilisés par le grand public ?

Answer 4

Préoccupation:  Les problèmes d'alignements (Nick Bostrom ou Stuart Russell) avec des personnes qui veulent créer un IA générale.

Answer 5

1)  un outil/algorithme qui est capable de donner une réponse/résultat dynamique et variable selon l'information et instructions apportés, cependants difficiles à comprendre  et aussi bien de créer pour la plupart des gens moi inclus.

2) L'utilisation de l'ai par des groupes et entités avec pouvoir/argent pour des objectifs dangereux. 

Answer 6

1. Un peu comme Christophe C., une boite noire avec des résultats obtenus de manière un peu obscure.

2. En plus d'être d'accord avec Joseph Garnier, je rajouterai la propagation de tout ce qui est Fake News (avec les modèles de génération d'image qui génèrent des choses de plus en plus réalistes et les ChatGPT qui disent des choses fausses de manière assertive) qui risque d'empirer la polarisation dans la société.

Answer 7

-> j'ai demandé à chat gpt, voici les quatre premières réponses : 

Il y a plusieurs préoccupations éthiques liées à l'IA dans notre société. En voici quelques-unes 

1. La confidentialité et la sécurité des données : Les systèmes d'IA peuvent collecter et stocker de grandes quantités de données sur les utilisateurs, ce qui soulève des préoccupations en matière de vie privée et de sécurité. Les entreprises et les gouvernements doivent veiller à ce que les données soient protégées et utilisées de manière responsable.

2. La discrimination et le biais : Les algorithmes d'IA peuvent reproduire des biais et des préjugés inconscients présents dans les données utilisées pour les entraîner. Cela peut conduire à des résultats discriminatoires pour les groupes marginalisés.

3. La responsabilité et la transparence : Les systèmes d'IA peuvent prendre des décisions qui ont des conséquences importantes sur les individus et les communautés. Il est important que les décisions prises par l'IA soient expliquées de manière transparente et que la responsabilité soit clairement établie.

4. Les impacts sur l'emploi : Les systèmes d'IA peuvent automatiser de nombreuses tâches qui étaient auparavant effectuées par des travailleurs humains. Cela peut avoir un impact sur l'emploi et la qualité de vie des travailleurs.

   -> je n'aurais pas formulé aussi vite, j'aurais oublié des points, je suis assez d'accord ...N'est-ce pas là le point de départ de la dérive ? Que l'IA pense pour nous ?

Comments

Effectivement c'est un risque mais avec votre exemple, l'IA nous apporte plus qu'un humain  ce qui est finalement positif.
Est-ce qu'il vaut mieux être libre et vivre mal ou être esclave et vivre bien ?
On rentre vraiment dans de la philosophie à ce niveau là

Answer 8

La selection génétique piloté par l'AGI, ça donnerait quoi ?

Answer 9

1. une aide, un allier pour booster la productivité, un assistante au quotidien : en ce sens qu'un modèle d'IA peut aider à la resolution rapide de certains problèmes.

2. La  confidentialité des données, iun mpacte negatif sur le developpement de competences. Des questions sur la veracité de reponses et l'objectivité d'un modèle d'IA sont également à se posées. Le systéme scolaire sera probablement à revoir dans les prochaines décenies, sinon on peut bien se demander comment deviendront les choses de ce coté.

Answer 10

A quoi ressemble une récompense ("reward predictor") pour une IA ?

Est-ce que cela sera évoqué lors des prochaines session Fidle ?

Comments

Je ne comprend pas bien votre question.
Est-ce que vous pouvez expliciter ?

---

Je n'en sais pas beaucoup plus. Ce concept était présenté juste après la slide "we will have an ethical  AI the same way we educate ethics to kids". Suivait un schéma de modèle de réseau avec un "reward predictor".

---

Merci pour le détail,
De manière très terre à terre, un 'reward predictor' est un élément qui indique une récompense probable suivant une action donné (c'est une estimation). La récompense pour l'IA est généralement un score sous forme d'une valeur numérique.

On est sur le thème terrain du reinforcement learning. C'est quelque chose que l'on va traiter dans la séquence correspondante.