L'IA selon vous : venez vous exprimer

Question

Bonjour,

Voici les deux questions servant de fil conducteur pour cette discussion. Nous vous invitons à répondre ci-dessous. A réagir aux réponses de chacun, upvote, downvote, ...

1. Avant de débuter un cours de Deep Learning comme FIdle, quelle perception de l'IA aviez-vous?

2. Quelles sont vos préoccupations éthiques concernant l'IA?

Answer 1

3. Une IA qui pense pour nous... est-ce une dérive ou un objectif ?

Une IA qui "pense" pour nous, c'est une dérive. Une IA qui permet aux humains de se décharger de tâches embêtantes et répétitives dans le but de minimiser leur charge de travail (& leur laisser plus de temps pour explorer des hobbies/passions), c'est un objectif.

Comments

expérience :
Vous souhaitez sauter au-dessus d'un ravin. Vous pensez que c'est possible. L'IA pense que non.
Il s'avère que si vous sautez, vous mourrez.
Toujours une dérive ?

---

Je suis pas en train de dire que l'IA ne /peux pas/ avoir raison et l'humain tord. Je dis plutôt qu'on ne /devrait/ pas laisser l'IA penser pour nous.

---

Je crois qu'il faut définir qu'est-ce qu'on entend exactement par "penser"
=> Dans le cas du ravin, on peut considérer que l'IA est un assistant qui va utiliser un certain nombre de données (image du ravin, image de l'humain sauteur...) pour réaliser une prédiction (= saut possible ou pas ?)

Bref je sais pas si on peut dire que dans ce cas l'IA "pense" pour nous

---

Oui, je suis d'accord avec toi Felix. Pour moi "penser" va plus loin que la simple logique.

---

L'IA vous fait une prédiction, vous (en tant qu'humain) êtes libre de suivre ou non sa recommandation concernant votre saut (vous ne savez pas si l'IA à raison, ni vous d'ailleurs). Là on sort de la logique pur.
Néanmoins je vais essayer de vous trouver un exemple plus "penser".

---

expérience:
Vous achetez une chemise bleu. Vous pensez l'acheter de votre propre décision.
Cette chemise vous plaît et vous en êtes très content.
Si maintenant je vous dit que via la publicité, le design, la mode, votre décision a été guidé par d'autres personnes.
Est-ce aussi une dérive ? Allez-vous jeter cette chemise ? Allez-vous changer d'avis concernant cette décision ?
Si je ne vous le dit pas. Même questions.

---

Ma réponse est non dans les deux cas (si j'aime la chemise, peu importe), mais je ne comprends pas trop le rapport avec l'IA et "penser". C'est que l'IA peut influencer notre pensée comme une pub par ex. ?

---

Oui, dans mon expérience je fais en sorte qu'on se retrouve dans une situation transposable avec notre contexte d'IA.
Si on accepte de se faire guider par l'industrie de la mode, pourquoi on ne l'accepterai pas avec une IA ?
Je pense que l'on peut s’arrêter là sur cette question à laquelle je ne peux donner de réponse ...

Answer 2

Les modèles économiques sont des biais dangereux pour l'AGI

Comments

Beaucoup de lobbystes produisent des contenues qui alimentent les algos d'IA

Answer 3

"La fabrique du crétin digital" montre bien les travers de l'Internet. 

Ne vous apprétez-vous pas à tomber dans le même travers avec l'IA ?

Answer 4

Crainte : https://www.francetvinfo.fr/monde/chine/chine-une-femme-robot-pilotee-par-une-ia-devient-pdg-d-une-entreprise-de-plusieurs-milliers-de-salaries_5386039.html

Answer 5

1. l'illusion d'un traitemnet algorithmique des biais n'est il pas trompeur ?

​2. l'éthique est **plus** vaste que le simple traitement des biais

3. le terme "outil" est il encore approprié ? l'analogie du marteau est elle pertinente ?

Answer 6

le dilemne du tramway est disqualifié en philosophie morale. Il n'est là que pour amuser les ingénieurs. Les philosophes ont répondu depuis longtemps

Answer 7

La machine qui fait des travaux à la place des humains, et peut prendre à elle seule des décisions.. c'est inquiétant pour la question de responsabilité. Mais encore parfois utile dans les contextes de négligences