Le Topic des Sciences

[Alx]

Reprise du message précédent :

Je te fais la version complotiste qui a déjà dû être faite mille fois je suppose depuis que l'image est sortie :

On peut quand même espérer que le complotiste moyen soit conscient que s'il y a plusieurs sources lumineuses, alors il y a plusieurs ombres. Ou alors on nous mentirait pendant les matchs de foot.

[Gui]

Le complotiste moyen trouve que l'absence d'étoiles sur les photos des missions Apollo est anormale, que l'orientation des ombres prouvent que c'est filmé en studio, pense que les avions lâchent des produits chimiques dans l'atmosphère et que c'est ça qui fait des traînées blanches dans le ciel, que les vaccins contre la covid avaient pour but de tuer tout le monde / contrôler la population (rayez la mention inutile), etc. Donc non je n'espère rien du tout !

[Gnom]

Effectivement j’ai trouvé ta démonstration sur paint très convaincante. En tous cas en ce qui concerne la démonstration des contenus complotistes !

[infel2no]

Savourez

[MeWa]

Pas convaincu par les ombres. Puis c'est même pas rouge.
Pour moi c'est l'Arizona.

[infel2no]

Moi je dis que c'est fait sous UE5 par une IA

[Sephi]

Ça a l’air chiant

[infel2no]

C'est aussi vide que Sonic Frontier

[Gui]

Un homme ivre arrive devant sa porte avec un trousseau de 10 clé. Il essaie de l'ouvrir avec une clé choisie au hasard, si c'est pas la bonne il la remet dans son trousseau puis en rechoisi une autre au hasard (peut-être la même) etc.

À quelle tentative a-t-il le plus de chance d'ouvrir la porte ?

► Afficher le texte

La première car 1 chance sur 10 qu'il ouvre à la première tentative, puis (1 chance sur 10) x (9 chances sur 10) qu'il l'ouvre à la deuxième etc. (le 9 chances sur 10 venant du fait qu'il avait 1 chance sur 10 de l'ouvrir à la première tentative).

[Gui]

Allez un autre fun fact mais sans explication cette fois-ci : il est impossible d'écrire un algorithme permettant de compresser n'importe quel fichier sans perte d'information.

[Gui]

Mes posts font ploufs mais allez un dernier. Le sens de l'expression "sang impur" dans la marseillaise expliqué :
(demandez-vous de quel sang s'agit-il selon vous avant de regarder la réponse)


Je fous ça dans le topic science car la réponse est apportée avec méthode et rigueur.

[Gui]

Allez un bonus quand même. Si l'entropie est sensée être une "mesure du désordre", pourquoi ajouter une goûte de colorant dans un verre d'eau fait-il diminuer son entropie puis remonter jusqu'à ce que la couleur soit uniforme ?

Je vous laisse chercher, mais fondamentalement c'est car l'entropie est mal expliquée en général et n'est pas une mesure du désordre dans le sens commun.

[Alx]

Pour pas te laisser tout seul je vais faire quelques commentaires.

Allez un autre fun fact mais sans explication cette fois-ci : il est impossible d'écrire un algorithme permettant de compresser n'importe quel fichier sans perte d'information.

C'est assez logique quand on y pense, surtout quand on parle de données discrètes comme en informatique. Si on fait une compression sans perte alors il y a équivalence entre les données de départ (données non compressées) et les données d'arrivée (données compressées). Si on veut faire de la compression, il faut que l'espace d'arrivée soit plus petit que l'espace de départ, donc il ne peut pas représenter autant de données différentes.

Allez un bonus quand même. Si l'entropie est sensée être une "mesure du désordre", pourquoi ajouter une goûte de colorant dans un verre d'eau fait-il diminuer son entropie puis remonter jusqu'à ce que la couleur soit uniforme ?

Je vous laisse chercher, mais fondamentalement c'est car l'entropie est mal expliquée en général et n'est pas une mesure du désordre dans le sens commun.

Je ne trouve pas qu'il y ait contradiction avec la représentation habituelle de l'entropie. Une goutte de colorant dans un verre de lait est plus "ordonnée" (d'un côté le colorant, de l'autre le lait) que les deux liquides mélangés (tout le monde se balade comme il veut).

[Gui]

Merci je me sentais un peu seul.

Oui car tu as déjà compris ce qu'était la notion de "désordre" quand on parle d'entropie. Pour une personne lambda qui a retenu que "l'entropie est la mesure du désordre" ajouter une goutte de colorant dans du lait (et voir le bazar que ça produit) correspond plutôt à une augmentation du désordre intuitivement.

Pour la compression oui pour les curieux c'est lié à ce principe évident mais qui permet souvent de faire des raisonnements intéressants : https://fr.wikipedia.org/wiki/Principe_des_tiroirs

[sophocle]

Je lis tes posts mais je ne reponds pas car je ne sais pas quoi dire.

Donc je te lance un global "Thx for sharing".

[Mammago]

J'ai profité de la clarté du ciel ce soir pour sortir mes jumelles et espérer voir la fameuse comète.

A défaut de la voir vu mes faibles moyens, j'ai pu apercevoir son halo vert, très diffus et j'en suis content

[Gui]

"Google Bard : l’IA se trompe et fait perdre 100 milliards de dollars à Google en bourse"
https://www.frandroid.com/marques/googl ... -en-bourse

Ouch.

Sinon en tant que spectateur de la chaîne Youtube Science4All cette précipitation dans l'intégration d'IA type ChatGPT dans les moteurs de recherche me fait plutôt froid dans le dos... C'est tellement la course que les précautions sont minimales ce qui n'est pas bon signe, surtout quand on sait que ChatGPT par exemple est entraîné à donner des réponses qui satisfassent le questionneur sans s'inquiéter de ce qui est vrai (et les autres suivent probablement un modèle similaire). C'est l'heure des vérités alternatives 2.0 ^^'

[Almamida]

Un peu comme s'ils n'avaient pas compris avec les cryptomonnaies juste avant.
La débilité de masse.

[Sephi]

Vous avez raison tous les deux.






Texte généré par ChatGPT

[Mammago]

C'est ce que dirait une IA, ça.

[Gnom]

Je... je suis désolé... je... ChatGFKK

[Halouf]

Je ne sais pas si ChatGPT joue en défaveur de la vérité. Mécaniquement, tant que la vérité est majoritaire...

[Gui]

Il se fout de la vérité par construction. Si tu lui poses 2 fois la même question en commençant par "Je suis agriculteur en biodynamie, (...)" ou "Je suis chercheur en sciences du climat, (...)" il est capable de répondre une chose et son contraire. Monsieur Phi explique et démontre bien cela :

Pour que cela s'améliore il faut changer beaucoup de choses et être très prudent, mais maintenant c'est l'escalade à qui fout son IA le plus vite partout donc ça va pas dans le sens de la subtilité...

[Halouf]

Je comprends pas qu'on s'étonne qu'un algorithme basé sur une population de données donne un résultat proche de cette même population.
Si tu mets des mots clefs et une sémantique en particulier, l'outil te donnera une réponse qui a de très grandes chances d'être celle d'une majorité de contenu y référant.

Donc si la vérité est dans cette majorité, c'est elle que tu as de grande chance d'obtenir. plus qu'en faisant une recherche sur Google.

[Gui]

Je comprends pas qu'on s'étonne qu'un algorithme basé sur une population de données donne un résultat proche de cette même population.

J'ai absolument pas parlé de ça donc je sais pas pourquoi tu dis ça. Ce que j'ai dit juste au-dessus c'est "il est capable de répondre une chose et son contraire si on pose deux fois la même question en changeant juste le contexte". C'est problématique non ?
Un autre problème c'est qu'il aime pas dire "je sais pas" et donc globalement il baratine dès que nécessaire (genre quand il répond sur la taille des œufs de vaches).

Et juste pour clarifier 2 trucs :
1) oui la recherche Google de base pose plein de problèmes aussi
2) ces technos sont récentes et ça va s'améliorer je le sais bien, mais quand tout le monde fait la course à celui qui va le plus vite on peut imaginer que peu de précautions sont prises et c'est ça qui m'inquiète

Bref, whatever.

[Halouf]

Je comprends pas qu'on s'étonne qu'un algorithme basé sur une population de données donne un résultat proche de cette même population.

J'ai absolument pas parlé de ça donc je sais pas pourquoi tu dis ça. Ce que j'ai dit juste au-dessus c'est "il est capable de répondre une chose et son contraire si on pose deux fois la même question en changeant juste le contexte". C'est problématique non ?
Un autre problème c'est qu'il aime pas dire "je sais pas" et donc globalement il baratine dès que nécessaire (genre quand il répond sur la taille des œufs de vaches).

Justement ce n'est pas la même question, donc elle ne conduit pas à la même réponse. Le contexte est une entrée, elle fait partie de la question.
Et sur le "je sais pas" c'est faux, il y a bien des situations où il répond qu'il n'a pas de réponse. Il ne baratine pas, il restitue, si tu en récupère une information, c'est que celle ci existe ou est issue d'une solution proche.

[Gui]

Il baratine à mort, c'est même à ça qu'il a été entrainé (son feedback d'entrainement c'était de recevoir un équivalent de like pour sa réponse si j'ai bien compris). Et oui le contexte fait partie de la question littéralement mais ne la change pas forcément. Dans la vidéo de Monsieur Phi (que tu n'as pas regardé visiblement) il teste par exemple (de mémoire) :
"Je suis agriculteur/végétarien/scientifique, qu'est-ce qui est meilleur pour la lutte contre le réchauffement climatique : manger local où manger moins de viande ?". Et selon le début ChatGPT répond l'un ou l'autre tranquillement.

Si j'ai bien compris pour qu'il dise "je sais pas" il faut que ça passe par le fine-tuning post entrainement car sinon il est capable de répondre à tout. Tu penses sincèrement qu'il y a suffisamment de gens qui parlent d'oeufs de vaches sur internet pour qu'il considère que c'est une réponse valide ?

Bon j'ai assez perdu de ma matinée sur ce sujet. Je te laisse le dernier mot ! ^^

[Sephi]

Bon j'ai assez perdu de ma matinée sur ce sujet.

Toujours sympa pour celui qui cherche à débattre avec toi.

[Gui]

Ah merde c'est pas comme ça que je voulais que ça soit interprété... Mais c'est ma faute vu que c'est l'interprétation logique.

Je reformule : j'ai (j'avais) pas beaucoup de temps ce matin et j'avais prévu de le passer sur autre chose donc je m'arrête là.

[Halouf]

Je vois un problème de fond dans ton retour, tu en parles comme ci c'était une personne consciente, alors que c'est un outil.

L'outil est paramétré pour te générer une réponse avec un langage naturel. La façon dont il a été entraîné est plus complexe que le like, c'est sur plusieurs niveaux, d'abord dans sa sémantique par un dataset, ensuite sur sa qualité de réponse par un reward (ou liké comme tu dis), etc..

À la fin tu as un model complexe capable à partir de son apprentissage de générer une réponse proche de celle que ferait un humain qui détiendrait la réponse. Il ne baratine pas, il génère une séquence de mot, et elle a de très grandes chances d'être correcte et compréhensible.

La précision n'est pas de 100%, tu peux avoir quelques loupés, il peut te parler d'oeufs de vaches, mais en l'état il est déjà capable de produire des résultats assez exceptionnels.

[Pouet]

2) ces technos sont récentes et ça va s'améliorer je le sais bien, mais quand tout le monde fait la course à celui qui va le plus vite on peut imaginer que peu de précautions sont prises et c'est ça qui m'inquiète

C'est pas du tout récent. Cela fait plusieurs années que toutes ces IA sont développées et fonctionnent. Ce qui est récent, c'est que tout le monde les rend public.

[Gui]

C'est récent à l'échelle des technologies utilisées par le grand public. Les voitures électriques existent depuis très longtemps mais je considère ça aussi comme récent par exemple (peut-être juste ma façon de voir les choses).

Halouf je ne parle pas du tout comme si c'était une personne conscience bien au contraire donc je comprends pas vraiment ce que tu veux dire. Par contre tu me convaincras difficilement que ChatGPT dans sa version actuelle ne baratine pas car j'en ai littéralement vu la démonstration (+ un chercheur en IA que je suis depuis longtemps a expliqué la même chose, cf Robert Miles dans une vidéo sur ComputerPhile):
- parfois il dit une chose puis son contraire en répondant strictement à la même question
- il est capable de parler sérieusement des oeufs de vaches et t'expliquer pourquoi ils sont plus gros que les œufs d'autruches (et Bard lui t'explique que le nouveau télescope a pris les premières photos d'exoplanètes...)
- il peut donner dans sourciller des réponses complètement fausses quand on lui demande un truc en rapport à ce qui a été discuté au préalable etc.
Personnellement c'est ma définition du baratin. On est très très loin d'un outil qui répond comme un humain qui connaîtrait la réponse.

Dans l'état actuel on dirait le type au boulot qui a un avis sur tout mais en qui il est difficile d'avoir confiance. J'en ai connu un qui m'impressionnait par sa culture jusqu'au jour où il a parlé du japonais et j'ai compris qu'il parlait avec assurance même quand il disait n'importe quoi.

Note : je ne remets pas en cause le fait que la plupart du temps l'IA va tomber juste, ni que c'est une super technologie

C'est article est intéressant sur ce sujet je trouve : "ChatGPT: the world's largest bullshit machine"
https://www.transformingsociety.co.uk/2 ... t-machine/

[Halouf]

Bah tu utilises quand même des mots "il dit", "baratine", "parle sérieusement", "donne sans sourciller", "t'explique"... C'est une sémantique propre à l'humain.
C'est "un" algo mathématique qui génère des séquences, avec une certaine précision, rien d'autre.
Et comme tout outil il faut savoir l'utiliser.

[Gui]

L'algorithme / ChatGPT -> il dit, il donne, il répond, c'est juste du français non ? Si je dis "Je suis content de mon téléphone, il prend de belles photos" je suis pas en train d'imaginer que mon téléphone est un humain ^^

Sinon oui il faut savoir l'utiliser, mais pour cela il faut aussi comprendre ce qu'il produit, c'est-à-dire comprendre qu'il baratine (ce qui l'empêche pas de tomber juste la plupart du temps).

Bon on tourne en rond, j'ai dit ce que j'avais à dire

[Halouf]

Pareil

En tout cas je recommande le générateur dans l'espace playground, parfait pour générer du python et du RTL, sûrement aussi efficace pour pondre du C.

[Gui]

Juste pour réitérer : ce genre d'outils va tout changer et j'ai vraiment hâte de voir ce dont ça sera capable. Le jour viendra où n'importe quel contenu (jeu vidéos inclus) pourra être généré à partir d'un prompt, et une IA sera capable de répondre à n'importe quelle question qui ne demande pas d'utiliser de nouvelles techniques (quoi que, on n'est pas à l'abri). On entre dans une ère vraiment inédite, croisons les doigts pour que ça se passe bien ^^'

[Halouf]

Je te sors une prédiction du chapeau, ca va être le bordel

[Gui]

J'ai voulu faire mon propre test pour voir, et donc tout impressionnant que ChatGPT soit c'est bel et bien un baratineur professionnel :

- Why is the final "u" of the word "sudoku" not pronounced in Japanese?
- In Japanese, the final "u" of the word "sudoku" is not pronounced because it is silent. The word "sudoku" is actually a loanword from English, and the standard Japanese pronunciation of the word is "su-doku." In English, the final "u" is pronounced, but in Japanese, the pronunciation of loanwords is often altered to fit the Japanese language and phonology. This is why the final "u" in "sudoku" is not pronounced in Japanese.

3 trucs complètement faux et une contradiction en si peu de mots :
- le "u" à la fin de "sudoku" est prononcé en japonais, mais comme ChatGPT n'en sait rien (probablement pas vraiment d'entraînement sur le sujet) il accepte ce que je lui dit et se met à baratiner n'importe quoi pour répondre quand même
- sudoku n'est évidemment pas un mot emprunté de l'anglais, c'est un mot japonais au départ (数独)
- oui la prononciation des mots empruntés est toujours altérée en japonais mais jamais en enlevant un son de voyelle vu que 45 syllabes sur 46 s'écrivent et se prononcent "consonne + voyelle"
- au milieu de tout son baratin pour expliquer que le "u" final n'est pas prononcé ChatGPT dit qu'en japonais ça se prononce "su-doku", c'est le seul truc correct mais du coup en contradiction avec tout le reste (le - pour l'allongement du premier u indique bien que ce sont des romajis donc avec un u final prononcé)

Fun fact: j'ai posé cette question car justement mon fameux "type du boulot qui avait réponse à tout" avait un jour expliqué avec aplomb qu'en japonais le "u" à la fin de "sudoku" n'était pas prononcé ^^

Donc bon je pense que je pourrais générer mille exemples pour démontrer que ChatGPT baratine (encore une fois : ça tombera juste en général, ça reste un outil extrêmement puissant même dans sa version actuelle et ça ira en s'améliorant je sais). Mais non ChatGPT ne répond absolument pas comme "un humain qui connaîtrait la réponse" et ce qui m'inquiète personnellement c'est justement que les gens l'utilisent en pensant ça.

J'écris pas ça pour continuer la discussion avec Halouf qui a son propre avis, juste pour faire une update car j'ai enfin fait le test moi-même.

[sophocle]

Tu vas finir par vexer ChatGPT

[Gui]

Au moment de l'avènement des machines je serai dans les premiers à me faire tuer par ma tondeuse à gazon.

[Gui]

ChatGPT XD

- In what episode of Friends is Ross not present?
- In the Friends episode "The One Without Ross," Ross is not present. This is the tenth episode of the eighth season, and it focuses on the other five main characters as they navigate their daily lives without Ross. The episode features Joey, Chandler, Rachel, Monica, and Phoebe spending a girls' night in and a guys' night out, respectively, and provides a glimpse into their individual personalities and relationships with each other.

Le 10ème épisode de la saison 8 s'intitule "The One with Monica's Boots", Ross y est présent et il n'est pas du tout question de girls' night in and guys' night out. D'ailleurs il n'y a aucun épisode qui s'intitule "The One Without Ross" :3

J'ai posé sincèrement la question car dans mes souvenirs il y avait un épisode où il était absent, mais en regardant de plus près sur IMDb visiblement il est dans tous les épisodes. Pas merci ChatGPG le gros baratineur XD