OpenAI: La fin de Google et de l'enseignement traditionnel ?

1er
OP
Anewone

Anewone

Elite
Compétition Kaggle pour résoudre, grâce à un LLM, 50 questions (fraichement créées), rédigées et compilées par un comité d'experts (du genre Terence Tao), d'un niveau olympiade nationale. Les réponses attendant un nombre entier entre 1 et 999 (donc pas d'aléatoire possible).

Un modèle a réussi à en résoudre 29/50. En sachant que le palier était fixé à 3/50.. :)

 
  • J'aime
Les réactions: Noex

Gee

Elite
Super blogpost sur l’ai generative, je le rejoins là dessus
 
  • J'aime
Les réactions: titoum
1er
OP
Anewone

Anewone

Elite
Super blogpost sur l’ai generative, je le rejoins là dessus
Comme beaucoup de bloggers sur ce sujet, il relève des points intéressants (l'euphorie, marketing, FOMO), mais y en a d'autres où tu sens qu'il souhaitait juste avoir un parti pris, en dénonçant les prévisionnistes sans se rendre compte, ironiquement, qu'il devenait lui-même prévisionniste.

Le point de François Chollet est intéressant, et il rejoint LeCun que j'ai déjà cité ici pour expliquer pourquoi les LLM ne peuvent pas devenir intelligent.

Celui de l'économiste du MIT, à mon sens, répète l'erreur de Paul Krugman "Internet is merely a fad", malgré sa tentative de s'en différencier. Son analyse de bénéfice/coût est incorrect, et sans rentrer dans les détails, l'exemple que j'ai posté juste avant démontre que le progrès en AI (et plus particulièrement générative AI) n'est pas toujours linéaire (et le coût associé à l'expansion de données d'entrainement, incorrect, l'importance c'est pas la taille mais la qualité ;)), puisque un LLM a été capable de résoudre 29/50 questions de math fraîchement créées pour l'occasion, comparativement aux 3 du modèle de base.

Concernant le point du gars chez Goldman, je ne les lis jamais, peut-être qu'ils pensent vraiment ce qu'il dit, ou peut-être qu'il cherche à hedger sa réputation auprès de ses clients après les investissements qu'il a pris en leurs noms.

Sur son point "Jarvis", voilà ce qu'on a de plus récent qui y ressemble, si on s'attend à avoir un être sentient on y est pas mais il est troublant assez que pour au moins laisser la place au doute quand au futur des LLM:


My2cent.
 
Dernière édition:

Mr.Marcel

☢️☢️💩☢️☢️
Tiens hier j'ai regardé ceci :

Je ne suis pas du tout le domaine donc aucune idée de la pertinence des propos tenus. En tous cas certains points m'ont étonné et selon l'angle développé c'est effectivement un peu décevant.
 
1er
OP
Anewone

Anewone

Elite

Une autre confirmation de mon post précédent, venant de Google Deepmind cette fois-ci, dont le LLM adapté à résoudre des maths a réussi à obtenir 29 / 42 points des Olympiades Internationales de Mathématique 2024, rejoignant le club exclusif avec 58 des 609 autres participants d'avoir une médaille d'argent. Il y a des caveats, notamment que le problème a été préalablement reformulé sous Lean (un langage de formalisation mathématique), ou qu'il a eu droit à plus de temps pour les résoudre que les contestants.

Je suis de plus en plus convaincu que les LLM ont quelque chose d'inégalable à offrir puisque ces questions n'ont pas été résolues par un simple Bruteforce. Je suis aussi de moins en moins surpris de voir autant de Hedge Fund présents pendant les conférences de Machine Learning.. et de plus en plus convaincu qu'un chercheur ne saura plus se passer de LLM (ou Lean..) pour sa recherche..

Ceci étant dit, je ne suis pas mathématicien de formation, intéressé par l'opinion de @am2004 par exemple.
 
Dernière édition:

JetseX02

☁ Ad viem cum pura ☁

Lecture fascinante pour revenir au sujet du topic, côté prof cette fois.
Reste plus qu'à avoir le buy-in de tous les profs/tuteurs. Quand tu as déjà un background tech c'est évidemment bcp plus simple de t'y intérresser.
J'ai déjà essayé de présenter cela à des proches profs mais la méthodo ne correspondant pas à leurs standards, cela leur semble trop complexe.

Trop peu de personnes ont appris à maitriser les recherches google, c'est la même histoire avec les LLM. D'où le rôle de l'école d'apprendre à apprendre.
 
1er
OP
Anewone

Anewone

Elite
Je vais aller peut-être à contre-sens de ce que mes précédents messages laissaient transparaitre:

1 - Les LLM qui ont obtenu un score important (deepmind etc) aux Olympiades Internationales de Mathématique, l'ont eu principalement sur les questions de géométrie en utilisant des astuces bon marché connues depuis longtemps, ce qui résoud le mystère de mon précédent post.

2 - Certains comme https://x.com/leopoldasch ou les "nouveaux-yeux-laser-rouge" avec un "e/acc" en bio pensent que l'AGI sera obtenu d'ici une décénnie parce que l'évolution des LLM ces dernières années a été importante. J'espère qu'ils ont raison, j'aime aussi Blade Runner, et rêverai d'avoir un JARVIS (qu'on aura mais pas) sentient, mais je vois pas bien comment un GPT à un trillard (qu'ils promeuvent) pourrait nous l'obtenir. Pour diverses autres raisons, je pense que c'est plus un reflet de la folie actuelle des marchés, et qu'ils nous démontrent juste qu'on a atteint des sommets.
 

pyngu

La vodka du diable
Et la Belgique dans tout ça ?
1724312346322.png
 

rtrmhl

Rust never sleeps
 
  • Love
Les réactions: THiBOo

StarflaM

Elite


Rien que le coup des notifs intelligentes, take all my money.

Je croule sur le poids de l'utilisation d'un mobile tbh. Ravi que ça devienne enfin "smart"(Phone).
 
Haut