Bon, je potasse pas mal le sujet pour le moment, en apprenant à lancer un LLM localement etc.. et en lisant plein de choses.
Je n'ai pas la prétention d'être un expert sur le sujet mais clairement je ne veux pas louper ce train. En temps que dévelopeur, ça me semble indispensable d'être au courant.
Et même si toutes ces technologies peuvent apporter beaucoup de chose ce n'est évidemment pas sans contrepartie. Voici quelques unes de mes réflexions à ce sujet, je les pose là pour nourir le débat et non pas comme des vérités absolues
1) Le coût
Le premier truc, c'est que pour le moment les gens ne se rendent pas compte du coût démentiel que représentent ces technologies.
OpenAI a ouvert le bal en donnant un accès gratuit à ChatGPT3/3.5 mais est actuellement en perte financière colossale.
De la même manière tous les outils qui apparaissent dans tous les sens, offrent quelques crédits gratuit pour tester, ce qui permet la naissance de centaines d'articule sur le sujet mais au final peu de gens les utilisent à très grande échelle.
Pour avoir tester sur ma machine, faire tourner un LLM, l'entrainer sur le contenu d'1 seul livre, et lui demander le résumé => J'ai réussi à presque griller mon laptop.
2) La sécurité
Pour ceux qui ont décidé de déployer à grande échelle ce genre d'IA, je pense qu'il n'y a aucun recul sur les failles de sécurité que celà apporte. Tout ça n'est pas du tout mature.
Une petite vidéo avec un titre putaclic, mais quelques exemples ultra simples à comprendre ...
3) L'impact sur l'humanité
Toutes le use-cases soit disant "créatifs" ne le sont pas du temps, en réalité les résultats fourni par les IA ne sont que des "convergence statistiques". On risque d'aller vers une uniformisation complètement stérile de toute une série de choses: style d'écriture, composition musicales, graphiques etc..
Regardez les exemples musicaux présentés dans ce topic, je suis désolé mais c'est juste nul. Oui ça "ressemble" à ce qui est décrit mais ce n'est pas créatif, ça n'apporte rien de nouveau. Ce ne sont surement pas ces IA qui vont faire surgir subitement une nouvelle mode genre "la tektonik", ou un truc disruptif.
4) Une fausse efficacité
Même si de prime abord les IA semblent doper la productivité, en réalité elles cachent toute une série de jobs de merde. Il faut des gens pour faire de l
'apprentissage par renforcement par exemple, et il en faut un maximum. Ajoutez à celà le coût énergétique démentiel, on ne fait peut être que déplacer le besoin de main d'oeuvre.
Autre exemple: les assistants de dévelopement. Ils donnent des réponses qui sont bien mises en pages et semblent "parfaites". Or elles ne le sont pas, elles dépendent notamment de la date de l'entrainement du modèle, et ne connaissent pas ce qui est plus récent. Dans le monde l'IT où tout change quotidiennement, c'est un souci.
Voici une même question posée à différents assitants
Copilot Chat
Voir la pièce jointe 104122
Jetbrains AI Assistant
Voir la pièce jointe 104123
ChatGTP4
Voir la pièce jointe 104124
En réalité la réponse est plus complexe que ça et mérite de cross-checker les sources et de se forger sa propre opinion, il n'y a PAS de réponse magique.
5) Ca va affaiblir l'humain
De la même façon que certaines études ont prouvé que l'
utilisation de Google a affecté nos capacités de mémorisation, je pense que ça risque de nous faire perdre certaines capacité de synthétisation etc..