A deux doigts de retourner à l'église juste pour espérer entendre un appel à la croisade contre la Californie


Non je déconne, si je n'étais pas flemmard j'aurais déjà fais mon apostasie

Ce qui me fait penser que j'ai un article à passer en actu. Juste trouver le temps de le resurvoler voire si c'est pertinent et trouver une accroche... j'essaie de faire ça avant ce soir.

Je ne suis pas surpris qu'ils ne soient pas fans des IA au Vatican (après tout, c'est utilisé par les chasseurs de pédophiles, ça doit faire réfléchir ) mais quand même vachement surpris que ça soit surtout dans le sens "ne pas se faire dominer"... J'ai du mal à voir dans quelle mesure cette ligne de conduite correspond aux "grands livres"...

Salut tout le monde

Je suis tout nouveau sur le forum (je viens juste de m'inscrire), mais je lisais ce topic en sous-marin et je n'ai pas pu m'empêcher de sauter le pas pour participer tellement l'échange est intéressant. J'espère que vous pardonnerez l'incruste directe !

TchouCelle-ci, je ne l'avais pas dans mon bingo, mais le pape qui fait une encyclique pour dire que l'IA c'est pas haram (ou à peu près, je ne suis pas super au fait des trucs religieux).

www.franceinfo.fr/monde/…

Je l'avais pas non plus dans mon bingo celle-là ! 😂 En lisant le lien sur le fait "d'empêcher l'IA de dominer l'humain", on dirait presque que le Vatican vient de découvrir Matrix. À quand le watercooling à l'eau bénite pour limiter les hallucinations des serveurs ?

Plus sérieusement, et pour rebondir sur ce que disait Guybrush, c'est marrant de voir ces craintes existentielles alors qu'on galère déjà au quotidien avec l'absurdité du "prompt engineering". On passe un temps fou à essayer de tordre un modèle purement probabiliste pour lui faire cracher un résultat déterministe. C'est comme essayer d'enfoncer une vis avec un marteau : avec pas mal de patience ça finit parfois par rentrer, mais on a finalement perdu plus de temps à s'expliquer avec la machine qu'à écrire le code soi-même.

Et pour revenir à la comparaison de Tchou, la ruée vers l'or résume tout. Sauf qu'ici, les fameuses "pelles" (les GPU Nvidia, la RAM dont parlait PetitCalgon...) coûtent tellement cher qu'il va falloir trouver de sacrés filons pour rentabiliser l'investissement. Pour l'instant, générer du code qu'il faut relire de A à Z, ça ne justifie pas les milliards cramés. Je penche aussi pour un bel éclatement de la bulle quand on demandera de voir le vrai ROI.

Bref, ravi de vous rejoindre ici, et bon courage pour ton actu Tchou, hâte de lire ça !

SebTson galère déjà au quotidien avec l'absurdité du "prompt engineering". On passe un temps fou à essayer de tordre un modèle purement probabiliste pour lui faire cracher un résultat déterministe.

J'étais tombé sur ceci, il y a peu, et ça m'avait achevé iq-project.ai/blog/claud…

Faudra bientôt une armée de devs/ingé pour "configurer" un agent et prier pour que ça marche pas trop mal

Guybrush

SebTson galère déjà au quotidien avec l'absurdité du "prompt engineering". On passe un temps fou à essayer de tordre un modèle purement probabiliste pour lui faire cracher un résultat déterministe.

J'étais tombé sur ceci, il y a peu, et ça m'avait achevé iq-project.ai/blog/claud…

Faudra bientôt une armée de devs/ingé pour "configurer" un agent et prier pour que ça marche pas trop mal

C'est exactement ça ! 😭 Merci pour le lien, l'article résume parfaitement l'ironie de la situation.

On en arrive littéralement à rédiger des documentations complètes pour expliquer à la machine comment elle est censée analyser notre projet, quels outils elle a le droit d'utiliser et comment elle doit se comporter. On est passé du métier de "développeur" à celui de "dresseur de LLM capricieux".

Ton image de l'armée d'ingénieurs qui croisent les doigts est excellente. Parce que le pire, c'est que même avec un fichier de configuration de 300 lignes blindé de directives strictes, il y aura toujours un petit pourcentage de chances pour que le modèle hallucine une fonction ou te supprime un bloc de code sans prévenir. Le fameux déterminisme...

On automatise la production de code, mais on complexifie la phase de préparation à l'extrême. Le serpent qui se mord la queue, comme on le dit si bien.

TchouJ'aime beaucoup ton argumentaire cependant, et particulier la partie sur l'utilisation du langage humain vs le code.

Ça date de 2016 mais ça n'a jamais été aussi pertinent :

Haha ! Magnifique, un grand classique de CommitStrip.

C'est fou à quel point cette planche avait tout anticipé il y a 10 ans. La chute est parfaite et résume exactement tout notre débat : à force de vouloir rédiger des spécifications (prompts) ultra-précises, exhaustives et blindées de contexte pour ne laisser aucune place à l'hallucination du LLM... on est littéralement en train d'écrire du code, mais dans un langage naturel hyper verbeux et probabiliste.

Autant écrire directement en Python ou en C. Au moins, un compilateur fait exactement ce qu'on lui demande, à la virgule près, et ne te lâche pas un *"Désolé, en tant que modèle d'IA, je ne peux pas..."* de manière totalement aléatoire en plein milieu d'un build !

Merci pour la pépite Guybrush, je me la mets de côté pour la ressortir à la prochaine réunion face aux décideurs qui sont persuadés qu'il suffit de parler à son PC pour sortir une appli de prod.

Bon, là j'avoue être curieux, on est nombreux sur le site à avoir un bagage informatique, voir un peu développeur sur les bords ou carrément.
A priori toi aussi.
Peux-tu te présenter rapidement?

Perso: développeur dans une grosse boîte, techno principale: C# pour le backend, Angular pour le frontend, Airflow/Python pour les tâches "cron", Docker pour déployer tout ça, mais code 98% manuel, IA pour les traductions et quelques fonction fancy une fois de temps en temps.

PetitCalgonBon, là j'avoue être curieux, on est nombreux sur le site à avoir un bagage informatique, voir un peu développeur sur les bords ou carrément.
A priori toi aussi.
Peux-tu te présenter rapidement?

Perso: développeur dans une grosse boîte, techno principale: C# pour le backend, Angular pour le frontend, Airflow/Python pour les tâches "cron", Docker pour déployer tout ça, mais code 98% manuel, IA pour les traductions et quelques fonction fancy une fois de temps en temps.

Salut, pour faire simple : je suis développeur web fullstack, principalement sur l'écosystème JavaScript/TypeScript. Je bosse pas mal en freelance, ce qui m'oblige souvent à avoir la casquette de "l'homme-orchestre" sur les projets.

Côté stack, ça donne généralement : Node.js (souvent avec NestJS) pour le backend, et Vue.js pour le frontend (j'ai fait beaucoup de React, mais la simplicité de Vue a fini par m'avoir). Comme toi, je conteneurise tout sous Docker, avec du PostgreSQL pour la donnée.

Niveau IA, on a l'air d'avoir exactement la même philosophie. Mon code est "artisanal" à 95 %. J'utilise surtout ChatGPT/Claude et parfois Gemini comme un *Rubber Duck* sous stéroïdes pour m'aider à débugger, pour me pondre des Regex imbuvables (soyons honnêtes, personne n'aime écrire ça de zéro ), ou pour générer des jeux de données de test.

Dès qu'on touche à la logique métier ou à l'architecture, je coupe tout. Comme on le disait plus haut, corriger les hallucinations d'une IA sur un process complexe prend plus de temps que de l'écrire soi-même.

En tout cas, ravi de voir qu'il y a une bonne commu de "techos" par ici.
Sinon, pour tes traductions par IA, tu passes par l'API de DeepL ou tu as intégré un LLM spécifique ?

SebTsCôté stack, ça donne généralement : Node.js (souvent avec NestJS) pour le backend, et Vue.js pour le frontend (j'ai fait beaucoup de React, mais la simplicité de Vue a fini par m'avoir). Comme toi, je conteneurise tout sous Docker, avec du PostgreSQL pour la donnée.

Je suis de l'autre coté du spectre : le genre de gars qui n'a pas eu le "courage" de passer en pratique aux nouvelles technologies (c'est aussi pour ça que Lexpage est un peu à la traîne, et ça risque pas de changer ). Mon profil n'est pas idéal pour garder le contact pratique avec les nouvelles technologies : je suis chercheur au FNRS (l'équivalent du CNRS/Inria je pense en France). Je ne fais que critiquer et suggérer théoriquement des solutions, mais je le fais avec des données empiriques (je suis plutôt orienté data science, au "service" de l'évolution/ingénierie logicielle). Je fais aussi partie de ces chercheurs qui considèrent que leur travail ne sert pas à grand chose car personne n'aime les chercheurs et leurs résultats

SebTsNiveau IA, on a l'air d'avoir exactement la même philosophie. Mon code est "artisanal" à 95 %. J'utilise surtout ChatGPT/Claude et parfois Gemini comme un *Rubber Duck* sous stéroïdes pour m'aider à débugger, pour me pondre des Regex imbuvables (soyons honnêtes, personne n'aime écrire ça de zéro ), ou pour générer des jeux de données de test.

A part une tentative pour générer du code via IA (essentiellement, une micro-lib pour faire de la correction statistique) qui s'est soldée par un échec lamentable, je n'ai jamais utilisé l'IA pour générer du code. Par contre, j'apprécie assez bien les suggestions automatiques de VSCode quand je rédige des articles, ça m'aide pour le vocabulaire (mais pas trop pour le contenu, qui est souvent hallucinatoire). Dans mon domaine, je remarque tristement que de plus en plus de papiers/articles sont partiellement rédigés par IA, et encore plus tristement que de nombreuses reviews le sont également (alors que les reviews sont supposées être le garde-fou)...

SebTsDès qu'on touche à la logique métier ou à l'architecture, je coupe tout. Comme on le disait plus haut, corriger les hallucinations d'une IA sur un process complexe prend plus de temps que de l'écrire soi-même.

Un de mes "jeunes" (comprendre : un doctorant) utilise assez souvent l'IA pour l'assister dans les analyses de données. Ca ne marche pas trop mal pour produire le code, mais je suis surtout content qu'il ait systématiquement un regard critique sur ce qui a été produit, car il corrige/détecte les erreurs avant de me montrer les résultats A cet égard, mon travail reste assez similaire à celui "pré-IA" : vérifier que les analyses soient statistiquement valides et correctes, peu importe que ça ait été généré par IA ou par un doctorant qui débute

SebTsEn tout cas, ravi de voir qu'il y a une bonne commu de "techos" par ici.
Sinon, pour tes traductions par IA, tu passes par l'API de DeepL ou tu as intégré un LLM spécifique ?

Perso, j'utilise (1) wordreference, mais c'est "manuel". C'est la meilleure option pour être sûr de gérer les nuances de l'autre langue et aussi d'apprendre un petit peu au passage et, (2) deepl quand je dois aller vite pour répondre à un e-mail et que j'ai un doute (j'ai un gros "blocage" en anglais dans le sens où si je ne suis pas sûr d'écrire quelque chose de grammaticalement correct, je reste dessus pendant 10 minutes. Sachant que la majeure partie de mes doctorants sont non-francophones, ça arrive assez fréquemment, genre une fois par semaine/quinzaine). Mais ça reste limité généralement à une partie de phrase (je n'aime pas l'idée de "simplement" écrire en français et puis demander une traduction - si je fais ça, je sais que je risque de perdre petit à petit ma capacité à générer le texte moi-même).