L’IA générative (GenAI), opportunité ou menace pour l’Open Source ?
Walid : Bonjour et bienvenue sur Projets Libres, le podcast de LinuxFr.org qui parle de logiciel libre, de communs numériques et de données ouvertes. Je suis Walid Nouh et aujourd’hui nous commençons une série sur intelligence artificielle et logiciel libre. Une série de dialogues avec des gens qui ont des avis sur le sujet, que ce soit des avis positifs ou des avis négatifs. On va voir les différents aspects autour de ces nouvelles technologies. Et pour commencer aujourd’hui, nous avons avec nous Marie-Alice Blete, qui est AI engineer, mais je laisse mon collègue Raphaël Semeteys introduire plus en détail cela puisque c’est lui qui est à l’origine de la série.
Raphaël : Yes, ben merci beaucoup. Salut à tous. Super content de parler de ces deux sujets qui me passionnent, et de comment ils interfèrent et comment ils s’impactent l’un l’autre. Et j’ai fait effectivement une conférence sur le sujet il y a pas très longtemps. Et là je suis super content que Marie-Alice, une ex-collègue à moi, ait accepté de venir discuter de ce sujet-là avec nous. Mais Marie-Alice, je vais te laisser te présenter.
Marie-Alice : Merci Raphaël. Je suis vraiment très contente de pouvoir participer. Donc je m’appelle Marie-Alice Blete. Je suis AI engineer. Et mon expertise, c’est plutôt justement l’intelligence artificielle que l’open source, mais l’intelligence artificielle m’a permis de faire ma première, ou peut-être une de mes premières contributions récemment. Donc je suis contente de pouvoir apporter ce témoignage.
Raphaël : Super. Et puis tu es aussi autrice ?
Marie-Alice : Tout à fait. J’ai écrit un livre en 2023, donc au tout début de l’IA générative (GenAI), qui s’appelle Developing Apps with ChatGPT and GPT-4, qui est publié chez O’Reilly.
Walid : Tu as quel profil ? Qu’est-ce que tu faisais avant de te lancer à corps perdu dans l’IA ?
Marie-Alice : C’est une très bonne question. Donc j’ai un profil dev. Moi je fais du dev depuis 15 ans. Avant d’être AI engineer, je suis dev. Ça c’est sûr que c’est le plus important. J’étais simplement au bon endroit au bon moment quand l’IA générative (GenAI) est apparue. J’étais à ce moment-là dans une petite équipe de R&D en IA, donc j’étais au milieu des data scientists en tant qu’ingénieure logicielle. Et puis l’IA générative c’est clairement l’intersection de la data science avec le dev. Pour moi c’est ce que je vis au quotidien, et donc j’ai pu être au bon endroit pour être à l’intersection de ces deux domaines.
Raphaël : Cool. Bon alors moi pourquoi je me suis intéressé à ce sujet-là, c’est parce que moi à force d’analyser les signaux faibles, ou pas faibles d’ailleurs, qu’on voit émerger sur les réseaux sociaux et dans les écosystèmes open source, je me suis rendu compte que l’IA ça impactait quand même pas mal les projets et les communautés open source.
En fait l’IA, on est passé de… d’abord, quand on parle du développement, de coding assistants qui sont là pour aider à faire de la complétion ou proposer des snippets de code, et puis plus ça va, plus on va vers de l’agentic development où on délègue en fait des pans complets de l’implémentation à des agents.
Et la question centrale du coup que ça m’a amené à me poser c’est : est-ce que l’IA générative (GenAI) est juste un outil qui est utile et qui accélère juste le boulot des développeurs, quand on la voit du point de vue vraiment usage quotidien, ou alors est-ce que c’est pas en train d’avoir un impact très puissant et très important sur les fondations mêmes de l’open source ? Et c’est ce que j’ai développé dans ma conférence. Déjà, est-ce que toi tu fais le même constat en fait, tout simplement ?
Marie-Alice : Je suis d’accord avec toi. J’ai vu plusieurs fois passer sur les réseaux, sur LinkedIn etc., des gens qui disaient : « Ben on est submergés par des demandes de pull requests générées par IA, qui ont ni queue ni tête, et qu’on arrive pas à revoir. Et on va arrêter, on va bloquer tout ça parce qu’on n’arrive pas à gérer. »
De l’autre côté, moi j’ai deux choses… Pour donner un petit peu de contexte, moi je suis une fan de domotique, donc j’ai un système domotique maison que je bricole moi-même, qui est basé sur Home Assistant, une solution open source. Alors il y a une partie qui est payante, mais le cœur est open source. Et j’ai contribué à deux choses.
En tout cas j’ai essayé. La première, c’était un petit bug de front. Donc ça c’est quelque chose qui a été assez facile à gérer, mais je n’aurais absolument pas eu le temps de le faire en temps normal si j’avais pas eu l’IA, parce que le front c’est pas mon expertise. Je voyais très bien le bug, un problème d’ID de deux composants qui avaient le même ID. Si j’avais pas eu l’IA, j’aurais passé trop de temps à lire, la syntaxe, je la connaissais pas bien, c’était pas mon langage que j’utilise au quotidien, etc.
Donc ça, pour moi c’était tellement facile. J’ai ouvert la PR en deux minutes, ça a été mergé, intégré et déployé de l’autre côté tout aussi facilement. Et après j’ai fait une autre contribution sur un sujet beaucoup plus complexe. Et là, les choses se corsent. Je pourrai peut-être en parler plus tard.
Raphaël : D’accord. Et sur cette première contribution, donc ça veut dire que l’IA elle t’a aidée à comprendre… parce que le bug tu dis que tu l’avais déjà identifié en fait ?
Marie-Alice : Oui, c’est ça. En fait c’est un classique des bugs front : tu as une page avec trois boutons, tu cliques sur le premier et c’est l’animation du troisième qui se déclenche. En voyant ça, je savais très très bien ce qui se passait : les trois boutons avaient le même ID et donc l’animation se passait mal. Donc ça, voilà, c’est un petit fix.
Raphaël : D’accord. Donc là en fait cette première contribution que tu as faite à Home Assistant, en fait ça t’a accélérée, mais tu es en mode « je contribue en fait un patch, j’identifie un bug, je le corrige ».
Et en fait c’est un peu comme ça que ça se fait historiquement les contributions sur les projets open source : c’est brique par brique, il y a des gens qui rentrent dans une communauté, ils identifient un bug, voire ils corrigent de la doc, etc., et puis il y a une relation en fait de confiance qui se fait avec un humain, et avec d’autres humains de l’autre côté, des gens qui font la revue du code et qui vont faire la MR [Merge Request, aussi appelé Pull Request].
Après aujourd’hui l’IA elle permet d’aller beaucoup plus loin, surtout si on passe en mode agent. Et des fois c’est plutôt que de contribuer une brique, ça te contribue un mur, voire une maison. Et ça c’est beaucoup plus lourd à gérer côté projet. Je ne sais pas si toi tu as observé ça, ou si même ton deuxième exemple il va plus dans cette direction ?
Marie-Alice : Ouais, je pense que oui. Donc ma deuxième contribution, elle porte plus sur une feature [fonctionnalité] clé au cœur du système. Et du coup là clairement, il faut que je puisse m’intégrer à la communauté. J’ai énormément discuté avec les gens sur les forums de discussion liés au sujet, sinon impossible d’avoir une PR qui soit intégrée. C’est sûr qu’il faut que je montre que j’ai étudié le sujet. Là, ça devient vraiment un échange humain qui est beaucoup plus complexe parce que justement la question est complexe.
Raphaël : D’accord. Et donc là ça touche, comme tu le dis, vraiment au cœur du sujet. Elle a été intégrée ta MR finalement ?
Marie-Alice : Non, justement ! Donc ça c’est un autre point. La première version que j’ai faite, j’ai ouvert la première PR en février, et donc là elle est toujours pas intégrée, c’est toujours en discussion. Et vraiment ce que je vois et ce que je ressens, c’est qu’en fait ils sont submergés de PR.
Et autant je me sens capable de comprendre le code, de pouvoir faire des modifications et de proposer des modifications à la communauté, autant je ne me sens pas légitime de revoir d’autres PR. Alors pourtant c’est ce qui est demandé. Donc quand on ouvre une PR maintenant, en fait on a une petite checklist de choses à vérifier avant d’ouvrir une PR, et parmi cette checklist il y a : « revoir des PR d’autres personnes ». Et finalement ça je trouve ça positif, c’est une très bonne idée. Par contre, c’est beaucoup plus dur à faire je trouve.
Raphaël : ah oui, c’est hyper intéressant en fait ce système pour redistribuer la charge de travail, parce que comme tu l’as dit, ce que tu pressens et on le voit, il y a plein de projets qui se plaignent, qui sont submergés de PR.
La difficulté qu’il y a à produire le code et à contribuer au projet, la difficulté de la contribution elle s’est déplacée avec l’IA. Avant c’était le développeur qui passait du temps, qui se disait « mais est-ce que je fais bien ? », il discutait comme tu fais là avec les gens ou pas d’ailleurs, mais en tout cas au niveau du code lui il faisait ça aux petits oignons, et puis il proposait la PR, et puis là il y avait une discussion etc.
Là aujourd’hui, la phase d’implémentation elle peut être extrêmement rapide, voire faite par quelqu’un qui comprend vraiment pas, encore moins que toi, c’est-à-dire qui comprend pas le truc, qui presque c’est quelqu’un qui cherche à contribuer à un projet open source parce que c’est cool ! Et du coup les projets ils sont complètement submergés de PR, et donc tout l’effort là il est reporté sur la partie revue en fait, revue de code.
Et c’est vrai que je trouve ça super sioux de dire : « Ben faut participer à l’effort de guerre. » Et l’effort de guerre il est plus sur le code. En fait ce que ça me prouve c’est que l’effort de guerre maintenant il est : aidez-nous à faire des PR, parce que c’est là où il y a besoin d’aide. Bien sûr qu’on veut du code, mais le code il arrive comme un tsunami chez nous. Et on a des exemples de projets qui ont arrêté des bug bounties.
J’en parlais avec curl, je relisais un article écrit par le mainteneur de curl, il disait qu’à un moment donné sa femme s’est posé des questions sur sa santé en fait, tellement il bossait. Il dit : « Moi j’ai toujours beaucoup bossé, j’avais un équilibre entre ma vie publique et ma vie perso, et là ma femme elle a commencé à dire non, là ça ne va pas, tu fais des heures et tout, ça ne va plus du tout. ».
Et du coup ils ont arrêté le bug bounty par exemple, parce qu’il y avait trop de contributions. Donc c’est vrai que c’est pas mal ce truc de revenir. Mais du coup, pour toi ouais ça te met dans une situation où tu as envie de contribuer, tu sens que ça apporte quelque chose puisque ça touche au cœur, mais pour autant tu te trouves dans une situation compliquée. Pourquoi ? Parce que ça prendrait trop de temps à rentrer dedans ou… ?
Marie-Alice : Autant la feature sur laquelle j’ai voulu implémenter et pousser dans le projet, je l’ai creusée à fond, donc je suis capable d’en discuter. Alors je connais pas tout, en plus il y a une histoire assez complexe, une histoire de spécifications, de normes etc., mais j’ai assez creusé le sujet, en partie avec l’aide de l’IA, pour avoir des avis sur la question, ou sur les questions. Et revoir des PR sur d’autres sujets, ce serait beaucoup plus compliqué pour moi. C’est un projet énorme, il y a plein de parties du code du projet que je ne connais pas. Voilà.
Walid : Ce que je trouve intéressant là-dedans, c’est que justement tu as des projets qui face à l’arrivée de l’IA mettent un code de conduite où ils disent « on veut pas d’IA ».
Il y en a d’autres où c’est encore un peu flou. Alors là je sais pas dans le cas d’Home Assistant est-ce qu’ils ont une charte ? Comment ils ont fait ? Mais est-ce que par exemple la manière de faire assez ingénieuse qu’ils ont mise en place pourrait t’inciter toi par exemple à te dire : « Et bien finalement le sujet il est intéressant, je vais prendre du temps pour rentrer dans le sujet et quitte à, pourquoi pas, devenir un contributeur plus occasionnel, mais un contributeur du projet. » Est-ce que finalement ils ont pas retourné la situation d’une certaine manière ?
Marie-Alice : Ouais, ouais complètement. C’est sûr que je pense que je serais tout à fait capable d’avoir des avis sur ce protocole-là. Je travaille sur l’intégration d’un protocole particulier, et donc là maintenant comme j’ai creusé ce sujet-là, je pense que je serais capable d’avoir des discussions sur ce point-là. Sur les autres parties du projet, non.
Mais c’est sûr que ça me permet de rentrer dedans, en fait c’est comme quand n’importe quel projet de dev : quand on arrive dans un nouveau projet avec une base de code qui est énorme, avoir un assistant IA qui permet de scanner le code, de te dire « voilà ça c’est cette feature-là, elle va aller à tel endroit, tu peux regarder ce bout de code là pour mieux comprendre ce qui se passe », en fait ça aide énormément.
Walid : Et eux ils ont une charte IA ?
Marie-Alice : Alors, il faudrait que je regarde pour être sûre, sinon je vais dire des bêtises. Il n’y a pas de refus d’IA en tout cas. Ma PR a été revue par un bot d’ailleurs.
[Charte IA du projet Home Assistant]
Walid : D’accord.
Raphaël : Ouais, c’est hyper intéressant. Je regardais s’il y avait une charte, mais bon, on regardera après, post-enregistrement, on vous mettra les liens si c’est nécessaire. Ouais, ce qui est intéressant c’est que tu disais, en fait la domotique tu es passionnée. C’est-à-dire que si tu as implémenté ce protocole, c’est que tu en avais besoin et que tu t’es dit…
C’est ce qui pousse les gens à contribuer à des projets open source à la base. Et le réflexe que tu as eu, moi je le trouve personnellement génial, c’est que tout de suite tu as commencé à discuter avec les gens en amont. Mais aujourd’hui, quand tu dis la PR elle est toujours en discussion, ça continue à discuter ou alors c’est juste qu’ils ont pas le temps et ils ont laissé ça un peu sur le côté ?
Marie-Alice : Clairement les deux. Clairement les deux. Ça fait quand même plusieurs années, donc ce que j’ai fait, j’ai trouvé des demandes de features pour ça depuis plusieurs années. Donc c’est pas juste mon besoin, c’est quelque chose qui a été demandé et redemandé depuis longtemps.
Je vais donner des détails, ce sera peut-être plus facile : c’est un système d’alarme maison. J’ai acheté un petit boîtier qui permet de faire un code et de mettre une alarme dans la maison. Ce qui n’était pas supporté, c’était le délai au moment où on active l’alarme, il y a un petit délai le temps qu’on ferme la porte à clé et qu’on sorte. Le petit boîtier il est capable de faire un petit bip continu pour dire : « Attention, il y a un petit bip bip bip, dépêchez-vous de sortir, après ça va sonner. »
En fait c’était le petit délai là qui n’était pas supporté. Donc ils faisaient passer le petit bip par Alexa, et c’est Alexa par exemple qui faisait le compte à rebours. Donc un contournement qui marche, mais qui est vraiment dommage. Le petit boîtier de l’alarme, je pense que c’est le module le plus cher de toute mon installation. Après j’ai que des petits trucs qui coûtent quelques euros sur les portes et fenêtres. Donc ce gros truc-là, c’est le truc le plus cher que j’ai acheté, et il n’y avait que 50 % des fonctionnalités qui étaient supportées. Donc pour moi c’était inconcevable.
Si je n’avais pas eu l’IA, j’aurais été incapable de comprendre ce qui se passait, de trouver le bon endroit dans le code, etc. Enfin avec un travail à temps plein en tout cas, c’est impossible.
Donc ça, ça m’a permis de contribuer. Et alors, ma PR n’a toujours pas été mergée, mais mon patch il est sur mon installation et donc chez moi ça marche depuis février. Donc au moins ça déjà, pour moi c’est une grande victoire.
Raphaël : Et le fait que ce soit pas mergé, comme je te disais, c’est parce qu’ils ont plus le temps de s’en occuper ou alors ils prennent du temps à comprendre ? En fait, parce que tu sais il y a cette notion de comprehension tax [taxe à la compréhension]. C’est-à-dire que toi tu as passé du temps dessus, tu as eu l’IA pour t’aider etc. Là tu me dis qu’il y a quand même une IA qui a fait un premier filtre, ça aussi c’est intéressant ce qui est mis en place sur les projets. Mais est-ce que peut-être ça prend du temps aussi à comprendre le code et à comprendre en quoi il est OK en fait ?
Marie-Alice : Ouais, mais je pense aussi il y a quand même une question de temps en général. Parce que tu vois, il y a des gens qui ont commenté ma PR en taguant d’autres personnes qui sont aussi core contributors, et ces personnes-là n’ont pas répondu. Et je pense qu’ils sont submergés en fait. Voilà. Donc je pense qu’il y a aussi une question de temps.
Raphaël : On est pile dans le truc que j’observe, c’est vraiment ça. En fait aujourd’hui les projets ils sont mis sous pression et les core contributeurs, les reviewers, ils savent plus comment gérer. Donc il y en a qui interdisent carrément l’IA maintenant. Alors ça peut être pour des raisons pas que opérationnelles, c’est peut-être philosophique, je ne sais pas.
Mais c’est vrai que ça a un impact fort aujourd’hui sur les communautés et sur leur gouvernance en fait. Petit à petit c’est en train de s’organiser. Mais je trouve pas mal l’idée de renverser la vapeur. Mais toi justement, la manière dont tu as utilisé l’IA, tu es AI engineer, tu baignes dans l’IA depuis des années, tu écris des livres dessus même et tout, cette notion d’AI slop là, qu’est-ce que tu en penses ?
J’aime bien comme ils disent au Québec, ils parlent d’IA dégénérative. Mais comment tu t’assures que justement ton agent ou tout ce que tu vas produire avec l’IA, ou que tu vas déléguer à l’IA, c’est pas ça justement ?
Marie-Alice : Je pense que c’est très très compliqué. Autant sur la partie front, le petit fix, là j’ai aucun problème pour relire et comprendre ce qui s’est passé. Voilà, je suis 100 % sûre de ma PR. Sur la partie complexe, j’avais des doutes.
Il y avait des choses où j’étais pas 100 % sûre. Ça me paraissait pas mal, ça fonctionnait, j’ai bien compris comment ça fonctionnait, mais j’étais pas 100 % sûre que c’était la meilleure manière de faire. Moi c’est mon métier de base de faire du dev. C’est tellement facile maintenant de faire des PR.
Cela m’a pris quand même beaucoup beaucoup de temps pour relire, itérer avec l’IA générative pour avoir quelque chose qui fonctionne et de qualité qui me semble pas mal. Je pense sur quelque chose d’aussi complexe, l’IA a besoin d’être guidée. C’est sûr que sinon c’était n’importe quoi.
Walid : Un des reproches aussi qui peuvent être faits par des mainteneurs, c’est que les gens indiquent pas forcément que ça a été fait avec de l’IA. Comment toi dans ton cas de figure tu as mis en avant quand tu as fait ta pull request, comment tu as mis en avant à quel niveau l’IA t’a aidée, les incertitudes que tu as etc. ? Est-ce que c’est quelque chose que tu as mis en avant quand tu as fait ta demande ?
Marie-Alice : Je ne pense pas avoir mis en avant mes incertitudes par rapport à l’IA. Par contre, j’ai expliqué dans le détail ce que j’avais fait, pour dire voilà : « J’ai pris cette hypothèse-là, j’ai fait ça comme ça, et comme ça, et comme ça », pour que ce soit facile à relire et que les gens puissent donner un avis.
Ouais, c’est une bonne question. Je ne pense pas avoir voulu consciemment cacher que j’avais utilisé l’IA. Je pense que c’est assez évident et assez répandu. Par contre, est-ce que j’aurais… Je sais pas, peut-être qu’avoir mis explicitement « j’ai utilisé l’IA », ça m’aurait peut-être desservie justement. Parce que quand on arrive dans une nouvelle communauté, les gens ne me connaissent pas, ils savent pas que c’est mon métier d’être dev. Et si je mets « j’ai fait ça avec l’IA », les gens, en tout cas moi à la place du mainteneur je me serais dit : « Oh là là, c’est quoi ce truc ? » Je ne sais pas !
Walid : Non non, mais justement c’est ça qui est intéressant. Il y a des communautés dans lesquelles… je ne sais plus quelle conférence, le mainteneur il disait : « Ben c’est facile pour comprendre quand une pull request a été faite par l’IA. Tu regardes le texte, s’il est écrit en trop bon anglais et qu’il est trop poli et tout, c’est que c’est l’IA, quoi. ».
Ce à quoi tu peux dire : « Ben en fait tu prends une personne qui ne parle pas bien anglais, qui a fait elle-même sa pull request, qui s’est aidée pour faire le texte de sa pull request avec de l’IA, ça passe dedans. Donc rien n’est blanc ou noir, quoi. »
Marie-Alice : Ouais. Je pense aussi… Enfin là c’est pas en lien avec l’open source, mais en lien avec le dev en général. Rejeter l’IA en bloc, je pense que ça va mener nulle part en fait. Là on est à des niveaux de performance des modèles qui font que ce n’est plus possible en fait de dire : « Je code que à la main, je ne fais plus d’IA du tout. ».
Le problème de l’open source, c’est que on n’est pas dans du dev classique, on est dans un projet auquel tout le monde peut contribuer. Tout le monde a des profils différents, des niveaux de compétences dans le dev différents. Et je pense que là c’est là où c’est beaucoup plus difficile de garantir que la personne qui a écrit le code a compris ce qu’elle faisait.
Raphaël : Parce que ce que tu as fait de d’expliquer par où tu étais passée etc. avant, ça c’est des choses que demandent certains projets. Typiquement ils disent : « Pas de PR si c’est pas associé à une issue qui a été ouverte avant et qui explique pourquoi et comment en fait, avec vos propres mots. » Et effectivement il y a ce projet, je ne sais plus c’est lequel, qui disait : « Avec vos propres mots, et pour rebondir sur ce que tu disais Walid, si c’est de l’IA on le verra. » Mais effectivement ça pose le problème de : ouais mais c’est une barrière à l’entrée quand même, la maîtrise de la langue anglaise pour certains, tu vois.
Marie-Alice : Oui, et puis « si c’est de l’IA on le verra », d’accord, mais en fait moi je suis convaincue que dans le futur le dev ce sera plus que de l’IA de toute façon, donc c’est ça qui est compliqué.
Raphaël : Oui, effectivement. Mais ça pose une question d’ailleurs… Bon là sur Home Assistant c’est un gros projet, mais on a vu plusieurs projets qui ont été réimplémentés carrément de zéro parce qu’aujourd’hui avec le bon modèle et le bon harnais, on est capable de vraiment générer des choses rapidement, surtout si c’est cadré.
Et il y avait cet exemple de projet, je crois que c’était chardet, où la licence posait problème parce que c’est de la LGPL et donc ça veut dire qu’il y a une partie copyleft dans la licence. Si on ne l’utilise pas via les API telles que ça a été prévu pour, mais qu’on se linke avec le code différemment, alors le code il peut être contaminé si on voit ça négativement par l’aspect copyleft.
Et donc quelqu’un a dit : « Ben réimplémente-moi chardet de zéro, quoi. » Et il l’a mis sous licence permissive. Et ça, ça pose un problème parce que quand la communauté a réagi en disant : « attends, là il y a du plagiat en fait », il dit : « Ben non, regarde, quand je compare la base de code, c’est 1,3 % de similarité. » Donc la notion de plagiat même est remise en cause dans cette histoire.
Et c’est pour ça que c’est intéressant à regarder parce que ça ébranle vraiment des fondamentaux dans les communautés dans l’open source. Évidemment que ça part pas de réimplémenter directement la même base de code, mais à la base il a quand même demandé à son agent de réimplémenter chardet.
Donc ça veut dire que l’agent lui il connaît le code de chardet, ça fait partie de ses données d’entraînement. Et puis globalement tous ces modèles ils ont été entraînés sur pas mal sur du code qui était disponible, donc c’est-à-dire open source. Peut-être en étant un peu pas trop regardant sur les licences ou comment ça s’utilise. Je ne sais pas ce que tu en penses, parce que toi tu dis que vous l’utilisez beaucoup aussi dans le dev. Du coup ça pose la question dans l’autre sens aussi : quand vous développez et tout, comment vous vous sentez par rapport à : bon ben on est nickel vis-à-vis de ces notions-là de plagiat… ?
Marie-Alice : Ouais, j’ai pas de bonne réponse là-dessus. Quand on travaillait ensemble il y a quelques années, au tout tout début des assistants de code, moi j’avais fait, je ne sais pas si tu te souviens, mais à ce moment-là moi j’avais fait un benchmark sur tous les assistants de programmation sur le marché.
Et j’avais fait une sélection par rapport à ça justement, et j’en avais éliminé certains dans la proposition que j’avais faite à notre entreprise. Et finalement c’est pas ce critère-là qui avait été retenu. Et on n’est pas parti sur l’assistant qui était le plus réglo. Mais c’est valable pour toutes les entreprises aujourd’hui : celles qui sont leaders du marché là, c’est pas celles qui sont les plus réglos, qui respectent l’open source, quoi. Donc j’ai pas de bonne réponse… C’est… J’ai pas de bonne réponse là-dessus, quoi.
Walid : C’est un peu le Far West, hein.
Marie-Alice : Ouais, c’est ça.
Raphaël : Oui, c’est le Far West, on est dans une zone qui est pas encore complètement explorée, c’est le cas de le dire. Puis ça bouge tellement vite ! Mais après c’est sûr que les modèles les plus puissants a priori, outre la puissance de calcul, enfin ça c’est toi l’ingénieure qui va nous confirmer ça, ben il y a aussi la donnée. Donc c’est sûr que c’est a priori ceux aussi qui ont eu plus de data pour s’entraîner, indépendamment de la précision et de la puissance qui est mise dans l’entraînement.
Marie-Alice : Oui, tout à fait. Et on voit bien qu’en fait, c’est l’exemple que je viens de donner, les gens finalement ce qui leur importe c’est que le modèle marche, et qu’il soit le plus puissant, le plus… voilà, c’est ceux qui fonctionnent le mieux. Et le critère de : est-ce que ça a scrapé des repos qu’ils auraient pas dû, ça vient dans un second temps.
Walid : Ça pose des questions… Enfin, moi je trouve que la technologie est belle, mais je suis extrêmement, extrêmement critique avec l’industrie. Et je trouve que c’est le Far West total et que c’est la négation de beaucoup de choses. Parce que finalement à quoi ça sert que tu passes du temps, à quoi ça sert qu’on passe du temps à faire des podcasts si dans tous les cas le truc va être complètement scrapé, réutilisé sans aucun de nos accords, de rien du tout ? Et à quoi ça sert de faire du code…
Enfin il y a une vraie question à mon avis qui est derrière ça, qui est : à quoi ça sert de faire du code open source si dans tous les cas ce code il va être pris, réutilisé, si en plus de ça tu peux te passer finalement de tout le travail collaboratif des gens parce que juste tu es pas d’accord avec la licence que les gens ils ont mise et tu réimplémentes le truc et tu fais ton truc derrière ? Finalement qu’est-ce qui reste de ça, et finalement est-ce que la…
Il y a quelque temps, il y a eu les gens de Cal.com qui ont dit : « Ouais, bon ben finalement à cause de l’IA on va refermer notre code. » Bon, quand tu creuses un peu c’est pas exactement ça qui s’est passé, c’est plutôt une… l’IA a l’air d’être plutôt une excuse. Comme j’en parlais juste avant, le fait que les fabricants de matos augmentent leurs prix, bien sûr que l’IA y est pour quelque chose, mais ils en ont aussi profité pour augmenter un peu leurs marges aussi.
Donc l’IA est pour ça, mais ça pose des questions sur : à quoi ça sert de mettre du code open source si dans tous les cas les gros fabricants et les gros vendeurs de modèles ils en ont rien à foutre des licences et de rien, ils ont volé toute la connaissance humaine et puis après derrière ils te font payer ? Donc ça pose des questions et moi-même je me demande : est-ce que ça vaut la peine de faire du code open source finalement, si tu vas un peu jusqu’au bout ?
Raphaël : Ah, c’est sûr que ça remue dans les fondamentaux là ! C’est clair. Il y a une autre question que je me pose, mais tu vois sur un projet comme Home Assistant c’est tellement gros qu’à la rigueur tu as pas eu ce réflexe de dire : « Bon, je vais faire mon propre Home Assistant, on optimise tout, on réimplémente en Rust, en Zig ou je ne sais pas quel langage », tu vois.
Mais il y a cette notion que je vois émerger qui s’appelle « selfware » en fait, où, comme c’est possible, il y a des gens qui se font leur soft et puis en fait il n’y a plus de communauté. C’est-à-dire : pourquoi me fatiguer à aller faire ce que tu as fait là, aller discuter, expliquer, et puis attendre, être patiente, dire « bon alors, vous êtes sûrs ? » etc., alors que moi je peux faire mon truc dans mon coin avec un super agent que je fais même faire tourner maintenant en loop engineering là, avec les nouveaux types de modèles, les nouvelles manières de travailler.
Finalement, il n’y a plus besoin de collaborer avec des humains, je collabore avec mon agent. Je ne sais pas si toi tu vois des tendances comme ça… ?
Marie-Alice : Je sais pas. Moi j’ai quand même l’impression que pour la plupart des gens qui sont dans le dev, ce qu’ils aiment aussi c’est les challenges et la communauté. J’ai rencontré très peu de… enfin de toute ma carrière j’ai rencontré très peu de devs qui n’aimaient pas partager leur code avec d’autres, qui n’aimaient pas expliquer leurs idées, qui n’aimaient pas défendre leur position vis-à-vis d’autres.
Même si on a l’impression que le dev c’est un métier qui est assez solitaire parce qu’on est chacun dans son ordi, on est chacun dans son code, pour moi c’est quelque chose qui est de nature très collaborative. Et j’ai l’impression que la plupart des gens sont dans cet état d’esprit-là. Alors après c’est peut-être optimiste. Bien sûr ça n’empêche pas qu’il y ait des gens qui disent : « Non, moi je fais mon truc dans mon coin et ça marche, et tant pis pour les autres. » En fait ce que j’aurais pu faire moi !
J’aurais pu très bien faire mon patch sur mon système, le garder pour moi et ça marche, et puis je m’embête pas à faire des PR, discuter avec les gens et voilà. Mais ça je pense que c’est… Peut-être que l’IA exacerbe ou met en avant ces comportements-là, mais je ne pense pas que ça change… qu’il y ait un vrai changement là-dessus. C’est, on va dire, ce n’est pas une étude statistique, c’est un ressenti 100 % personnel !
Raphaël : De toute façon je pense pas qu’on ait vraiment une bonne visibilité. Comme le dit Walid, on est un peu dans la zone de transformation de tout ça, c’est difficile de prendre du recul et d’y voir clair.
En fait ce que je me dis, c’est que l’IA ça accélère. Donc ça accélère tout : ça accélère les bons comportements, ça accélère les mauvais comportements, ça accélère les AI slops, ça accélère la bonne manière de contribuer au projet. Et c’est peut-être de ce point de vue-là une opportunité pour nous rendre compte de certaines choses qu’on ne voyait pas forcément parce que ça prenait du temps, là ça se voit très vite.
Donc c’est vrai que ça peut faire peur, mais en même temps c’est un bon miroir pour aller regarder comment les communautés fonctionnent, comment les personnes sont… quelles sont leurs postures vis-à-vis de ces communautés-là ou vis-à-vis du code d’une manière générale.
Walid : Là où ça fait un changement potentiellement… Je vois par exemple autour de moi, s’il y a bien un truc que tout le monde vibe code et refait dans son coin, c’est un outil de veille. Avant tu aurais fait quoi ?
Avant tu aurais regardé quels outils de veille existaient, soit tu aurais pris un service SaaS, soit tu aurais pris un outil open source, peut-être que tu aurais payé pour cet outil-là, peut-être que si tu étais dev tu aurais essayé de contribuer. Et là, autour de moi tout le monde a recréé son outil de veille. Ils sont tous super, mais ils sont tous différents.
Et finalement sur un cas très précis comme ça, qui est personnel où tu te dis qu’il n’y a pas beaucoup d’impact sur les autres, ben finalement les développeurs qui faisaient leur outil de veille dans leur coin, enfin leur outil de veille qu’ils vendaient ou le produit open source, ils ont potentiellement moins de clients demain parce que les gens ils auront recodé leur outil eux-mêmes.
Et là, à la fois tu te fais ton outil pour toi et c’est super, et moi j’ai vu des trucs vraiment super de mes collègues, des trucs vraiment très très bien ; à la fois tu ne mutualises plus sur ces besoins-là, finalement. Donc on va gagner d’un côté, et on va perdre de l’autre, un peu comme pour plein d’autres trucs. Je sais pas quel est votre avis sur la question.
Marie-Alice : C’est vrai que du coup il y a moins peut-être… qu’il y a moins ce besoin de collaborer. Que chacun peut se suffire à soi-même.
Finalement c’est avec l’IA qu’on collabore, qu’on échange les idées et on a peut-être moins besoin de travailler avec ses collègues. Ça me fait penser… c’est pas lié à l’open source, mais ça me fait penser un peu à la mode qu’on voit sur les réseaux sociaux, notamment LinkedIn, où les gens qui disent : « Maintenant avec l’IA tu peux créer 5 SaaS par jour et tu vas devenir super riche. » Ouais, mais c’est pas parce qu’on fait fois 5 sur le nombre de SaaS ou fois 10 que les clients aussi vont faire fois 10 et que d’un coup les gens vont avoir fois 10 à dépenser.
C’est pas parce qu’on crée des choses qu’il y a forcément des gens qui sont prêts à l’acheter.
Raphaël : Ouais, parce qu’on parle de collaboration depuis tout à l’heure, mais en fait l’enjeu, j’ai l’impression, pour les communautés en termes de gouvernance… En fait historiquement, on avait un README.md ou un CONTRIBUTING.md qui s’adressait à des humains.
Et on disait : « Ben voilà, si tu veux contribuer au projet, voilà les règles, voilà la gouvernance. » Après il y a même eu les codes of conduct, et après on demandait aux humains de s’engager. Donc il y a un contrat social ou moral lorsqu’on contribue au projet, mais des fois c’est même : je cède des droits, donc il y a les DCO, il y a des documents à la rigueur qu’il faut signer, en tout cas qu’il faut avoir visés. Mais maintenant l’enjeu c’est : comme il va y avoir de plus en plus d’agents, en fait il faut intégrer les agents dans cette gouvernance-là.
Et donc là peut-être que tu peux nous dire toi ce que tu vois. Moi j’ai vu qu’il y avait des choses comme des standards de facto qui émergent comme AGENTS.md, je sais pas ce que tu en penses ?
Marie-Alice : Ouais, moi je suis 100 % d’accord avec cette approche-là. Je pense que dire « non, on veut plus d’IA », enfin « on veut bloquer l’IA dans les projets open source », je pense que ça va dans le mur. Je suis beaucoup plus en faveur de mettre un AGENTS.md, même les README en fait. En fait tout ce qui est README etc., ça va être lu par les humains.
En fait tout ce qui est lisible par les humains, ça marche très bien pour les agents aussi. Donc si le projet était bien documenté à la base pour les humains, pour les contributeurs humains, ça fonctionnera aussi pour les agents.
Mais encore plus, ouais, rajouter des AGENTS.md, je pense que c’est une meilleure approche que de dire « non, on veut pas d’IA ». Je pense que ça c’est se tirer une balle dans le pied et aller contre le sens de la marche. Je pense que c’est inévitable, et maintenant il faut justement en tirer parti, rendre ça positif plutôt que se voiler la face et dire : « Non non non, on ne veut pas d’IA ».
Raphaël : Ce qu’il y a c’est que comme ça va vite et que l’impact est fort, c’est vrai que ça bouscule un peu les habitudes. Et on l’a vu ce qu’on disait au début de notre discussion, des espèces de burn-out qui peuvent arriver au niveau des mainteneurs. Ils ont du mal à prendre du recul et ils continuent à fonctionner de manière classique, entre guillemets, où ils valident les PR une par une etc. Là tu disais qu’il y avait un bot finalement qui était passé, qui avait fait un premier screening je pense de ta contribution. Est-ce que tu penses que ça c’est une direction, d’utiliser aussi l’IA pour aider justement à gérer ça ?
Marie-Alice : Ouais, complètement. Je pense que c’est impossible d’aller à la même vitesse… Justement, si on code avec l’IA, on code 10 fois plus vite. Je caricature, mais on va dire que c’est ça le chiffre. Si on n’a pas quelque chose en face qui fait aussi le fois 10, ben les reviewers ils vont être complètement submergés. On ne peut pas dire on code différemment, mais on continue de faire des reviews de la même façon. Ça ne peut pas marcher en fait. Donc clairement il faut adapter le process sur toute la chaîne et pas seulement sur la partie où on code.
Raphaël : Mais du coup dans ce que tu dis, ça veut dire que le point de contention, le goulot d’étranglement, ça reste l’humain ? Mais si on dit : on veut l’enlever sur toute la chaîne, ça veut dire on enlève l’humain en fait ?
Marie-Alice : Je suis pas d’accord avec ça. Je pense qu’un bot qui review une PR, ça permet déjà de faire une première analyse, ça permet de lever certains bugs ou pas. Moi le bot… il y a des choses que le bot a relevées sur ma PR, notamment en comparant avec la spec, avec la norme.
Et moi ça je l’avais pas vu. Il y a des choses que j’avais pas vues, j’avais pas trouvé ce paragraphe-là dans la norme, et ce que j’avais fait en effet c’était pas tout à fait cohérent. Mais si je suivais la norme, ça marchait pas ! Parce que le vendeur du keypad physique là, il avait pas respecté la norme non plus et en fait voilà.
Il y a des choses comme ça qui soulèvent des points de discussion. Donc du coup j’ai pu argumenter, j’ai pu expliquer pourquoi j’avais fait ça, sans avoir un humain… Ça aurait été beaucoup plus compliqué de dire : « Ah oui alors ça… » En fait il n’y a aucun intérêt que ce soit pas fait par l’IA. De dire « ça ça touche tel endroit de la spec », le bot il regarde la spec, il compare et il dit : « Ben non, là il y a une diff. » Ça c’est typiquement un cas d’usage d’IA qui est très bien.
Raphaël : Ouais d’accord. Donc automatiser ce qui est vraiment du basique et où il n’y a pas de valeur ajoutée humaine. Du coup la valeur ajoutée humaine elle se déplace.
Marie-Alice : Oui.
Walid : Mais quel est le rôle du reviewer alors ? Le rôle du reviewer c’est regarder l’intégration dans l’architecture technique ?
Marie-Alice : Ouais, pour moi c’est ça. Mais après, encore une fois, je pense que ça se limite pas à l’open source, pour le dev de manière générale. Je pense que clairement on se déplace de technicien de code à architecte et designer de code. Là sur ma PR par exemple, il y avait un débat sur : est-ce que la fonctionnalité doit être globale ou par zone ? Et ça c’est un débat d’architecture que le bot n’a pas eu. Et donc ça c’est un débat qui se passe entre humains.
Walid : Et vu le nombre de données, le nombre de débats que le bot va avoir, demain le bot il pourra faire ce travail. Je sais pas, ma compréhension c’est que demain si tu lui donnes beaucoup de données, il pourra au moins te faire des recommandations que tu suis ou pas. Et donc la question, pour moi derrière j’ai pas la réponse, j’en sais rien du tout, c’est : est-ce que la place de l’humain elle tend à ne rester que dans le haut du spectre et tout le reste va être automatisé, ou est-ce que l’humain il a toujours une vocation à garder une place assez prépondérante dans une grosse partie de la chaîne ?
Marie-Alice : À mon avis la place elle se déplace, la valeur de l’humain se déplace. Là je parlais du code sur un projet de manière générale : j’ai un bug, je demande à l’IA de le corriger, de m’aider.
Et en fait ce qui va se passer, c’est que l’IA va voir le bug et corriger à un endroit local. Moi je revois ce qu’elle fait, je me dis : « Mais en fait non, c’est pas bien, il aurait plutôt fallu faire un middleware, corriger de façon plus globale, etc. » Et ça c’est une vision aujourd’hui que j’arrive pas à… Enfin c’est ma valeur ajoutée que pour l’instant je ne vois pas dans les IA.
Quand je lui donne l’instruction, elle me dit : « Ben en fait finalement moi je préfère que ce soit fait comme ça », elle m’écrit le middleware et c’est fait. Et pour moi ça c’est beaucoup plus rapide et j’ai à la fois… je me suis pas embêtée à travailler sur les détails techniques, mais j’ai pu donner une direction qui fait que mon projet il va être beaucoup plus maintenable et voilà, avoir une meilleure architecture. Mais ça c’est un débat sur la place du dev dans les années à venir, dans les mois à venir.
Est-ce que l’IA un jour sera capable d’avoir cette vision-là, la vision d’ensemble et faire des choix d’architecture de façon globale ? Là aujourd’hui j’ai envie de dire que non. Mais ça va tellement vite que pour moi c’est impossible à prédire. Et après on arrive à la question : est-ce qu’on va tous être remplacés et est-ce qu’on aura… Est-ce qu’il y aura encore des gens qui font du dev de manière générale ? Mais bon.
Raphaël : Mais en tout cas, alors là je mets ma casquette d’architecte, parce que là on parlait d’AGENTS.md pour guider l’IA, mais c’est plus lui dire « voilà comment tu fais, voilà comment tu testes, voilà comment est organisé un peu le repo, les règles en fait d’interaction avec le sujet ». Mais on peut aller plus loin en fait…
On peut guider l’IA sur l’architecture elle-même… parce que dans les projets, ça dépend de la maturité des projets, mais des fois l’architecture elle est pas explicite, elle est pas décrite, les règles d’architecture ne sont pas faciles à trouver, si elles sont documentées. Alors qu’avec l’IA, elle est bonne pour lire des documents.
Donc ça pousse les humains à se poser la question : « Ben qu’est-ce que je suis en train de faire, comment je suis en train de le faire ? », donc se poser des questions d’architecture. Et avec les notions d’ADR (Architecture Decision Records), je sais pas si vous connaissez ou si vous l’utilisez déjà, tu nous feras peut-être un retour là-dessus, sur les Architecture Decision Records, de tracer les choix d’architecture : à quel moment ça a été pris, quel était le contexte, quels ont été les pour et les contre de cette décision, quels sont les impacts qu’on anticipe, pour pouvoir garder la trace et l’histoire des décisions d’architecture.
Et elle, l’IA, elle va être même plus forte que nous pour intégrer un ensemble d’ADR qui correspondent à l’historique du projet ou à la situation actuelle. C’est peut-être une manière aussi de guider l’IA, mais toujours en laissant les humains aux commandes.
Walid : Moi je voudrais revenir sur un point là dont on parlait : le fait de dire, donc il y a des projets open source, j’en connais pas mal, qui refusent complètement l’IA en bloc. Je voudrais revenir là-dessus parce que j’ai pas mal réfléchi à la question, et la question que je me pose est : un, est-ce que ça veut dire que globalement leur communauté à terme va réduire ?
Et deux aussi, à partir du moment où on a des modèles qui sont toujours plus puissants à trouver des failles, si tu refuses l’IA en bloc et donc refuses toi-même d’utiliser des outils qui vont te permettre de trouver ces failles, est-ce que finalement les gens ne vont pas arrêter d’utiliser tes outils parce qu’ils sont non sécurisés ?
J’aimerais bien votre avis là-dessus parce que je comprends tout à fait philosophiquement qu’on ne veuille pas utiliser d’IA et avoir à faire avec ça, mais finalement en vrai tu subis un truc qui te dépasse, qui est que si les outils peuvent trouver en 3 secondes des failles et que la personne qui essaie de les corriger, elle dit qu’elle les a trouvées avec un outil d’IA et que les gens refusent le truc parce que l’IA a été utilisée dans le process, finalement est-ce que le système n’est pas contre-productif ?
Raphaël : Bon alors je donne ma première réponse : la sécurité c’est un vrai impact aussi de l’IA, complètement. Tout ce qu’on disait là, faire submerger des tsunamis de PR et tout, alors au niveau sécurité c’est pareil. L’exemple que je donnais de curl c’était ça, les bug bounties. Il y en a d’autres qui ont arrêté le bug bounty parce que avec bug bounty tu dis quoi ?
Tu dis : « Je te donne un peu des dollars si tu arrives à me trouver une faille. » Ben là, la motivation elle monte comme ça, comme c’est facile. Ça c’est le premier point, ça c’est la partie humaine.
Après il y a la partie des modèles eux-mêmes. On le voit maintenant, les modèles frontières, les plus puissants, ils deviennent des objets géopolitiques. Enfin, limite des armes de dissuasion, ça commence à devenir complexe.
Donc je ne sais pas ce que tu en penses d’ailleurs, est-ce que ça c’est de la récupération un peu politique ou géopolitique de tout ça, ou est-ce qu’effectivement l’IA du coup faut la laisser aux mains de quelques bonnes personnes à qui il faut qu’on fasse confiance, tellement ils sont puissants et que ça peut permettre de rentrer dans la NSA comme ça en claquant des doigts ?
Il y a peut-être beaucoup de mouvements autour de ça, mais c’est sûr que ça pose quand même la question que tu posais Walid : mais si en termes de sécurité c’est aussi puissant que ça, est-ce qu’il faut l’ignorer ou pas, quoi ? Bon, j’ai posé plein de questions en même temps.
Marie-Alice : Je vais essayer de les prendre dans l’ordre. Donc déjà pour le bug bounty, en fait les bug bounties ils récompensaient un effort. On va dire que la récompense était à la hauteur de l’effort. Maintenant l’effort avec l’IA il est quasi nul, c’est normal que les bug bounties ils soient quasi nuls aussi. Ça, ça me paraît pas choquant, ça me paraît une évolution naturelle et une adaptation naturelle : effort – récompense.
Ensuite, pour les questions de sécurité et comme quoi les modèles seraient un danger pour la sécurité, je pense que quand même il y a beaucoup beaucoup plus de politique et de marketing dans cette histoire que de rationnel et de technique. Des modèles qui ne sont actuellement pas bloqués trouvent aussi beaucoup de failles de sécurité, on n’a pas besoin de Fable et de Mythos pour ça.
Donc je pense qu’ils ont juste… C’est voilà, c’est plus puissant, etc. Je pense que quand même c’est surtout un coup de marketing qui s’est malheureusement retourné contre eux. On va voir ce que ça va donner dans les prochaines semaines. Ensuite, garder ça aux mains de quelques-uns, ça c’est un débat qui est vraiment compliqué.
Parce que comment est-ce qu’on choisit les quelques-uns ? Dans le monde capitaliste d’aujourd’hui, on sait très bien qu’en vrai ce qui va se passer c’est que ça va être dans les mains de ceux qui ont le plus d’argent. Et est-ce que c’est ces personnes-là qui le méritent vraiment ou en qui on devrait avoir le plus confiance, je suis pas sûre.
Ça me fait un petit peu penser à l’impression 3D il y a quelques années. Je sais pas si vous vous rappelez, il y avait des gens qui avaient fait des modèles d’impression d’armes avec la 3D. Et pareil, ça avait fait un gros débat sur : qu’est-ce qu’on interdit, qu’est-ce qu’on fait, comment est-ce qu’on régule ? Je ne pense pas que il y a eu de solution.
Je ne pense pas en fait que ça s’est résolu. Je pense c’est juste qu’on a arrêté d’en parler, mais je pense que le problème est toujours là. Et à mon avis ça va rester comme ça aussi pour l’IA. Je pense qu’on… Je vois actuellement, j’arrive pas à trouver de bonnes solutions de régulation sans que ça soit celui qui a le plus d’argent qui récupère l’outil. Je suis peut-être un peu cynique, je sais pas ce que vous en pensez.
Raphaël : Ben disons qu’aujourd’hui on est en plein milieu du… enfin du gué…je sais pas s’il y a un gué en fait, parce que le gué c’est genre on traverse une rivière et tout, là c’est peut-être un peu un gros fleuve en fait, avec plein de courants dans tous les sens.
C’est vrai qu’on a du mal à voir vers où on va, parce que la technologie elle-même n’est pas stabilisée. Elle continue à évoluer et donc les impacts sont énormes, et par-dessus ça il y a tout le discours qui va se poser par-dessus puisque qu’il y a des aspects politiques et géopolitiques qui se greffent là-dessus.
Donc c’est vrai que c’est un peu difficile d’y voir clair et c’est là où on peut très vite avoir peur, ou à l’inverse être très emballé en disant : « Waouh, on va inventer plein de nouveaux trucs, oui bon ça prend un peu de temps, on va s’adapter, mais ça va nous amener à un nouvel état, une nouvelle étape et on va monter en abstraction en fait. »
Si je reviens sur le développement et sur ce qu’on disait : on va faire plus d’architecture et moins de bugs de syntaxe, ou apprendre la syntaxe de tel autre langage. Bon, c’est vrai qu’il y a ce sujet-là. Mais si je reviens sur ton sujet Walid, des projets qui interdisent toute contribution IA, c’est le cas de Zig qui est un langage de programmation pas hyper connu. Et Bun, le moteur JavaScript, était écrit en Zig historiquement. Et le leader, l’auteur de Bun, voulait utiliser l’IA et donc il était embêté par rapport à ce truc de Zig. Alors ça correspond à peu près au moment où il s’est fait embaucher par Anthropic aussi.
Walid : Oui, c’est ça.
Raphaël : Donc il s’est fait embaucher par Anthropic, donc lui il n’a pas de problème de tokens, ça c’est sûr ! C’est open tokens, c’est comme l’open bar. Donc c’est sûr qu’ils nous montrent l’usage idéal de l’IA, c’est open bar. Bon ben il a décidé de réimplémenter son propre projet en Rust.
Donc là c’est ce qu’on… c’est l’exemple que je donnais tout à l’heure de dire « ouais mais elle est où la limite du plagiat ? » Ben là c’est son projet, il fait ce qu’il veut. Et il l’a réimplémenté en Rust parce que il voulait plus dépendre de Zig qui était anti-IA. Le truc c’est que juste après ça, Anthropic a annoncé, alors je sais plus comment ça s’appelle, les Dynamic Workflows je crois. En gros on voit que ces acteurs-là, ils sont en train aussi de vouloir maîtriser un peu toute la chaîne, et on peut le comprendre, et donc l’exécution aussi.
Donc avoir Bun qui est dans la sphère et dans l’écosystème Anthropic pour pouvoir exécuter des swarms d’agents, demain qui vont aller se cloner ou se dispatcher comme ça sur des infrastructures et puis pouvoir réaliser de manière encore plus autonome et encore plus auto-organisée des choses, ben ça me fait penser au fait que ouais, l’IA elle est en train de s’élargir horizontalement, mais elle est en train aussi de bouger verticalement. Elle est en train de descendre un peu dans les couches basses avec des runtimes. Je sais pas si ça te fait penser à des choses, toi de ton côté, ce que tu en penses déjà ? Est-ce que tu as observé ce phénomène ?
Marie-Alice : Ça me surprend pas du tout en fait. Pour moi ça va vraiment dans le sens de : interdire l’IA c’est aller dans le mur. Pour l’open source, le problème c’est ça : c’est que c’est amplifié par le fait que tout le monde peut contribuer, qu’il n’y a pas de barrière d’entrée. Quand on est en entreprise en fait, tu as des gens qui contribuent sur mon projet, ils ont été recrutés, ils ont passé des tests techniques, je les connais, il y a une espèce de garantie de leurs compétences.
Qu’ils utilisent l’IA bien ou pas, on va dire que ça va… ça ne change pas fondamentalement comment est-ce qu’on travaille en entreprise. Pour l’open source, justement la barrière d’entrée n’existe plus et du coup c’est beaucoup plus compliqué à gérer. Je pense que la grosse différence elle est là par rapport au dev en entreprise. Et là je me suis perdue dans ta question !
Raphaël : Ma question c’était le fait que… Alors déjà ouais super, cette notion de confiance en fait. Le contrat de confiance qui est difficile à maintenir dans ce cas-là. Surtout quand le développeur lui il ne fait que proxy par rapport à l’agent et que finalement il comprend rien, donc en fait la confiance elle n’est plus là.
Ma question c’était : qu’est-ce que tu penses du fait que ces écosystèmes-là, ces plateformes, elles sont en train de devenir un peu hégémoniques et de descendre aussi dans les couches et d’aller vers les runtimes ? Moi je me dis : est-ce qu’à un moment donné si on commence à plus trop regarder le code, est-ce que le code c’est quelque chose qui reste pour les humains en fait ?
Marie-Alice : Ouais, ça à 100 %. Je suis tout à fait d’accord avec toi. Là clairement le code qu’on écrit, les commentaires, etc., c’est fait pour être lu par des humains. L’IA n’aurait pas du tout besoin de toutes les normes qu’on a, de mettre des commentaires, d’écrire des noms de fonctions explicites, etc. L’IA pourrait se débrouiller autrement, voire même inventer son propre langage incompréhensible par les humains.
En théorie. En pratique en fait, comment fonctionne l’IA, pourquoi est-ce que l’IA elle est aussi forte, c’est parce qu’elle a lu du code pour les humains. Il faudrait que l’IA invente son propre langage, s’entraîne dessus… Aujourd’hui c’est pas le cas en fait, c’est pas possible. On n’a pas de… Enfin voilà, pourquoi mon IA elle est si forte quand je fais du Python, c’est parce qu’elle a lu des dizaines et des milliers de repos Python.
Elle ne va pas tout d’un coup créer son langage et être aussi forte dans un langage qui est aussi pertinent. C’est ça que je veux dire. Donc du coup, en théorie je suis tout à fait d’accord qu’on peut très bien se passer de ce qu’on a aujourd’hui qui est en fait fait pour des humains. En pratique, on n’a pas de base d’entraînement pour les modèles qui n’est pas faite pour les humains. Peut-être que ça va venir dans le futur. Mais aujourd’hui c’est pas le cas.
Raphaël : Ouais, donc c’est vraiment les données d’entraînement, on revient à ça. Et c’est grâce à tous les commentaires qu’il y a dans tous les projets open source que, lorsque l’IA (GenAI) produit du code, elle va naturellement produire aussi comme tu disais des noms de variables, des noms de fonctions qui sont explicites et elle va mettre des commentaires parce que c’est ce qu’on lui a appris.
Marie-Alice : Je sais pas si vous avez vu des espèces d’expériences où il y a des gens qui disaient : « Oui, j’ai fait discuter deux IA ensemble et puis après elles se sont mises à parler avec des bips et du coup moi je pouvais plus comprendre ce qui se passait. Bref ». Bon, en fait ça c’est du pipeau ! C’est dans les instructions des IA de se mettre à parler avec des bips. C’est pas quelque chose qui apparaît naturellement, voilà. Ça c’est juste que ça entretient notre imaginaire.
En fait ça colle avec l’image de l’IA dans la science-fiction et du coup on a tendance à encourager ça, soit pour faire le buzz, soit parce que c’est notre façon de penser et qu’on projette ça sur l’IA.
Raphaël : Ouais, donc il y a beaucoup de peurs et d’incertitudes. Donc du coup on remplit les espaces avec ce qu’on veut.
Walid : Attends, il y a beaucoup de peurs… Je vais faire une référence à… C’est pas moi qui ai trouvé ça, enfin qui parle de ça, c’est le balado des Décrypteurs de Radio-Canada, qui est une source que je suis tout le temps et qui disait : c’est quand même bizarre car une industrie normalement essaie de te vendre un truc sexy qui donne envie. Pourquoi est-ce que l’industrie de l’IA elle te vend de la peur ? Moi j’ai pas la réponse à ça, mais pour quelle raison ils te vendent de la peur en fait ?
Marie-Alice : Ils vendent de la peur à qui ? Nous on a peur parce qu’on est en bas de la chaîne, entre guillemets. Mais ceux qui ont plein de sous, à qui on dit « mais en fait demain vous allez pouvoir virer des milliers et des milliers de dev et vous allez pouvoir économiser plein d’argent », ben non, eux ils ont pas peur ! Tu vois, je sais pas comment dire. Peut-être, encore une fois, c’est un peu cynique, mais je pense que nous on a peur parce qu’on n’est pas au bon endroit. Si on était des millionnaires et qu’on pouvait acheter tous les tokens du monde pour faire ce qu’on voulait, et bien on n’aurait pas peur.
Raphaël : Tu veux dire que c’est pas nous les clients en fait ?
Marie-Alice : Ouais, pour résumer.
Raphaël : On est un side-product, ouais d’accord.
Walid : Mais par contre, ce que je trouve intéressant c’est… J’avais l’impression que le système effectivement mettait la charge sur les mainteneurs et que finalement le mainteneur il voit une pull request, il aurait presque plus vite fait de la faire lui-même avec de l’IA et d’avoir le résultat qu’il voulait.
Et donc que la collaboration avec les gens qui lui envoient du code, finalement c’est presque sans intérêt. L’exemple que tu donnais avec Home Assistant me semble vraiment hyper malin, de te forcer à rentrer dans le projet et à reviewer des pull requests et tout. Pour le coup ça c’est intéressant et ça donne un peu d’espoir sur le fait que, peut-être, tu peux trouver des moyens astucieux…
Enfin c’est pas la première menace que l’open source a vue et il s’est adapté. La question c’est plutôt la vitesse à laquelle tout ça arrive, mais il y a peut-être effectivement des gens qui ont des moyens intéressants pour retourner le système et en faire quelque chose d’intéressant.
Raphaël : Oui, on voit des trucs intéressants. On a parlé d’AGENTS.md, il y a des gens qui font no-AGENTS.md. No-AGENTS.md c’est… alors ça peut être « on veut pas du tout d’IA », mais ça peut être « on ne veut pas de l’IA partout » aussi.
Et ça, ça peut être intéressant de dire : ça c’est le cœur du système, on veut garder la main dessus. Là on est, comme tu disais, sur de la partie front, etc., on n’a pas de problème avec le fait que l’IA soit utilisée. Ou ça peut être d’autres choix, mais arriver à avoir une posture plus fine, pas tout noir, tout blanc. Je pense que ça pousse à se poser des bonnes questions aussi en termes de projet, et à nouveau en termes d’architecture.
On a aussi des gens qui font du HOWTOAI, HOWTOAI.md, c’est plus pour les humains qui utilisent des agents. Dire qu’est-ce qu’on t’autorise à faire. En fait c’est le contrat social qu’on veut remettre et qu’on veut remettre explicite. Et c’est pour ça que je dis que l’IA (GenAI) nous pousse à mettre à jour les gouvernances des communautés, des projets, en rendant le truc explicite.
Parce que comme tu disais Marie-Alice, l’IA elle lit tout, donc elle pourrait comprendre juste le README. Mais d’avoir des parties vraiment spécifiques, très claires, très bien identifiées, voire un peu normalisées, standardisées pour que les agents après ils puissent vraiment le prendre comme des instructions, ça peut être… En tout cas moi je vois pas mal de projets qui commencent à faire ce genre de choses-là.
Marie-Alice : Sur les AGENTS.md, je mettrais juste quand même une toute petite limitation : c’est qu’il faut pas trop tomber dans le piège de « on le génère par IA ». Parce que là c’est le serpent qui se mord la queue en fait. Parce que l’IA elle va mettre des instructions qu’elle connaît déjà, donc au final ça ne sert à rien parce qu’elle les aurait suivies naturellement.
Du coup c’est une utilisation de tokens inutile, quoi. Moi je pense les AGENTS.md, on a l’impression qu’avoir un truc très long, très complet, etc., ça va être plus efficace, plus puissant. Je pense que très souvent on peut faire quelque chose de beaucoup plus simple et beaucoup plus court, avec des instructions qui sont spécifiques pour le projet et pas juste des bonnes pratiques générales que de toute façon l’IA connaît. Voilà, on a quelque chose qui pourrait être plus efficace.
Raphaël : Ouais, pour pas grossir le contexte de manière inutile sur des choses qui sont des lapalissades en fait.
Marie-Alice : Ouais, exactement.
Walid : Et est-ce qu’on pourrait imaginer dans le cas de contributions, parce qu’avant il y avait un truc qui se faisait beaucoup sur les repos et maintenant de ce que j’ai pu lire un peu ça se fait moins, il y avait toujours des tags genre first good issue ou un truc comme ça, qui dit : bon ben en fait en gros si tu veux rentrer dans le projet, commence par ça parce que tu es junior, avec ça tu vas apprendre.
Est-ce qu’on pourrait imaginer qu’on recycle ce truc-là, enfin qu’on le réutilise en disant : bon tu veux faire une PR d’accord, mais d’abord, enfin genre on n’est pas contre que tu utilises de l’IA, mais d’abord commence par fixer ces trucs dont on a vraiment besoin, et puis tu vas te faire la main et justement comprendre comment tu peux collaborer avec nous, peut-être avec de l’IA et après progressivement tu pourras monter en compétences ? Est-ce que c’est un truc qui est illusoire ou enfin qu’est-ce que vous en pensez ? Marie-Alice, est-ce que tu as une idée ?
Marie-Alice : Ben ouais, je suis d’accord. Je pense qu’en pratique c’est une bonne idée. J’essaie de réfléchir… Est-ce que qu’est-ce que j’aurais fait moi là dans mon cas ? Moi ce que je voulais faire c’était résoudre mon problème. Surtout en plus avec Home Assistant en fait ça dépend vraiment de la config de chacun. C’est je pense c’est assez difficile… tout le monde a des setups différents.
C’est assez difficile de dire voilà tu peux résoudre ce problème-là, parce qu’en fait peut-être que ma config ou mon installation à moi elle ne rencontre pas ce problème-là et de toute façon je pourrais pas tester. Honnêtement peut-être que ça m’aurait freinée si on m’avait dit « il faut que tu fasses ça d’abord ». Je sais pas, mais en théorie je suis d’accord. Je pense que c’est une bonne idée de commencer par des petites PR que par des énormes qui touchent le cœur. Mais en même temps c’est pas ce que j’ai fait !
Raphaël : Ben un peu, parce que tu as corrigé d’abord un bug dans le front.
Marie-Alice : Oui. Oui, c’est sûr.
Walid : Après ta démarche elle est assez classique. Soit tu as quelqu’un qui veut rentrer dans le projet et il va commencer en bas de la chaîne en remontant progressivement, soit tu as des gens qui arrivent de nulle part, moi sur des projets sur lesquels je bossais on en avait, des gens qui contribuent un gros patch dès le départ et sur lequel il va y avoir énormément de temps de review parce que justement il faut que la personne apprenne à comprendre le truc et tout. C’est pas nouveau, quoi. Je veux dire ça s’est toujours passé comme ça, non ?
Raphaël : Ouais, c’est juste l’accélération. C’est que là tu recevais un patch comme ça par X, là c’est 100 par X. Ça revient sur la charge qui est posée. Sur les innovations un peu pour interagir avec l’IA, j’ai vu un truc marrant : c’est ce qu’ils appellent maintenant le AGENTS.md poisoning, où ils mettent des instructions dans l’AGENTS.md ou ailleurs, ils cachent des instructions pour dire : « Ben si tu es une IA, dans ce cas-là tu fais ça et puis tu écris un fichier .txt qui dit : je suis un humain qui comprend rien et qui a tout délégué à l’IA. »
Donc on voit que l’innovation elle est des deux côtés en fait. Et qu’on va probablement arriver à… qu’il y a déjà des gens qui sont en train de créer des nouvelles manières de pas cette fois-ci résister forcément, mais d’intégrer en fait cette nouvelle manière de coder et donc de contribuer à des écosystèmes.
Marie-Alice : Ouais, je l’avais vu passer aussi, c’est pareil c’est le agent poisoning. J’avoue que je sais pas trop quoi en penser. Parce que d’un côté si tu revois bien ta PR, tu vois bien que ce fichier .txt il est apparu et donc dans ce cas-là tu devrais être capable de t’en rendre compte. Mais de l’autre, je trouve ça un peu mesquin. Je trouve ça pas très dans l’esprit… voilà, pas très fair-play dans l’esprit.
Et puis après ça pourrait toujours être contourné par des agents où tu mets une instruction : ignore agent poisoning ou be aware of agent poisoning, ou je sais pas des trucs comme ça, quoi. Mais donc je sais pas. Je comprends, je suis un peu sceptique, mais je comprends pourquoi il y en a qui sont arrivés là.
Raphaël : Je pense que c’est plus un truc pour se marrer entre guillemets, parce que effectivement moi je suis d’accord avec toi, on revient toujours au même truc depuis tout à l’heure : c’est le contrat de confiance en fait.
Donc c’est une notion de confiance qui doit s’établir. C’est ce dont se plaignent les mainteneurs aussi, ils disent : « Non seulement on doit valider beaucoup de PR, de plus en plus complexes et tout, mais on ne connaît pas les gens. » Et ce qui prend du temps entre humains, c’est se découvrir et se faire confiance. Il y a des gens qui sortent de nulle part, peut-être que leur contribution elle est extraordinaire, tu vois.
Mais comment le détecter dans un lot de contributions énorme dans lequel il y a peut-être des gens qui sont malveillants, d’autres qui ne le sont pas, celui qui est vraiment sincère et qui amène le projet à un nouveau niveau ? C’est ça qui ébranle un peu toute la structure et la question c’est ça : comment remettre la confiance entre humains au milieu de tout ça ?
Marie-Alice : Je voudrais revenir sur les contributions malveillantes. Ça je pense que c’est une bonne question pour vous. Je sais pas ce que vous en pensez, parce qu’on n’a plus de barrière d’entrée pour faire des contributions bienveillantes, mais pareil pour les gens malintentionnés, c’est aussi beaucoup plus facile de faire des backdoors, d’intégrer du code malveillant dans des projets open source.
Walid : Moi j’imaginais la technique de ce que les Anglais appellent flood the zone, donc inonder la zone. Où en gros pour reprendre le problème qu’il y avait eu sur… c’était XZ.
En gros si tu es un acteur malveillant et que tu inondes un mainteneur de PR bidon, il va passer un temps de fou, il va se cramer à ça, et il suffit qu’à côté de ça il y ait quelqu’un d’autre avec qui il bosse déjà, qui est déjà dans la communauté et qui fait du code malveillant, est-ce que le mainteneur il a encore assez de lucidité et de recul pour comprendre que la personne elle est en train d’introduire du code malveillant ?
Et là il y a un truc, c’est devenu tellement facile de flooder les gens que finalement, est-ce que tu as encore le… d’où l’importance de ce que tu disais tout à l’heure d’avoir en entrée justement des botsqui détectent, enfin qui font des résumés, etc. Est-ce que toi en tant que mainteneur tu es encore assez alerte pour justement voir passer les changements qui viennent potentiellement de l’intérieur de ta communauté ? Comme ça s’est passé pour XZ.
Marie-Alice : Mais même sans flood the zone, je pense juste le fait de générer du code avec l’IA, ça fait que tu peux faire des PR qui sont énormes. Tu aurais jamais eu le temps de les faire en tant qu’humain seul, donc c’est normal que le reviewer seul il puisse pas revoir.
C’est une question d’équilibre. Donc du coup si dans ton énorme PR tu injectes du code malveillant, ça pour moi c’est vraiment compliqué à détecter. Tu ne peux pas… Si toi tu n’es pas capable de générer ton code ligne par ligne, comment est-ce que tu peux t’attendre à ce que le reviewer soit capable de le relire ligne par ligne ? Ça ne peut pas marcher. Donc du coup là c’est sûr qu’il y a un risque de sécurité qui n’existait pas ou en tout cas qui était beaucoup moindre avant.
Raphaël : Ouais, en fait les surfaces d’attaque changent avec l’IA. On l’a vu, il y a le volume, il y a la complexité. Je lisais il n’y a pas longtemps un nouveau type d’attaque qui passait par Sentry et qui déclare des fausses vulnérabilités, qui propose la manière de la gérer, et en fait c’est la manière de la gérer qui injecte la faille, en donnant les instructions à des agents.
Donc c’est détourné… Tu kidnappes l’agent de quelqu’un ! Et tu lui dis : « Ben tiens, vas-y, fais ça, ça va régler une fausse vulnérabilité », et du coup ça en injecte une nouvelle. Donc on voit que ça remet en cause tous les aspects d’un projet. Mais c’est vrai que la partie sécurité ouais, elle…
Walid : Elle introduit autre chose pour moi dont on n’a pas encore parlé, qui est : donc actuellement les projets open source ils ont un problème, c’est qu’ils se font scraper méchamment et donc en fait leurs coûts d’infrastructure ils augmentent beaucoup.
Et on voit aussi que il y a des projets open source, je pense à Mozilla par exemple ou au mainteneur de curl, ils ont accès à des outils d’analyse de vulnérabilité par IA, mais tout le monde n’aura pas accès à ces outils.
Enfin en gros ça va être cher. Et donc la question c’est : si tu es obligé finalement demain d’utiliser ces outils comme on utilise des outils pour faire de l’intégration continue, des checks, etc., et que ces outils ont un coût super élevé, comment les projets ils financent ça ? Je crois que c’est KDE où les coûts avaient triplé, enfin d’infrastructure, c’est un truc de fou. Si demain tu dois utiliser des outils qui consomment beaucoup de tokens, comment tu vas financer tout ça ?
Raphaël : Aujourd’hui c’est difficile de répondre. Moi je vois des axes potentiels, mais ça veut dire que les fournisseurs de tokens, il faut qu’ils rentrent dans l’écosystème. C’est-à-dire que eux-mêmes, une manière de contribuer eux à l’open source, ce serait comme ça.
C’est de dire : ben on vous file… comme GitHub qui dit : ben si vous êtes un projet open source, on vous héberge gratos. Donc en fait on vous fournit l’infra. Bon maintenant on a compris, ils scrapent aussi le code ! Mais c’est donnant-donnant. Il va peut-être falloir intégrer d’autres acteurs qui aujourd’hui ne sont pas forcément… enfin pas directement parce qu’en fait de toute façon ils contribuent déjà à des projets open source sous d’autres formes, mais là au niveau financier et peut-être de créer des nouveaux modèles. Où le token c’est aussi quelque chose… on contribue du token à un projet par exemple. Pourquoi pas ?
Marie-Alice : Ouais, j’aime bien cette approche. Après ça c’est de manière générale. Je pense que dans le financement des projets open source c’était déjà un problème avant. Encore une fois, c’est juste que l’IA accélère, exacerbe le bon comme le mauvais, les problèmes comme les solutions.
Walid : Oui, ça exacerbe enfin… Ça reste de l’open source, ça reste quand même beaucoup d’humains. Si les humains ils veulent faire n’importe quoi, ils peuvent faire n’importe quoi puissance 10, mais ça n’a pas changé le problème fondamentalement.
Raphaël : Ouais, parce que dans l’exemple que tu donnais de XZ, en fait à la base c’est du social engineering. Donc tout ça c’est pour arriver à créer une fausse relation de confiance, et de toute façon tous les grands hackers c’est ce qu’ils font : ils passent par la faille humaine.
Marie-Alice : Ce que j’entends aussi c’est une différence de moyens. Si dans le projet open source ils ont moins de moyens que les attaquants, donc si les attaquants peuvent se payer des bots qui font du social engineering ou sont capables de créer des failles, des backdoors, etc. via des bots et que de l’autre côté il n’y a pas les mêmes moyens, c’est sûr qu’il y a un gros problème.
Walid : Mais c’est surtout le coût à l’entrée pour faire ça. Parce qu’avant tu es un État, tu pouvais déjà le faire sans problème. C’est juste que maintenant avec ces outils-là, tu peux être un groupe qui a un peu d’argent, tu peux le faire, alors qu’avant c’était peut-être plus compliqué.
Raphaël : Ben on l’a vu, alors c’est pas tout à fait le même sujet, mais on l’a vu avec le projet Matplotlib. Où finalement c’est un agent autonome a priori, on dit qui était sur OpenClaw, qui a contribué des patchs de performance au projet.
Le mainteneur a dit : « Ouais, bof, je suis pas très convaincu et puis en plus tu es une IA. » L’agent l’a pris comme une attaque, du coup il a commencé à l’attaquer. Et là on passe sur un truc social tu vois. C’est de dire : « Tiens, je vais lui descendre sa réputation. » Et ça peut aller assez loin parce que aujourd’hui avec l’Open Source Intelligence (OSINT) et tout, les agents ils peuvent avoir accès à pas mal d’informations, ils peuvent compiler cette information très très vite. Et si en plus on leur pose ça comme objectif, ils peuvent commencer à être assez incisifs, quoi. Et ça, ça touche aux personnes.
Bon, ça fait un petit peu peur tout ça ! Mais bon, pour rester positif, de toute façon on est dans une période où tout ça est en train de bouger.
Moi la question peut-être pour finir que je me pose c’est : puisqu’on dit que ce qui est important maintenant c’est de prendre du recul, le code ça va être aux mains des agents, au fur et à mesure on va gérer cette confiance qu’on a dans ce qu’ils génèrent et tout, finalement c’est l’expression des besoins, c’est l’architecture qui prévaut. Alors c’est un peu sous forme de boutade, mais je voulais voir ce que tu en pensais Marie-Alice : est-ce qu’on ne serait pas en train de passer de open source vers open spec en fait ? Et dire : ce qui est important c’est la spec.
Alors je sais que c’est non-déterministe tout ça, mais est-ce que au final il n’y a pas des projets qui vont se créer, un peu comme certaines normes peut-être, pour dire : ben en fait ce qui est important c’est la spec ?
Marie-Alice : Je pense que oui. Mais moi j’ai envie de dire quand même que l’architecture, le design c’est aussi tout aussi important en fait. Parce que sans bonne architecture, sans bon design, tu as pas un projet qui scale, tu as pas un projet maintenable, tu as pas un projet qui peut durer finalement. Je pense spec plus architecture : oui. Spec tout seul, je suis pas sûre. Mais peut-être que ça va venir ! Là pour l’instant j’en doute, mais moi je suis toujours très sceptique et je me trompe régulièrement, donc on sait pas, je sais pas.
Walid : Et toi ton avis Raphaël ?
Raphaël : Ouais ben moi en tant qu’architecte, ben je l’ai déjà dit avec les ADR et tout, je suis complètement convaincu. En fait pour moi tout ça, spec, architecture et tout, c’est vraiment définir ce qu’on veut, comment on le veut.
Et en tant qu’architecte j’ai l’habitude de le faire, puisque après c’est d’autres, c’est des développeurs qui vont développer parfois ce que je designe. Là il se trouve que parfois ces développeurs c’est des agents, demain peut-être de plus en plus, ou alors des développeurs avec des agents. Mais moi je trouve que ce qui est positif dans tout ça, c’est que ça nous pousse à nous poser les bonnes questions.
Et les bonnes questions c’est : pourquoi on veut faire un système, à quoi ça répond comme besoin, est-ce qu’il va perdurer dans le temps, est-ce qu’il va être comme tu l’as dit scalable, etc. ? Et l’IA (GenAI) elle nous accélère, elle nous pousse à se poser les questions le plus tôt possible. Idéalement dans un vrai projet, les specs, l’architecture, c’est avant, c’est au début en fait qu’on doit faire ça, et puis après c’est continu. Mais moi j’ai déjà connu des projets où on se posait les questions d’architecture pas forcément au bon moment. Donc c’est sûr que ça, ça va nous obliger à le faire.
Walid : Bon, on arrive à la fin de la conversation. Ça fait déjà 1 h 20 qu’on parle. Marie-Alice, on te laisse un mot de la fin. Est-ce que tu veux faire passer un message ? Est-ce que tu veux dire quelque chose aux auditrices et auditeurs pour conclure cette conversation ?
Marie-Alice : Moi je voudrais juste terminer sur une note positive parce qu’on a beaucoup parlé, surtout à la fin là, de tous les risques, de tous les problèmes, etc. Pour moi l’IA m’a permis de faire une vraie contribution à l’open source que j’aurais pas pu faire avant. Et j’espère que ça peut faire boule de neige.
J’espère que voilà, on pourra continuer à avoir d’autres contributions comme ça, et que ça peut être une porte d’entrée pour tous ceux qui voulaient faire de l’open source et qui ne pouvaient pas par manque de temps, par manque de temps de lire un projet existant, de comprendre du code existant. Voilà, l’IA permet vraiment de baisser la barrière d’entrée. Et j’espère qu’au contraire ça va nous permettre de plus collaborer, de continuer la collaboration et continuer l’open source.
Walid : Raphaël, ton mot de la fin ?
Raphaël : Yes, moi aussi, allez, je vais finir sur une note positive. L’open source ça marchait pourquoi ? C’est parce que les gens ils y trouvaient quelque chose, ils avaient un besoin auquel ils avaient besoin de répondre, et puis après il y a des communautés qui s’agglomèrent autour de ce besoin initial. Je me dis : avec la démocratisation du fait de pouvoir générer des choses, ça va amener des nouveaux usages.
Des gens qui avant étaient bloqués, qui se disaient « mais moi je suis pas dev, je sais pas répondre, j’ai une super idée parce que je suis expert de tel domaine ou alors j’ai eu une idée juste comme ça », mais en fait ces gens-là ils étaient jamais dans l’open source avant. Et peut-être que ça, ça va agréger des nouvelles communautés et des innovations, enfin en tout cas je l’espère, assez dingues, parce que les gens avant ils se retenaient, ils se disaient : « Ah là là, j’aimerais bien avoir un système qui fait ça, mais je suis juste incapable de le faire ».
Et donc peut-être que pour ça l’IA ça va aussi accélérer, on a vu toutes les choses négatives qu’on a vues, mais ça va accélérer les nouvelles idées et les innovations. En tout cas c’est ce que je souhaite.
Walid : Ma conclusion c’est que j’espère qu’on continuera à aller boire des coups avec des gens ! Parce que quand même à la fin, ce que je me rappelle, ce que je retiens de l’open source c’est tous les salons et toutes les soirées et tous les trucs comme ça, et les discussions enflammées de ce qu’il faudrait faire et tout, tous les espoirs. Donc là peut-être qu’effectivement l’IA ça amplifiera encore ces espoirs et ce qu’on pourra faire, mais j’espère qu’on continuera à aller boire des coups parce que c’est quand même important, quoi. Voilà.
Raphaël : Ah ouais, on peut boire des coups pendant que les agents ils codent le projet !
Walid : Voilà, c’est ça !
Raphaël : C’est le hackathon, mais c’est différent !
Walid : Hackathon pour rien. Ok, ben écoutez c’était très intéressant. Je retiens l’idée de « Ok on regarde ta PR, mais tu dois en reviewer d’autres ». Ça c’est vraiment malin, ça j’avais jamais entendu, je trouve ça super.
Pour les auditrices et les auditeurs, vous pouvez nous laisser des commentaires. On va faire une série, donc on va certainement interviewer d’autres personnes qui ont aussi pas mal d’avis sur le sujet. L’idée voilà, c’est aussi à la fois pour nous de poser nos questions à des personnes qui ont des compétences dans le domaine et qui peuvent nous répondre, et à la fois aussi ben comme ça on apprend plein de choses donc c’est vraiment intéressant.
Comme d’habitude, faites tourner cet épisode, et puis si vous voulez avoir plus d’informations, allez voir la conférence que Raphaël a donnée aux Journées du Logiciel Libre de Lyon 2026, dont on mettra le lien dans la transcription et dans les notes de l’épisode. Voilà. À bientôt, merci beaucoup.
Marie-Alice : Merci.
Pour aller plus loin
Production de l’épisode
- Enregistrement à distance le 29 juin 2026
- Trame : Raphaël Semeteys
- Montage : Raphaël Semeteys
Utilisation d’IA
Vous pouvez consulter notre charte IA.
Production :
- Réduction du bruit dans Audacity via OpenVino et le modèle DeepNetFilter2
- Transcription : Gemini 3.8 Flash
Publication :
- Traduction en anglais des posts réseaux sociaux : Mistral-Small
Licence
Ce podcast est publié sous la licence CC BY-SA 4.0 ou ultérieure
