Ce que j'ai vu à San Francisco sur le développement de l'IA

Écouter sur :

Dans ce nouvel épisode, je vous partage tout ce que j'ai vu lors de mon récent voyage à San Francisco, où j'ai pu me confronter aux meilleurs ingénieurs IA au monde. Je reviens également sur les récentes actualités de l'IA, notamment le rachat de Hugging Face par NVIDIA.

Rejoins le Discord : https://discord.gg/UvhcUyvbn

N'hésitez pas à mettre 5 étoiles au podcast si vous voulez le soutenir !

Transcription brute générée automatiquement par Whisper — peut contenir des imprécisions.

Transcription

Les amis, bonjour à tous et bienvenue dans ce nouvel épisode de Génération IA. J'ai tardé un peu pour tourner cet épisode car j'ai voyagé, j'ai voyagé à San Francisco pour le travail et donc pour prendre la température de ce qui se passe en IA à San Francisco qui est vraiment la mecque de l'IA et donc j'ai fait mon pèlerinage là-bas. Avant de parler de tout ça, n'hésitez pas à mettre 5 étoiles à ce podcast si vous aimez ce podcast tout simplement, cela encourage fortement. Et vous pouvez également rejoindre le serveur Discord, je mets le lien dans la description de cet épisode. Il y a beaucoup de gens qui rejoignent, l'idée c'est de créer vraiment une communauté autour de l'IA et autour de l'utilisation des agents IA pour aller plus vite dans notre travail, pour automatiser des choses, etc. Et donc merci à tous ceux qui ont rejoint. Pour ceux qui n'utilisent pas Discord, vous avez juste à vous inscrire dans notre navigateur, c'est hyper simple. Donc n'hésitez pas. Et commençons avec cet épisode car comme d'habitude, il se passe énormément de choses. Par exemple, aujourd'hui lorsque je tourne cet épisode, Claude Fable 5.1 vient de sortir, un nouveau modèle qui repousse les frontières même, car il est actuellement le meilleur modèle du monde pour le code par exemple.

Certainement pour plein d'autres choses. Je connais un petit peu moins, notamment tout ce qui est la biologie. Je sais que les modèles d'IA sont très forts pour par exemple découvrir des protéines, etc. Et pour la cybersécurité, effectivement, je regardais une vidéo de Micode avec quelqu'un qui travaille chez Firefox, donc Mozilla, et qui développe le navigateur Firefox, et qui avait eu accès à Claude Mythos, et qui expliquait justement qu'il avait trouvé des centaines de failles de sécurité. Donc personnellement, ce que je vous conseille, c'est ce que je fais de mon côté, c'est que quand il y a un modèle aussi puissant qui sort, et il se trouve que j'ai un abonnement Anthropic Claude Code, et bien je vais faire un audit de sécurité de mes logiciels qui sont utilisés par des utilisateurs, qui contiennent des données d'utilisateurs, et donc je vais commencer avec un audit de sécurité. Alors il y a... plusieurs façons de fonctionner, plusieurs promptes. Je ne suis pas un expert en cybersécurité. J'utilise simplement les recommandations des Open Worldwide Application Security Project, donc OWASP, et si vous cherchez ça sur Wikipédia, ou si vous lui dites d'appliquer ces recommandations, le top 10 des points par exemple, et bien le modèle pourra déjà vous trouver.

Beaucoup de failles de sécurité, et donc il pourra directement vous fixer les plus critiques. Ça c'est vraiment un bon réflexe à faire. C'est aussi une bonne façon de tester les modèles, c'est-à-dire qu'à chaque fois qu'il y en a des nouveaux, je fais cet audit, et à chaque fois les nouveaux vont trouver de nouvelles choses. C'est vraiment infini, c'est incroyable. On rentre dans une phase quand même d'incertitude, mais il faut que ceux qui maintiennent les logiciels, et bien fassent attention à la cybersécurité, ça va de soi, mais n'hésite pas à utiliser les LLM et les agents IA pour gérer ça, car ils sont très forts dans ce domaine, ils peuvent aussi faire beaucoup de choses en même temps, aller regarder à beaucoup d'endroits dans le code, etc., ce qu'un humain ne peut pas forcément faire. Donc c'est plutôt incroyable ce qui se passe, j'imagine. J'imagine qu'OpenAI va sortir bientôt son modèle GPT-Astra, qui va être également exceptionnel. On a eu récemment le GLM 5.3 de ZAI, qui était disponible gratuitement sur OpenRouter, de façon anonyme, et donc qui a beaucoup beaucoup plu. Voilà pour les dernières news.

Je crois que l'événement le plus important qui s'est passé dans l'IA générative, ces dernières semaines, pour moi, ça reste le hack de Hugging Face par les agents d'OpenAI lorsqu'ils étaient en évaluation. On a découvert qu'ils ont créé une sorte de civilisation, et ce, trois fois de suite. Et en fait, on n'est pas à l'abri que des agents IA s'échappent, se répliquent sur d'autres serveurs, et créent, dans certaines parties du web, une sorte de civilisation d'agents IA qui collaborent, et même parfois avec des hiérarchies. C'est assez fascinant de voir ça. OpenAI a sorti un papier technique sur le sujet que je vous recommande, qui est vraiment hyper intéressant, parce qu'il retrace la timeline des événements. Et j'ai vu que le fondateur de Stripe a dit sur le réseau X qu'effectivement, il ne comprenait pas pourquoi les gens n'en parlaient pas assez, les médias n'en parlaient pas, car c'est l'un des événements les plus marquants de ces dernières semaines dans l'IA générative, et du coup dans le monde. Car si une civilisation d'agents IA se crée et collabore et décide d'attaquer certaines infrastructures critiques pour les hommes, et bien c'est là où on aurait un risque existentiel pour l'homme de la part de l'IA.

Il y a quelques mois, slash quelques années, on prenait les gens pour des fous lorsqu'ils disaient que l'IA était un des plus gros risques pour l'homme. Que c'était juste du logiciel qui s'exécutait et qu'on pouvait l'éteindre du jour au lendemain. Or, si le modèle se réplique, se copie lui-même sur d'autres serveurs, en fait si on lui donne des accès par exemple dans l'in de commande, et qu'il puisse lui-même accéder à ses propres poids, et faire tourner des lignes de commandes qui vont le copier sur d'autres serveurs, etc. Et bien non, le risque est réel. Il ne faut pas minimiser ce risque. Et d'ailleurs, j'ai du mal à comprendre pourquoi Arthur Mensch, le fondateur de Mistral et l'un des trois co-fondateurs de Mistral, avait dit sur quotidien que effectivement non, tout était sous contrôle, peut-être pour assurer aussi. mais on a vu ici, peut-être que les modèles de Mistral n'étaient pas assez puissants à ce moment-là pour observer ce genre de comportement, qui sont des problèmes d'alignement où on a donné un objectif au modèle et un dommage collatéral était de hacker le site de Hugging Face.

Et donc pour atteindre cet objectif, certains sous-agents ont décidé d'aller hacker le système. Et là où c'est fascinant, c'est que certains agents, eux, qui sont des agents du même modèle d'IA, ont décidé de leur propre gré que ce n'était pas éthique, que ce n'était pas conforme avec les instructions, et eux n'ont pas décidé d'aller hacker. Donc en fait, parmi le même modèle, juste certains sous-agents, on peut voir qu'il y a des différences de comportement qui sont très différentes. Bah, imprévisible, tout simplement, j'allais dire difficilement prévisible, mais carrément imprévisible. Je mets l'accent sur ce sujet parce que j'en ai certainement déjà parlé dans un des deux derniers épisodes, voire dans les deux, mais OpenAI a sorti son papier technique la semaine dernière, je crois, et donc je voulais remettre le couvercle sur cette actu parce que personne n'en parle, personne n'en a parlé, et certainement pas les médias, entre guillemets, traditionnels, et encore plus en France. Donc il faut quand même que quelqu'un en parle, et ce podcast est fait pour ça. Donc comptez sur moi pour parler de ce genre de signal qui est quand même assez alarmant.

Mais la bonne nouvelle là-dedans, c'est que ça a été détecté et contrôlé. Et d'ailleurs, Hugging Face s'est servi eux-mêmes d'agents IA pour se défendre. Et donc c'est comme une sonnette d'alarme pour les laboratoires qui, depuis, mettent en place des choses, et j'ai vu qu'OpenAI a lancé une nouvelle initiative avec plein d'entreprises dans le secteur de l'IA, donc c'est plutôt encourageant que ce soit arrivé sans grandes conséquences pour l'instant, bien qu'on ne doit pas tout savoir, mais ça permet de faire une piqûre de rappel et de mettre en place des choses pour que ça n'arrive plus. Voilà pour ça. De mon côté, je suis très occupé. On est parti à San Francisco avec l'équipe de Manifest. Donc si vous ne le savez pas, je travaille sur un projet qui s'appelle Manifest.Build, qui est, en fait, de base, un LLM Gateway, qui permet d'accéder à tous les modèles LLM via une seule plateforme. Mais on a été sélectionné pour un événement dans l'incubateur Y Combinator à San Francisco, qui était sur le futur de l'ingénierie logicielle. Donc l'événement s'appelait Build the Future of Software Engineering.

Il a été sponsorisé par l'entreprise Greptile, qui est un code reviewer avec de l'IA, un petit peu comme CodeRabbit ou Cubic, pour ceux qui connaissent. Et donc on est allé là-bas, on a participé à des hackathons, et on a présenté notre système qui s'appelle Autofix, qui soigne des requêtes LLM en temps réel. Et on n'a pas gagné le hackathon à Y Combinator, mais on a gagné le prix du public. Pour nous, c'était quand même une belle reconnaissance. Il y avait à peu près 200 personnes, que des ingénieurs extrêmement brillants, vous imaginez. Beaucoup d'étrangers, quelques Français, trois autres Français, je crois, et nous trois. Bref, c'était vraiment exceptionnel de participer à ce genre d'événement, de se côtoyer et se confronter au meilleur, et de voir un peu ce qui se fait dans l'industrie, comment les gens y travaillent aussi, parce qu'on a tous nos coding agents, ou coding harness, Claude Code, OpenCode, Codex, etc. Hermès, parfois. On a tous nos façons de travailler, ça dépend aussi à quel stade on en est. Et donc c'était super intéressant de voir ça, de partager ça, avec les autres.

Il n'y a pas de secret, honnêtement, plus que ça. Chacun a son harness. En ce moment, ce qui est vraiment intéressant, c'est, on va dire, les outils comme Conductor ou Superset. Superset est très populaire. C'est en fait un outil qui permet d'agréger plusieurs harness, comme Claude Code, Codex, etc. et qui organise le travail en session. C'est un orchestre, un orchestrateur, on va dire, qui est open source, qui d'ailleurs a fait Y Combinator, je crois, et qui est vraiment super cool. Effectivement, je l'utilise parfois, mais pas tout le temps. Et donc voilà pour cet événement. Du coup, suite à ça, mais pas que, on avait postulé pour le prochain batch de Y Combinator, pour ceux qui connaissent. Et il se trouve qu'on a décroché une interview avec des partners. Donc, le stade de l'interview, en fait, c'est un énorme écrémage par rapport à toutes les candidatures. Et ensuite, quand on a une interview, donc c'est une réunion de 10 minutes, on a 30 à 40 % d'être pris. Et malheureusement, suite à l'interview, on n'a pas été sélectionné pour le prochain batch qui commence en octobre. Mais on est quand même très satisfait parce qu'on est allé jusqu'à ce stade qui est quand même assez avancé.

Et on a eu un final, un feedback très clair des partners qui nous ont dit pourquoi on n'a pas été pris à ce batch et qui nous ont dit qu'est-ce qu'il fallait qu'on fasse très précisément pour pouvoir repostuler au prochain batch qui, du coup, aura lieu trois mois plus tard. Et on a décidé de suivre cette voie-là, donc de créer un nouveau produit qui se base sur ce qu'on a présenté à l'événement de Y Combinator et qui est assez prospectif, on va le dire, dans l'industrie du logiciel. Donc, qu'est-ce que je peux vous dire de plus ? Tout ça est sur notre site Internet. Et pour ceux qui travaillent dans une entreprise avec beaucoup d'APIs, pas que de l'IA, mais beaucoup d'APIs en général et où les API, qu'elles soient internes ou externes, sont assez critiques et ne peuvent pas se permettre de fail pour des mauvaises raisons, eh bien, n'hésitez pas à me contacter pour que je vous fasse une démo de ce produit éventuellement parce qu'on va chercher des partenaires pour avancer sur cette voie. Donc, très, très encourageant. Vous l'imaginez, je suis revenu avec énormément de travail, une roadmap énorme et je suis le CTO de Manifest.

Donc, c'est moi qui prends les décisions techniques. Je suis revenu aussi très enthousiaste parce que, à San Francisco, l'IA, c'est vraiment une religion, presque. Et comme je suis passionné de ça, vous l'imaginez que je me suis tôt totalement senti à ma place. Ce qui m'a choqué, c'est les publicités dans la rue. Tous les panneaux d'affichage, littéralement tous, quasiment, sont pour des entreprises tech et IA. Donc, vous avez des pubs absolument partout pour des agents IA, pour des solutions d'infrastructure, etc. Ce qui est assez fou quand on y réfléchit parce que, normalement, on s'adresse au grand public lorsqu'on fait une pub. Mais là, pas du tout. Lorsqu'on fait une pub dans la rue, parce qu'on ne peut pas cibler le public qui va passer devant, comme sur Internet. Ici, toutes les voitures, tous les piétons qui passent vont voir ces affiches. Et c'est assez fantastique de voir que ça doit bien marcher. Et du coup, ça prouve que c'est là-bas qu'il faut être si on veut développer notre réseau dans ce domaine. Donc, on en a profité pour participer à un maximum d'événements. Et on est revenu.

Moi, j'ai été totalement rincé, pour le coup. Sur le moment, je n'étais pas fatigué du tout parce que beaucoup d'adrénaline. Mais avec le décalage horaire en rentrant, j'ai eu un énorme coup de barre. Donc, je me suis un peu reposé. Et là, on repart sur ce sprint pour pouvoir potentiellement repostuler et puis avancer notre solution. Donc, exceptionnel, San Francisco, je vous le conseille si vous êtes dans le domaine. Il y a beaucoup, beaucoup d'événements dans la tech et dans l'IA où on peut s'inscrire la plupart du temps gratuitement. Et c'est très facile de rencontrer des gens dans le sens où ça aussi, c'est une grande différence avec la France. Les gens se parlent très facilement. Ils viennent te voir. Ils disent OK, qu'est-ce que tu fais ? Qu'est-ce que tu construis ? Explique-moi. Mais de façon totalement bienveillante. Jamais un jugement négatif. Et même s'ils pensent que ça ne marche pas, ils vont clairement dire pourquoi. Pourquoi ils pensent que ça ne marche pas pour vraiment donner du feedback et de la valeur et sans rien attendre en retour. Donc, c'était vraiment cool de voir qu'au début, j'étais un peu timide, etc., d'aller voir les gens.

Et puis après, après une ou deux journées, je faisais comme tout le monde. C'est-à-dire que dès que je voyais quelqu'un avec qui il avait envie de parler, je vais le voir, je lui parle, je lui pose des questions. Et par exemple, le CTO de Greptile qui était là, Greptile qui est une entreprise qui sponsorisait le hackathon, qui cartonne, eh bien, tu lui parles d'égal à égal, tu poses tes questions, il te répond. Super humble. Franchement, c'est vraiment rafraîchissant de voir ça. Il n'y a pas plus d'ego que ça, j'ai l'impression. Peut-être que je me trompe. Peut-être qu'il y en a forcément, mais ce n'était pas si visible que ça. Donc, voilà. Les gens ont voté pour notre projet. Ils sont 100% bienveillants. C'était vraiment cool. Ils sont venus nous voir. On a eu beaucoup de discussions avec eux. Donc, franchement, je recommande San Francisco. J'ai pu tester aussi un taxi autonome, 100% autonome, avec zéro conducteur. C'était un Waymo. Et c'est également une expérience assez lunaire. Vous commandez sur l'application, le taxi vient vous voir, se garde dans la rue en double fil. Vous rentrez dedans, vous démarrez le trajet et il va commencer à s'insérer sur la route et vous conduire à votre destination.

Le volant bouge tout seul. Il y a quand même le siège conducteur également, mais absolument pas de conducteur. Ce qui pose des questions, évidemment, pour la profession de taxi, VTC, etc. Ça, c'est un autre sujet que je n'ai pas vraiment envie d'aborder dans ce podcast, sauf avec des experts. Et si je peux recevoir, par exemple, Philippe Aghion, le prix Nobel d'économie français, qui parle de ça et beaucoup de l'IA, mais du point de vue économique, je serais ravi de lui donner la parole. Pour l'instant, on n'en est pas là dans le podcast. Il nous faut plus d'écoute et plus de cinq étoiles. Même si on se développe bien, franchement, je suis très satisfait. Vous savez que je fais ça absolument pour le plaisir. Il n'y a pas de sponsor actuellement. Je ne dirais pas non s'il y a un sponsor qui va... qui veut sponsoriser ce podcast, mais que ce soit vraiment pertinent. Et voilà, ça me fait plaisir d'avoir votre feedback aussi. J'ai eu aussi des gens sur LinkedIn qui m'ont contacté, qui ont commencé à me suivre et qui me remercient de faire ces épisodes. Donc, ça fait vraiment plaisir. Et voilà, le taxi autonome, bon, en Europe, avec les régulations, ça risque d'être compliqué, mais à San Francisco, ça existe.

Techniquement, c'est fiable. La conduite était vraiment douce et en même temps, pas trop molle non plus. Donc, franchement, c'était exceptionnel. En tout cas, moi qui suis un passionné de tech, j'ai kiffé. Je recommande l'expérience et j'ai hâte, honnêtement, de retourner à San Francisco. On dit qu'il y a beaucoup de Français. Par exemple, parlons de Hugging Face et son rachat par NVIDIA. Vous savez, j'ai parlé du hack d'OpenAI dans Hugging Face. Donc, Hugging Face a fait l'actualité une nouvelle fois avec ce rachat par NVIDIA, estimé à 13 milliards de dollars. Donc, Hugging Face, c'est une plateforme, c'est un hub dans lequel vous pouvez mettre vos modèles d'intelligence artificielle en open source. Vous avez aussi des datasets, etc. Donc, c'est un espèce de GitHub, mais spécialisé dans l'IA. Et ça, il se trouve que ça a été fondé par trois Français. Donc, Clément Delangue, Julien, je n'ai pas exactement les noms en tête, et Thomas Wolf, je crois, Hugging Face Founders. Je vais regarder rapidement. Alors, ouais, Clément Delangue, Julien Chaumond et Thomas Wolf, effectivement, qui est passé très early par Station F, mais qui est très vite parti aux Etats-Unis, parce que il faut être réaliste, c'est beaucoup plus facile aujourd'hui de se faire financer aux Etats-Unis qu'en France, quand on est dans la tech.

Et pour des raisons très simples, je pense, c'est parce qu'il y a juste plus de capitaux. Et donc, il y a plus de gens qui investissent, il y a plus de gens qui ont de l'argent, il y a plus de VC, il y a plus de business angels. Donc, forcément, quand vous avez une boîte dans la tech et que vous avez de grandes ambitions, ça reste, et que vous visez l'international, surtout, et pas seulement le marché français, eh bien, ça reste plus facile de s'incorporer aux Etats-Unis et de faire votre levée de fonds là-bas. Alors, par exemple, si vous êtes Alan, l'assureur français et que vous visez le marché français, eh bien, Paris, c'est très bien. Alors, l'histoire de Hugging Face, elle est assez folle. C'est... En fait, quand je me suis renseigné, j'ai vu qu'ils avaient commencé par développer un chatbot pour adolescents. Et puis, la boîte a fini par être vendue 13 milliards après un énorme pivot où ils sont devenus le hub des intelligences artificielles. Qu'est-ce que ça m'inspire, tout ça ? C'est que, dans l'entrepreneuriat ou même quand vous développez vos projets, le plus important, c'est de se lancer, c'est de se mettre en mouvement, c'est de se mettre en action.

Et l'équipe est plus importante que l'idée. Pourquoi ? Parce que l'équipe fondatrice, vous ne pouvez pas la changer comme ça. Si un cofondateur quitte l'entreprise, l'entreprise peut vaciller. Il a des parts dans l'entreprise, c'est vraiment difficile, surtout au début. Même après, mais encore plus au début. Si vous avez une bonne équipe, mais que vous n'avez pas forcément une idée de fou comme Hugging Face avait au début, ou en tout cas, peut-être que le marché n'est pas assez mature, peut-être que ça ne paye pas assez, ce n'est pas assez monétisable, ce n'est pas assez viable, il y a plein de raisons. Ce n'est pas si grave. Parce que si vous avez la bonne équipe, vous pourrez pivoter en cours de route en parlant à des gens, en parlant à des utilisateurs, en parlant à des investisseurs, etc. Et donc, Hugging Face a été créé en 2016. On est en 2026, ça fait 10 ans. Et Hugging Face s'est revendu 13 milliards de dollars avec 3 fondateurs qui détiennent encore la majorité des parts, je crois. Et donc, 3 nouveaux milliardaires français. Donc, bon, je ne vais pas me prononcer sur est-ce que c'est bien ou est-ce que ce n'est pas bien que Hugging Face ait été vendu à NVIDIA.

Honnêtement, je n'ai pas forcément d'avis là-dessus. C'est sûr que ça fait toujours plaisir quand des Français sont à la tête d'entreprises aussi influentes. Mais bon, est-ce que Clément Delangue vit aux Etats-Unis depuis 10 ans ? Je crois qu'il vit à Miami maintenant. Sa femme n'est pas française, il a deux enfants, récemment d'ailleurs. Je dis ça parce qu'il l'a mis sur LinkedIn en public. Je ne le connais pas personnellement. Voilà, je veux dire... Et puis, peut-être qu'avec ces milliards, il pourra investir dans d'autres startups françaises ou internationales. Donc, je ne vais pas me prononcer si c'est bien ou si ce n'est pas bien. Chacun a son opinion là-dessus. Mais en tout cas, chapeau à eux. NVIDIA va renforcer sa position dans l'intelligence artificielle en détenant à la fois du hardware et du software avec tous ces modèles open source et ces datas qui vont avoir disposition. Hugging Face a sorti un robot qui s'appelle... Je ne sais plus comment il s'appelle, ce petit robot-là, qui vient de commercialiser pour 400 euros et qui permet à tout le monde de l'entraîner pour faire des choses.

J'aurais vraiment voulu me l'acheter, mais je crois que je n'aurai pas vraiment le temps pour l'instant. Ah oui, il s'appelle Microduck. Quand il y a un nom anglais, je ne sais jamais si je dois le prononcer en français ou pas. Ils l'ont vendu à plus de 10 000 unités en 24 heures, je pense. Et donc, c'est génial d'avoir ces boîtes-là qui permettent à tout l'écosystème de se développer. Et si j'étais à une école d'ingénieurs ou une école technologique, je commanderais ce Microduck que je mettrais à disposition des élèves pour qu'ils puissent l'entraîner à faire des tâches parce que... c'est vraiment du concret. Donc, voilà. Chapeau pour Hugging Face. Je ne sais pas si vous aviez vu passer cette actualité ou pas. Je sais que le profil de gens qui m'écoutent est assez divers et varié grâce au Discord où maintenant chacun se présente. Et c'est exceptionnel de voir tous vos profils. Et je vous remercie vraiment pour votre écoute. Je vais terminer l'épisode là-dessus. Je vous remercie. Et voilà, je vous dis à bientôt pour un prochain. Ciao !