Suite et fin de notre série sur l'auto-hébergement d'un LLM. Au programme : le KV cache et le mécanisme d'attention, le scaling multi-GPU avec KServe et Kubernetes, la quantification, PagedAttention, le KV offloading, et des benchmarks vLLM chiffrés.
La réforme de la facturation électronique française arrive, et comme beaucoup d’indépendants, j’avais tout pour la détester : des factures HTML soignées que j’imprimais en PDF d’un Ctrl+P, un régime simple, et aucune envie de payer un SaaS pour transformer trois factures par mois en Factur-X. Factur-X, pour situer : un PDF/A-3 qui embarque un XML structuré (CII, sémantique EN 16931). Le PDF pour les humains, le XML pour les machines et l’administration. Et l’envoi ne se fait plus par mail mais…
Quelques conseils pour passer la certification AWS Developer Associate DVA-C02
Sylvain Fagnent est un des experts les plus avancés sur les sujets du Low Code / No Code et de la Gen AI chez OCTO Technology. Il a rédigé de nombreux articles sur notre blog et il nous semblait naturellement un candidat idéal pour réfléchir aux intersections entre la pensée Lean et l’avènement de la GenAI dans les processus de Delivery Tech.
Imaginez que vous louiez des bureaux pour un événement de trois jours. Vous installez à la hâte quelques commutateurs Ethernet et scotchez des câbles au sol pour connecter tout le monde. Malheureusement, Gaston, votre collègue le plus maladroit, trébuche sur un câble à chaque fois qu’il se lève pour aller chercher un café. Des câbles supplémentaires régleraient le problème, mais une boucle se transforme en tempête de diffusion : les paquets Ethernet se multiplient jusqu’à saturation. C’est là…
All those moments will be lost in time, like tears in rain. ©Roy Batty
Lâcher une IA dans votre projet sans le voir se dégrader : le dispositif complet.
Depuis quelques semaines, je ne lance plus les agents : je tague des cartes, et un agent d'évaluation décide s'il les prend. Carnet de bord d'une expérimentation en cours, où le travail de développement a discrètement changé de place.
Avertissement Cet article contient des exemples interactifs. Pour les visualiser et interagir avec eux, vous devez .quitter votre lecteur de flux :demo A1 @0,0 prio=4096 A2 @0,1 A3 @0,2 A4 @0,3 B1 @1,0 prio=8192 B2 @1,1 B3 @1,2 B4 @1,3 C1 @2,0 prio=8192 C2 @2,1 C3 @2,2 C4 @2,3 A1 -- A2 hazard=0 A2 -- A3 hazard=0 A3 -- A4 hazard=0 B1 -- B2 B2 -- B3 B3 -- B4 C1 -- C2 hazard=0 C2 -- C3 hazard=0 C3 -- C4 hazard=0 A1 -- B1 cost=10 B1 -- C1 cost=10 A4 -- B4 cost=20 B4 -- C4 cost=20 Léo @-0.3,0.7…
Un jour et demi, 50 $ de tokens : c'est ce qu'a coûté un refacto structurant que je n'aurais jamais lancé dans le monde d'avant. L'IA rend-elle la conception moins critique, puisqu'on peut désormais rattraper sa dette à moindres frais ? Retour d'expérience, méthode, et convictions.
Pourquoi la dette technique et les chantiers IT arrivent-ils toujours trop tard ? Pas par manque d'arguments : les règles du jeu sont construites pour les faire perdre. Tour d'horizon des solutions que les équipes terrain ont vues fonctionner, classées du D-Tier au S-Tier.
Retour d'expérience sur la certification Google Play Store Listing : gratuite, rapide à préparer, et une bonne porte d'entrée pour parler ASO
Soufiane Keli, ancien Lead Software Engineering chez OCTO Technology, nous partage sa vision sur le sujet de l'impact de la GenAI sur les processus de delivery de la Tech, et de ce que peut apporter l'approche Lean sur le sujet.
Résilience numérique : comprendre la réponse européenne
Cloud souverain : comprendre la dépendance invisible de l’Europe