HarnessersENFRParlez à un humain

Utilisez-vous assez les scripts dans vos harnais IA ?

Publié le 2 min de lecture

Utilisez-vous assez les scripts pour vos harnais IA ? Voici un exemple récent.

Le besoin

Un client doit gérer la création de posts dans un CMS git-based (pour les moins technos : les articles sont stockés directement dans la codebase, donc sans CMS externe ni base de données).

Le but : l’humain écrit l’article, et l’IA s’occupe de l’ajouter dans le CMS et de le publier.

Harnais IA basique

On crée un skill pour un agent IA, qui explique comment bien faire les choses à partir d’un texte :

  • correction des fautes ;
  • traduction dans une deuxième langue ;
  • récupération des articles existants pour ajouter du maillage ;
  • création des fichiers.

Relisez bien ce dernier point : création des fichiers.

Bien sûr, un LLM le fera bien dans la majorité des cas. Parce qu’il y a 300 posts à côté sur le même format, et que c’est bête et méchant.

Mais ça reste une intention dictée dans un prompt de skill, pas une règle inviolable. Rien n’empêche une mauvaise surprise un jour où le modèle s’est levé du mauvais pied.

Harnais IA plus avancé

On fait un script qui gère à 100 % la création des fichiers sur le disque. Le LLM envoie ses textes au script, qui valide la donnée et crée les fichiers de façon déterministe et quasi instantanée.

C’est à la fois moins cher et plus robuste.

Le LLM s’occupe uniquement de sa partie : traduire, corriger du texte, repérer de bons liens entre articles. Puis il délègue le reste au script.

Cette stratégie fonctionne très très bien dès que vous tombez sur quelque chose que l’IA fait de façon répétitive, et qui doit être strictement identique à chaque fois.

Selon les définitions de Böckeler, on parle ici de sensor feedforward d’un bon harnais IA.

Comme toujours, ça part d’un besoin identifié, et doit être customisé pour chaque projet.

Les scripts ne sont qu’une partie du harnais : encore faut-il que la codebase soit prête à le recevoir.

Sources

  • Birgitta Böckeler, Harness engineering

← Tous les articles