Agustin Huerta discute de la nouvelle fonctionnalité Code Review d'Anthropic et de l'importance de la gouvernance de l'IA.
Alors que de plus en plus d'organisations et de professionnels utilisent des technologies qui simplifier le codageils introduisent potentiellement également des dangers supplémentaires, dans la mesure où la vitesse à laquelle le code peut désormais être généré peut conduire à de mauvaises pratiques de sécurité et à des comportements à risque.
En mars, la société américaine d'IA et de recherche Anthropic a lancé Code Review, une nouvelle fonctionnalité conçue pour détecter et éliminer les bogues avant qu'ils n'arrivent dans la base de code d'un logiciel. Selon Agustin Huerta, vice-président senior de l'innovation numérique de Globant, cette décision reflète « un changement dans les flux de travail de développement logiciel alors que les outils d'IA commencent de plus en plus à s'approprier une plus grande partie du cycle de vie du développement logiciel ».
Il a déclaré à SiliconRepublic.com : « Il utilise plusieurs agents spécialisés pour examiner le code à la recherche de risques et de bogues, se recouper les uns les autres et hiérarchiser les problèmes les plus pertinents pour les réviseurs. »
Mais il a noté que même si cela aide les équipes à mieux gérer des volumes de code plus élevés, cela ne remplace pas les réviseurs humains et soulève quelques préoccupations en soi en matière de sécurité à long terme et de meilleures pratiques.
Des problèmes de codage critiques ?
« Le problème n'est pas que le code puisse être écrit et révisé lui-même, mais que les organisations peuvent supposer qu'une surveillance moindre est nécessaire », a déclaré Huerta, qui a expliqué qu'en réalité, les mêmes principes qui dictent et régissent le développement de logiciels traditionnels restent tout aussi importants lorsque les agents d'IA sont impliqués, sinon plus.
« Les processus et les structures de flux de travail qui régissaient autrefois les codeurs humains doivent être adaptés pour gouverner les agents, y compris l'intégration des flux de travail, l'examen humain, la préparation et l'observabilité des données. Les équipes ont besoin d'une visibilité claire sur la façon dont le code est généré, examiné et promu dans les environnements, ainsi que de points de contrôle définis pour valider les résultats. »
Il a déclaré que, même si les agents peuvent effectuer un certain nombre de tâches, par exemple aider, recommander et même exécuter des invites dans le cadre d'un ensemble de directives définies, la qualité du code et la gestion des risques devraient rester la responsabilité de personnes qui suivent elles-mêmes un processus clair.
Il constate qu'aujourd'hui, trop d'organisations choisissent de déléguer des tâches, telles que débogage et écriture de code aux agents IA, plutôt qu'à un véritable employé, amplifiant le potentiel de risque, même s'il ne s'agit pas seulement Hallucinations de l'IA et des erreurs se faufilent devant la main-d'œuvre automatisée.
« Une préoccupation plus importante est une confiance excessive et incontrôlée dans l'autonomie des agents. Une dépendance excessive à l'égard du travail dirigé par les agents sans les bons freins et contrepoids peut créer des angles morts et amplifier de petits problèmes en problèmes plus importants, tels que des pannes de système ou des risques de sécurité. «
« Par exemple, les systèmes de contrôle de version et les référentiels de code sont un moyen de maintenir l'observabilité du code écrit par l'homme, soutenu par des processus de révision structurés. Lorsque ces flux de travail sont automatisés sans intégrer une couche supplémentaire de surveillance humaine, les organisations risquent d'aggraver les erreurs et d'introduire des problèmes structurels plus importants, plus difficiles à détecter ou à résoudre. «
Il estime que, même si l'implication humaine est irremplaçable, la transparence organisationnelle est tout aussi importante tout au long du cycle de développement. « Les organisations ont besoin de visibilité sur la manière dont les agents accèdent aux données, comment ils raisonnent et pourquoi les tâches sont considérées comme terminées. Ce niveau d'observabilité est essentiel pour gérer les flux de travail homme-agent, identifier les domaines de croissance et maintenir la responsabilité. »
De plus, lorsqu’elle est correctement mise en œuvre et supervisée, elle présente des avantages clairs et significatifs.
Une IA entreprenante
Les agents d’IA apportent sans aucun doute un nouvel élément au lieu de travail, pour le meilleur ou pour le pire, mais ils présentent des avantages tangibles, tels que la capacité d’augmenter la productivité, de minimiser les tâches laborieuses et complexes en matière de données, de soutenir les développeurs dans le processus de codage et d’identifier les problèmes ou les modèles qui sont souvent négligés par les gens.
Huerta a déclaré : « En assumant un travail répétitif qui était auparavant effectué par des personnes, les agents permettent aux équipes de se concentrer sur des tâches et des activités à plus forte valeur ajoutée. Ces avantages sont mieux réalisés lorsque l'IA est utilisée comme une amélioration, et non comme un remplacement, du jugement humain. «
« Les modèles les plus réussis sont un hybride d’équipes humain-agent, où la vitesse et l’échelle de l’IA sont combinées à la surveillance humaine pour affiner et améliorer les flux de travail, au lieu de simplement les automatiser. »
Un défi clé à l'avenir, a-t-il expliqué, sera d'établir un équilibre entre l'adoption et la mise en œuvre d'agents d'IA et de les intégrer de manière transparente avec utilisation responsable. Selon lui, à mesure que les agents deviennent plus avancés et plus performants, les organisations risquent de perdre de vue les meilleures pratiques de base dans des domaines cruciaux tels que ceux qui régissent le développement de logiciels.
« Les dirigeants doivent continuer à donner la priorité à l’observabilité, à la gouvernance et à la collaboration homme-agent malgré les pressions exercées pour prouver le retour sur investissement des systèmes d’IA. »
