Perché la velocità dell'intelligenza artificiale richiede intelligenza umana

L'intelligenza umana rimane essenziale

La fornitura di software non è mai stata solo una questione di scrittura di codice. Anche con l'AI, raramente i clienti forniscono requisiti sufficientemente completi o dettagliati per ottenere i risultati di business desiderati. Continuiamo quindi a sederci al tavolo con i clienti, ad approfondire i reali problemi aziendali, a definire gli obiettivi giusti e a prendere insieme decisioni etiche e pragmatiche.

L'intelligenza artificiale può accelerare alcune parti del processo, ma non può sostituire il pensiero critico necessario per allineare la tecnologia al valore aziendale. Senza quel filtro umano, i team rischiano di ricorrere a un'ingegnerizzazione eccessiva o di costruire più rapidamente qualcosa di sbagliato.

E c'è una seconda dimensione: le persone all'interno di un'azienda devono adottare e adattarsi alle nuove soluzioni. Più velocemente l'AI ci consente di fornire risultati, più frequentemente i clienti dovranno introdurre cambiamenti alla loro base di utenti. Ciò richiede una gestione del cambiamento ponderata, guidata dalle persone. Perché l'AI può creare una soluzione, ma sono le persone a rendere il cambiamento duraturo.

I ruoli cambiano

L'intelligenza artificiale sta trasformando il lavoro di tutti coloro che sono coinvolti nella software delivery, in particolare gli sviluppatori.

Gli sviluppatori impiegheranno molto meno tempo a scrivere codice a mano e molto più tempo a guidare l'AI:

• insegnare agli assistenti AI a generare codice accurato e gestibile
• coordinare più agenti AI che lavorano insieme
• garantire la qualità tecnica e la mantenibilità dell'intero sistema
• verificare e iterare quando la percentuale di correttezza al primo tentativo dell'AI è insufficiente

Di conseguenza, il loro lavoro degli sviluppatori si orienta naturalmente verso il pensiero concettuale e analitico, creando il contesto tecnico in cui l'AI può dare il meglio. E man mano che acquisiscono maggiore competenza nell'utilizzo dell'AI, possono dedicare più tempo alla progettazione dei sistemi, alla risoluzione dei problemi e alla garanzia che ciò che costruiamo generi realmente valore di business.

Per supportare questa evoluzione, il modello di governance interno della nostra Software Factory è progettato per guidare, formare e responsabilizzare i nostri team di sviluppo, garantendo al contempo che la soddisfazione sul lavoro rimanga alta man mano che i loro ruoli evolvono.

Anche i software architect devono affrontare un cambiamento significativo. Devono progettare l'integrazione dell'AI nelle applicazioni aziendali, comprenderne le potenzialità (dall'assistenza intelligente all'automazione, fino alle esperienze utente adattive) e il modo in cui tali potenzialità migliorano la produttività e i risultati. Allo stesso tempo, devono anticipare i rischi e i limiti legati al comportamento non deterministico dell'AI. Il loro compito è quello di creare architetture che raggiungano il giusto equilibrio tra innovazione e controllo, includendo misure di sicurezza, osservabilità e meccanismi di fallback. L'AI deve essere affidabile, utile e chiaramente allineata alle reali esigenze degli utenti, e i software architect svolgono un ruolo fondamentale nel rendere possibile tutto questo.

Anche analisti e project manager traggono vantaggio dagli strumenti potenziati dall'AI e dagli agenti AI. Attività come la scrittura di user story, la gestione dei backlog o la preparazione di report possono essere notevolmente accelerate, ma solo se imparano a collaborare in modo efficace con questi assistenti AI. Con la riduzione del carico operativo, possono dedicarsi alla progettazione di applicazioni che generano risultati di business concreti e alla risoluzione di problemi che esulano dal controllo diretto del team.

Per i project manager, la sfida sarà garantire che tutti i ruoli mantengano il passo. Poiché l'AI aumenta la produttività degli sviluppatori, il resto del team, compresi gli stakeholder aziendali, deve essere pronto a operare a questo ritmo accelerato. Ciò rende più importante che mai la visione d'insieme delle persone, dei processi, delle dipendenze e della tecnologia quando si compongono team equilibrati.

Man mano che gli sviluppatori acquisiscono maggiore dimestichezza nell'uso degli strumenti di AI, possono dedicare più tempo alla risoluzione dei problemi e alla progettazione dei sistemi.

Sfide di governance

Con l'integrazione sempre più profonda dell'AI nella software delivery, la governance assume un'importanza sempre maggiore.

Ad esempio, quando uno strumento di AI genera un codice che contiene una vulnerabilità di sicurezza o un errore logico, la responsabilità diventa una questione condivisa e talvolta poco chiara. Indipendentemente da chi sia in ultima analisi il responsabile, la supervisione umana è essenziale. L'intelligenza umana è l'ultima linea di difesa.

Quando l'intelligenza artificiale viene integrata nelle applicazioni aziendali, le organizzazioni devono tenere conto dei comportamenti non deterministici. Un processo che diventa ancora più complesso quando le versioni dei modelli evolvono. Un flusso di lavoro può comportarsi in modo diverso con un modello aggiornato, anche se il contesto aziendale rimane lo stesso. I framework di governance necessitano di controlli e bilanciamenti integrati per garantire affidabilità, sicurezza e trasparenza.

I quadri normativi come l'EU AI Act richiedono già alle aziende di dimostrare che i loro sistemi di AI e il software che generano rispettino rigidi obblighi in materia di rischio e trasparenza.

In Cegeka Application Services applichiamo quella che chiamiamo governance aumentata.
Ciò significa:

• strumenti integrati nel ciclo di vita dello sviluppo per valutare continuamente la conformità ai requisiti di sicurezza e di altro tipo
• monitoraggio automatizzato dell'accuratezza, della distorsione e della sicurezza dei risultati dell'AI
• avvisi immediati in caso di anomalie
• processo decisionale supportato dall'AI e basato sui dati
• e sempre: un essere umano coinvolto nel processo con potere decisionale finale

Il termine “aumentata” è voluto: l'intelligenza artificiale rafforza la nostra governance, non la sostituisce.

Equilibrio tra innovazione e controllo

Un solido framework di governance non dovrebbe rallentare l'innovazione, ma piuttosto accelerarla. L'intelligenza artificiale evolve troppo rapidamente per poter imporre regole rigide sugli strumenti, i modelli o le tecniche che i team possono utilizzare. Ciò creerebbe solo ostacoli.

Abbiamo invece formalizzato un framework di riferimento che definisce il contesto in cui è possibile sperimentare in tutta sicurezza. I team possono valutare se stessi rispetto a questo framework per garantire che qualsiasi soluzione rimanga entro i limiti legali, ESG e organizzativi.

Con questo approccio, consentiamo ai team di muoversi rapidamente nel mondo AI, in modo sicuro, responsabile e senza inutili complicazioni.

Solo l'intelligenza umana può garantire che l'AI sia utilizzata in modo utile, sicuro e conforme.