Cosa potrebbe andare storto se un’azienda sostituisse tutti i suoi ingegneri con l’intelligenza artificiale?
Venturbeat, M.lì Istituto Pragmatico
L’intelligenza artificiale sostituisce gli ingegneri
La codifica AI, la codifica vibe e l’agentic swarm hanno fatto di recente un ingresso spettacolare e sorprendente sul mercato, con il mercato degli strumenti di codifica AI valutato a 4,8 miliardi di dollari e con una crescita prevista del 23% annuo . Le aziende sono alle prese con gli agenti di codifica AI e con la questione di cosa fare con i costosi programmatori umani. Non mancano i consigli. Il CEO di OpenAI stima che l’IA possa svolgere oltre il 50% di ciò che possono fare gli ingegneri umani .
Sei mesi fa, il CEO di Anthropic ha affermato che l’IA avrebbe scritto il 90% del codice in sei mesi. Il CEO di Meta ha affermato di credere che l’IA sostituirà “presto” gli ingegneri di medio livello. A giudicare dai recenti licenziamenti nel settore tecnologico , sembra che molti dirigenti stiano seguendo questo consiglio.Continua a guardare2Ingegneri informatici e data scientist sono tra le figure salariali più costose in molte aziende, e i leader aziendali e tecnologici potrebbero essere tentati di sostituirli con l’intelligenza artificiale.
Tuttavia, recenti fallimenti di alto profilo dimostrano che gli ingegneri e le loro competenze rimangono preziosi, nonostante i continui progressi dell’intelligenza artificiale.Disastro SaaStrJason Lemkin, imprenditore tecnologico e fondatore della community SaaS SaaStr, ha iniziato a programmare un’app di networking SaaS e a condividere in diretta su Twitter la sua esperienza. Dopo circa una settimana dall’inizio della sua avventura, ha ammesso al pubblico che qualcosa stava andando storto. L’intelligenza artificiale ha cancellato il suo database di produzione nonostante la sua richiesta di “congelamento del codice e delle azioni”.
Questo è il tipo di errore che nessun ingegnere esperto (o anche solo semi-esperto) commetterebbe.Se hai mai lavorato in un ambiente di programmazione professionale , sai che è importante separare l’ambiente di sviluppo da quello di produzione. Agli ingegneri junior viene concesso pieno accesso all’ambiente di sviluppo (fondamentale per la produttività), ma l’accesso alla produzione viene concesso solo in casi di necessità e solo ad alcuni degli ingegneri senior più fidati.
Il motivo di questa restrizione all’accesso è proprio questo: impedire a un ingegnere junior di interrompere accidentalmente la produzione.In effetti, Lemkin ha commesso due errori. Primo: per un aspetto critico come la produzione, l’accesso ad attori inaffidabili non viene mai garantito (non ci affidiamo a un ingegnere junior o a un’intelligenza artificiale per chiedere gentilmente). Secondo, non ha mai separato lo sviluppo dalla produzione. In una successiva conversazione pubblica su LinkedIn, Lemkin, che ha conseguito un Executive MBA a Stanford e un JD a Berkeley, ha ammesso di non essere a conoscenza delle best practice per la separazione dei database di sviluppo e produzione.
La conclusione per i leader aziendali è che le best practice standard dell’ingegneria del software sono ancora valide. Dovremmo integrare per l’IA almeno gli stessi vincoli di sicurezza che applichiamo agli ingegneri junior. Probabilmente, dovremmo andare oltre e trattare l’IA in modo leggermente antagonista: ci sono segnalazioni secondo cui, come HAL in 2001: Odissea nello spazio di Stanley Kubrick , l’IA potrebbe tentare di uscire dal suo ambiente sandbox per portare a termine un compito. Con una maggiore programmazione dinamica, sarà sempre più necessario avere ingegneri esperti che comprendano il funzionamento di sistemi software complessi e siano in grado di implementare le opportune barriere di sicurezza nei processi di sviluppo.
Trucco del tè
Sean Cook è il fondatore e CEO di Tea, un’applicazione mobile lanciata nel 2023, progettata per aiutare le donne a frequentare persone in sicurezza. Nell’estate del 2025, l’applicazione è stata “hackerata”: 72.000 immagini, tra cui 13.000 foto di verifica e immagini di documenti d’identità governativi, sono state diffuse sul forum di discussione pubblico 4chan . Peggio ancora, la stessa informativa sulla privacy di Tea promette che queste immagini sarebbero state “eliminate immediatamente” dopo l’autenticazione degli utenti, il che significa che potenzialmente violavano la loro stessa informativa sulla privacy .Uso “hackerato” tra virgolette perché l’incidente è dovuto meno all’astuzia degli aggressori che all’inettitudine dei difensori. Oltre a violare le proprie policy sui dati, l’app ha lasciato un bucket di archiviazione Firebase non protetto, esponendo dati sensibili degli utenti alla rete pubblica .
È l’equivalente digitale di chiudere a chiave la porta d’ingresso ma lasciare quella posteriore aperta con i gioielli di famiglia ostentatamente appesi alla maniglia.Sebbene non sappiamo se la causa principale sia stata il vibe coding, l’attacco informatico al Tea ha evidenziato violazioni catastrofiche derivanti da errori di sicurezza basilari e prevenibili dovuti a processi di sviluppo inadeguati. È il tipo di vulnerabilità che un processo di progettazione disciplinato e ponderato può affrontare. Sfortunatamente, l’incessante pressione delle pressioni finanziarie, in cui una cultura “snella” e “muoviti velocemente e rompi le cose” è l’esatto opposto, e il vibe coding non fa che aggravare il problema.
Come adottare in modo sicuro gli agenti di codifica AI?
Quindi, come dovrebbero concepire l’IA i leader aziendali e tecnologici? Innanzitutto, questo non è un invito ad abbandonare l’IA in favore della programmazione. Uno studio del MIT Sloan ha stimato che l’IA porta a incrementi di produttività tra l’8% e il 39%, mentre uno studio di McKinsey ha rilevato una riduzione dal 10% al 50% dei tempi di completamento delle attività con l’uso dell’IA. Tuttavia, dovremmo essere consapevoli dei rischi. Le vecchie lezioni dell’ingegneria del software non svaniscono.
Tra queste, molte best practice consolidate, come il controllo delle versioni, i test automatizzati di unità e integrazione, i controlli di sicurezza come SAST/DAST, la separazione tra ambienti di sviluppo e produzione, la revisione del codice e la gestione dei segreti. Anzi, diventano ancora più importanti.
‘intelligenza artificiale può generare codice 100 volte più velocemente di quanto gli esseri umani possano digitare, alimentando un’illusione di produttività che è un richiamo irresistibile per molti dirigenti. Tuttavia, la qualità del personale di intelligenza artificiale generato rapidamente è ancora oggetto di dibattito. Per sviluppare sistemi di produzione complessi, le aziende hanno bisogno dell’esperienza ponderata e consolidata degli ingegneri umani.Tianhui Michael Li è presidente del Pragmatic Institute e fondatore e presidente di The Data Incubator.
Foto CleoTolomeo/Mezzo viaggio