La ricerca di Databricks rivela che sviluppare giudici AI migliori non è solo una questione tecnica, ma un problema umano
VB,S..Kerner
Non è l’intelligenza dei modelli di intelligenza artificiale a bloccare le implementazioni aziendali. È l’incapacità di definire e misurare la qualità in primo luogo.È qui che i giudici dell’IA stanno giocando un ruolo sempre più importante. Nella valutazione dell’IA, un “giudice” è un sistema di IA che valuta i risultati di un altro sistema di IA. Continua a guardare5Judge Builder è il framework di Databricks per la creazione di giudici ed è stato implementato per la prima volta all’inizio di quest’anno come parte della tecnologia Agent Bricks dell’azienda . Il framework si è evoluto significativamente dal suo lancio iniziale, in risposta al feedback diretto degli utenti e alle implementazioni.
Le prime versioni si concentravano sull’implementazione tecnica, ma il feedback dei clienti ha rivelato che il vero ostacolo era l’allineamento organizzativo. Databricks offre ora un processo di workshop strutturato che guida i team attraverso tre sfide principali: ottenere il consenso degli stakeholder sui criteri di qualità, acquisire competenze di settore da un numero limitato di esperti in materia e implementare sistemi di valutazione su larga scala.”L’intelligenza del modello in genere non è il collo di bottiglia, i modelli sono davvero intelligenti”, ha dichiarato a VentureBeat Jonathan Frankle, responsabile scientifico dell’intelligenza artificiale di Databricks, in un briefing esclusivo. “Invece, si tratta di chiedersi come facciamo a far sì che i modelli facciano ciò che vogliamo e come facciamo a sapere se hanno fatto ciò che volevamo?
“Il “problema Ouroboros” della valutazione dell’IAJudge Builder affronta quello che Pallavi Koppol, ricercatore scientifico di Databricks che ha guidato lo sviluppo, chiama il “problema dell’uroboro”. L’uroboro è un antico simbolo che raffigura un serpente che si morde la coda. L’utilizzo di sistemi di intelligenza artificiale per valutare sistemi di intelligenza artificiale crea una sfida di convalida circolare.
“Vuoi che un giudice verifichi se il tuo sistema è valido, se il tuo sistema di intelligenza artificiale è valido, ma allora anche il tuo giudice è un sistema di intelligenza artificiale”, ha spiegato Koppol. “E ora ti chiedi, tipo, come faccio a sapere se questo giudice è valido?”La soluzione è misurare la “distanza dalla verità di base degli esperti umani” come funzione di punteggio principale. Riducendo al minimo il divario tra il modo in cui un giudice AI valuta i risultati e il modo in cui li valuterebbero gli esperti del settore, le organizzazioni possono affidarsi a questi giudici come proxy scalabili per la valutazione umana.Questo approccio differisce fondamentalmente dai tradizionali sistemi di controllo o dalle valutazioni basate su un singolo parametro.
Anziché chiedere se un output di IA abbia superato o meno un generico controllo di qualità, Judge Builder crea criteri di valutazione altamente specifici, adattati alle competenze di settore e ai requisiti aziendali di ciascuna organizzazione. Anche l’implementazione tecnica lo distingue. Judge Builder si integra con gli strumenti di ottimizzazione MLflow e prompt di Databricks e può funzionare con qualsiasi modello sottostante.
I team possono controllare le versioni dei propri giudici, monitorare le prestazioni nel tempo e distribuire più giudici contemporaneamente su diverse dimensioni di qualità.Lezioni apprese: formare giudici che lavorano davveroIl lavoro di Databricks con i clienti aziendali ha portato alla luce tre lezioni fondamentali che possono essere utili a chiunque sviluppi giudici basati sull’intelligenza artificiale.Lezione uno: i tuoi esperti non sono così d’accordo come pensi.
Quando la qualità è soggettiva, le organizzazioni scoprono che persino i loro stessi esperti in materia non sono d’accordo su cosa costituisca un output accettabile. Una risposta del servizio clienti potrebbe essere corretta nei fatti ma usare un tono inappropriato. Un riepilogo finanziario potrebbe essere completo ma troppo tecnico per il pubblico a cui è destinato.”Una delle lezioni più importanti di tutto questo processo è che tutti i problemi diventano problemi delle persone”, ha affermato Frankle. “La parte più difficile è far uscire un’idea dal cervello di una persona e trasformarla in qualcosa di esplicito. E la parte più difficile è che le aziende non sono un solo cervello, ma molti cervelli”.
La soluzione è l’annotazione in batch con controlli di affidabilità tra valutatori. I team annotano gli esempi in piccoli gruppi, quindi misurano i punteggi di concordanza prima di procedere. Questo consente di individuare tempestivamente eventuali disallineamenti. In un caso, tre esperti hanno assegnato valutazioni di 1, 5 e neutrale per lo stesso output, prima che la discussione rivelasse che stavano interpretando i criteri di valutazione in modo diverso.
Le aziende che utilizzano questo approccio ottengono punteggi di affidabilità inter-valutatore fino a 0,6, rispetto ai punteggi tipici di 0,3 ottenuti da servizi di annotazione esterni. Una maggiore concordanza si traduce direttamente in migliori prestazioni del giudice, poiché i dati di training contengono meno rumore.
Lezione due: scomporre i criteri vaghi in giudici specifici. Invece di un solo giudice che valuta se una risposta è “pertinente, fattuale e concisa”, create tre giudici distinti. Ognuno di essi si concentra su un aspetto qualitativo specifico. Questa granularità è importante perché un punteggio di “qualità complessiva” negativo rivela che qualcosa non va, ma non cosa correggere.I risultati migliori derivano dalla combinazione di requisiti top-down, come vincoli normativi e priorità degli stakeholder, con la scoperta bottom-up dei modelli di errore osservati. Un cliente ha creato un giudice top-down per la correttezza, ma ha scoperto attraverso l’analisi dei dati che le risposte corrette citavano quasi sempre i due risultati di recupero più importanti. Questa intuizione si è trasformata in un nuovo giudice di facile utilizzo in produzione, in grado di valutare la correttezza senza richiedere etichette di verità di base.
Lezione tre: servono meno esempi di quanto pensi. I team possono creare giudici affidabili partendo da soli 20-30 esempi ben scelti.
La chiave è selezionare casi limite che evidenzino disaccordi piuttosto che esempi ovvi in cui tutti sono d’accordo.”Siamo in grado di portare a termine questo processo con alcuni team in appena tre ore, quindi non ci vuole poi così tanto tempo per iniziare a trovare un buon giudice”, ha affermato Koppol.Risultati della produzione: dai piloti agli schieramenti a sette cifreFrankle ha condiviso tre parametri che Databricks utilizza per misurare il successo di Judge Builder: se i clienti desiderano utilizzarlo di nuovo, se aumentano la spesa per l’intelligenza artificiale e se progrediscono ulteriormente nel loro percorso verso l’intelligenza artificiale.Per quanto riguarda la prima metrica, un cliente ha creato più di una dozzina di giudici dopo il workshop iniziale. “Questo cliente ha creato più di una dozzina di giudici dopo che li abbiamo guidati in modo rigoroso per la prima volta con questo framework”, ha affermato Frankle. “Si sono davvero impegnati a fondo con i giudici e ora stanno misurando tutto.”Per quanto riguarda la seconda metrica, l’impatto aziendale è evidente. “Diversi clienti hanno partecipato a questo workshop e hanno raggiunto livelli di spesa a sette cifre per GenAI presso Databricks, cosa che prima non facevano”, ha affermato Frankle.La terza metrica rivela il valore strategico di Judge Builder. I clienti che in precedenza esitavano a utilizzare tecniche avanzate come l’apprendimento per rinforzo ora si sentono sicuri nell’implementarle perché possono misurare se i miglioramenti si sono effettivamente verificati.”Ci sono clienti che hanno fatto passi da gigante e hanno fatto cose molto avanzate dopo aver avuto giudici che prima erano riluttanti a fare”, ha detto Frankle. “Sono passati da un po’ di ingegneria dei prompt all’apprendimento per rinforzo con noi. Perché spendere soldi e energie per l’apprendimento per rinforzo se non si sa se ha effettivamente fatto la differenza?”Cosa dovrebbero fare le imprese oraI team che sono riusciti a trasferire con successo l’intelligenza artificiale dal progetto pilota a quello di produzione trattano i giudici non come artefatti una tantum, ma come risorse in evoluzione che crescono insieme ai loro sistemi.Databricks raccomanda tre passaggi pratici. Innanzitutto, concentrarsi sui giudici ad alto impatto identificando un requisito normativo critico e una modalità di errore osservata. Questi costituiranno il portfolio iniziale dei giudici.In secondo luogo, create flussi di lavoro snelli con esperti in materia. Poche ore dedicate alla revisione di 20-30 casi limite forniscono una calibrazione sufficiente per la maggior parte dei giudici. Utilizzate annotazioni in batch e controlli di affidabilità inter-valutatore per eliminare il rumore dai vostri dati.In terzo luogo, pianifica revisioni periodiche dei giudici utilizzando i dati di produzione. Nuove modalità di errore emergeranno con l’evoluzione del sistema. Il tuo portfolio di giudici dovrebbe evolversi di conseguenza.”Un giudice è un modo per valutare un modello, è anche un modo per creare barriere di sicurezza, è anche un modo per avere una metrica rispetto alla quale effettuare un’ottimizzazione rapida ed è anche un modo per avere una metrica rispetto alla quale effettuare l’apprendimento per rinforzo”, ha affermato Frankle. “Una volta che hai un giudice che sai rappresentare il tuo gusto umano in una forma empirica che puoi interrogare quanto vuoi, puoi usarlo in 10.000 modi diversi per misurare o migliorare i tuoi agenti”.
Foto: Serpente Ouroboros AI
Credito: Immagine generata da VentureBeat con FLUX-pro-1.1-ultra