Be Bankers

DOSSIER BE | LEGAL&TECH Come affrontate il rischio di allucinazioni e la verificabilità delle fonti? Che garanzia ha l’utente che una norma o una senten- za citata esista realmente e dica ciò che la piattaforma riporta? APTUS AI È una scelta di design. Per noi l’AI Generativa è solo l’interfaccia conversazionale tra l’uten- te e il nostro database di normative struttu- rate e machine-readable: oltre 70 milioni di norme estratte da fonti ufficiali di più di 200 enti regolatori in 7 giurisdizioni. Il sistema è vincolato a estrarre informazioni solo da lì: non può inventare fonti che non possiede. Ma avere fonti verificate non basta. Il sistema deve essere in grado di ragionare sul diritto, fondare ogni risultato su fonti verificabili e riconoscere quando gli elementi disponibili non sono sufficienti per fornire una risposta affidabile. È la combinazione di queste capa- cità a rendere possibile affidare all’AI attività più complesse, mantenendo verificabilità e controllo. Il rischio, quindi, non scompare, ma cambia natura: l’AI può escludere fonti presenti nel database se non è guidata dal contesto corretto nel prompt e nel task. Per questo è essenziale accompagnare l’utente nella costruzione dei propri processi AI-Na- tive ed è qui che interviene il nostro team interno di Legal Engineering. Non possiamo dare per scontato che tutti sappiano guida- re da soli questa transizione: servono figure in grado di limitare le criticità della GenAI e collocare lo human in the loop nel punto giu- sto del processo, non a valle come semplice controllo formale. LEGORA Per la ricerca giuridica, Legora adotta un ap- proccio cd. “retrieval-first”: prima individua e recupera documenti reali dalle fonti sele- zionate, poi elabora la risposta a partire da quel materiale. Questo riduce drasticamen- te il rischio di allucinazioni e, soprattutto, rende il risultato verificabile: le citazioni permettono all’utente di aprire il passaggio rilevante e confrontare direttamente l’analisi con la fonte. Questa logica di tracciabilità è disponibile nella web app e negli add-in per Word e Outlook, ed è alla base dell’utilizzo delle nostre funzionalità più importanti. Ad esempio, in Tabular Review le risposte sono collegate ai documenti di origine e i risul- tati a bassa confidenza vengono segnalati, così da indirizzare la verifica umana dove servemaggiormente. Amonte, Legora sotto- pone modelli e configurazioni a valutazioni strutturate e continue su attività giuridiche realistiche, misurando correttezza fattuale, completezza, qualità delle citazioni, rischio di allucinazione, rilevanza e utilità pratica. LEXROOM Per noi il tema non è chiedere all’utente di “fidarsi dell’AI”, ma dargli gli strumenti per controllarla. Lexroomutilizza un’architettu- ra RAG che porta il modello a lavorare sul nostro corpus giuridico verificato. Quando viene citata una norma o una sentenza, l’u- tente può risalire direttamente alla fonte e al passaggio utilizzato per generare la risposta. Questo riduce drasticamente il rischio tipico dei modelli generalisti, che possono produrre riferimenti plausibili ma inesistenti. Non di- ciamo però che un sistema probabilistico sia infallibile: l’interpretazione e la correttezza dell’output devono sempre essere verificate dal professionista. È un principio di prodotto, prima ancora che un disclaimer. LIBRA Il collegamento diretto al patrimonio infor- mativodelle banche dati One offre un suppor- to interpretativo concreto per verificare che il precedente citato non solo esista, ma che sia quello corretto. Dietro le quinte, il lavoro congiunto di Legal Engineers, sviluppatori e della Redazione migliora costantemente le tecniche di retrieval, basate su unametadata- zione scientifica emassiva dei contenuti, per ridurre il rischio di allucinazione. La garanzia resta comunque verificabile in un click: in modalità Ricerca ogni citazione è affiancata da un link diretto al documento originale, tramite cui l’avvocato consulta esattamente il testo usato dal sistema. Quando una rispo- sta si appoggia sulla conoscenza generale del modello, la citazione resta priva di link; quan- do invece è basata su informazioni reperite sul web (previa attivazione dell’utente), un banner e un disclaimer lo segnalano, ram- mentando all’utente che l’informazione è da trattare come non verificata. 72 B E | B AN K E R S