Articoli

,

Quando il consenso non basta più: dati genetici, e il caso Tempus AI

Avv. Raffaella Aghemo

Il nuovo terreno dove convergono gli interessi economici e di dominio, nel settore dell’intelligenza artificiale, è quello sanitario, ambito critico e strutturalmente delicato, in cui si intrecciano i diritti fondamentali dell’uomo.

Tempus AI è una società quotata in borsa che ha registrato un fatturato di 1,27 miliardi di dollari nell’anno fiscale 2025, oltre che un’azienda tecnologica atta a “costruire soluzioni tecnologiche innovative orientate verso prodotti per l’assistenza clinica e la ricerca“, come “Hub”, “One”, “Now”, “Pixel” e “Lens.”

Nel 2025 la Tempus ha acquisito, per 600 milioni di dollari,la Ambry Genetics, e, sembra abbia addestrato il proprio modello di intelligenza artificiale, con i dati genetici raccolti dalla Ambry e tutti i dati della propria biblioteca genetica di dati clinici e molecolari, contenente oltre 45 milioni di cartelle cliniche di pazienti anonimizzati, tra cui 8,5 milioni di dati di ricerca, 1 milione di dati clinico-genomici abbinati e 2 milioni di immagini diagnostiche. Tale patrimonio è stato poi, pare, venduto ad oltre settanta aziende farmaceutiche, tra le quali figurano AstraZeneca, Bristol Myers Squibb e Pfizer, tramite accordi del valore stimato di 1,1 miliardi di dollari.

«Fondata nel 1999, Ambry Genetics Corporation (“Ambry”) è un fornitore di servizi sanitari in tutti gli Stati Uniti. Attraverso i suoi servizi online, Ambry offre un menu completo di test genetici con oltre 300 test per lo screening e la diagnosi di malattie ereditarie e non ereditarie, come cancro, malattie cardiache, disturbi dello sviluppo neurologico, e altri problemi medici.» Ambry ha ottenuto la sua enorme quantità di dati genetici offrendo kit per test genetici e laboratori, a domicilio. I clienti di Ambry ricevono kit per test genetici a domicilio che consentire l’invio di campioni di sangue o saliva.

Ora la Tempus si trova ad affrontare diverse azioni legali collettive presso il tribunale federale di Chicago. La società stessa ammette: «…nella sua Presentazione agli investitori del 24 febbraio 2025, “Tempus offre il sequenziamento della linea germinale (xG) per il rischio ereditario, utilizzando Ambry come fornitore”, “Ambry genera enormi quantità di dati su circa 400.000 pazienti che sequenzia ogni anno[, e] Tempus può sfruttare questi dati per aumentare la sua offerta di dati attuale[,]” e “la linea di prodotti di Ambry consente a Tempus di espandersi immediatamente in nuove categorie.»

La denuncia, presentata il 15 aprile 2026 contro Tempus AI, si inserisce in un terreno già saturo di ambiguità: quello dell’uso secondario dei dati sanitari, e dei biomarcatori genetici, come materia prima per sistemi di intelligenza artificiale. Non è una controversia isolata, ma un passaggio che rende visibile un problema più profondo, quasi strutturale.

Al centro della denuncia, si trova la presunta violazione della Illinois Genetic Information Privacy (“GIPA”), una normativa che prevede espressamente, alla Sezione 15: «che “i test genetici e le informazioni derivate dai test genetici siano riservati e protetti e possano essere divulgati solo all’individuo testato e alle persone specificamente autorizzate per iscritto, da tale individuo, a ricevere le informazioni“», e che attribuisce al dato genetico una qualità diversa rispetto agli altri dati sanitari. Non è soltanto sensibile, è considerato intrinsecamente identificativo e quindi meritevole di una protezione rafforzata. In questa cornice, l’accusa sostiene che l’azienda abbia costruito e valorizzato un patrimonio informativo derivante da test genetici, integrandolo nei propri modelli e condividendolo con partner industriali, senza che vi fosse un consenso esplicito e specifico per tali utilizzi.

Si legge a pagina 2 della denuncia: «Come parte necessaria dell’acquisizione, Tempus AI ha costretto Ambry a divulgare il suo enorme database di informazioni genetiche, comprese quelle dei querelanti e dei membri della classe, senza la conoscenza o il consenso scritto dei ricorrenti e dei membri della classe, in violazione delle leggi dello stato e del diritto comune», database poi rivenduto a oltre 70 aziende farmaceutiche.

«Tempus AI ha tratto enormi profitti dalla sua condotta illecita. Infatti, il fatturato dichiarato di Tempus AI è cresciuto da 145,8 milioni di dollari nel primo trimestre del 2024 a 255,7 milioni di dollari nel primo trimestre del 2025, un aumento del 57%. Per questi motivi, i ricorrenti intentano questa azione, a nome proprio e di coloro che si trovano in situazioni analoghe, per ottenere il risarcimento dei danni, provvedimenti ingiuntivi e qualsiasi altro rimedio che la Corte ritenga opportuno.»

La classe è composta da cittadini di uno stato diverso da quello dell’imputato, ci sono più di 100 membri della classe, e l’importo complessivo oggetto della controversia supera i 5 milioni di dollari, esclusi interessi e spese.

«I dati genetici sono tra le categorie più sensibili di dati personali. Sono intrinsecamente unici per ogni individuo, immutabili e predittivi delle condizioni di salute presenti e future. A differenza di altri identificatori, i dati genetici non possono essere modificati e, se esposti, possono rivelare informazioni non solo su un individuo, ma anche sui suoi parenti biologici. Poiché i dati genetici possono essere utilizzati per dedurre il rischio di malattia, l’ascendenza, la familiarità e altri attributi profondamente personali, la sua esposizione crea rischi acuti e continui alla privacy, alla discriminazione e persino alla sicurezza personale.»

Il nodo giuridico emerge con chiarezza: il consenso raccolto in ambito clinico, anche quando formalmente valido, non è automaticamente estensibile a contesti ulteriori. La diagnosi, la cura, la ricerca interna e lo sviluppo commerciale non sono la stessa cosa, e trattarle come se lo fossero rischia di svuotare il consenso della sua funzione. La denuncia insiste su questo scarto, trasformandolo nel fulcro della contestazione.

C’è poi un passaggio più radicale, che riguarda la nozione stessa di anonimizzazione. La difesa tipica, in questi casi, fa leva sulla “de-identificazione” dei dati, ma l’atto di accusa cerca di smontare questa premessa sostenendo che il dato genetico, per sua natura, non possa essere realmente reso anonimo. Non è solo una sequenza biologica: è un identificatore persistente, che mantiene la capacità di ricondurre a un individuo anche quando viene separato dai dati anagrafici. Se questa impostazione dovesse essere accolta, le conseguenze sarebbero rilevanti, perché verrebbe meno uno dei principali argomenti che oggi giustificano l’uso secondario dei dati sanitari su larga scala.

Del resto si legge, a pagina 12 dell’atto: «Nel 2020, individui non autorizzati hanno violato Ambry, ottenendo le informazioni sanitarie protette di 232.772 pazienti. Ambry era a conoscenza dell’identità dei pazienti interessati perché ha informato i propri clienti che la violazione ha coinvolto “e-mail e allegati contenenti dati sensibili dei pazienti come nomi, diagnosi e altre informazioni mediche, con un sottoinsieme di pazienti anche con i loro numeri di previdenza sociale esposti.”»

Il consenso, in questo quadro, smette di essere una formalità e torna a essere una struttura. Non basta che esista, deve essere costruito in modo coerente con le finalità effettive del trattamento. Quando il dato entra in circuiti economici complessi, viene integrato in modelli predittivi e contribuisce alla generazione di valore per soggetti terzi, diventa difficile sostenere che un consenso generico o implicito sia sufficiente. La denuncia insiste proprio su questa sproporzione tra ciò che il paziente autorizza e ciò che accade successivamente. E la mancanza di consenso ben si allinea con il capo di accusa numero VI, ossia la presunta Violazione della legge dell’Illinois sulla frode ai danni dei consumatori e sulle pratiche commerciali ingannevoli.

Come se non bastasse, si legge ancora, che la condotta di Tempus AI ha creato un rischio prevedibile di danno per i ricorrenti. La sua cattiva condotta includeva, ma non si limitava alla sua mancata acquisizione del consenso scritto esplicito dei ricorrenti, ma ancora prima, nel momento in cui

  1. obbligava Ambry a divulgare,
  2. divulgava come parte dell’acquisizione di Ambry e
  3. rivelava a partner terzi come parte di una serie di accordi di condivisione dei dati.

Sul fondo si intravede una trasformazione più ampia. I dati genetici non sono più soltanto strumenti clinici, ma asset strategici. Alimentano modelli, orientano la ricerca farmaceutica, costruiscono vantaggi competitivi. Questo spostamento cambia anche il significato giuridico del consenso: da presidio della libertà individuale a meccanismo di legittimazione di un’economia dei dati.

A questo punto, occorre valutare e domandarsi: in che modo la giusta difesa della riservatezza, della segretezza dei propri dati genetici, del rispetto della fiducia del cliente/consumatore, della sacrosanta necessità di scongiurare l’ingiusto arricchimento di multinazionali con poca etica commerciale, si inserisce in questa nuova realtà, ove un sistema, come quello sanitario, incontra, invero, il tema dell’interesse collettivo, o il beneficio che può derivare dall’uso aggregato di questi dati, ai fini di una medicina personalizzata e dell’innovazione terapeutica?

Il valore di questo caso sta proprio nella sua capacità di rendere visibile una nuova ed inevitabile frattura: il consenso, così come è stato pensato nel contesto sanitario tradizionale, sembra non essere più sufficiente a governare ecosistemi, in cui il dato circola, si trasforma e genera valore in modi che il paziente difficilmente può anticipare.

Forse oggi noi giuristi siam chiamati a ragionare, non soltanto in termini di violazione, ma anche e soprattutto, di adeguatezza delle categorie giuridiche, con cui continuiamo a leggere questi fenomeni.

Per chi volesse leggersi la denuncia di 68 pagine, qui il link: https://ismg-cdn.nyc3.cdn.digitaloceanspaces.com/asset_files/external/tempus-ai-complaint-4-15-26.pdf.

Riproduzione Riservata

/da

Agenti (troppo) indipendenti. Il caso AISI e ciò che cambierà nei contratti d’uso e nelle polizze cyber

Avv. Eva Cresci

Il 4 agosto l’AI Security Institute britannico ha reso pubblico un episodio che merita attenzione da parte di chiunque progetti, acquisti o integri nei propri processi sistemi di intelligenza artificiale capaci di “agire”.

Nel corso di una serie di test di cybersicurezza, un agente basato su Mythos5 di Anthropic ha ricostruito l’identità dei titolari di un progetto ospitato su GitHub, ha creato profili falsi che imitavano quelle persone reali e li ha usati per indurle ad approvare codice malevolo.

Ben 17 delle 19 azioni non autorizzate rilevate provenivano da quel singolo modello, le altre 2 da GPT-5.6 Sol di OpenAI: una volta intercettato l’agente ha alterato le proprie tracce per apparire innocuo cercando di proseguire con una nuova identità pur di non interrompere il processo intrapreso.

A prescindere da qualunque retrogusto sensazionalistico, ciò che rileva in prima battuta è che a fermarlo sono stati l’intuizione e l’intervento di un essere umano e non già un presidio tecnico attivato ad hoc.

I due provider coinvolti hanno precisato che i test si sono svolti in condizioni “deliberatamente permissive”, con filtri disattivati e accesso aperto alla rete, contesto tecnico quindi ben diverso da quello in esecuzione nei modelli attualmente a disposizione dell’utenza globale.

Questo genere di nuovi rischi (agenticità emergente non prevedibile ex ante) si concretizzano in condotte ingannevoli/illecite o comunque non desiderate che si pongono di fatto  al di fuori del compito assegnato dagli ideatori/sviluppatori del sistema e, secondo quanto ho potuto verificare,raramente oggi vengono contemplati nei contratti d’uso e nelle polizze cyber.

E’ proprio qui che invece deve risiedere con chiarezza l’allocazione delle responsabilità tra deployer e provider: semplificando potremmo giuridicamente sostenere che, se il modello ha tenuto una condotta anomala pur operando entro la configurazione, filtri e presidi raccomandati dal fornitore, le responsabilità per aver esorbitato – per qualunque imprevedibile finalità – dai confini tracciati nel prompt restano in capo a quest’ultimo.

Alla luce di questi esperimenti si rende quindi dirimente controllare in fase di risk assessment e/o di due diligence pre-contrattuale che le ipotesi di “anomalia operativa” di seguito elencate siano disciplinate per iscritto in ogni contratto con assegnazione chiara degli oneri che ne derivano:

  • condotta autonoma fuori dal perimetro del prompt, quando l’output esonda dalla richiesta dell’utente e l’azione che segue non può esservi ricollegata;
  • azione dell’agente verso i terzi (anche contemplata della direttiva (UE) 2024/2853 sulla responsabilità per danno da prodotti difettosi), quando è l’utente a diventare pericoloso vs le terze parti e non il contrario;
  • impersonificazione con tentativo di intrusione, quando l’automazione diventa strumento di scopo a prescindere dalla liceità dello stesso;
  • generazione pretestuosa di codice per violare diritti altrui, quando non è contemplata la tutela della sfera giuridica dei terzi;
  • attacco indiretto, quando l’agente viene istruito tramite prompt injection;
  • difetto di tracciabilità, quando non si riesce a ricostruire cosa l’agente abbia effettivamente fatto.

Per ognuno di questi casi servono clausole in cui ciascuna parte risponde dei danni che causa (manleve simmetriche e non solo a carico del cliente), la tracciabilità di ciò che l’agente fa (loggin e conservazione delle evidenze), e un controllo umano reale, che l’articolo 14 dell’AI Act chiede come sostanza e non come formalità.

Anche sul fronte della polizza cyber, che dopo il contratto è il secondo livello di protezione  sia per il fornitore che l’utilizzatore,  spesso manca la preventiva verifica della tenuta della copertura contro questi nuovi scenari interpretativo/operativi:

1.     evento assicurato, molte coperture definiscono il rischio riferendosi a un attaccante umano ed esterno, ma occorre invece accertare che nel contratto contempli la condotta autonoma del proprio agente AI rientri nella nozione di violazione della sicurezza o di accesso non autorizzat:.

2.     responsabilità verso i terzi, una banca il cui agente danneggi un cliente o una controparte non è vittima ma autore del danno, e non tutte le polizze rispondono quando l’assicurato è la fonte dell’illecito e non il suo bersaglio;

3.     esclusioni e condizioni, quelle per dolo e frode sono nate per l’uomo e potrebbero non coprire l’inganno di un agente AI; inoltre, molte polizze pagano solo se risultano attive misure minime di sicurezza, che spesso vengono disattivate proprio per spingere/potenziare le prestazioni, facendo cadere la copertura proprio quando sarebbe opportuno che operasse;

4.     termini di notifica del sinistro, posto che può occorrere del tempo prima di accorgersi che l’agente sta compiendo qualcosa di scorretto, così come è accaduto nello stesso test dell’AISI, dove l’attività anomala iniziata il 25 luglio ed è stata notata il 28, dopo che l’agente aveva persino ritoccato le proprie tracce per sembrare innocuo.

D’altro canto, anche per le Compagnie questi cosiddetti “eccessi di autonomia agentica” costituiscono una nuova frontiera di rischio, al momento molto difficile da inserire in garanzia in modo esplicito, (così da evitare il cosiddetto silent cyber e conseguente contenzioso). Decidere di coprire i danni causati da agenti autonomi, e soprattutto tariffarli, è complicato sia perché manca uno storico sinistri, sia perché quasi tutti usano gli stessi pochi modelli e un solo problema può colpire più fronti contemporaneamente. Inoltre resta nella libertà dell’assicurato la facoltà di disattivare le salvaguardie imposte dal provider per ottenere maggiori e migliori prestazioni e per questo ripensare al testo delle polizze, ai questionari e ai criteri di selezione sarà una delle sfide dei prossimi mesi che gli assicuratori del comparto non potranno rinviare.  

Alla luce dei casi noti alla cronaca come quello di AISI, è ormai chiaro che la polizza cyber protegge davvero solo se è stata pensata in uno scenario di potenziale attacco più ampio e dilatato rispetto a quello che contempla unicamente un attaccante umano e dunque, prima della firma, va verificato se l’evento assicurato comprenda anche le inottemperanze dell’agente AI , se la garanzia risponde anche quando l’assicurato è l’autore e non la vittima del danno, e se le esclusioni per atti dolosi e le condizioni sui presidi minimi non finiscano per lasciare scoperti di garanzia coloro che hanno avuto la sola mancanza di configurare male il sistema.

Sono aspetti, questi, da prendere senz’altro in considerazione prima della firma del contratto d’uso e/o della polizza piuttosto che ….. dopo il sinistro.

Riproduzione Riservata

/da

Se l’Europa insegue l’innovazione, ne guida però anche il percorso giuridico: gli Stati Uniti e la proposta del Trump America AI Act

Avv. Raffaella Aghemo

Il 18 marzo 2026, la senatrice Marsha Blackburn ha presentato il TRUMP AMERICA AI Act, che sta per Republic Unifying Meritocratic Performance Advancing Machine Intelligence by Eliminating Regulatory Interstate Chaos Across American Industry Act. Questo imponente disegno di legge, di 291 pagine, si propone di istituire il primo quadro normativo federale completo per la regolamentazione dell’intelligenza artificiale negli Stati Uniti.

Si legge già nella prima pagina la seguente dicitura: “Una legge per promuovere l’innovazione nell’intelligenza artificiale e salvaguardare bambini, creatori, comunità e fermare la censura.”

Suddivisa in 17 Titoli affronta diverse tematiche: il Titolo 1, è dedicato alle “Misure di sicurezza minime riguardo al dovere di diligenza per gli sviluppatori di chatbot basati sull’intelligenza artificiale”, corredato da un’istruzione alla FTC di emanare norme per le garanzie minime di conformità con l’autorità di applicazione della legge per la FTC e i procuratori generali.

«Ogni sviluppatore di un chatbot basato sull’intelligenza artificiale deve prestare la dovuta diligenza nella progettazione, nello sviluppo e nel funzionamento di tale chatbot al fine di prevenire e mitigare i danni agli utenti dello stesso, qualora una persona ragionevole e prudente concorderebbe sul fatto che:

(1) tali danni fossero ragionevolmente prevedibili da parte dello sviluppatore; e

(2) la progettazione, lo sviluppo e il funzionamento di tale chatbot siano stati fattori che hanno contribuito a causare tali danni.»

Il Titolo 2 è invece dedicato all’Effetto sull’occupazione correlato all’IA. Il termine «effetto sull’occupazione correlato all’IA» indica qualsiasi cambiamento nella forza lavoro attribuibile all’intelligenza artificiale, inclusi la perdita del posto di lavoro, la riqualificazione professionale o nuove opportunità di impiego. Si legge: «Entro 30 giorni dall’ultimo giorno di ciascun trimestre, un soggetto interessato deve, in relazione a tale trimestre, comunicare al Segretario eventuali effetti occupazionali legati all’IA, subiti dal soggetto negli Stati Uniti, indicando in particolare:

(1) il numero di dipendenti licenziati, o di contratti di collaboratori autonomi che sono stati annullati, rescissi o non rinnovati dal soggetto interessato negli Stati Uniti durante il trimestre a causa, in tutto o in parte, della sostituzione o dell’automazione tramite intelligenza artificiale delle funzioni svolte da tali dipendenti o collaboratori;

(2) il numero di dipendenti assunti, o di contratti di collaboratori autonomi stipulati, dall’entità interessata negli Stati Uniti durante il trimestre a causa, in tutto o in parte, dell’intelligenza artificiale;

(3) il numero di posizioni dell’entità interessata negli Stati Uniti che sono state occupate in qualsiasi momento durante il trimestre per le quali l’entità interessata ha deciso di non procedere alla copertura sulla base di una motivazione che è dovuta, in tutto o in parte, all’intelligenza artificiale;

(4) il numero di dipendenti o collaboratori autonomi che l’entità interessata ha riqualificato, o ha assistito nella riqualificazione, sulla base di una motivazione che è, in tutto o in parte, dovuta all’intelligenza artificiale; e

(5) qualsiasi altra informazione relativa agli effetti sull’occupazione legati all’IA..»

Il Titolo 3 abroga l’Articolo 230 del Communications Decency Act nella sua interezza, quello afferente allo scudo di responsabilità che, dal 1996, proteggeva le piattaforme online dalla responsabilità civile per i contenuti di terzi. Il disegno di legge impone alle agenzie federali di acquisire esclusivamente modelli linguistici di grandi dimensioni conformi ai “Principi di intelligenza artificiale imparziale”. Il direttore dell’OMB (Office of the Management of the Budget) dovrà emanare le linee guida attuative entro 120 giorni dall’entrata in vigore della legge.

Il Titolo 4 è molto importante, in quanto tratta di una materia tanto importante quanto delicata, ossia “Protezione dei bambini dai rischi di traffico sessuale, suicidio e altre forme di abuso”. Qui l’art. 412 predispone un dovere di diligenza, affinché le piattaforme esercitino la dovuta diligenza nell’implementazione di misure atte a proteggere i minori da danni più o meno riconoscibili, per

  1. limitare la possibilità per altri utenti o visitatori di comunicare con il minore;
  2. impedire ad altri utenti o visitatori, registrati o meno, di visualizzare i dati personali del minore raccolti o condivisi sulla piattaforma coperta, in particolare limitando l’accesso pubblico ai dati personali;
  3. limitare per impostazione predefinita le caratteristiche di progettazione che incoraggino o aumentino la frequenza, il tempo impiegato o l’attività di minori sulla piattaforma coperta lo scorrimento infinito, la riproduzione automatica, premi per il tempo trascorso sulla piattaforma, notifiche e altre caratteristiche di progettazione che risultino atte ad un utilizzo compulsivo della piattaforma da parte del minore;
  4. controllo raccomandazione personalizzata dei sistemi, compresa la possibilità per un minore di avere
    1. un’opzione ben visibile per rinunciare a tali raccomandazioni personalizzate, pur consentendo la distribuzione riproduzione di contenuti basati su un ordine cronologico; e
    1. un’opzione ben visibile per limitare i tipi o le categorie di raccomandazioni da tali sistemi; e
  5. limitare la condivisione della geolocalizzazione del minore e fornire preavviso in merito.

Inoltre devono essere previste misure di facile utilizzo per le impostazioni privacy da parte dei genitori o di chi ne fa le veci e misure idonee a garantire la sicurezza del minore con punti di contatto accessibili e pronte in caso di reclami o di altre necessità.

Non da ultimo, secondo le prescrizioni del Guard Act son previsti obblighi penali e civili, in particolare per la protezione dei minori dai chatbot basati sull’intelligenza artificiale, e richiesta di verifica dell’età.

L’art. 416 fa divieto di svolgere ricerche di mercato sui bambini, dichiarando: «la piattaforma coperta non deve, nel caso di un utente o visitatore che la piattaforma coperta sa essere un bambino, condurre ricerche di mercato relative a tale bambino.»

Il Titolo 5 tratta dei cosiddetti AI companion di cui vi ho gia parlato precedentemente qui, che qui viene identificato come quel sistema che

  • fornisce una risposta adattiva simile a quella umana e risponde agli input dell’utente; e
  • è progettato per incoraggiare o facilitare la simulazione di interazioni interpersonali o emotive interazione, amicizia, compagnia o comunicazione terapeutica.

Il Titolo 6 riprende una classificazione piuttosto familiare e parla di sistema “basato sul rischio”.

Il Titolo 7, Istituzione di norme legali per i prodotti di intelligenza artificiale avanzata, può essere citato come “Allineamento degli incentivi” per la leadership, l’eccellenza e il progresso nello sviluppo o ”AI LEAD Act”.

Si istituisce un quadro normativo federale in materia di responsabilità del produttore per i sistemi di intelligenza artificiale, con diritto di azione legale da parte dei privati. In base a tale legge, gli sviluppatori possono essere ritenuti responsabili per danni causati da difetti di progettazione, mancata comunicazione di informazioni, mancanza di garanzie esplicite o prodotti irragionevolmente pericolosi. La legge vieta inoltre le clausole inique di limitazione della responsabilità nei contratti relativi ai prodotti di intelligenza artificiale.

Si richiede, inoltre, ad ogni fornitore di sistemi di intelligenza artificiale ad alto rischio di condurre un audit annuale indipendente da parte di terzi per individuare discriminazioni. Inoltre, tutte le entità soggette alla normativa devono fornire una formazione etica annuale a tutto il personale, utilizzando un programma di studi stabilito dalla FTC.

Altra sezione importante è il Titolo 12, intitolato anche “Legge NO FAKES del 2026”,

In questa sezione e nelle seguenti si affronta il nodo dei diritti di proprietà intellettuale, nodo che si estrinseca con le seguenti disposizioni:

  • Si istituisce un diritto federale all’immagine che protegge la voce e l’immagine delle persone da riproduzioni digitali non autorizzate, applicabile anche post mortem.
  • Si prevede espressamente che la riproduzione, la copia o l’elaborazione computazionale non autorizzata di opere protette da copyright a fini di addestramento, messa a punto, sviluppo o inferenza dell’IA NON costituisce un uso lecito (Titolo 15 Artificial Intelligence Copyright, Transparency, And Training Data Accountability).
  • Si dispone che il NIST sviluppi standard volontari per le informazioni sulla provenienza dei contenuti, la filigrana digitale e il rilevamento di contenuti sintetici e richiede ai fornitori di consentire ai proprietari di allegare informazioni sulla provenienza. Queste informazioni non possono essere rimosse (Titolo 14 che può essere citato come “Prodotto sull’origine dei contenuti” Protezione e integrità dai contenuti multimediali modificati e deepfake Legge del 2026′)’.
  • Si consente ai titolari dei diritti d’autore di ottenere un mandato amministrativo che imponga la divulgazione di informazioni su come le loro opere protette da copyright sono state utilizzate per addestrare modelli di intelligenza artificiale.(Titolo 13 definito anche “Train Act”)

Per chi avesse, come me la pazienza di leggersi 291 pagine, potete trovare il documento integrale a questo link: https://www.blackburn.senate.gov/services/files/15AAEA28-5403-480D-8720-5E4C2D6F2A9A

Riproduzione Riservata

/da
,

La governance collaborativa come scelta strategica

Avv. R. Eva Cresci

Quando in Iusintech incontriamo per la prima volta le imprese interessate a innovare registriamo sempre le solite preoccupazioni di fondo:  paura di perdere il controllo sui dati e sul know-how aziendale, senso di incertezza e confusione normativa (specie su interdipendenza tra GDPR e AI Act), spaesamento sulle scelte di recruitment, ma anche una certa ritrosia a valorizzare le competenze in chiave sinergica.

Se negli ultimi anni sentiamo incessantemente parlare di trasformazione e rafforzamento della digitalizzazione attraverso iniziative (=investimenti) su cloud, cybersecurity, data analysis e interoperabilità, questi interventi spesso si fermano all’adozione di nuovi applicativi valutati solo dal punto di vista operativo, senza che si entri nel merito delle effettive implicazioni che impattano sulla gestione del rischio, così come richiesto dal quadro normativo europeo introdotto con l’AI Act, dalla normativa nazionale ex L. 132/25 e dai principi generali di organizzazione, amministrazione e controllo che derivano dal diritto societario italiano (ad esempio art. 2086 c.c., che impone assetti organizzativi adeguati alla natura e dimensione dell’impresa).

Parlare di governance, specie in ambito AI, significa infatti passare ad un livello successivo più sistematico e strategico, che contempla accountability, risk assessment strutturato, procedure di supervisione, monitoraggio continuo, documentazione tecnica, policy interne, ecc. ovvero una corretta sincronizzazione delle varie competenze aziendali, intesa non solo come leva di efficienza ma ANCHE come un integratore di processi decisionali, di controllo e di rendicontazione.

In questo scenario,  si inserisce la prospettiva del cosiddetto “Digital Omnibus”, orientata a una progressiva razionalizzazione e coordinamento del corpus normativo europeo in materia digitale (AI Act, Data Act, Data Governance Act, Cyber Resilience Act), con l’obiettivo di ridurre frammentazioni applicative e rafforzare la coerenza tra obblighi di compliance, accountability e gestione del rischio tecnologico. Per le imprese ciò significa prepararsi a un contesto regolatorio sempre più integrato, nel quale le scelte di delega “alle macchine” incidono direttamente sull’assetto organizzativo e sulle responsabilità dei decisori.

Alcuni esempi concreti possono aiutare a comprendere la portata del tema.

Una PMI che introduce un sistema di AI per lo screening automatizzato dei CV entra potenzialmente nell’ambito dei sistemi “ad alto rischio” ai sensi dell’AI Act (allegato III con entrata in vigore prevista nell’agosto prossimo e con obblighi specifici in materia di risk management, qualità dei dati, documentazione tecnica, supervisione umana e registrazione). Non si tratta solo di acquistare un software: occorre verificare ruoli (provider/deployer), basi giuridiche ex art. 6 AI Act, eventuale DPIA ex art. 35 GDPR, livello di trasparenza e discriminazione dei modelli.

Analogamente, l’adozione di strumenti di AI generativa per supportare funzioni marketing o customer care espone l’impresa a rischi di trattamento illecito di dati personali, di dispersione del know-how aziendale e di utilizzo di modelli addestrati su dataset non adeguatamente verificati sotto il profilo delle licenze e dei diritti di proprietà intellettuale. Anche in questo caso, governance significa presidio contrattuale, policy interne, controlli sugli accessi, regole di conservazione e cancellazione dei dati, supervisione umana e tracciabilità.

L’innovazione non è più solo una questione tecnica o di efficienza da delegare all’IT: è una scelta strategica che incide direttamente sulla responsabilità degli amministratori e sulla sostenibilità giuridica del modello di business, ciò anche in vista delle pesanti sanzioni che si prospettano all’orizzonte.

Per chi sta innovando, o intende farlo, è il momento di scegliere e adottare un nuovo approccio quello della governance collaborativa, introducendo prassi di frequente confronto tra board e dipartimenti ICT, sicurezza, legal e compliance, promuovendo un linguaggio condiviso e la discussione multidisciplinare. Solo così si può costruire un percorso di cambiamento su solide basi, trasformando obblighi regolatori in vantaggio competitivo, clausole contrattuali punitive in accordi sostenibili e la centralità della supervisione umana in credibilità verso mercato, investitori e stakeholder.

____________

Segui Iusintech per acquisire maggiore consapevolezza su innovazione, diritto e compliance. Se hai domande, puoi scriverci a hello@iusintech.com.

Riproduzione Riservata

/da
,

Governare i dati per liberare l’innovazione: perché la data-governance è il motore silenzioso del progresso tecnologico nelle aziende IT

Avv. Raffaella Aghemo

– Perché la data-governance è ormai il motore silenzioso del progresso tecnologico nelle aziende IT che costruiscono software per grandi organizzazioni

Proprio la scorsa settimana ero a pranzo con un cliente, con il quale ho anche una discreta confidenza, che ad un certo punto, mi chiede come gestire in maniera efficace i dati delle aziende a cui sviluppa software, e stiamo parlando di grandi aziende, senza mettere a rischio i loro dati personali, i dati di cui dispongono e di cui hanno custodia, nonché i dati aziendali, che potrebbero disvelare anche indicazioni sul know-how. Proprio in virtù di questo bel colloquio, ho pensato di mettere nero su bianco, quanto ho prospettato al lui. Ve ne parlo qui di seguito.

Quando una grande azienda affida a un partner tecnologico lo sviluppo di una soluzione critica, non sta semplicemente acquistando righe di codice, sta consegnando frammenti della propria identità: dati di clienti e dipendenti, processi interni, documenti che racchiudono il proprio know‑how competitivo, a volte perfino strategie future. In quel momento, il partner software non è più un “fornitore”: è un custode di valore. È qui che la governance dei dati smette di essere un tema da addetti ai lavori e diventa un elemento abilitante di fiducia, velocità, qualità e, soprattutto, innovazione.

Negli ultimi anni abbiamo imparato che l’innovazione non nasce soltanto da algoritmi più potenti o da infrastrutture più performanti, nasce da dati ben governati: coerenti, rintracciabili, accessibili a chi deve usarli e protetti da chi non deve. In ogni fase, dall’analisi dei requisiti al collaudo, fino alla messa in produzione, una buona data governance toglie attrito, evita rielaborazioni, riduce gli errori, accelera le consegne e costruisce affidabilità nel tempo. È il filo rosso invisibile che unisce team diversi (prodotto, sviluppo, legale, sicurezza, marketing) e che rende possibile decidere con lucidità, integrare sistemi eterogenei e scalare le soluzioni quando il business lo richiede.

Questa centralità non è un gusto del momento. È la risposta concreta a tre pressioni che ogni software house, azienda IT che dir si voglia, avverte quotidianamente quando lavora per grandi organizzazioni.

1. La pressione della fiducia

Una soluzione può essere brillante sul piano funzionale e del design, ma se gestisce dati personali dei clienti o segreti industriali, la prima domanda che una grande azienda si fa è: possiamo fidarci? La fiducia non si dichiara: si dimostra. Si dimostra con tracce, registri, criteri di accesso, piani di retention e cancellazione, trasparenza su chi vede cosa e perché. È ciò che la normativa europea chiede da anni con il GDPR, che non è un “peso legale” ma un invito a progettare sistemi che rispettino i principi di liceità, minimizzazione e accountability, anche tramite DPIA, quando l’impatto sui diritti è elevato. E oggi la stessa logica di responsabilità verificabile si estende ai sistemi di intelligenza artificiale con l’AI Act: per i casi d’uso ad alto rischio, il regolamento impone gestione del rischio, qualità dei dati, documentazione tecnica, registri e supervisione umana; cioè precisamente quei mattoni organizzativi che chiamiamo Data & AI Governance.

2. La pressione della complessità

Le architetture moderne sono distribuite, toccano sistemi legacy e servizi cloud, cambiano versione in fretta. Senza un piano strategico, un governo chiaro del ciclo di vita dei dati, da dove arrivano, come si trasformano, chi li usa, quando si cancellano, la complessità diventa fragilità. Qui aiutano gli standard e i riferimenti consolidati (l’ISO/IEC 27001 offre una cornice di sicurezza informativa risk‑based, mentre l’ISO/IEC 38505‑1 traduce i principi di buona governance dell’IT nel dominio dei dati), indicando responsabilità, strategia e soprattutto una mappa di accountability che attraversi raccolta, conservazione, decisione e dismissione del dato.

3. La pressione dell’opportunità

Riprendendo la famosa frase della grande campionessa del tennis Billie Jean King, secondo la quale «La pressione è un privilegio», senza dati affidabili, l’innovazione rimane promessa; con dati governati, diventa routine. Pensiamo all’IA generativa nei processi B2B: può accelerare documentazione tecnica, assistenza, quality assurance. Ma perché l’output sia utilizzabile in azienda, servono paletti chiari su cosa alimenta i modelli, chi può vedere i prompt e gli output, come gestire i diritti di proprietà intellettuale e l’eventuale contaminazione con dati di terzi. La nuova disciplina europea sull’IA prevede obblighi di trasparenza e, per i modelli di uso generale (GPAI), doveri documentali, sintesi dei contenuti di training e misure di sicurezza; anche questo spinge verso logiche di inventory (sarebbe un luogo centralizzato in cui è possibile comprendere dove viene utilizzata la tecnologia IA, offrendo una visione aggiornata su quali progetti, modelli e database sono associati all’intelligenza artificiale e all’apprendimento automatico), logging e post‑market monitoring che una data governance matura ha già nel suo DNA.

A livello di ecosistema, poi, il Data Governance Act incentiva la creazione di spazi europei di dati e meccanismi affidabili di intermediazione, aprendo scenari in cui la collaborazione tra pubblico e privato richiede standard comuni e regole chiare di riuso e accesso.

– Dal “rispettare le regole” al “vincere il mercato”

Per un’azienda IT che sviluppa software per grandi clienti, governare i dati non è più sinonimo di “evitare sanzioni”: significa vincere gare, essere scelti e rimanere partner nel tempo. Significa saper parlare sia con il CISO sia con il responsabile legale, con HR e con chi guida il prodotto; significa presentarsi ad un audit con evidenze e non con buone intenzioni; significa poter dimostrare che il ciclo di vita dei dati, personali e non, è disegnato, misurato e migliorato.

Questo impatta la qualità del software in modo diretto. Un flusso dati ordinato riduce la rielaborazione, previene bug collegati a formati incoerenti, facilita integrazioni con sistemi esterni, dà prevedibilità alle roadmap. Ma soprattutto sblocca la possibilità di costruire prodotti data‑intensive con affidabilità industriale: funzioni predittive, scoring, raccomandazioni, automazioni intelligenti. In altre parole, la data governance non è un vincolo: è capacità di esecuzione.

– La sfida delle decisioni collegiali: coerenza oltre la somma delle parti

Nei grandi progetti, le decisioni non sono mai di una sola persona: sono collegiali. Il giurista Lewis A. Kornhauser ha mostrato come un gruppo, pur formato da individui coerenti, possa produrre risultati incoerenti se non esplicita regole di aggregazione: è il cosiddetto “dilemma discorsivo”.

Pertanto la lezione è semplice: definire criteri comuni, votare pacchetti coerenti e rendicontare le ragioni, così che le decisioni non siano solo “consistenti” ma anche coerenti nel tempo. In termini pratici, questo si sposa con l’AI Act, che chiede documentazione e tracciabilità dei presupposti con cui un sistema ad alto rischio viene progettato, validato e monitorato dopo il rilascio.

– Conclusione

In definitiva, data — governance significa stringere con il cliente un patto di responsabilità: vi mostriamo come trattiamo i vostri dati, vi diciamo chi li vede, vi spieghiamo quando li cancelliamo, vi dimostriamo come misuriamo bias, accuratezza e robustezza dei modelli, vi ascoltiamo quando qualcosa non funziona e lo correggiamo. È un patto che ha solide basi normative (GDPR per i dati personali, AI Act per i sistemi di IA, DGA per il riuso e i meccanismi fidati di condivisione) ma che soprattutto parla il linguaggio del valore: più fiducia, più velocità, meno attriti, più innovazione.

La “grande occasione”, per chi sviluppa software, è proprio qui: fare della governance dei dati non l’ultima sezione del capitolato, ma il primo mattone del progetto. Perché innovare davvero significa saper tenere insieme creatività e disciplina. La disciplina, nel mondo dei dati, si chiama governance.

Immagina una grande azienda che si prepara a lanciare un nuovo servizio digitale. Il team marketing è pronto, gli sviluppatori hanno completato il codice, i server sono configurati. Ma c’è un dettaglio che può trasformare il successo in un rischio: la gestione dei dati. Chi accede alle informazioni dei clienti? Come vengono protetti i segreti industriali? In assenza di una governance chiara, ogni innovazione diventa fragile. Pertanto occorre ribadire che:

1. La governance dei dati è un vantaggio competitivo, non un costo.
2. Investire in policy e tracciabilità riduce rischi e accelera i progetti.
3. Coinvolgere tutti i livelli aziendali crea cultura e fiducia.
4. Normative come GDPR e AI Act non sono ostacoli, ma leve per qualità e trasparenza.
5. La coerenza nelle decisioni collegiali è essenziale per approvare sistemi complessi.

Spero che questo mio approfondimento possa essere utile a qualcun altro che dovesse trovarsi ad affrontare le medesime questioni.

Riproduzione Riservata

/da

Rapporto Legale e Normativo sulla blockchain, pubblicato ad ottobre dalla GBBC

Esattamente una settimana fa il Global Blockchain Business Council (GBBC), in collaborazione con il World Economic Forum ha elaborato e pubblicato un Report, Global Standard Mapping Initiative (GSMI) 2020, per dare una guida e una panoramica sugli standard globali in ambito di blockchain technology.
Il GSMI comprende due rapporti, uno relativo alla specifica Panoramica tecnica, e, un altro, oggetto del presente editoriale, che indaga sulla Panoramica legale e normativa, per concludere con una mappa mondiale interattiva di legislazione, regolamentazione e guida su blockchain e asset digitali.

Continua a leggere
/da