La Commissione Europea incontra Anthropic per discutere i rischi del modello Ia Mythos, che ha rivelato profonde vulnerabilità nella sicurezza informatica.
La Commissione Europea incontrerà oggi esponenti di Anthropic, impresa attiva nell'intelligenza artificiale e principale concorrente di Open Ai, che ha sviluppato un modello, detto Claude Mythos, talmente potente che avrebbe gettato nel panico le maggiori istituzioni finanziarie Usa, perché ha una enorme capacità di rilevare 'falle' nei software, al punto che avrebbe individuato in sistemi operativi e/o browser una vulnerabilità che esiste, senza che sia stata rilevata, da 27 anni.
Per questo motivo Anthropic ha evitato di rilasciare il modello al pubblico, visti i rischi, limitandone l'accesso ad alcune aziende del settore tecnologico: David Solomon, Ceo di Goldman Sachs, una delle maggiori banche d'affari del mondo, ha detto la settimana scorsa di essere "iper-consapevole" delle capacità del nuovo Llm (Large Language Model), spiegando che sta lavorando "a stretto contatto" con l'azienda guidata da Dario Amodei, dopo gli annunci fatti dall'azienda riguardo alle capacità di Mythos.
"Prendiamo atto dell'annuncio di Anthropic - dice il portavoce della Commissione Europea per il digitale, Thomas Regnier, a Bruxelles durante il briefing quotidiano con la stampa - in generale, l'innovazione nel campo dell'Ia offre indubbiamente molti vantaggi, ma come sempre accade con la tecnologia, comporta anche alcuni rischi".
"In questo caso - prosegue Regnier - potrebbero esserci implicazioni informatiche potenzialmente significative, pertanto è necessaria una valutazione approfondita da parte della Commissione e in collaborazione con Anthropic. A questo proposito, si applicano due principali normative: la legge sull'intelligenza artificiale e la legge sulla resilienza informatica".
Per quanto riguarda i prossimi passi, "ne discuteremo innanzitutto con Anthropic e continueremo a confrontarci. Oggi si terrà un incontro tra la Commissione e Anthropic, e da lì procederemo".
Per Regnier, "è sempre più facile valutare quando si ha accesso al sistema, potendo effettuare degli stress test. Per fortuna siamo in contatto con Anthropic, quindi contiamo anche sull'azienda per ottenere ulteriori informazioni", conclude.
