Giorgos Nikolaou, Tommaso Mencattini, Donato Crisostomi, Andrea Santilli, Yannis Panagakis, Emanuele Rodolà, appartenti a EPFL, Università di Atene, Università di Roma, Archimede Research Center, pubblicano l’articolo scientifico: “Language Models are Injective and Hence Invertible”. La funzione “prompt => risposta LLM” è invertibile. L’AI sta passando dall’essere una pratica a diventare una scienza, con il necessario framework matematico. Contrariamente alla credenza popolare secondo cui gli LLM distruggono le informazioni durante il passaggio dei dati attraverso i loro livelli, a quanto pare non è così! Ciò significa che possiamo ricostruire l’ESATTO input fornito a un LLM semplicemente osservandone lo stato interno. Questo ha implicazioni per la privacy, la sicurezza e la nostra comprensione del comportamento dei modelli.
