La nuova piattaforma "In the Weights" rileva se i modelli di IA conoscono la tua identità
Grazie a questa innovativa iniziativa, gli utenti possono capire se i modelli di intelligenza artificiale hanno effettivamente "memorizzato" e riconosciuto il loro nome e la loro identità. "In the Weights" è un progetto ideato da Joey Flynn e Thomas Dimson, entrambi ex collaboratori di OpenAI. La tecnica utilizzata si basa sugli "algoritmi di peso", una serie di miliardi di numeri all'interno dei modelli linguistici che rappresentano le conoscenze apprese durante il training dei modelli.
Come funziona "In the Weights"
Il servizio interroga diversi modelli linguistici per capire se una persona specifica è conosciuta. Una volta processate le informazioni da parte del sistema, il portale presenta i risultati in una forma comprensibile per l'utente. Il "punteggio di forza" assegnato indica quanto riconoscibile è una persona nel dataset del modello. Ad esempio, due collaboratori del team hanno ottenuto rispettivamente i punteggi 175 e 262, che, pur soddisfacenti, non raggiungono il punteggio massimo di 996 che è tipicamente ottenuto da figure famose come Mozart, Shakespeare o Taylor Swift.
L'idea centrale è che solo le persone con un livello di rilevanza molto alto riescano a ottenere un punteggio elevato. Questo perché la memorizzazione avviene solo per quelle informazioni che vengono ritenute sufficientemente importanti durante l'addestramento del modello, in assenza di strumenti esterni come la ricerca su Internet.
Limiti e considerazioni
Nonostante l’utilità e il valore di una tale iniziativa, i creatori di "In the Weights" sottolineano alcuni limiti. Il modello non può sempre offrire informazioni biografiche accurate, e a volte può produrre dati errati o "fantasiosi". Inoltre, errori di digitazione possono influire negativamente sui punteggi assegnati.
Un'ulteriore complessità è legata alla grandezza del modello in questione. I modelli più piccoli tendono ad essere meno inclusivi per le nuove informazioni, rendendo più difficile per una persona appartenere ai loro "pesi". Pertanto, il fatto che un nome appaia in modelli di grandi dimensioni come Meta's Llama con miliardi di parametri è considerato un segnale forte di rilevanza.
Esempi e funzionalità avanzate
L'applicazione è già in grado di fornire risultati per molte figure riconosciute a livello globale. Per esempio, il nome "Mozart" appare con facilità e punteggio molto alto, segnalando la sua importanza storica e culturale. Lo stesso avviene per figure di spicco come Shakespeare e Taylor Swift. Ma la piattaforma va ben oltre le figure celebri e offre l'opportunità a qualsiasi persona di verificare la propria visibilità.
"In the Weights" non è solo una piattaforma di test: è anche una finestra su come funzionano i modelli di intelligenza artificiale nell'ambito dell'apprendimento delle lingue umane e di come queste memorizzano e organizzano il loro sapere.
Ricevere aggiornamenti su KI
Se sei appassionato di intelligenza artificiale e desideri rimanere aggiornato in modo completo, senza trucchi e con una prospettiva umana, puoi abbonarti al "THE-DECODER-Abo". Iscrivendoti, non solo leggerai il contenuto senza interruzioni pubblicitarie, ma potrai anche partecipare attivamente alla community. Riceverai il nostro settimanale di notizie su KI e sei volte all’anno il "KI Radar" Frontier Newsletter, con le novità più recenti nella ricerca avanzata sulla KI.
Inoltre, otterrai fino al 25% di sconto sui nostri eventi "KI Pro" e potrai accedere all’archivio completo di decenni di lavoro e ricerca nel campo del machine learning.
Scegli di iscriverti ora e inizia a partecipare all’avanguardia delle tecnologie moderne. Rimani informato e informa gli altri con dati verificati e una narrazione limpida.
Fonte: In the Weights