Il gruppo di ricerca sull'AI di Tether ha lanciato oggi QVAC MedPsy, una nuova classe di modelli linguistici medici progettati per funzionare direttamente su smartphone, dispositivi indossabili e altri dispositivi con potenza di elaborazione limitata, offrendo prestazioni paragonabili e, in alcuni casi, superiori a quelle di modelli significativamente più grandi, pur rimanendo locale e privato. Invece di scalare le prestazioni attraverso le dimensioni del modello, il sistema si concentra sull'efficienza, riducendo sia i requisiti di calcolo sia, di conseguenza, eliminando la dipendenza da infrastrutture cloud remote.

Questo modifica gli ambiti in cui l'AI medica può effettivamente essere utilizzata. I sistemi che in precedenza richiedevano l'elaborazione esterna ora possono essere implementati a supporto dei medici all'interno di sistemi on-site per l'elaborazione e l'analisi sicura e locale dei dati, su dispositivi mobili o in ambienti in cui la connettività, la latenza o i vincoli di privacy rendono impraticabili i modelli basati sul cloud. Ciò riduce anche uno dei principali ostacoli all'adozione in ambito sanitario, ovvero la necessità di spostare dati sensibili al di fuori di ambienti controllati.

Il ceo Ardoino: così miglioriamo l’efficienza

«Con QVAC MedPsy, il nostro obiettivo era migliorare l'efficienza a livello di modello, piuttosto che aumentarne le dimensioni», ha dichiarato Paolo Ardoino, ceo di Tether. «Nei nostri test, il modello QVAC MedPsy da 1,7 miliardi di parametri ha superato sistemi più grandi come MedGemma-4B, e il nostro modello da 4 miliardi ha superato i risultati di modelli quasi sette volte più grandi, utilizzando fino a tre volte meno token per risposta. Questa combinazione è importante perché riduce direttamente i requisiti di calcolo, la latenza e i costi. Consente al modello di essere eseguito localmente su hardware standard anziché dipendere da infrastrutture remote. Nel settore sanitario, questo cambia completamente i vincoli: è possibile eseguire il ragionamento medico dove i dati sono già presenti, all'interno di un sistema ospedaliero o su un dispositivo, senza spostare informazioni sensibili attraverso il cloud o attendere l'elaborazione esterna».

«Nell'ultimo decennio», sototlinea una nota di Tether, «i progressi nell'AI sono stati legati all'accesso al cloud computing. QVAC MedPsy indica una direzione diversa, in cui efficienza, localizzazione e privacy definiscono le prestazioni. Se questi vantaggi si confermeranno nelle implementazioni reali, potrebbero ridefinire l'economia delle infrastrutture di AI in ambito medico, spostando il vantaggio verso i sistemi che operano localmente con costi inferiori, latenza ridotta e maggiore controllo sui dati sensibili». (riproduzione riservata)