DeepSeek apre il cofano della propria intelligenza artificiale e mette a disposizione di tutti una delle tecnologie che le consentono di contenere i costi di elaborazione. Si chiama DeepInfer ed è il software progettato per accelerare l’esecuzione dei modelli e sfruttare al meglio la potenza di calcolo, con l’obiettivo di rendere l’AI più efficiente e meno costosa per le imprese.

«Condividiamo il nostro stack di produzione per aiutare la comunità a ridurre i costi di calcolo, contenere i consumi energetici e rendere l’AI più accessibile», ha dichiarato su X la società cinese di intelligenza artificiale, con sede a Hangzhou. Per il momento, DeepInfer supporta il modello DeepSeek V4.1-Flash, ma l’azienda ha annunciato che in futuro verrà esteso anche ad altri sistemi.

«Presentiamo DeepInfer, il nostro framework interno per l’inferenza, ora completamente open source!», ha aggiunto. È progettato per eseguire DeepSeek-V4.1-Flash su larga scala, con un’elevata velocità di elaborazione e una bassa latenza. 

Con DeepInfer, DeepSeek svela parte delle tecniche con cui riesce a ridurre i costi di esecuzione dei modelli avanzati di intelligenza artificiale, un processo noto come inferenza. Si tratta di soluzioni tecnologiche che le aziende del settore tendono normalmente a custodire gelosamente. La novità offre, inoltre, alle società di servizi cloud e di hosting che eseguono i modelli di DeepSeek la possibilità di adottare autonomamente queste tecniche per ridurre i costi.

Secondo Thibault Jaigu, amministratore delegato della startup Requesty, specializzata in metriche per gateway di AI e sistemi di instradamento delle richieste, la nuova versione abbassa le barriere all’ingresso per chi vuole ospitare i modelli di DeepSeek, anche se sono ancora necessarie capacità di calcolo e competenze tecniche specialistiche. «DeepSeek sta dicendo: chiunque può ospitare autonomamente i nostri modelli; ecco come farlo in modo efficiente», indica Jaigu, citato da Bloomberg.

DeepInfer integra diverse tecniche, tra cui l’inferenza distribuita, che consiste nel ripartire i carichi di lavoro dell’intelligenza artificiale tra hardware differenti. Questi metodi consentono ai modelli di generare una maggior quantità di output in meno tempo e di sfruttare meglio le capacità dei chip. Molte delle tecniche alla base del sistema sono già ampiamente utilizzate, ma DeepSeek le ha adattate per renderle particolarmente efficienti con i propri modelli. La riduzione dei costi di inferenza può migliorare i margini dei fornitori di servizi di hosting per l’intelligenza artificiale e, potenzialmente, tradursi in prezzi più bassi per i clienti.

Per le aziende, DeepInfer potrebbe inoltre ridurre i costi di esecuzione dei modelli di DeepSeek sulle proprie infrastrutture informatiche. Al momento, tuttavia, non sono ancora disponibili benchmark indipendenti che confermino i miglioramenti di efficienza ottenibili con DeepInfer. Sebbene sia destinato principalmente ai modelli sviluppati da DeepSeek, altri sviluppatori potrebbero esaminare il software open source e adattarne le tecniche ai propri sistemi di inferenza.

La scelta di DeepSeek arriva dopo le critiche del ministero del Commercio cinese al provvedimento con cui il governo statunitense ha vietato il modello di AI cinese DeepSeek dai sistemi informatici delle agenzie federali civili, affermando che danneggia gli interessi delle aziende cinesi e ignora gli accordi raggiunti dai leader dei due Paesi. Il Dipartimento della sicurezza interna degli Stati Uniti ha anche vietato alle agenzie di acquistare prodotti DeepSeek o servizi di terze parti sviluppati utilizzando tale modello.

Per questo il ministero cinese ha esortato gli Stati Uniti a «correggere immediatamente le pratiche errate e revocare le relative misure restrittive discriminatorie», aggiungendo che Pechino monitora da vicino gli sviluppi e adotterà tutte le misure necessarie» per salvaguardare i propri interessi.

In una dichiarazione separata, il ministero ha espresso «ferma opposizione» alle sanzioni statunitensi nei confronti di cinque entità cinesi per presunto furto di segreti commerciali nel campo dell’intelligenza artificiale.

Le società sanzionate il 19 ottobre dal Dipartimento di Stato degli Stati Uniti sono state Shanghai Zhisuan Technology, azienda specializzata in AI fondata dall’ex ingegnere informatico di Google, Linwei Ding, una società di capitale di rischio che ha finanziato Zhisuan, nonché tre entità collegate. Il ministero cinese ha accusato gli Stati Uniti di «gonfiare la questione del cosiddetto furto di segreti commerciali» e di diffamare le aziende cinesi. (qui il testo dell'articolo pubblicato su milanofinanza)