Facebook AI engineer parla di deep learning, nuovi linguaggi di programmazione e hardware per lintelligenza artificiale

Secondo Yann LeCun, direttore della ricerca sull'intelligenza artificiale di Facebook, uno dei maggiori esperti attuali nel campo dell'intelligenza artificiale, in futuro il deep learning potrebbe richiedere un nuovo linguaggio di programmazione che sia più flessibile e più facile da usare rispetto a Python. . Perché questo esperto lo ha previsto?

"Non è ancora chiaro se sia necessario creare un nuovo linguaggio di programmazione o meno, tuttavia, ciò è necessario per cambiare il modo di pensare di un gran numero di ricercatori e ingegneri. Gli ingegneri informatici sono persone molto conservatrici nelle questioni relative all'intelligenza artificiale intelligenza. In effetti, ci sono stati numerosi progetti presso Google, Facebook e molte altre società tecnologiche per la progettazione di un nuovo linguaggio di programmazione, compilato in un modo che potrebbe essere più efficiente per lo sviluppo approfondito dell'apprendimento, ma non sono sicuro se la comunità seguirà l'esempio oppure no, perché tutti vogliono semplicemente usare Python," ha condiviso Yann LeCun.

• L’intelligenza artificiale può già scrivere un intero articolo partendo da poche informazioni

Lo sviluppo di un nuovo linguaggio di programmazione è un approccio ragionevole?

Secondo il recente report Octoverse di GitHub, Python è attualmente il linguaggio più comunemente utilizzato dagli sviluppatori che lavorano su progetti di machine learning e contribuisce anche al framework PyTorch di Facebook e a TensorFlow di Google.

Yann LeCun ha presentato un documento alla Conferenza internazionale sui circuiti a stato solido (ISSCC) che si è tenuta il 19 febbraio a San Francisco, apprendendo le ultime tendenze nello sviluppo dell'apprendimento automatico. In esso, la prima parte dell'articolo racconta le lezioni che Yann LeCun ha imparato dai Bell Labs, inclusa la sua osservazione che i ricercatori di intelligenza artificiale e gli scienziati informatici spesso tendono a collegare insieme strumenti hardware e software.

• L’intelligenza artificiale fa parte dell’informatica?

Problemi hardware

L’intelligenza artificiale ha più di 50 anni, avendo trascorso mezzo secolo di formazione e sviluppo, ma l’attuale aumento dell’importanza e dell’applicazione pratica di questa tecnologia negli ultimi tempi tende a diminuire, una tendenza che è strettamente legata alla crescita della potenza di calcolo. forniti dai chip dei computer e dai relativi componenti hardware.

Yann LeCun aveva lavorato a lungo presso i Bell Labs, sin dagli anni '80, ed era responsabile dello sviluppo dell'intelligenza artificiale presso ConvNet (CNN), ed era giunto alla conclusione che un hardware migliore avrebbe contribuito a fornire algoritmi migliori e prestazioni migliori.

All'inizio degli anni 2000, dopo aver lasciato i Bell Labs ed essersi unito alla New York University, Yann LeCun ha lavorato con molti altri luminari nel campo dell'intelligenza artificiale, come Yoshua Bengio e Geoffrey Hinton, conducendo ricerche per ravvivare il rapporto, concentrandosi sulle reti neurali e promuovendo la popolarità del deep learning.

Negli ultimi anni, i progressi nell'hardware, come gli array di gate programmabili sul campo - FPGA (uno speciale circuito integrato o un chip che può essere programmato nel suo ambito dopo la produzione), le unità di elaborazione tensore (TPU) di Google e l'elaborazione grafica Unità (GPU): hanno svolto un ruolo importante nella crescita del settore dell'intelligenza artificiale.

“Questi tipi di hardware hanno una grande influenza sulla ricerca che le persone stanno facendo, quindi la direzione dell’intelligenza artificiale nel prossimo decennio sarà fortemente influenzata anche dallo stato di sviluppo dell’hardware. . Naturalmente i ricercatori di informatica non vogliono essere vincolati dalle limitazioni hardware, ma questa è la realtà."

Inoltre, Yann LeCun ha anche sottolineato che alcuni produttori di hardware legati all’intelligenza artificiale dovrebbero considerare e formulare raccomandazioni sul tipo di architettura necessaria nel prossimo futuro, possibilmente nei prossimi anni, prima della crescente scala dei sistemi di deep learning. Inoltre, c’è la necessità che l’hardware sia progettato specificamente per il deep learning, in grado di elaborare su larga scala, invece di dover elaborare molti campioni di addestramento per far funzionare una rete neurale. L’economia del capitale è lo standard attuale.

“Ad esempio, se esegui una sola immagine, non sarai in grado di sfruttare tutta la potenza di calcolo disponibile nella GPU. Essenzialmente sprecherai risorse, quindi gli sviluppatori dovrebbero anche pensare ad alcuni modi più efficienti per addestrare le reti neurali”.

• [Infografica] Lavori futuri quando l’intelligenza artificiale sostituirà gradualmente l’uomo

Nell’articolo, Yann LeCun ha anche ribadito la sua convinzione che l’autoapprendimento supervisionato svolgerà un ruolo chiave nel promuovere lo sviluppo dell’intelligenza artificiale moderna. Egli ritiene che i futuri sistemi di deep learning saranno in gran parte addestrati con l’autoapprendimento supervisionato e che saranno necessari hardware moderni con prestazioni più elevate per supportare l’autoapprendimento supervisionato.

Il mese scorso, Yann LeCun ha anche tenuto una discussione sull'importanza dell'apprendimento auto-supervisionato come parte di una storia sulla previsione delle tendenze dell'intelligenza artificiale nel 2019. L'hardware in grado di gestire questo apprendimento auto-supervisionato sarà importante per Facebook, così come per l'apprendimento autonomo. guida, robotica e molte altre forme di tecnologia.