Le nouveau modèle dIA de Google peut lire et comprendre un livre entier

Le nouveau modèle dIA de Google peut lire et comprendre un livre entier

L'un des plus grands défis des modèles d'intelligence artificielle (IA) dans le traitement du langage aujourd'hui est de comprendre le contexte et le contexte de chaque segment spécifique, comprenant ainsi le contenu de l'ensemble du paragraphe du texte, ou plus largement, la signification exacte de l'ensemble de l'œuvre. - au lieu de simplement comprendre le sens de chaque mot comme c'est le cas aujourd'hui.

Pour résoudre ce problème, Google a introduit un nouveau modèle d'apprentissage automatique appelé Reformer, capable de comprendre le contenu et le contexte d'une œuvre d'un million de lignes - l'équivalent d'un roman, tout en n'utilisant qu'environ 16 Go de stockage. Reformer a été développé pour surmonter les lacunes de Transformer - un réseau neuronal à l'ancienne qui fonctionne sur le principe de comparer les mots d'un paragraphe les uns avec les autres pour comprendre la relation entre eux.

Le nouveau modèle d'IA de Google peut lire et comprendre un livre entier

Cependant, comme il fonctionne selon une méthode de couplage-combinaison, Transformer occupera beaucoup d'espace de données au cas où il devrait traiter des textes de plus de quelques milliers de mots. Cette faiblesse rend l’utilisation de Transformer pour gérer de longs articles ou un livre extrêmement irréalisable.

Google a développé Reformer pour résoudre les deux principaux problèmes mentionnés ci-dessus : la capacité de traiter des documents longs et la consommation de mémoire de l'ancien modèle.

Pour résoudre le premier problème, le nouveau modèle de Google utilise une méthode appelée LSH (locality-sensitive-hashing). Autrement dit, au lieu de comparer tous les mots ensemble comme auparavant, le nouveau modèle utilisera une fonction de hachage pour réunir des mots similaires dans un groupe, puis comparera les mots au sein du même groupe ou au sein de groupes à proximité, contribuant ainsi à limiter la surcharge de traitement et au en offrant en même temps la possibilité de gérer de plus grandes quantités de texte.

Pour résoudre le problème de consommation de mémoire, les chercheurs utilisent une technique appelée Reversible Residual Network (RevNet). RevNet a été développé à partir de Deep Residual Networks (ResNets) - une technologie qui fonctionne en augmentant les performances à mesure que les réseaux deviennent plus profonds et plus larges. Les RevNets possèdent des couches, où les données de sortie de chaque couche peuvent être reconstruites et utilisées dans une autre couche. Par conséquent, les données de sortie de la plupart des couches n'ont pas besoin d'être stockées en mémoire lors de la rétropropagation.

Pour tester l'efficacité de ce modèle, Google a fourni à Reformer quelques petites images recadrées et a créé une photo plein format à partir de là.

Les ingénieurs de Google affirment que le nouveau modèle peut facilement traiter un livre entier avec une grande précision, ouvrant ainsi la voie au traitement de texte à grande échelle.


Le groupe de travail ChatGPT sera créé par l’Europe

Le groupe de travail ChatGPT sera créé par l’Europe

L'organisme qui rassemble les organismes nationaux de surveillance de la vie privée en Europe a annoncé jeudi avoir créé un groupe de travail dédié à ChatGPT.

LIA prédit lheure de la mort humaine avec une précision de 78 %

LIA prédit lheure de la mort humaine avec une précision de 78 %

Des scientifiques danois et américains ont collaboré pour développer un système d'IA appelé life2vec, capable de prédire l'heure de la mort humaine avec une grande précision.

L’IA prédit les maladies urinaires rien qu’au son de l’urine

L’IA prédit les maladies urinaires rien qu’au son de l’urine

Un algorithme d’IA appelé Audioflow peut écouter le bruit de la miction pour identifier efficacement et avec succès les flux anormaux et les problèmes de santé correspondants du patient.

Barmans, attention : ce robot peut préparer un cocktail en 1 minute seulement

Barmans, attention : ce robot peut préparer un cocktail en 1 minute seulement

En raison du vieillissement et du déclin de la population japonaise, le pays manque d'un nombre important de jeunes travailleurs, notamment dans le secteur des services.

Des centaines de personnes ont été déçues lorsqu’elles ont appris que la fille qu’ils aimaient était un produit de l’IA

Des centaines de personnes ont été déçues lorsqu’elles ont appris que la fille qu’ils aimaient était un produit de l’IA

Un utilisateur de Reddit nommé u/LegalBeagle1966 est l'un des nombreux utilisateurs amoureux de Claudia, une fille ressemblant à une star de cinéma qui partage souvent des selfies séduisants, même nus, sur cette plateforme.

12 autres entreprises potentielles rejoignent « lalliance IA » de Microsoft.

12 autres entreprises potentielles rejoignent « lalliance IA » de Microsoft.

Microsoft vient d'annoncer que 12 autres entreprises technologiques participeront à son programme AI for Good.

LIA recrée les personnages de Dragon Ball en chair et en os

LIA recrée les personnages de Dragon Ball en chair et en os

L'utilisateur @mortecouille92 a mis à profit la puissance de l'outil de conception graphique Midjourney et a créé des versions réalistes uniques de personnages célèbres de Dragon Ball comme Goku, Vegeta, Bulma et l'aîné Kame. .

7 techniques pour améliorer les réponses ChatGPT

7 techniques pour améliorer les réponses ChatGPT

En ajoutant simplement quelques conditions ou en mettant en place des scénarios, ChatGPT peut donner des réponses plus pertinentes à vos requêtes. Examinons quelques façons d'améliorer la qualité de vos réponses ChatGPT.

Émerveillez-vous devant les magnifiques peintures dessinées par lintelligence artificielle

Émerveillez-vous devant les magnifiques peintures dessinées par lintelligence artificielle

Midjourney est un système d'intelligence artificielle qui a récemment provoqué une "fièvre" dans la communauté en ligne et dans le monde des artistes en raison de ses peintures extrêmement belles qui ne sont pas inférieures à celles de vrais artistes.

Ce modèle dIA a été lun des premiers « experts » à découvrir des nouvelles sur lépidémie de pneumonie de Wuhan.

Ce modèle dIA a été lun des premiers « experts » à découvrir des nouvelles sur lépidémie de pneumonie de Wuhan.

Quelques jours après que la Chine a annoncé l'épidémie, grâce à l'accès aux données mondiales sur les ventes de billets d'avion, le système d'IA de BlueDot a continué à prédire avec précision la propagation du virus Corona de Wuhan à Bangkok, Séoul, Taipei et Tokyo.