Nowy model sztucznej inteligencji Google może przeczytać i zrozumieć całą książkę

Nowy model sztucznej inteligencji Google może przeczytać i zrozumieć całą książkę

Jednym z największych wyzwań stojących dziś przed modelami sztucznej inteligencji (AI) w przetwarzaniu języka jest zrozumienie kontekstu i kontekstu każdego konkretnego segmentu, a tym samym zrozumienie treści całego tekstu akapitu, lub szerzej, dokładnego znaczenia całego dzieła - zamiast po prostu rozumieć znaczenie każdego pojedynczego słowa, jak dzisiaj.

Aby rozwiązać ten problem, Google wprowadziło nowy model uczenia maszynowego o nazwie Reformer, który może zrozumieć treść i kontekst dzieła o długości 1 miliona wierszy – co odpowiada powieści, a jednocześnie wymaga użycia jedynie około 16 GB pamięci. Reformer został opracowany, aby przezwyciężyć wady Transformera - staromodnej sieci neuronowej, która działa na zasadzie porównywania słów w akapicie ze sobą, aby zrozumieć związek między nimi.

Nowy model sztucznej inteligencji Google może przeczytać i zrozumieć całą książkę

Ponieważ jednak działa w metodzie parowania kombinacyjnego, Transformer zajmie dużo miejsca na dane w przypadku, gdy będzie musiał przetworzyć teksty dłuższe niż kilka tysięcy słów. Ta słabość sprawia, że ​​używanie Transformera do obsługi długich artykułów lub książek jest wyjątkowo niewykonalne.

Google opracował Reformer, aby rozwiązać oba główne problemy wymienione powyżej: możliwość przetwarzania długich dokumentów i zużycie pamięci przez stary model.

Aby rozwiązać pierwszy problem, nowy model Google wykorzystuje metodę zwaną hashowaniem uwzględniającym lokalizację (LSH). Oznacza to, że zamiast porównywać wszystkie słowa razem, jak poprzednio, nowy model użyje funkcji skrótu, aby połączyć podobne słowa w grupę, a następnie porównać słowa w tej samej grupie lub w grupach w pobliżu, pomagając ograniczyć przeciążenie przetwarzania i na jednocześnie zapewniając możliwość obsługi większej ilości tekstu.

Aby rozwiązać problem zużycia pamięci, badacze stosują technikę zwaną odwracalną siecią resztkową (RevNet). RevNet powstał na bazie Deep Residual Networks (ResNets) – technologii, która działa poprzez zwiększanie wydajności w miarę pogłębiania się i poszerzania sieci. RevNets posiada własne warstwy, w których dane wyjściowe każdej warstwy można zrekonstruować i wykorzystać w innej warstwie. Dlatego dane wyjściowe dla większości warstw nie muszą być przechowywane w pamięci podczas propagacji wstecznej.

Aby przetestować skuteczność tego modelu, Google udostępniło Reformerowi kilka małych, przyciętych zdjęć, z których utworzył pełnoklatkowe zdjęcie.

Inżynierowie Google twierdzą, że nowy model może z łatwością przetworzyć całą książkę z dużą dokładnością, co otwiera możliwości przetwarzania tekstu na dużą skalę.


Europa utworzy grupę zadaniową ChatGPT

Europa utworzy grupę zadaniową ChatGPT

Organ zrzeszający krajowe organy nadzorujące prywatność w Europie poinformował w czwartek, że powołał grupę zadaniową zajmującą się ChatGPT

AI przewiduje czas śmierci człowieka z 78% dokładnością

AI przewiduje czas śmierci człowieka z 78% dokładnością

Duńscy i amerykańscy naukowcy współpracowali nad opracowaniem systemu sztucznej inteligencji o nazwie life2vec, zdolnego do przewidywania czasu śmierci człowieka z dużą dokładnością.

Sztuczna inteligencja przewiduje choroby układu moczowego na podstawie dźwięku moczu

Sztuczna inteligencja przewiduje choroby układu moczowego na podstawie dźwięku moczu

Algorytm sztucznej inteligencji o nazwie Audioflow może nasłuchiwać dźwięku oddawania moczu, aby skutecznie i skutecznie identyfikować nieprawidłowe wypływy moczu i powiązane z nimi problemy zdrowotne pacjenta.

Barmani, uważajcie: ten robot może przygotować koktajl w zaledwie 1 minutę

Barmani, uważajcie: ten robot może przygotować koktajl w zaledwie 1 minutę

Starzenie się i spadek liczby ludności Japonii spowodował, że w kraju brakuje znacznej liczby młodych pracowników, szczególnie w sektorze usług.

Setki ludzi rozczarowało się, gdy dowiedziały się, że dziewczyna, którą kochają, jest wytworem sztucznej inteligencji

Setki ludzi rozczarowało się, gdy dowiedziały się, że dziewczyna, którą kochają, jest wytworem sztucznej inteligencji

Użytkownik Reddita o imieniu u/LegalBeagle1966 jest jednym z wielu użytkowników zakochanych w Claudii, dziewczynie przypominającej gwiazdę filmową, która często udostępnia na tej platformie uwodzicielskie selfie, nawet nagie.

12 kolejnych potencjalnych firm dołącza do „sojuszu AI” Microsoftu.

12 kolejnych potencjalnych firm dołącza do „sojuszu AI” Microsoftu.

Microsoft właśnie ogłosił, że w jego programie AI for Good weźmie udział 12 kolejnych firm technologicznych.

Sztuczna inteligencja odtwarza postacie Dragon Ball z krwi i kości

Sztuczna inteligencja odtwarza postacie Dragon Ball z krwi i kości

Użytkownik @mortecouille92 wykorzystał moc narzędzia do projektowania graficznego Midjourney i stworzył wyjątkowo realistyczne wersje słynnych postaci Dragon Ball, takich jak Goku, Vegeta, Bulma i starszy Kame. .

7 technik poprawy odpowiedzi ChatGPT

7 technik poprawy odpowiedzi ChatGPT

Po prostu dodając pewne warunki lub konfigurując pewne scenariusze, ChatGPT może udzielić bardziej trafnych odpowiedzi na Twoje zapytania. Przyjrzyjmy się sposobom poprawy jakości odpowiedzi ChatGPT.

Podziwiaj piękne obrazy narysowane przez sztuczną inteligencję

Podziwiaj piękne obrazy narysowane przez sztuczną inteligencję

Midjourney to system sztucznej inteligencji, który wywołał ostatnio „gorączkę” w społeczności internetowej i świecie artystów ze względu na niezwykle piękne obrazy, które nie ustępują tym, które tworzą prawdziwi artyści.

Ten model sztucznej inteligencji był jednym z pierwszych „ekspertów”, którzy odkryli wiadomości o wybuchu zapalenia płuc w Wuhan.

Ten model sztucznej inteligencji był jednym z pierwszych „ekspertów”, którzy odkryli wiadomości o wybuchu zapalenia płuc w Wuhan.

Kilka dni po ogłoszeniu przez Chiny wybuchu epidemii, mając dostęp do danych dotyczących globalnej sprzedaży biletów lotniczych, system sztucznej inteligencji BlueDot w dalszym ciągu dokładnie przewidywał rozprzestrzenianie się wirusa korona z Wuhan do Bangkoku, Seulu, Tajpej i Tokio.