Paniek omdat chatbots in hun eigen taal met elkaar praten? Dit is de waarheid

Maandag bereikte de opwinding in de technologiewereld zijn hoogtepunt toen Facebook aankondigde dat het chatbots zou verlaten nadat ze hun eigen taal hadden gecreëerd.

Sommige kranten noemen deze programma’s ‘eng’. Sommige journalisten lieten zelfs doorschemeren dat Facebook zelf geen ideeën meer had voordat een superintelligente AI zich "uitsprak". De Britse krant Sun eiste te weten "nemen machines het over?". Ook de Australische televisiezender Seven News noemt dit een ‘AI-noodsituatie’. En het antwoord is: nee.

Dit zijn simpelweg twee chatbots die informatie met elkaar uitwisselen. Als je naar de codefragmenten in hun ‘gesprek’ kijkt, is het moeilijk om te zien welke taal ze spreken, laat staan ​​om de taal zelf te ontwikkelen.

Chatbot's informatie-uitwisselingsgesprek

De explosieve pers en angst voor AI na dit incident zijn mogelijk afkomstig van het Facebook-project. Onderzoekers van deze sociale netwerkgigant probeerden twee chatbots te leren conversatie te gebruiken om met elkaar te praten. Het doel is om de bot te leren effectiever te plannen en te communiceren.

Als ze onzin praten, crasht of wordt geen enkele AI gedood. In plaats daarvan vinden we softwarefouten en repareren deze zodat bots meer als mensen kunnen praten en onderzoekers de resultaten van hun onderzoek kunnen presenteren.

“Dit werk is erg opwindend”, vertelde Zachary Lipton, assistent-professor Machine Learning aan de Carnegie Mellon University, aan The Register . Maar dit zijn statische modellen, zoals wat Google gebruikt om bordspellen te spelen of wat uw telefoon gebruikt om te voorspellen welke woorden u gaat schrijven. Ze hebben geen hoger cognitief vermogen dan een kom noedels of een paar schoenen."

Kunnen chatbots echt met elkaar communiceren in nieuwe talen?

Bots die kunnen praten zijn geen nieuw of mysterieus fenomeen. Onderzoekers van OpenAI ontdekten dat ze door middel van zoiets als morsecode kunnen praten als ze gedwongen worden te communiceren en samen te werken.

Ryan Lowe, promovendus aan McGill University en promovendus bij OpenAI, zei dat dit een “heel normaal fenomeen” is en “niets om je zorgen over te maken”.

“Elke keer dat er een multi-bot-omgeving is, is het effectiever als ze met elkaar praten”, zei hij. “Hun taken zijn zeer beperkt en de taal die ze gebruiken weerspiegelt dat, het is heel eenvoudig en lijkt nooit op echte taal. . Taal heeft een bepaald syntaxis- en grammaticasysteem. Als het niet expliciet wordt onderwezen, kan wat het voortbrengt niet op taal lijken.”

De mier verandert in een olifant

Geruchten en overdreven informatie over AI verschijnen veel. Overstappen naar het AI-veld en zeggen dat je product Machine Learning gebruikt, kan veel geld opleveren. Dit is niet alleen een probleem voor journalisten die gespecialiseerd zijn in het vinden van sensationeel nieuws, technologiegiganten zijn ook erg allergisch en gebruiken vaak woorden als ‘verbeelding’, ‘intuïtie’, ‘rede’ in blogposts.

“Iemand anders die hiervoor verantwoordelijk is, zijn de onderzoeksafdelingen van grote bedrijven, die met enthousiasme baanbrekende projecten implementeren waarvan veel wetenschappers dachten dat ze jarenlang niet gerealiseerd konden worden”, aldus Lipton.

Facebook plaatste onlangs een wervingsadvertentie voor een positie als AI-redacteur om te helpen "strategieën en campagnes te ontwikkelen en uit te voeren die gericht zijn op het verbeteren van hun AI". Bedrijven als Amazon, Microsoft, OpenAI, Google Brain en DeepMind brengen allemaal artikelen uit waarin de nieuwste ontwikkelingen op het gebied van AI worden beschreven.

'Schrijvers zijn misschien slim en goedbedoelend,' zei Lipton, 'maar er is hier een probleem. Wat ze doen, ook al voelt het als journalistiek, is dat niet; het doet geen poging om objectiviteit te brengen, noch heeft het een sceptische kijk of diepgaande analyse."