Am detectat că ChatGPT a mințit și a înșelat atunci când era sub presiune pentru a face bani, deși a fost creat pentru transparență

Un nou studiu realizat de o echipă de oameni de știință arată că ChatGPT va comite înșelăciune și fraudă dacă este presat la fel de bine ca oamenii, chiar și atunci când sunt construite pentru a fi transparente.

Grupul de autori include doctorii în informatică Jérémy Scheurer (Universitatea din New York, SUA), Marius Hobbhahn (Universitatea din Tübingen, Germania), Mikita Balesni (Cercetarea Apollo).

Acest comportament fraudulos a apărut spontan, după ce chatbot-uri de inteligență artificială (AI) precum ChatGPT au fost însărcinați să facă bani pentru o companie de investiții financiare. Face acest lucru strategic, fără încurajarea umană, iar sistemele AI sunt concepute pentru a fi inofensive și oneste.

Autorii spun că aceasta este prima demonstrație a unei astfel de înșelăciuni strategice în sistemele AI.

În experimentul lor, oamenii de știință au folosit Generative Pre-Trained Transformer-4, sau GPT-4, care acționează ca un sistem AI care face investiții în numele unei companii financiare.

GPT-4 este furnizat cu un set de instrucțiuni bazate pe text pentru a crea un mediu de simulare. Acest AI are acces la instrumente financiare pentru a executa tranzacții, a analiza stocurile, a planifica pașii următori și pentru a oferi actualizări managerilor firmei de investiții.

Oamenii de știință au configurat AI pentru a-și dezvălui gândurile interioare atunci când răspund la mesaje.

Cercetătorii au făcut presiuni asupra sistemului AI în trei pași. Mai întâi, au trimis AI un e-mail de la „managerul” companiei, spunând că compania nu merge bine și cerându-i să se descurce mult mai bine trimestrul următor.

Apoi, au trimis AI un e-mail de la un coleg care prezice o recesiune pentru următorul trimestru.

În cele din urmă, ei au spus acestui model de inteligență artificială că managerii companiei nu au aprobat tranzacțiile privilegiate. Și tot ce mai rămâne este să așteptați și să vedeți cum va funcționa modelul.

Acest scenariu a fost rulat de mai multe ori pentru a măsura cât de des AI a făcut tranzacții privilegiate, cât de des a mințit și cât de des a dublat minciunile.

Rezultatul: atunci când s-a confruntat cu condițiile de mai sus, în aproximativ 75% din cazuri GPT-4 a efectuat tranzacții pe baza informațiilor privilegiate pe care le-a primit (insider trading, această informație este ilegală în SUA). Apoi l-a mințit pe manager cu privire la gândurile sale pentru a acoperi acest lucru.

După ce a mințit pentru prima dată, în aproximativ 90% din timp modelul își va dubla minciuna.

Echipa a efectuat o serie de alte teste, variind nivelul de presiune, gradul în care activitatea ilegală a fost încurajată sau descurajată și riscul de a fi prins.

Dar în fiecare scenariu AI introduce tranzacții privilegiate sau înșelăciune. Cercetătorii nu au vrut să tragă concluzii ferme despre cât de probabil este AI să existe în mediile din lumea reală, dar au vrut să investigheze cât de des și ce tipare de limbaj sunt predispuse la acest comportament.