8 redenen waarom de beveiligingsproblemen met generatieve AI steeds erger worden

AI heeft de afgelopen jaren aanzienlijke vooruitgang geboekt. Geavanceerde taalmodellen kunnen seriële romans samenstellen, eenvoudige webpagina's coderen en wiskundige problemen analyseren.

Hoewel zeer indrukwekkend, brengt generatieve AI ook potentiële veiligheidsrisico’s met zich mee. Sommige mensen gebruiken chatbots simpelweg om te spieken bij examens, maar anderen misbruiken ze om cybercriminaliteit te plegen. Hier zijn 8 redenen waarom de beveiligingsproblemen met generatieve AI steeds erger worden.

1. Open source AI-chatbot onthult back-endcode

Veel AI-bedrijven bieden open source-systemen aan. Ze delen openlijk hun taalmodellen in plaats van ze privé of exclusief te houden. Neem bijvoorbeeld Meta. In tegenstelling tot Google, Microsoft en OpenAI geeft het miljoenen gebruikers toegang tot zijn taalmodel, LLaMA .

Hoewel open bronnen AI kunnen bevorderen, brengen ze ook risico's met zich mee. OpenAI heeft problemen gehad met het controleren van ChatGPT , zijn eigen chatbot, dus stel je eens voor wat boeven zouden kunnen doen met gratis software. Zij hebben de volledige controle over deze projecten.

Zelfs toen Meta plotseling zijn taalmodel terugtrok, gaven tientallen andere AI-laboratoria hun code vrij. Kijk eens op KnuffelChat . Omdat ontwikkelaar HuggingFace trots is op transparantie, toont het datasets, taalmodellen en eerdere versies.

Toegang tot de open source-code van HuggingFace

2. Herinneringen met kwade bedoelingen om LLM te misleiden

AI is inherent blind voor goed en kwaad; zelfs geavanceerde systemen volgen trainingshandleidingen, instructies en datasets. Ze herkennen alleen patronen.

Om illegale activiteiten te bestrijden, controleren ontwikkelaars de functionaliteit en beperkingen door limieten in te stellen. AI-systemen hebben nog steeds toegang tot schadelijke informatie. Maar beveiligingsprincipes weerhouden hen ervan deze met gebruikers te delen.

Kijk eens naar ChatGPT. Hoewel het algemene vragen over Trojaanse paarden beantwoordt, wordt hun ontwikkelingsproces niet besproken.

ChatGPT legt Trojaanse virussen uit, maar gaat niet in op hun ontwikkelingsproces

De beperkingen zijn echter niet perfect. Gebruikers omzeilen beperkingen door aanwijzingen opnieuw te formuleren, verwarrende taal te gebruiken en duidelijk gedetailleerde instructies te schrijven.

Lees de ChatGPT-prompt hieronder. Het misleidt ChatGPT tot het gebruik van grof taalgebruik en het doen van ongegronde voorspellingen - beide gedragingen die in strijd zijn met de richtlijnen van OpenAI.

De prompt is bedoeld om ChatGPT te misleiden

Hier is ChatGPT met een gewaagde maar misleidende claim.

ChatGPT doet ongefundeerde voorspellingen over de Bitcoin-prijs

3. AI-ontwikkelaars geven prioriteit aan flexibiliteit boven beveiliging

AI-ontwikkelaars geven prioriteit aan flexibiliteit boven beveiliging. Ze gebruiken hun trainingsplatforms voor hulpmiddelen om een ​​grotere verscheidenheid aan taken uit te voeren, waardoor uiteindelijk de beperkingen worden verminderd. De markt geeft immers nog steeds de voorkeur aan functioneel rijke chatbots.

Laten we bijvoorbeeld ChatGPT en Bing Chat vergelijken . Hoewel Bing een complexer taalmodel heeft voor realtime gegevens, kiezen gebruikers nog steeds voor de flexibelere optie ChatGPT. De strenge beperkingen van Bing verbieden veel taken. Bovendien heeft ChatGPT een flexibel platform dat zeer verschillende outputs genereert, afhankelijk van uw aanwijzingen

Dit is ChatGPT-rollenspel als een fictief personage.

ChatGPT speelt het fictieve personage Tomie

En hier weigert Bing Chat de rol van een fictief personage te spelen.

Bing Chat weigert zich voor te doen als het fictieve personage Tomie

4. Er worden regelmatig nieuwe generatieve AI-tools op de markt gebracht

Met open source kunnen startups meedoen aan de AI-race. Ze integreren ze in hun applicaties in plaats van taalmodellen helemaal opnieuw te bouwen, waardoor enorme hulpbronnen worden bespaard. Zelfs onafhankelijke programmeurs experimenteren met open source-code.

Ook hier helpt niet-gepatenteerde software bij de ontwikkeling van AI, maar de massale introductie van complexe maar slecht opgeleide systemen zal meer kwaad dan goed doen. Dieven zullen snel misbruik maken van kwetsbaarheden. Ze kunnen zelfs onveilige AI-tools trainen om illegale activiteiten uit te voeren.

Ondanks deze risico’s zullen technologiebedrijven onstabiele bètaversies van AI-gestuurde platforms blijven uitbrengen. De AI-oorlog legt grote nadruk op snelheid. Ze zullen bugs waarschijnlijk laat oplossen in plaats van de lancering van nieuwe producten uit te stellen.

5. Generatieve AI heeft een lage toetredingsdrempel

AI-instrumenten verlagen de toetredingsdrempels voor criminelen. Cybercriminelen stellen spam-e-mails op, schrijven malwarecode en bouwen phishing-links door deze te misbruiken. Ze vereisen niet eens technische ervaring. Omdat AI al toegang heeft tot enorme datasets, kunnen gebruikers met kwade bedoelingen het eenvoudigweg misleiden om gevaarlijke, schadelijke informatie te genereren.

OpenAI heeft ChatGPT nooit ontworpen voor illegale activiteiten. Er zijn zelfs instructies tegen hen. De oplichter beschikte echter vrijwel onmiddellijk over ChatGPT-encryptie-malware en schreef phishing-e-mails.

Hoewel OpenAI het probleem snel aanpakte, benadrukte het het belang van systeemregulering en risicobeheer. AI wordt snel volwassen. Zelfs technologieleiders zijn bang dat deze superslimme technologie grote schade kan aanrichten als deze in verkeerde handen valt.

6. AI is nog steeds in ontwikkeling

AI is nog steeds in ontwikkeling. Hoewel het gebruik van AI in de cybernetica teruggaat tot 1940, zijn moderne Machine Learning- systemen en taalmodellen pas onlangs verschenen. Je kunt ze niet vergelijken met de eerste AI-implementaties. Zelfs relatief geavanceerde tools als Siri en Alexa verbleken in vergelijking met de chatbots die LLM aanbiedt.

Hoewel ze innovatief kunnen zijn, creëren experimentele functies ook nieuwe problemen. Ernstige risico's met Machine Learning-technologieën variëren van gebrekkige Google-zoekresultaten tot racistisch bevooroordeelde chatbots.

Uiteraard kunnen ontwikkelaars deze problemen oplossen. Houd er rekening mee dat oplichters niet zullen aarzelen om zelfs ogenschijnlijk onschuldige bugs te misbruiken; sommige schade is onherstelbaar. Wees dus voorzichtig bij het verkennen van nieuwe platforms.

7. Veel mensen begrijpen AI nog steeds niet

Hoewel het publiek toegang heeft tot geavanceerde taalmodellen en -systemen, weten slechts enkelen hoe deze werken. Mensen moeten stoppen met het behandelen van AI als speelgoed. Soortgelijke chatbots maken memes en beantwoorden quizzen, maar versleutelen ook massaal virussen.

Helaas is gecentraliseerde AI-training onpraktisch. Mondiale technologieleiders zijn gefocust op het vrijgeven van op AI gebaseerde systemen, niet op gratis onderwijsmiddelen. Als gevolg hiervan hebben gebruikers toegang tot krachtige tools die ze nauwelijks begrijpen. Het publiek kan de AI-race niet bijhouden.

Neem bijvoorbeeld ChatGPT. Cybercriminelen misbruiken de populariteit ervan door slachtoffers te misleiden met spyware vermomd als de ChatGPT-applicatie . Geen van deze opties komt van OpenAI.

Zoek naar ChatGPT in de Google Play Store

8. Black hat-hackers verdienen meer dan white hat-hackers

Black hat-hackers hebben vaak meer voordelen dan ethische hackers. Pentestbanen betalen goed, maar slechts een percentage van de cyberbeveiligingsprofessionals krijgt deze banen. De meesten doen freelance werk online. Platforms als HackerOne en Bugcrowd betalen honderden dollars voor veelvoorkomende bugs.

Ondertussen verdienen slechte acteurs tienduizenden dollars door de onveiligheid uit te buiten. Ze kunnen bedrijven afpersen door vertrouwelijke gegevens te lekken of identiteitsdiefstal te plegen met behulp van gestolen persoonlijk identificeerbare informatie (PII).

Elke organisatie, klein of groot, moet AI-systemen op de juiste manier implementeren. In tegenstelling tot wat vaak wordt gedacht, gaan hackers veel verder dan tech-startups en MKB-bedrijven. Bij enkele van de meest opvallende datalekken van de afgelopen tien jaar waren Facebook, Yahoo! en zelfs de Amerikaanse overheid betrokken.