Drošības pētnieki ir atklājuši kritiskas drošības nepilnības ChatGPT spraudņos (plugins). Izmantojot šīs nepilnības, uzbrucēji var pārņemt kontroli pār organizācijas kontu trešo pušu platformās un piekļūt sensitīviem lietotāju datiem, tostarp personas identificējamai informācijai (PII – Personal Identifiable Information).
“Šajos ChatGPT spraudņos atklātās ievainojamības rada satraukumu, jo ir paaugstināts komercnoslēpuma informācijas zādzības risks un kontu pārņemšanas uzbrukumu draudi,” komentēja Keeper Security izpilddirektors un līdzdibinātājs Darren Guccione.
“Darbinieki aizvien biežāk mākslīgā intelekta (MI) rīkos ievada patentētus datus, tostarp intelektuālo īpašumu, finanšu datus, uzņēmējdarbības stratēģijas un citus. Ļaunprātīga, nesankcionēta piekļuve šiem datiem var būt paralizējoša organizācijai.””
2023. gada novembrī ChatGPT ieviesa jaunu funkciju GPT, kas darbojas līdzīgi spraudņiem un rada līdzīgus drošības riskus, tādējādi vēl vairāk saasinot ievainojamību.
Jaunajā ieteikumā, ko publicēja Salt Security, pētnieku komanda identificēja trīs veidu ChatGPT spraudņu ievainojamības.
Pirmkārt, ievainojamības tika atklātas pašā spraudņa instalēšanas procesā, kas ļauj uzbrucējiem instalēt ļaunprātīgus spraudņus un, iespējams, pārtvert lietotāja ziņojumus, kuros ir konfidenciāla informācija.
Otrkārt, tika atklāti trūkumi PluginLab – sistēmā, kurā izstrādā ChatGPT spraudņus -, kas var novest līdz kontu pārņemšanai trešo pušu platformās, piemēram, GitHub.
Visbeidzot, vairākos spraudņos tika konstatētas OAuth novirzīšanas manipulācijas ievainojamības, kas ļauj uzbrucējiem nozagt lietotāja akreditācijas datus un veikt kontu pārņemšanu.
“Ģeneratīvie MI rīki kā ChatGPT ir strauji piesaistījuši miljoniem cilvēku visā pasaulē, jo tie var ievērojami uzlabot efektivitāti gan uzņēmumu darbībā, gan cilvēku ikdienas dzīvē,” saka Yaniv Balmas, Salt Security viceprezidents pētniecības jomā.
“Arvien vairāk organizāciju izmanto šāda veida tehnoloģijas, tādēļ arī uzbrucēji maina savu darbību, meklējot veidus, kā ļaunprātīgi izmantot šos rīkus un iegūt piekļuvi sensitīviem datiem.””
Salt Labs sadarbojās ar OpenAI un trešo pušu piegādātājiem, lai nekavējoties novērstu šīs problēmas, tādējādi mazinot ļaunprātīgas izmantošanas risku.
“Drošības komandas var nostiprināt savu aizsardzību pret šīm ievainojamībām, izmantojot daudzlīmeņu pieeju,” skaidro Sāra Džounsa (Sarah Jones), uzņēmuma Critical Start kiberdraudu izpētes analītiķe. Tas ietver:
- Uz atļaujām balstītas instalēšanas īstenošana
- Divu faktoru autentifikācijas ieviešana
- Lietotāju izglītošana par kodu un inteneta saišu (link) piesardzību
- Pastāvīga spraudņu darbības uzraudzība
- Abonēt drošības ieteikumus par atjauninājumiem
